“총선 가짜 정보 차단 총력”···네이버, 허위 댓글 신고센터 신설

네이버 뉴스혁신포럼의 (왼쪽부터) 김위근 위원, 이종수 위원, 김용대 위원, 최성준 위원장, 김준기 위원, 이문한 위원이 지난달 31일 서울 중구 웨스틴 조선 서울에서 발족식을 진행하고 기념사진을 찍고 있다. 네이버 제공

네이버 뉴스가 오는 4월 총선을 앞두고 허위 댓글 등을 관리하기 위한 본격적인 준비에 착수한다. 네이버는 생성형 인공지능(AI)을 활용해 작성된 기사에 대해 본문 상단에 관련 내용을 공지한다. 또 이달 중 선거 관련 허위 댓글 신고센터 영역을 신설해 가짜 뉴스 차단에 나설 예정이다.

1일 네이버에 따르면 언론사가 AI로 생성·전송한 기사 본문 상단과 하단에 ‘이 기사는 해당 언론사의 자동 생성 알고리즘을 통해 작성되었습니다’라는 문구가 이날부터 노출된다. 최근 AI를 활용한 뉴스 제작이 늘면서 뉴스 이용자의 혼란을 방지하려는 조치다.

아울러 이용자가 직접 선거 관련 허위정보 뉴스 댓글을 신고할 수 있는 ‘신고 센터 영역’을 이달 중 신설해, 선거관리위원회 채널로 이동할 수 있게 연결할 예정이다. 뉴스 댓글 외에도 카페나 블로그 등 네이버 서비스 전반에 걸쳐 허위 댓글을 막기 위해 해당 기능을 차례로 동일하게 적용키로 했다.

선거와 관련한 정확한 정보를 제공하기 위해 이달 중 선거 관련 특집 페이지도 개설한다. 또 선거를 앞두고 뉴스 댓글 집중 모니터링 기간에 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생 시 발빠른 대응에 나설 방침이다.

네이버는 “문장 맥락을 파악해 혐오와 비하, 차별 표현까지 걸러내는 클린봇과 더불어 매크로(자동 입력 프로그램) 사용 여부를 감지·분석하고 있다”며 “AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 분석하는 등의 감시를 강화하고 있다”고 밝혔다.

뉴스 댓글 외 선거 기간 다른 서비스 영역에서 AI를 기반으로 한 가짜 정보 생성과 유통, 딥페이크(AI로 만든 영상 및 이미지 조작물) 영상에 대한 대응 방침도 조만간 마련할 방침이다.

네이버는 지난 11일부터 언론사가 기사 본문의 댓글 운영 여부를 직접 설정할 수 있도록 언론사 홈 내 ‘총선’ 섹션을 신설하며 총선 준비 모드에 돌입했다.

전날에는 네이버 뉴스 서비스의 개선 방안을 마련하는 ‘뉴스 혁신포럼’ 발족식을 열고 최성준 변호사를 위원장으로 선출했다. 최성준 변호사는 박근혜 정부 시절인 2014년부터 2017년까지 방통위원장을 지냈다. 뉴스 혁신포럼은 네이버의 뉴스 서비스가 사회적 책임을 다하며 공정성과 투명성을 높일 수 있는 종합적인 개선 방안을 검토해 1분기 중 계획안을 제시할 예정이다.