딥페이크 성범죄물 자동 탐지, 24시간 이내 삭제·차단 추진

정부, 긴급 회의 열고 대책 논의

텔레그램 등과 ‘협의체’ 구성해

신속 조치·자율 규제 요청키로

정부가 확산하는 딥페이크(인공지능 기반 가짜 이미지 합성 기술) 성범죄 대응을 위해 텔레그램 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하고 신속한 영상 삭제·차단에 나서기로 했다. 허위 영상물을 빠르게 탐지해 삭제를 요청할 수 있도록 모니터링 ‘자동화’도 추진한다.

방송통신심의위원회(방심위)는 28일 서울 양천구 방송회관에서 긴급 전체회의를 열고 딥페이크 성범죄 영상물 종합대책을 논의했다.

국내 주요 포털사이트, 텔레그램·페이스북·엑스(구 트위터)·인스타그램·유튜브 등 해외 사업자와 협의체를 구성해 신속한 삭제·차단 조치와 자율적인 규제를 강력히 요청할 계획이다. 해외에 서버가 있는 플랫폼 중 국내 공식 협의체가 없는 사업체의 경우 대면 협의 채널을 만들기로 했다.

류희림 방심위원장은 “전자 심의를 강화해 24시간 이내 삭제·차단이 될 수 있도록 시정을 요구하고 악성 유포자는 즉각 경찰에 수사 의뢰하도록 하겠다”며 “텔레그램 등 주요 사회관계망서비스(SNS)에 대한 자체 모니터 인원을 2배 이상 늘리고, 집중 모니터링을 통해 불법 성범죄 영상물을 신속하게 적발하겠다”고 말했다. 향후 디지털 성범죄 전담인력을 늘려갈 계획도 밝혔다.

강도현 과학기술정보통신부 2차관과 신영숙 여성가족부 차관도 이날 서울 중구 디지털성범죄피해자지원센터를 방문해 딥페이크 피해 예방 및 피해자 지원 방안에 대해 논의했다.

두 부처는 딥페이크 영상물을 자동으로 탐지하고, 사진 한 장으로도 허위 영상물을 추적할 수 있도록 시스템을 고도화하는 방안을 논의했다. 기존에는 다양한 형태로 변형된 합성·편집물을 탐지하는 것이 쉽지 않다 보니 수동으로 삭제 요청과 모니터링을 해야 했다. 시스템을 고도화하면 피해영상물 의심 이미지를 자동 모니터링하고, AI 기반 탐지 기술로 딥페이크 여부를 판별할 수 있다.

피해자 이미지를 기반으로 자동 모니터링을 해 변형된 피해자의 이미지까지 찾아내 삭제 요청을 자동 통보하는 것이 목표다.