2시간 걸리던 성착취물 추적…3분 안에 삭제하는 AI 나왔다

서울시 개발, 24시간 감시

정확도 2배…10배 처리 가능

서울시는 ‘디지털 성범죄 안심지원센터’ 개관 1년을 맞아 전국에서 처음으로 인공지능(AI) 딥러닝 기술로 디지털 성범죄 자동 추적 프로그램을 개발해 24시간 감시에 나선다고 29일 밝혔다. 디지털 성범죄 예방과 피해자 지원을 위해 문을 연 센터에서는 성착취물 삭제부터 법률·심리 상담까지 피해자를 위한 지원이 이뤄지고 있다.

디지털 성범죄 피해자들은 사회관계망서비스(SNS)에서 영상이 재확산되며 2차 피해를 입는 경우가 많다. 이를 막는 것이 가장 중요한 대응법이라는 점에 착안해 지난해 7월부터 서울기술연구원이 프로그램 연구에 착수, 올해 3월 개발을 완료했다.

AI 기술은 검색어 등을 입력하면 SNS에서 공유되는 성착취물을 즉시 검출하고 삭제해 재유포를 차단한다. 사람이 판독할 경우 1~2시간 정도 걸렸던 검출 속도가 3분 내외로 단축된다. 정확도는 200% 향상됐다.

피해자의 얼굴과 특이점을 육안으로 파악하는 수작업은 작업 시간에도 한계가 있으나 AI는 오디오·비디오·텍스트 정보를 분석해 피해자 관련 모든 영상물을 24시간 연속으로 찾아내 즉시 대응한다. 이에 지금보다 10배 이상 규모로 삭제 지원을 할 수 있다는 것이 센터 측의 설명이다.

지난 1년간 센터에 상담을 요청한 피해자는 402명으로 7682건의 지원이 이뤄져 성착취물 3003건이 삭제됐다. 특히 그동안 상담을 받은 피해자 가운데 10~20대가 57%였다. 이 가운데 10대 비율은 16.6%로 10대는 채팅을 통한 경우가 많아 디지털 성범죄에 더 취약했다.

이에 센터는 올해 아동·청소년 피해 예방에 주력할 방침이다. 센터 관계자는 “본인이 삭제 요청을 해야 지원이 가능한 성인과 달리 미성년자는 아동·청소년 성 보호법에 따라 당사자, 부모의 신고 없이도 즉시 삭제할 수 있다”고 설명했다.

시민들은 ‘서울 디지털 성범죄 안심지원센터’ 상담 전용 직통 번호(02-815-0382·영상빨리) 혹은 카카오톡(아이디 검색: 지지동반자 0382)으로 문의하면 된다.

성착취물 디지털성범죄