사회

서울시, 아동·청소년 딥페이크 성범죄 칼 뽑는다

입력 2025.04.11 13:29

수정 2025.04.11 13:31

펼치기/접기

김은성 기자

오는 5월 ‘AI 자동 신고 시스템’ 운영 시작

디지털 성범죄 예방·대응 투트랙으로 대처

서울 한국여성인권진흥원 디지털성범죄피해자지원센터 앞에 딥페이크 예방 관련 포스터가 붙어 있는 모습. 연합뉴스

서울시가 아동·청소년을 대상으로 한 딥페이크 성범죄 근절을 위해 칼을 뽑았다. 양육자 무료 교육 시행에 이어 오는 5월에는 ‘디지털 성범죄 인공지능(AI) 자동 신고 시스템’(가칭)도 운영한다.

서울시여성가족재단은 아동·청소년 자녀를 둔 시민을 대상으로 ‘딥페이크 성범죄 예방 교육’을 한다고 11일 밝혔다. 보호자가 디지털 성범죄에 대해 정확하게 알고 자녀를 보호할 수 있는 실질적인 대응 역량을 갖추도록 돕기 위해서다.

교육에서는 딥페이크 개념과 디지털 성범죄 현황, 가정에서 쉽게 실천할 수 있는 예방 방법 등을 소개한다. 사진 촬영 시 주의할 점·온라인 공간에서 일어나는 일 등 초등학교 자녀들과 함께 배우는 프로그램도 진행한다.

교육은 시내 17개 여성인력개발기관에서 무료로 제공한다. 교육 신청은 서울우먼업 홈페이지나 여성인력개발기관을 통해 하면 된다.

서울시 제공.

앞서 시는 세계 최초로 AI을 활용해 디지털 성범죄물을 삭제할 수 있는 ‘디지털 성범죄 통합대응정책’을 만들어 지난해 6월 유엔 공공행정상을 수상했다. 이를 통해 AI 기술을 활용해 피해 영상물을 모니터하고, AI가 모니터한 내용을 상담원이 삭제·신고하고 있다. 해당 기술을 업그레이드 해 다음달부터 유관기관과 협업해 AI가 영상 검색 후 자동으로 삭제 신고까지 하는 ‘AI 자동 신고 시스템’을 도입한다고 시는 밝혔다.

그 외 아동·청소년을 성적으로 착취하기 위한 목적으로 성적 대화를 하거나 행위를 하도록 유인하는 환심형(그루밍) 성범죄를 감시 예방하는 애플리케이션(앱)도 연말까지 개발해 무료로 배포할 예정이다. 시 관계자는 “기술 발달로 불법 합성 여부 조차를 알아보기도 힘들 만큼 범죄가 정교해 지며 (범죄영상도) 빠르게 확산되고 있는 추세”라며 “10·20대 딥페이크 등 디지털 성범죄에 선제적으로 대응하기 위해 통신사 등과 다양한 협업을 진행하고 있다”고 말했다.

사회 많이 본 기사

여성가족부가 지난 10일 공개한 ‘2024 디지털 성범죄 피해자 지원 보고서’를 보면, 지난해 디지털 기술을 이용한 합성·편집(딥페이크) 피해 건수는 1384건이었다. 2023년(423건) 대비 961건(227.2%) 늘어 피해 유형 중 가장 두드러진 증가세를 보였다.

특히 딥페이크 피해자의 92.6%는 10대와 20대였다. 미성년자 피해자의 경우 수사가 시작되면 보호자에게 사실을 통보하게 돼 있어, 부모가 아는 걸 수치스러워해 신고를 망설이는 10대를 감안하면, 숨은 피해자는 더 많을 것으로 추정된다.