아동 얼굴 안 나와도…AI가 ‘키워드 검색’ 성착취물 찾아내

김보미 기자

서울시 ‘신조어 생성’ 기술

2년간 피해자 935명 지원

인공지능(AI)이 성착취물 관련 키워드를 자동생성해 검색하는 기술이 개발됐다. 이 시스템은 영상 속 얼굴이 없어도 아동·청소년 피해 영상물에 자주 등장하는 주변 사물과 언어 등도 구분해 아동 성착취물을 찾아낸다.

서울시는 지난해 전국에서 처음으로 AI 기반 아동·청소년 성착취물 검색 기술을 개발한 데 이어 24시간 자동 추적·감시 시스템을 강화했다고 22일 밝혔다. 디지털 성범죄는 10~20대 피해자 비율이 높지만 피해 사실을 알리지 않아 성착취물이 사회관계망서비스(SNS) 등을 통해 유포되는 경우가 많다.

서울여성가족재단이 운영하는 ‘서울 디지털 성범죄 안심지원센터’에 접수된 성착취물 삭제 요청 사례를 보면 아동·청소년 피해자가 스스로 신고한 경우는 7.8%에 그친다. 부모님 등이 피해 사실을 인지하거나 수사·사법 기관 신고로 이뤄지는 경우가 대부분이기 때문이다. 이에 지난해 서울시는 AI 기술을 통한 자동 추적·감시 알고리즘을 개발해 24시간 불법 영상물을 찾아 삭제를 지원하고 있다.

센터 관계자는 “추가 개발한 AI 시스템은 인공지능의 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있다”며 “영상물에 얼굴이 나오지 않더라도 아동·청소년 피해 영상물 여부를 알 수 있다”고 설명했다. 또 AI가 SNS 빅데이터 분석으로 아동·청소년 성범죄물 관련 신조어를 자동으로 생성한다. 삭제지원관이 ‘딥페’(딥페이크의 약자)로만 검색했다면 AI는 ‘뒵페’ ‘뒷페’ 등의 신조어를 자동 생성해 검색량을 늘린다.

2022년 문을 연 센터는 지난 2년간 935명의 피해 사례를 접수해 3만576건을 지원했다. 디지털 성범죄 피해자 가운데 아동·청소년 비중은 첫해 총 50명, 19.2%에서 2023년 104명, 22.2%로 늘었다.

김선순 서울시 여성가족정책실장은 “‘n번방 사건’ 이후 4년이 흘렀지만 아동·청소년을 대상으로 한 디지털 성범죄는 사라지지 않고 피해가 심각하다”며 “AI 기술로 피해 사진과 영상에 대한 선제적인 감시·삭제에 나서겠다”고 말했다.


Today`s HOT
50주년 맞은 루빅큐브 레바논 공습 산불 진화하는 소방기 독일 연방의회에서 연설하는 젤렌스키 G7에 기후재정 촉구하는 필리핀 시위대
프랑스 극우정당 반대 시위 플라스틱 쓰레기 수출 막아달라
나치 학살 현장 방문한 프랑스·독일 정상 칠레 폭우에 대피하는 주민들
가자지구 국경 근처 이스라엘 군인들 맵다 매워~ 고추먹기대회 노젓는 홍콩 용선 축제 참가자들 이강인의 한 방! 중국에 1-0 승리
경향신문 회원을 위한 서비스입니다

경향신문 회원이 되시면 다양하고 풍부한 콘텐츠를 즐기실 수 있습니다.

  • 퀴즈
    풀기
  • 뉴스플리
  • 기사
    응원하기
  • 인스피아
    전문읽기
  • 회원
    혜택