디지털 성 착취물, AI로 자동 검색해 끝까지 삭제…서울시, 지자체 첫 기술 개발 추진읽음

김보미 기자
서울시가 2021년 발표한 초·중·고등학생 디지털성범죄 피해 실태를 보면, 서울에 거주하는 12∼19세 초·중·고등학생 4012명 중 21.3%(856명)가 ‘디지털성범죄 위험에 직접 노출된 경험이 있다’고 답했다.

서울시가 2021년 발표한 초·중·고등학생 디지털성범죄 피해 실태를 보면, 서울에 거주하는 12∼19세 초·중·고등학생 4012명 중 21.3%(856명)가 ‘디지털성범죄 위험에 직접 노출된 경험이 있다’고 답했다.

한번 유포되면 걷잡을 수 없이 확산하는 디지털 성 착취물을 끝까지 추적해 삭제하는 인공지능(AI) 기술 개발에 서울시가 직접 나선다. 무한 복제·공유를 차단해 피해자의 고통이 장기화되는 것을 막기 위해서다. 지자체가 관련 기술 개발에 나서는 것은 이번이 처음이다.

서울기술연구원과 서울시는 AI 융합 기술을 활용해 성 착취물을 식별하고 삭제하는 기술 도입하기로 했다고 7일 밝혔다.

디지털 성범죄 피해를 지원하는 ‘서울 디지털성범죄 안심지원센터’에서는 현재 안면 인식 기술로 재유포 차단·삭제하는 불법 촬영물 추적 시스템을 가동 중이다. 하지만 빠르게 진화하는 범죄 형태에 대응하려면 기술 개선이 시급하다고 판단한 것이다. 삭제 지원은 디지털 성범죄 피해자에게 가장 절실한 부분이다.

성 착취물 추적은 비디오·오디오·텍스트 등 각종 데이터 분석 기술이 융합돼 이뤄진다. 얼굴 매칭뿐 아니라 움직임과 오디오 주파수, 대화 내용까지 복합적으로 분석해 정확도가 높아질 것으로 보인다. 특히 성 착취물은 영상을 찾아내 삭제해도 시간이 지나면 다시 유통되는 특성이 있다. 이에 연구원은 관련 불법 사이트를 자동 검색해 추적하는 기능도 개발할 예정이다. 서버를 바꾸거나 새로 생성한 사이트에 피해 영상을 다시 올리는 경우가 많기 때문이다. 웹사이트 정보를 자동으로 추출하고 게시된 영상·이미지 등 데이터를 추출·분석하는 기술을 적용할 예정이다.

연구원은 AI 기술을 2023년 상반기 내 개발해 안심지원센터의 피해 영상 추적 시스템으로 운용할 예정이다. 임성은 서울기술연구원장은 “날로 진화하고 있는 디지털 성범죄에 대응할 수 있도록 연구원의 AI 역량을 집중할 계획”이며, “개발한 AI 삭제 지원시스템을 24시간 가동할 수 있도록 하겠다”고 밝혔다.


경향티비 배너
Today`s HOT
젖소 복장으로 시위하는 동물보호단체 회원 독일 고속도로에서 전복된 버스 아르헨티나 성모 기리는 종교 행렬 크로아티아에 전시된 초대형 부활절 달걀
훈련 지시하는 황선홍 임시 감독 불덩이 터지는 가자지구 라파
라마단 성월에 죽 나눠주는 봉사자들 코코넛 따는 원숭이 노동 착취 반대 시위
선박 충돌로 무너진 미국 볼티모어 다리 이스라엘 인질 석방 촉구하는 사람들 이강인·손흥민 합작골로 태국 3-0 완승 모스크바 테러 희생자 애도하는 시민들
경향신문 회원을 위한 서비스입니다

경향신문 회원이 되시면 다양하고 풍부한 콘텐츠를 즐기실 수 있습니다.

  • 퀴즈
    풀기
  • 뉴스플리
  • 기사
    응원하기
  • 인스피아
    전문읽기
  • 회원
    혜택