2024.09.13
-
아동 딥페이크 성착취물 1367개 제작자와 음란물사이트 운영자 구속기소
검찰이 아동 청소년 및 성인을 대상으로 딥페이크(허위영상물) 성착취물 1367개를 제작·유통한 20대 남성과 음란물 유포사이트 운영자를 구속기소했다.서울중앙지검 여성아동범죄조사1부(부장검사 김지혜)는 13일 아동·청소년 대상 허위영상물 92개 및 성인 대상 허위영상물 1275개를 제작·유포한 20대 남성 A씨를 아동·청소년의성보호에관한법률위반(성착취물제작등) 혐의로 구속기소했다고 밝혔다. 음란물 유포사이트 운영자 B씨는 아동·청소년의성보호에관한법률위반(영리목적 성착취물판매 등)죄 등으로 구속 기소됐다.검찰에 따르면 A씨는 텔레그램 참여자들로부터 피해자들의 사진이나 이름 등 개인정보를 넘겨받고 이를 이용해 딥페이크 영상물을 제작했다. B씨는 약 4년 간 아동·청소년성착취물 등을 유통하는 음란물유포사이트 2개를 운영하면서 서버 유지보수, 도메인 관리 등 업무를 담당해왔다.검찰은 유포된 딥페이크 영상물과 관련해 서울 디지털 성범죄 안심지원센터 및 대검찰청 사이버·기술범죄수사...
2024.09.11
-
딥페이크 성착취물이 ‘장난’이었다는 아이들, 이렇게 해야 ‘반성’으로 바뀐다
“‘장난으로 딥페이크를 만들었다’는 아이들에게 그것이 철없는 장난이 아니라는 점을, 그건 여성을 성적 대상화하는 범죄라는 사실을 알려줘야 해요. 가해자인 아이들도 이걸 인정해야 자신의 잘못을 깨달아요.”11일 아하서울시립청소년성문화센터 청소년 상담사 정모씨(31)가 최근 딥페이크 성착취물 사태의 주요 가해자인 10대 청소년들에 대해 이같이 말했다. 센터는 ‘디지털 성폭력 가해 청소년 상담 프로그램’을 진행 중이다.센터를 찾는 대다수의 가해 청소년은 사안의 심각성을 모른 채 온다고 한다. 올해 딥페이크 성범죄로 검거된 피의자 10명 중 8명은 10대였다. ‘2023년 디지털 성범죄 가해 청소년 상담 프로그램 효과성 검증 및 매뉴얼 개발 연구보고서’를 보면 가해 청수년 대다수가 설문조사에서 ‘호기심(59%)’, ‘재미나 장난(41%)’으로 생각했다고 답했다. 가해 청소년을 마주하는 일선 상담사들은 “재범을 막으려면 아이들의 성 인지 감수성을 높여야 한다”고 지적했다.10회...
-
딥페이크 성착취물 피의자 중 ‘촉법소년’, 20대보다 많다
인공지능(AI) 기술을 이용한 이미지 합성(딥페이크) 프로그램으로 성 착취물을 제작했다 붙잡힌 피의자 중 형사처벌을 받지 않는 14세 미만 ‘촉법소년’이 20대보다 많은 것으로 나타났다.경찰청은 지난 10일 기준 현재 수사 중인 딥페이크 성착취물 관련 사건이 전국에 513건이라고 11일 밝혔다.경찰 집계를 보면 올해 1월1일부터 지난 10일까지 검거된 딥페이크 성착취물 사건 관련 피의자는 모두 318명이다. 이 중 10대가 251명(78.93%)으로 가장 많았다. 20대는 57명(17.92%), 30대는 9명(2.83%), 40대는 1명(0.31%)이었다.10대 중에는 형사처벌을 받지 않는 14세 미만 촉법소년이 63명이다. 전체 피의자 중 19.81%로 20대 피의자보다 많았다.
2024.09.10
-
서울시, 검·경·교육청과 딥페이크 성범죄 ‘원스톱 지원’
서울시가 검찰·경찰·교육청과 공조해 딥페이크 성착취물의 신속한 삭제와 차단, 피해자의 일상회복까지 돕는 ‘원스톱 지원’을 하기로 했다.서울시는 10일 서울시청에서 서울중앙지검, 서울경찰청, 서울시교육청과 ‘아동·청소년 딥페이크 공동대응을 위한 업무협약’을 체결했다며 이같이 밝혔다.서울시는 지난달 28일부터 방송통신심의위원회와 함께 지방자치단체 최초의 ‘24시간 삭제지원 시스템’을 가동하고 있다. 피해자 익명 상담 창구도 최근 신설한 이후 서울 디지털성범죄 안심지원센터를 통한 피해 상담·접수가 278건 이뤄졌다.서울시는 딥페이크 성범죄의 가해자와 피해자 상당수가 10대 청소년이라는 점에 주목해 교육·사법·수사기관 간 협력을 통한 아동·청소년 보호와 지원을 강화하기로 했다고 밝혔다. 경찰청에 따르면 최근 3년간 딥페이크 피해자 527명 중 59.8%(315명)가 10대였다.서울시 등 4개 기관은 학교 내에서 딥페이크 범죄·피해 사실이 확인될 경우 학교에서 서울시로 연계...
2024.09.09
-
학교 ‘딥페이크’ 피해 접수 열흘 만에 238건 늘어났다
학교 내 교사·학생의 딥페이크(불법합성물) 피해 접수 건수가 지난달 말보다 2배 가까이 더 늘어난 것으로 조사됐다.교육부는 올해 1월에서 지난 6일 사이 이뤄진 학생·교원 딥페이크 피해 접수 건수가 총 434건으로 조사됐다고 9일 밝혔다. 지난달 27일 발표된 1차 조사(196건) 때보다 238건 늘어난 수치다.딥페이크 피해자는 총 617명으로 피해 접수 건수보다 많다. 학생이 588명, 교사 27명, 직원 등이 2명으로 집계됐다. 교육부는 “피해신고 1건당 여러 명의 피해자가 발생하는 경우가 포함되어 있기 때문”이라고 했다.피해 건수는 고등학교에서 243건으로 가장 많았고, 중학교 179건, 초등학교 12건 순으로 뒤를 이었다. 고등학교의 경우 1차 조사 당시 79건으로, 중학교(109건)보다 피해 건수가 적었다가 2차 조사에서 급격히 불었다.각 시도 교육청에선 피해 건수 중 350건을 수사 의뢰했다. 수사 의뢰 건수도 1차 조사(179건)보다 두 배 가까이 증가...
-
속도 높이는 ‘딥페이크’ 수사···서울서만 101건, 10대 피의자가 75%
경찰이 ‘딥페이크 성착취물’ 사건 수사에 속도를 내고 있다. 서울에서만 집중단속에서 101건이 확인됐다.김봉식 서울경찰청장은 9일 서울 종로구 내자동 서울경찰청사에서 열린 정례 기자회견에서 “서울청 TF(전담반)에 인원 41명을 편성해 집중단속을 전개 중”이라며 이같이 밝혔다.경찰에 따르면 지난 6일 기준 현재 101건을 수사 중이다. 43건에서 피의자 52명을 특정했다. 이 중 10대 피의자가 약 75%인 39명으로 나타났다. 20대가 11명, 30대는 2명이었다. 피의자 성별은 구체적으로 확인되지 않았다.김 청장은 “교육청, 서울시와 협조해 관내 SPO(학교 전담 경찰관)들이 학생들을 상대로 ‘피해자들에 큰 상처를 주는 심각하고 중대한 범죄이며, 절대 해선 안 된다’는 홍보·교육을 계속 실시 중”이라고 설명했다.경찰은 딥페이크 성착취물의 유통 통로 역할을 한 텔레그램 법인에 대해 청소년성보호법, 성폭력처벌법상 방조 혐의로 입건 전 조사(내사)를 진행 중이다....
-
딥페이크 성착취물 만든 고교생 송치…20여명 사진 합성
경찰이 딥페이크 성착취물을 만든 10대 고등학생을 입건해 검찰에 송치했다.광주경찰청 사이버범죄수사대는 9일 아동·청소년 성 보호에 관한 법률 위반 혐의로 10대 A군을 불구속 송치했다고 밝혔다.A군은 지난해 6월부터 지난달까지 같은 학교 학생 20여명의 사진을 합성한 성착취물을 만들어 휴대전화에 보관한 혐의를 받고 있다.경찰은 피해자 7명으로부터 의심 신고를 받고 A군의 휴대전화를 압수해 분석하는 과정에서 추가 피해자를 확인했다. 성착취물이 유포되지는 않은 것으로 경찰은 파악하고 있다.경찰은 광주시교육청이 전수조사를 통해 확인한 딥페이크 성착취물 의심 사례 4건을 넘겨받아 수사하고 있다.경찰 관계자는 “딥페이크 성범죄 피해를 당하거나 목격한 경우 즉시 수사기관에 신고해 도움을 받을 필요가 있다”고 말했다.
2024.09.08
-
‘딥페이크에 촉법소년’은 동문서답
‘지인 능욕’이라는 말이 등장한 지 10년 가까이 되었다. 인공지능(AI)을 기반으로 사람의 이미지를 또 다른 이미지나 영상으로 합성하는 딥페이크 기술은 등장한 후 지금까지 나날이 발전했다. AI 기술이 정교해지고 관련 앱 출시가 줄을 이으면서 딥페이크 성착취물 또한 빠르게 늘어갔다. 얼마 전, 한 외국 사이버 보안 업체는 세계적으로 딥페이크 음란물 피해자의 99%가 여성이고, 가장 취약한 국가는 한국이라는 내용의 보고서를 발표했다. 딥페이크 음란물 웹사이트와 유튜브 채널 등을 조사해 보니 등장인물 중 53%가 한국인이라는 것이다.중학생이 제보를 분석해서 딥페이크 피해 학교 지도까지 만들 정도로 최근 심각한 텔레그램 딥페이크 성착취 사건으로 많은 사람들이 공분하고 있는 가운데, 정치권의 뒷북 움직임도 바빠지고 있다. 양당 대표회담 의제에 딥페이크 범죄 관련 제도 개선 안건이 포함되었다는 보도가 있은 지 며칠 후, 여야는 관련 정부부처를 불러 긴급 현안 질의를 열기도 했다. 여...![[지금, 여기]‘딥페이크에 촉법소년’은 동문서답](https://img.khan.co.kr/news/c/190x140/2024/09/08/l_2024090901000218700024781.jpg)
-
딥페이크 범죄는 안 잡힌다?…“결국 잡힙니다”
능동형 자동 검색·수집 기술로 인공지능 활용, 차단 장벽 뚫어“익명성 뒤 숨은 사이버 범죄도 마약수사처럼 국제 공조 중요 빅테크 기업 설득·압박 병행을”최근 한 인터넷 카페에 “(영상 공유)방에 들어간 사람들 신원 따기도 쉬운 게 아니다. 잡힐 리 없다”는 게시글이 올라왔다. 딥페이크 불법 합성영상물에 대한 정부의 강력한 처벌 방침이 발표된 직후, 가해자로 의심되는 이가 올린 것이었다. 과연 그럴까? 지난 4일 다크웹 추적 기술 전문가인 김지연 대구대 컴퓨터공학과 교수(41·사진)는 “그렇지 않다. 잡힌다”고 말했다.딥페이크 영상은 오픈소스(개방형) 기반 인공지능(AI) 도구의 확산으로 누구나 쉽게 제작할 수 있다. 그래서 제작보다는 유통을 차단하기 위한 노력들이 시작되고 있다. 그러나 이 역시 쉽지 않다. 기업에 불법 영상 유통의 책임을 지우는 법적 기반도 아직 미비한 데다 유통 창구가 되는 온라인 플랫폼 기업 대다수가 해외에 있기 때...
-
딥페이크 가해자, 잡힐 리 없다?···다크웹 추적 기술 전문가 “잡힌다”
최근 한 인터넷 카페에 “(영상 공유)방에 들어간 사람들 신원 따기도 쉬운 게 아니다. 잡힐 리 없다”는 게시글이 올라왔다. 딥페이크 불법 합성영상물에 대한 정부의 강력한 처벌 방침이 발표된 직후, 가해자로 의심되는 이가 올린 것이었다. 과연 그럴까? 지난 4일 다크웹 추적 기술 전문가인 김지연 대구대 컴퓨터공학과 교수(41)는 “그렇지 않다. 잡힌다”고 말했다.딥페이크 영상은 오픈소스(개방형) 기반 인공지능(AI) 도구의 확산으로 누구나 쉽게 제작할 수 있다. 그래서 제작보단 유통을 차단하기 위한 노력들이 시작되고 있다. 그러나 이 역시 쉽지 않다. 기업에게 불법 영상 유통의 책임을 지우는 법적 기반도 아직 미비한 데다 유통 창구가 되는 온라인 플랫폼 기업 대다수가 해외에 있기 때문이다.특히 딥페이크 영상을 비롯해 불법 성착취물의 주된 유통경로가 되는 텔레그램의 경우 운영사 측에서 아직까지 가입자의 신상 정보를 공개하지 않고 있다. 또 다른 유통 경로인 ‘다크웹’은 IP...
![[지금, 여기]‘딥페이크에 촉법소년’은 동문서답](https://img.khan.co.kr/news/c/190x140/2024/09/08/l_2024090901000218700024781.webp)
