창간 80주년 경향신문

서울시, 검·경·교육청과 딥페이크 성범죄 ‘원스톱 지원’

서울시가 검찰·경찰·교육청과 공조해 딥페이크 성착취물의 신속한 삭제와 차단, 피해자의 일상회복까지 돕는 ‘원스톱 지원’을 하기로 했다.서울시는 10일 서울시청에서 서울중앙지검, 서울경찰청, 서울시교육청과 ‘아동·청소년 딥페이크 공동대응을 위한 업무협약’을 체결했다며 이같이 밝혔다.서울시는 지난달 28일부터 방송통신심의위원회와 함께 지방자치단체 최초의 ‘24시간 삭제지원 시스템’을 가동하고 있다. 피해자 익명 상담 창구도 최근 신설한 이후 서울 디지털성범죄 안심지원센터를 통한 피해 상담·접수가 278건 이뤄졌다.서울시는 딥페이크 성범죄의 가해자와 피해자 상당수가 10대 청소년이라는 점에 주목해 교육·사법·수사기관 간 협력을 통한 아동·청소년 보호와 지원을 강화하기로 했다고 밝혔다. 경찰청에 따르면 최근 3년간 딥페이크 피해자 527명 중 59.8%(315명)가 10대였다.서울시 등 4개 기관은 학교 내에서 딥페이크 범죄·피해 사실이 확인될 경우 학교에서 서울시로 연계...

11:13

학교 ‘딥페이크’ 피해 접수 열흘 만에 238건 늘어났다

학교 내 교사·학생의 딥페이크(불법합성물) 피해 접수 건수가 지난달 말보다 2배 가까이 더 늘어난 것으로 조사됐다.교육부는 올해 1월에서 지난 6일 사이 이뤄진 학생·교원 딥페이크 피해 접수 건수가 총 434건으로 조사됐다고 9일 밝혔다. 지난달 27일 발표된 1차 조사(196건) 때보다 238건 늘어난 수치다.딥페이크 피해자는 총 617명으로 피해 접수 건수보다 많다. 학생이 588명, 교사 27명, 직원 등이 2명으로 집계됐다. 교육부는 “피해신고 1건당 여러 명의 피해자가 발생하는 경우가 포함되어 있기 때문”이라고 했다.피해 건수는 고등학교에서 243건으로 가장 많았고, 중학교 179건, 초등학교 12건 순으로 뒤를 이었다. 고등학교의 경우 1차 조사 당시 79건으로, 중학교(109건)보다 피해 건수가 적었다가 2차 조사에서 급격히 불었다.각 시도 교육청에선 피해 건수 중 350건을 수사 의뢰했다. 수사 의뢰 건수도 1차 조사(179건)보다 두 배 가까이 증가...

15:33

속도 높이는 ‘딥페이크’ 수사···서울서만 101건, 10대 피의자가 75%

경찰이 ‘딥페이크 성착취물’ 사건 수사에 속도를 내고 있다. 서울에서만 집중단속에서 101건이 확인됐다.김봉식 서울경찰청장은 9일 서울 종로구 내자동 서울경찰청사에서 열린 정례 기자회견에서 “서울청 TF(전담반)에 인원 41명을 편성해 집중단속을 전개 중”이라며 이같이 밝혔다.경찰에 따르면 지난 6일 기준 현재 101건을 수사 중이다. 43건에서 피의자 52명을 특정했다. 이 중 10대 피의자가 약 75%인 39명으로 나타났다. 20대가 11명, 30대는 2명이었다. 피의자 성별은 구체적으로 확인되지 않았다.김 청장은 “교육청, 서울시와 협조해 관내 SPO(학교 전담 경찰관)들이 학생들을 상대로 ‘피해자들에 큰 상처를 주는 심각하고 중대한 범죄이며, 절대 해선 안 된다’는 홍보·교육을 계속 실시 중”이라고 설명했다.경찰은 딥페이크 성착취물의 유통 통로 역할을 한 텔레그램 법인에 대해 청소년성보호법, 성폭력처벌법상 방조 혐의로 입건 전 조사(내사)를 진행 중이다....

12:00

딥페이크 성착취물 만든 고교생 송치…20여명 사진 합성

경찰이 딥페이크 성착취물을 만든 10대 고등학생을 입건해 검찰에 송치했다.광주경찰청 사이버범죄수사대는 9일 아동·청소년 성 보호에 관한 법률 위반 혐의로 10대 A군을 불구속 송치했다고 밝혔다.A군은 지난해 6월부터 지난달까지 같은 학교 학생 20여명의 사진을 합성한 성착취물을 만들어 휴대전화에 보관한 혐의를 받고 있다.경찰은 피해자 7명으로부터 의심 신고를 받고 A군의 휴대전화를 압수해 분석하는 과정에서 추가 피해자를 확인했다. 성착취물이 유포되지는 않은 것으로 경찰은 파악하고 있다.경찰은 광주시교육청이 전수조사를 통해 확인한 딥페이크 성착취물 의심 사례 4건을 넘겨받아 수사하고 있다.경찰 관계자는 “딥페이크 성범죄 피해를 당하거나 목격한 경우 즉시 수사기관에 신고해 도움을 받을 필요가 있다”고 말했다.

11:02

[지금, 여기]‘딥페이크에 촉법소년’은 동문서답

‘지인 능욕’이라는 말이 등장한 지 10년 가까이 되었다. 인공지능(AI)을 기반으로 사람의 이미지를 또 다른 이미지나 영상으로 합성하는 딥페이크 기술은 등장한 후 지금까지 나날이 발전했다. AI 기술이 정교해지고 관련 앱 출시가 줄을 이으면서 딥페이크 성착취물 또한 빠르게 늘어갔다. 얼마 전, 한 외국 사이버 보안 업체는 세계적으로 딥페이크 음란물 피해자의 99%가 여성이고, 가장 취약한 국가는 한국이라는 내용의 보고서를 발표했다. 딥페이크 음란물 웹사이트와 유튜브 채널 등을 조사해 보니 등장인물 중 53%가 한국인이라는 것이다.중학생이 제보를 분석해서 딥페이크 피해 학교 지도까지 만들 정도로 최근 심각한 텔레그램 딥페이크 성착취 사건으로 많은 사람들이 공분하고 있는 가운데, 정치권의 뒷북 움직임도 바빠지고 있다. 양당 대표회담 의제에 딥페이크 범죄 관련 제도 개선 안건이 포함되었다는 보도가 있은 지 며칠 후, 여야는 관련 정부부처를 불러 긴급 현안 질의를 열기도 했다. 여...

21:04

딥페이크 범죄는 안 잡힌다?…“결국 잡힙니다”

능동형 자동 검색·수집 기술로 인공지능 활용, 차단 장벽 뚫어“익명성 뒤 숨은 사이버 범죄도 마약수사처럼 국제 공조 중요 빅테크 기업 설득·압박 병행을”최근 한 인터넷 카페에 “(영상 공유)방에 들어간 사람들 신원 따기도 쉬운 게 아니다. 잡힐 리 없다”는 게시글이 올라왔다. 딥페이크 불법 합성영상물에 대한 정부의 강력한 처벌 방침이 발표된 직후, 가해자로 의심되는 이가 올린 것이었다. 과연 그럴까? 지난 4일 다크웹 추적 기술 전문가인 김지연 대구대 컴퓨터공학과 교수(41·사진)는 “그렇지 않다. 잡힌다”고 말했다.딥페이크 영상은 오픈소스(개방형) 기반 인공지능(AI) 도구의 확산으로 누구나 쉽게 제작할 수 있다. 그래서 제작보다는 유통을 차단하기 위한 노력들이 시작되고 있다. 그러나 이 역시 쉽지 않다. 기업에 불법 영상 유통의 책임을 지우는 법적 기반도 아직 미비한 데다 유통 창구가 되는 온라인 플랫폼 기업 대다수가 해외에 있기 때...

20:47

딥페이크 가해자, 잡힐 리 없다?···다크웹 추적 기술 전문가 “잡힌다”

최근 한 인터넷 카페에 “(영상 공유)방에 들어간 사람들 신원 따기도 쉬운 게 아니다. 잡힐 리 없다”는 게시글이 올라왔다. 딥페이크 불법 합성영상물에 대한 정부의 강력한 처벌 방침이 발표된 직후, 가해자로 의심되는 이가 올린 것이었다. 과연 그럴까? 지난 4일 다크웹 추적 기술 전문가인 김지연 대구대 컴퓨터공학과 교수(41)는 “그렇지 않다. 잡힌다”고 말했다.딥페이크 영상은 오픈소스(개방형) 기반 인공지능(AI) 도구의 확산으로 누구나 쉽게 제작할 수 있다. 그래서 제작보단 유통을 차단하기 위한 노력들이 시작되고 있다. 그러나 이 역시 쉽지 않다. 기업에게 불법 영상 유통의 책임을 지우는 법적 기반도 아직 미비한 데다 유통 창구가 되는 온라인 플랫폼 기업 대다수가 해외에 있기 때문이다.특히 딥페이크 영상을 비롯해 불법 성착취물의 주된 유통경로가 되는 텔레그램의 경우 운영사 측에서 아직까지 가입자의 신상 정보를 공개하지 않고 있다. 또 다른 유통 경로인 ‘다크웹’은 IP...

14:04

일상 덮친 딥페이크, 빅테크 규제 어쩌나

[주간경향] n번방 사태가 생성형 인공지능(AI)과 만나 더 악랄하게 돌아왔다. 딥페이크(AI 기반 이미지 합성) 성범죄가 기업과 군대 등의 일터를 넘어 전국 초·중·고등학교까지 확산했다. 가디언과 월스트리트저널 등 주요 외신은 “몰카를 근절하려 분투한 한국이 이제는 딥페이크와 전투를 벌이고 있다”며 “한국이 세계적 (딥페이크 성착취물) 문제의 진앙”이라고 집중적으로 보도했다.AI 발전으로 딥페이크를 악용한 부작용 사태는 이미 ‘예견된’ 일이었다. 세계 각국은 작년 선거철을 맞아 딥페이크를 악용한 가짜뉴스 등으로 몸살을 앓았다. 한국도 지난해 12월 선거를 앞두고 딥페이크를 악용한 사례가 늘자 공직선거법을 개정해 선거운동 목적의 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없게 했다. 정부와 국회의 관심은 선거에서 끝났다. AI를 악용한 딥페이크 성범죄가 발생해도 느슨한 제재와 처벌로 방치했다.IT(정보기술) 전문가들은 기술적인 접근만으로는 딥페이크 성범죄를 원천적...

09:00

“딥페이크 성범죄에 분노하고, 여성 능욕에 맞서 싸우겠다”

[주간경향] “너희는 우리를 능욕할 수 없다.”지난 8월 29일 서울 지하철 강남역 앞에 모인 여성들은 이렇게 외쳤다. 불법합성물(딥페이크) 성범죄가 전국적으로 학교, 군대, 직장, 가정에 이르기까지 만연해 있다는 것이 드러난 후 여성들이 내놓은 메시지였다. 여기에는 디지털 성범죄가 반복적으로 일어났음에도 이를 방치한 정부, 정치권, 사회 여론에 대한 ‘분노’, 그리고 범죄에 ‘위축되지 않겠다’는 의지가 담겼다.이 구호를 외쳤던 기자회견에는 서울여성회와 산하 페미니스트 대학생 연합동아리(서페대연), 정의당 페미니스트 여성정치클럽(정의당 페미클럽) 등 14개 단체가 참여했다. 이들 단체는 ‘딥페이크 성범죄 아웃(OUT) 공동행동’을 꾸리고 8월 30일부터 매주 금요일 강남역 앞에서 여성들의 말하기 대회를 연다. 참여단체는 40여개로 늘었다.거리로 나온 여성들은 무엇을 말하려고 하는가. 지난 9월 4일 서울 영등포구 대림동에 있는 서울여성회 부설 언니네작은도서관에서 최...

09:00

“딥페이크 성착취물 본질은 ‘뿌리 깊은 성차별’…정치가 해결해야”

스무살이 되던 해인 4년 전, A씨는 자신이 딥페이크 성착취물 피해를 입었다는 사실을 알았다. “A님의 사진이 올라와 있는 것 같다”는 제보를 받고 인터넷 링크를 클릭해 들어갔더니 자신의 사진뿐 아니라 이름, 나이, 거주지와 같은 개인정보와 각종 성희롱적 발언이 뒤섞여 있었다고 한다. 그는 수많은 가해자 중 한 명의 신원을 특정해 잡아낼 수 있었다. 하지만 그는 “아직 잡지 못한 가해자가 더 많다”면서 “수사에 진전이 없어 종결한다는 (경찰의) 전화를 받을 땐 세상이 무너지는 것 같더라”고 말했다.A씨는 이른바 ‘지인능욕’ 피해를 공론화하기 위해 언론·경찰을 찾아다니며 고군분투한 피해 당사자다. 지난 5일 박지현 전 더불어민주당 비상대책위원장과 장혜영 정의당 전 의원이 연 ‘딥페이크 성폭력 박멸을 위한 긴급 토론회’에 그는 자신의 피해 경험을 담은 글을 보내왔다.그는 딥페이크 성착취물 범죄가 ‘새로운 것’이 아니며, 이 범죄는 ‘그저’ 디지털 성범죄가 아니라 “가해자가 지...

15:15