창간 80주년 경향신문

서울시, 아동·청소년 딥페이크 성범죄 칼 뽑는다

서울시가 아동·청소년을 대상으로 한 딥페이크 성범죄 근절을 위해 칼을 뽑았다. 양육자 무료 교육 시행에 이어 오는 5월에는 ‘디지털 성범죄 인공지능(AI) 자동 신고 시스템’(가칭)도 운영한다.서울시여성가족재단은 아동·청소년 자녀를 둔 시민을 대상으로 ‘딥페이크 성범죄 예방 교육’을 한다고 11일 밝혔다. 보호자가 디지털 성범죄에 대해 정확하게 알고 자녀를 보호할 수 있는 실질적인 대응 역량을 갖추도록 돕기 위해서다.교육에서는 딥페이크 개념과 디지털 성범죄 현황, 가정에서 쉽게 실천할 수 있는 예방 방법 등을 소개한다. 사진 촬영 시 주의할 점·온라인 공간에서 일어나는 일 등 초등학교 자녀들과 함께 배우는 프로그램도 진행한다.교육은 시내 17개 여성인력개발기관에서 무료로 제공한다. 교육 신청은 서울우먼업 홈페이지나 여성인력개발기관을 통해 하면 된다.앞서 시는 세계 최초로 AI을 활용해 디지털 성범죄물을 삭제할 수 있는 ‘디지털 성범죄 통합대응정책’을 만들어 ...

13:29

딥페이크도 진화?···성적 허위영상물에 목소리도 ‘진짜처럼’ 합성

자신이 좋아하는 아이돌그룹과 유명 연예인 단체 대화방을 개설해 ‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용, 성적 허위영상물을 제작해 유포한 3명이 경찰에 구속됐다.경기북부경찰청은 아동·청소년의 성보호에 관한 법률 위반과 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 30대 A씨와 B씨, 20대 C씨를 구속 상태로 검찰에 송치했다고 11일 밝혔다. 또 대화방에 참여했던 13명은 불구속했다.A씨는 2023년 8월부터 지난달까지 여성 아이돌그룹의 이름을 딴 단체 대회방을 개설, 운영하면서 다른 아이돌그룹 멤버와 유명 여성 연예인들을 대상으로 성적 허위영상물 1100여개를 만들어 자신이 참여한 단체방은 물론, 다른 텔레그램 딥페이크방에도 유포한 혐의를 받고 있다.B씨는 2024년 9월부터 같은해 12월까지 단체 대화방을 운영하면서 유명 여성 연예인들을 대상으로 성적 허위영상물 150여개를 만들어 유포했다.조사 결과, A씨가 만든 대화방은 아이돌그룹을 좋아하...

11:03

1만명 넘은 ‘디지털성범죄’ 피해자…‘딥페이크’ 피해 99.6%는 여성 [플랫]

지난해 정부에 디지털성범죄 피해지원을 받은 피해자가 1만명을 넘어섰다. 피해자 10명 중 8명은 10~20대였던 것으로 집계됐다. 딥페이크 등 디지털 기술을 활용한 합성·편집 피해 건수는 전년보다 두배 넘게 증가하며 피해 유형중 가장 두드러진 증가세를 보였다.10일 여성가족부 중앙 디지털성범죄피해자지원센터(디성센터)가 공개한 ‘2024 디지털성범죄 피해자 지원 보고서’를 보면, 지난해 디성센터에서 상담, 삭제 지원, 수사·법률·의료 지원 연계 등의 지원을 받은 디지털 성범죄 피해자는 1만305명으로 전년보다 14.7% 늘었다. 2018년 디성센터 출범 이래 피해자가 가장 많았다. 피해영상물 삭제지원 건수도 한해 동안 22.3% 늘어 처음으로 30만건을 넘어섰다.피해자는 10~20대에 집중됐다. 연령별로 보면 10대 피해지원 비중은 2022년 17.8%에서 지난해 27.9%로 증가했다. 20대 피해지원도 같은 기간 18.2%에서 지난해 50.2%까지 큰폭 증가했다. 여가부...

10:06

작년 디지털성범죄 피해지원 1만305명, 10·20대가 80%···딥페이크·불법촬영 크게 늘어

지난해 정부에 디지털성범죄 피해지원을 받은 피해자가 1만명을 넘어섰다. 피해자 10명 중 8명은 10~20대였던 것으로 집계됐다. 딥페이크 등 디지털 기술을 활용한 합성·편집 피해 건수는 전년보다 두배 넘게 증가하며 피해 유형중 가장 두드러진 증가세를 보였다.10일 여성가족부 중앙 디지털성범죄피해자지원센터(디성센터)가 공개한 ‘2024 디지털성범죄 피해자 지원 보고서’를 보면, 지난해 디성센터에서 상담, 삭제 지원, 수사·법률·의료 지원 연계 등의 지원을 받은 디지털 성범죄 피해자는 1만305명으로 전년보다 14.7% 늘었다. 2018년 디성센터 출범 이래 피해자가 가장 많았다. 피해영상물 삭제지원 건수도 한해 동안 22.3% 늘어 처음으로 30만건을 넘어섰다.피해자는 10~20대에 집중됐다. 연령별로 보면 10대 피해지원 비중은 2022년 17.8%에서 지난해 27.9%로 증가했다. 20대 피해지원도 같은 기간 18.2%에서 지난해 50.2%까지 큰폭 증가했다. 여가부는...

12:00

인하대 재학 중 학우 17명 ‘딥페이크’ 성범죄물 제작·유포 일당 붙잡혀

단체 대화방에서 ‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용해 같은 대학에 다니는 여대생들의 얼굴을 나체 사진이나 영상에 합성한 성범죄물을 만들어 유포한 일당이 경찰에 붙잡혔다.인천경찰청 사이버범죄수사대는 성폭력범죄의 처벌 등에 관한 특례법 위반 허위 영상물 편집·반포 등 혐의로 대학원생 A씨(24) 등 8명을 구속하고, B씨(25) 등 7명은 불구속 입건했다고 2일 밝혔다.A씨 등은 2022년 11월부터 지난해 8월까지 여성 17명을 대상으로 성범죄물을 90차례 만든 뒤 텔레그램에 개설한 ‘지인능욕방’을 통해 270여차례 유포한 혐의를 받고 있다.A씨는 딥페이크 기술이나 사진 편집 프로그램으로 같은 대학에 다니는 동문 여성 얼굴에 다른 여성의 나체사진을 합성한 것으로 조사됐다.A씨는 인하대학교에 다니면서 범행을 저지른 뒤, 다른 대학교 대학원에 진학했다.A씨뿐만 아니라 또 다른 대학원생 등 공범들도 인스타그램이나 네이버 블로그 등에 올라온 피해자들...

11:24

‘서울대 딥페이크’ 공범 2심서 징역 4년6개월로 감형…피해자 합의 등 고려

서울대 동문 등 여성 수십명의 사진으로 허위 영상물을 만들어 유포한 ‘서울대 딥페이크(인공지능으로 가짜 이미지·동영상을 만드는 기술) 사건’ 공범이 2심에서 감형받았다.서울중앙지법 형사항소1-2부(안희길 조정래 진현지 부장판사)는 20일 성폭력처벌법상 허위영상물편집·반포 등 혐의로 재판에 넘겨진 박모씨(29)의 항소심에서 징역 4년 6개월을 선고했다. 1심은 박씨에 대해 징역 5년을 선고했다.재판부는 “피해자들이 받은 정신적 충격이 매우 크고, 사진이나 영상의 유포를 우려해 불안 속에 살아가야 하는 등 실질적 피해 회복에 매우 오랜 시간이 걸린다”며 양형 이유를 밝혔다. 다만 박씨가 피해자 6명과 합의하고 공탁한 점 등을 고려해 감형을 결정했다고 설명했다.박씨는 2020년 7월부터 지난해 4월까지 상습적으로 허위 영상물 400여개를 제작하고 1700여개를 유포한 혐의 등으로 지난해 5월 기소됐다. 그는 이 사건 주범인 서울대 출신 박모씨(41)에게 온라인 메신저로 연락...

18:13

‘딥페이크’ 합성콘텐츠 당사자 요구로 삭제 추진

앞으로 딥페이크 기술을 악용한 합성 콘텐츠에 대해 정보 주체가 직접 삭제를 요구할 수 있는 권리 마련이 추진된다. 국내 고객의 개인정보를 유출해 관련 법을 위반하고도 과징금 부과를 피하기 위해 매출액을 제출하지 않는 해외기업의 ‘꼼수’를 차단하는 방안도 추진된다.개인정보보호위원회는 13일 이 같은 내용을 담은 ‘2025년 주요 업무보고’ 계획을 내놨다.개인정보위는 올해 개인정보보호법 개정을 통해 딥페이크 기술을 악용한 합성 콘텐츠에 대해 정보 주체가 삭제를 요구할 수 있는 법적 권리 마련을 추진한다. 인격적 가치를 훼손하는 개인정보 합성 행위 등을 금지·처벌하는 방안도 추진한다. 개인정보위 관계자는 “지난해 사회적인 논란이 됐던 성적 허위 영상물뿐만 아니라 유명인 사칭 광고 등 각종 불법 합성물 제작을 근절하고자 관련법 개정을 추진한다”고 설명했다.개인정보위는 앞으로 매출액을 제출하지 않거나 축소해서 내는 해외 사업자에 대한 강제력 확보 차원에서 국내 법인을 국내...

17:07

‘딥페이크 영상물 불안감’ 여학생이 더 크다

딥페이크 불법영상물의 유포·확산에 따른 불안감을 여학생들이 남학생들보다 더 크게 느끼는 것으로 조사됐다. 딥페이크 불법영상물은 범죄라는 인식도 여학생들이 더 강하게 하는 것으로 집계됐다. 중고생 절반은 학교에서 발생하는 딥페이크 성범죄를 ‘장난’ 때문에 벌어진 일로 인식했다.11일 교육부가 한국형사법무정책연구원에 의뢰해 진행한 딥페이크 청소년 인식조사 결과를 보면, 여학생의 85.9%는 딥페이크 불법영상물 유포·확산에 불안을 느낀다고 답했다. 남학생(63.1%)보다 불안을 느끼는 여학생이 많았다. 여학생의 81.7%, 남학생의 67.7%는 ‘나도 모르게 피해자가 될 수 있다는 생각 때문에’ 불안하다고 답했다.딥페이크 불법영상물이 범죄인지를 묻는 질문에 여학생의 95.1%는 ‘범죄이며, 처벌받아야 한다’고 답했다. 같은 답을 한 남학생 비율은 83.3%로 역시 대다수였지만 여학생보다는 낮았다. 판단을 보류하며 ‘잘 모르겠다’고 응답한 비율은 남학생이 15.5%로 ...

20:35

딥페이크 성범죄에 여학생 85.9% “불안하다” 남학생과 격차 커

딥페이크 불법촬영물의 유포·확산에 따른 불안감을 여학생들이 남학생들보다 더 크게 느끼는 것으로 조사됐다. 딥페이크 불법촬영물이 범죄라는 인식도 여학생들이 더 강하게 하는 것으로 집계됐다. 중고생 절반은 학교에서 발생하는 딥페이크 성범죄가 ‘장난’ 때문에 벌어진 일로 인식했다.11일 교육부가 한국형사법무정책연구원에 의뢰해 진행한 딥페이크 청소년 인식조사 결과를 보면, 여학생의 85.9%는 딥페이크 불법영상물 유포·확산에 불안을 느낀다고 답했다. 남학생(63.1%)보다 불안을 느끼는 여학생들이 많았다. 여학생의 81.7%, 남학생의 67.7%가 ‘나도 모르게 피해자가 될 수 있다는 생각 때문에’ 불안하다고 답했다.딥페이크 불법영상물이 범죄인지를 묻는 질문에 여학생의 95.1%는 딥페이크 불법영상물이 ‘범죄이며 처벌받아야 한다’고 답했다. 남학생은 딥페이크 불법영상물이 범죄라고 답한 비율이 83.3%로 역시 대다수였지만 여학생보다는 낮았다. 딥페이크 불법영상물에 판단을 보류하며...

12:00

국민 41.9% “딥페이크 가짜뉴스 구별 못해”

국민 10명 중 4명은 딥페이크를 쓴 가짜뉴스를 진짜와 구별하지 못하는 것으로 조사됐다.과학기술정보통신부는 9일 ‘딥페이크 가짜뉴스 대응’을 주제로 지난 10~11월 약 한 달간 국민 597명을 대상으로 설문조사한 결과를 발표했다.‘딥페이크를 활용한 가짜뉴스를 스스로 판별할 수 있다고 생각하는지’를 묻는 질문에 응답자 41.9%는 ‘판별할 수 없다’고 밝혔으며, ‘어느 정도는 판별할 수 있다’가 51.9%였다. ‘판별할 수 있다’는 응답자는 6.2%에 그쳤다.딥페이크 가짜뉴스를 접해본 응답자는 39.0%였다. 응답자 94.5%는 가짜뉴스가 개인과 사회에 미치는 영향이 심각(매우 심각함 56%, 심각함 38.5%)하다고 봤고, 84.9%가 딥페이크를 활용한 가짜뉴스가 일반적인 가짜뉴스보다 부정적 영향이 더 심각하다고 했다. 딥페이크 가짜뉴스의 악영향으로 가장 우려되는 점은 인격적 피해(48.2%)가 가장 많이 꼽혔다.딥페이크 확산 원인으로 법·제도 미비(36.5%)가...

12:27