경향신문

교사 불법촬영하고 딥페이크 성착취물 제작·유포한 10대 ‘실형’

‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용해 자신을 가르치던 교사의 성 착취물을 제작, 유포한 혐의로 재판에 넘겨진 10대 고등학생이 실형을 선고받았다.인천지법 형사1단독 이창경 판사는 27일 선고 공판에서 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 편집 등 혐의로 기소된 A군(19)에게 단기 1년~장기 1년 6개월의 징역형을 선고했다. 또 A군에게 40시간의 성폭력 치료 프로그램 이수를 명령하고, 5년간 아동·청소년 및 장애인 관련 기관에 취업하지 못하도록 제한했다.앞서 지난 5월 결심공판에서 검찰은 A군에게 장기 5년∼단기 3년의 징역형을 구형했다. 소년법에 따르면 범행을 저지른 만 19세 미만 미성년자에게는 장기와 단기로 나눠 형기의 상·하한을 둔 부정기형을 선고할 수 있다.이 판사는 “A군은 공소사실을 모두 인정하고 반성하고 있으며 형사 처벌을 받은 전력이나 학교생활에 문제를 일으킨 적도 없다”고 설명했다.그러나 이 판사는 “...

11:13

“한국 따라 불법화해야”···홍콩 ‘딥페이크 성범죄’ 엄중 조치 나선다

홍콩 정부가 딥페이크(인공지능 기반 이미지 합성) 성범죄를 엄중히 처벌하기 위해 관련 법률 검토에 착수한다. 올 초 홍콩대학교에서 발생한 인공지능(AI) 성착취물 제작 사건을 제대로 처벌해야 한다는 여론이 확산하자 내놓은 대응이다.14일(현지시간) 사우스차이나모닝포스트(SCMP) 등 외신은 홍콩 혁신기술산업국(ITIB)이 “홍콩 내 AI 개발 및 응용 상황을 면밀히 주시하고 있으며 필요할 경우 관련 법률을 재검토하겠다”고 밝혔다고 보도했다.ITIB의 이번 발표는 지난 12일 홍콩대 학생 3명이 ‘hku.nfolderincident’라는 이름의 인스타그램 계정을 통해 공개한 성명에 따른 것이다. 이들은 지난 2월 한 법학과 남학생이 같은 학교 여학생 등 20~30명을 대상으로 700장이 넘는 딥페이크 이미지를 제작해 보관하다 적발된 사실을 밝혔다.피해자들은 3월 중순쯤 학교 측에 가해자에 대한 징계를 요구했지만 가해자는 처벌은커녕 경고 조치를 받는 데 그쳤다. 피해자...

22:19

‘딥페이크’ 처벌 강화 추진····응급구조 방해 행위는 양형 신설

대법원 양형위원회가 자금세탁 범죄와 응급구조 방해 행위 등에 대한 양형기준을 새로 만들고, 증권·금융범죄와 ‘딥페이크(인공지능을 이용해 특정 인물의 얼굴 등을 영상에 합성한 것)’ 등 디지털 성범죄의 양형기준은 손보기로 했다.양형위는 지난 23일 139차 전체회의를 열어 10기 양형위에서 향후 2년간 수행할 양형기준 설정·수정 대상 범죄를 선정했다고 24일 밝혔다.우선 양형위는 범죄수익은닉규제법·외국환거래법 위반 등 자금세탁 범죄에 대해 실효적 처벌을 위한 양형기준을 설정하기로 했다. 2회 이상 음주운전 또는 음주측정거부 등 일부 교통 범죄와 소방·구급대원의 구조·구급활동 방해 행위 등 응급의료·구조·구급 범죄에 대한 양형기준도 마련할 계획이다.증권·금융범죄 양형기준은 13년 만에 정비한다. 이는 최근 범죄 양상이 진화하고 자본시장법 개정으로 시세조종 등 법정형이 상향된 점을 반영한 것이다.디지털 성범죄 양형기준도 재설정한다. 딥페이크 범죄의 심각성이 두드러지며 국...

15:31

메타, SNS에서 ‘딥페이크 앱’ 홍보한 홍콩 기업 고소

페이스북과 인스타그램의 모회사인 메타가 인공지능(AI)을 이용한 딥페이크 나체 이미지를 생성하는 앱을 광고한 홍콩 회사를 고소했다.20일 AFP통신과 홍콩 독립매체 더 위트니스에 따르면 메타는 최근 “온라인에서 나체 합성사진이 우려스럽게 증가하고 있다”며 SNS에서 딥페이크 사진 합성 앱의 홍보회사 역할을 해 온 조이 타임라인 홍콩을 상대로 28만9200달러(약 4억원)를 청구하는 소송을 홍콩 지방법원에 제기했다.메타가 법원에 제출한 소장에 따르면 이 회사는 페이스북과 인스타그램에 최소 170개의 비즈니스 계정을 만들어 사진 합성 앱 광고를 게재한 혐의를 받고 있다. 메타가 손해배상금으로 제시한 금액은 광고를 모니터링하고 지우는 데 들어간 비용이다.이 회사가 올린 광고는 지난 2월 기준 8만7000건이다. 일부 광고에는 AI가 생성한 노골적인 나체 이미지와 “사진을 올려 1분 만에 옷을 벗어요” “소녀의 옷을 지워요”라는 문구가 포함됐다. 이 같은 광고를 게시하는 것은...

12:40

가르치던 교사 ‘딥페이크’로 성착취물 제작·유포한 고교생 엄벌 촉구

‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용해 자신을 가르치던 교사의 성 착취물을 제작, 유포한 혐의로 재판에 넘겨진 10대 고등학생의 선고를 앞두고 교원단체가 엄벌을 촉구했다.더불어민주당 백승아·서미화 국회의원과 인천교사노조, 교육·여성단체 등은 17일 인천지방법원 앞에서 “디지털 성범죄 근절을 위해 교사 성 착취물을 제작한 10대 등 가해자들을 엄벌해야 한다”고 주장했다.인천교사노조는 딥페이크 디지털 성범죄 가해자 등에 대해 엄벌을 촉구하는 탄원서 67부와 7044명의 서명부를 인천지방법원에 제출했다.한 피해 교사는 “가르치던 제자에 의해 지난해 불법촬영과 딥페이크 성 착취물 제작이라는 참담한 피해를 본 후 사생활과 인격, 존재가 송두리째 무너졌다”며 “제가 피해를 증명하기 위해 학교, 경찰서, 재판정 앞에서 끊임없이 설명하고 해명해야 했다”고 호소했다.이어 “이 사건은 결코 저 한 사람만의 고통으로 끝나지 않는다”며 “이번 판결이 학교가 더 이상 ...

15:03

같은 학교 학생 얼굴로 성착취물 제작···딥페이크 성범죄 10대, 벌금 500만원

딥페이크 성착취물을 제작한 10대에게 벌금형이 선고됐다.광주지법 형사12단독 안지연 부장판사는 2일 같은 학교 여학생의 얼굴 사진으로 성착취물을 만든 혐의(정보통신망 이용 촉진 및 정보보호 등에 관한 법률 위반)로 기소된 10대 A군에게 벌금 500만원을 선고했다.A군은 2024년 8월 같은 학교에 재학 중인 여학생의 얼굴 사진으로 딥페이크 성착취물을 만들었다. 해당 성착취물은 온라인에서 신원이 파악되지 않은 사람에게 전달돼 사회관계망서비스(SNS)에 게시됐다.재판부는 “게시글의 내용, 표현의 정도 등을 고려하면 죄질이 불량하다. 피해자가 상당한 정신적 충격을 느꼈을 것으로 보인다”고 밝혔다.

11:25

경찰청, 독일 경찰과 ‘딥페이크’ 진위 판별 시스템 개발 나서

경찰청이 독일 노르트라인베스트팔렌주 경찰과 공동으로 ‘허위조작 콘텐츠 진위여부 판별 시스템’ 개발에 착수했다고 26일 밝혔다.이날 경찰청에 따르면 허위조작 콘텐츠 판별 시스템 개발은 한국·독일의 과학치안 국제공동연구의 첫 사례다. 조작 콘텐츠를 탐지하기 위한 데이터 세트 구축과 통합시스템 개발을 목표로 2027년까지 3년간 진행된다.올해 초 공모 및 평가 절차를 거쳐 주관연구기관으로 숭실대가 선정됐고 성균관대, 연세대, 한컴위드가 참여하는 연합체가 국내 연구기관으로 선정됐다.독일 측에서는 노르트라인베스트팔렌주 범죄수사청의 추천을 받아 현장실사와 선정평가를 거쳐 부퍼탈 대학이 공동 연구기관으로 선정됐다.올해에는 생성형 인공지능(AI)을 이용해 만든 조작 영상(딥페이크)과 음성(딥보이스), 가짜뉴스를 탐지하기 위해 필요한 인공지능 학습용 데이터 세트 구축과 탐지모델 고도화를 추진한다. 내년부터는 이 데이터를 기반으로 인공지능이 자체 학습하는 머신러닝 모델의 개발부터 배...

10:24

검찰, 교사 ‘딥페이크 성착취물’ 제작·유포한 10대에 징역형 구형

교사를 상대로 딥페이크 성착취물을 제작해 사회관계망서비스(SNS)에 유포한 10대에 대해 검찰이 징역형을 구형했다.22일 법조계에 따르면 검찰은 전날 인천지법 형사1단독 이창경 판사 심리로 열린 결심 공판에서 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 편집 등 혐의로 기소된 A군(19)에게 장기 5년∼단기 3년의 징역형을 구형했다.소년법에 따르면 범행을 저지른 만 19세 미만의 미성년자에게는 장기와 단기로 나눠 형기의 상·하한을 둔 부정기형을 선고할 수 있다.A군은 지난해 7월 인공지능(AI)을 이용해 고등학교 교사 2명과 학원 선배·강사 등을 상대로 딥페이크 성착취물을 제작한 뒤 SNS에 유포한 혐의를 받는다.인천교사노동조합은 이 사건과 관련해 지난해 10월 교사 5410명이 참여한 피의자 엄벌 탄원서를 경찰에 제출하면서 교내 성범죄를 적극적으로 수사해달라고 촉구하기도 했다. 교육 당국은 교권보호위원회를 열고 중대한 교육활동 침해가 있다고 판단해...

10:19

유명 연예인 나체 딥페이크 500개 제작·배포 10대 구속

유명 여성 연예인과 일반인들의 신체를 합성한 성적 허위 사진·영상(딥페이크)을 제작·배포한 운영자와 일당이 검거됐다.경남경찰청은 지난해 11월부터 올해 4월까지 여성 연예인과 일반인의 신체가 합성된 나체 사진·영상물 500개를 텔레그램 대화방 3곳에 배포한 혐의(아동·청소년의 성보호에 관한 법률 위반 등)로 10대 고교생 A군을 구속했다고 22일 밝혔다.A군과 함께 23명이 문제의 대화방에서 3500개의 허위 사진·영상물을 제작하거나 재배포한 혐의로 불구속 입건됐다. 23명 중 15명은 10대, 나머지 8명은 20∼40대로 확인됐다.경찰은 올해 2월 해당 범죄의 첩보를 입수한 뒤 텔레그램과의 공조를 통해 이들을 모두 검거했다경찰은 인공지능(AI) 또는 관련 플랫폼(합성 사이트)의 발달로 누구나 손쉽게 사진· 영상의 합성·변조가 가능해져 범죄가 급증하고 있다고 밝혔다.경찰은 “청소년들의 딥페이크 성범죄 예방을 위해 사이버 예방 교육을 강화하고, 교육당국...

09:04

안전하지 못한 학교···교사 대상 딥페이크·불법촬영 등 성범죄 급증

지난해 지역교권보호위원회 개최가 전년 대비 감소했지만 초등학교의 지역교권보호위 개최는 늘어난 것으로 조사됐다. 교원을 상대로 한 딥페이크(불법합성물) 제작·유포나 불법촬영 등 성범죄는 증가한 것으로 집계됐다.교육부는 13일 2024학년도 교육활동 침해 실태조사를 공개했다. 지난해 열린 지역교권보호위원회는 4234건으로, 이중 93%(3925건)는 교원의 교육활동 침해로 인정됐다.지역교보위는 학생과 보호자가 교사의 교육활동을 침해했는지 심의하는 기구다. 지난해 3월부터 학교에서 교육지원청으로 이관돼 운영 중이다.지난해 지역교권보호위 개최 건수는 2023년 5050건에 비해 소폭 감소했다. 교사노조연맹은 “지역교권보호위 소관이 학교에서 교육지원청으로 넘어가면서 교원들에게 약간의 문턱이 생긴 것 같다”고 했다. 다만 지난해에도 2020년(1197건)과 2021년(2269건), 2022년(3035건)에 비해 많은 수의 지역교권보호위가 열렸다.전체 지역교권보호위 개최는 ...

12:00