딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용해 교사와 학생들의 성 착취물을 제작한 고등학생이 경찰에 붙잡혔다.인천 연수경찰서는 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 편집 혐의로 고등학교 2학년 A군을 불구속 입건했다고 24일 밝혔다.A군은 중학생이던 2022년부터 인공지능(AI)을 이용한 딥페이크 기술로 교사 2명과 학생 등 10명의 얼굴을 나체 사진에 합성하면서 성 착취물을 제작한 혐의를 받고 있다.경찰은 A군 휴대전화의 디지털 포렌식을 의뢰해 100장 이상의 성 착취물을 확인한 것으로 파악됐다.경찰은 A군이 SNS 등을 통해 성 착취물을 공유한 사실이 확인될 경우 허위 영상물 유포 혐의도 추가로 적용할 예정이다.
21:29
경북 안동시선거관리위원회가 권기창 안동시장을 노골적으로 치켜세우는 이른바 ‘시장 찬양가’를 제작해 공개된 장소에서 재생한 안동시설관리공단 관계자(경향신문 12월4일자 14면)를 경찰에 고발하고 과태료를 부과했다. 딥페이크 영상물 표시 의무 규정이 공직선거법에 신설된 이후 첫 과태료 부과 사례다.안동시선관위는 인공지능(AI)을 이용해 지방자치단체장을 찬양하는 노래를 제작해 공개된 장소에서 선거구민들에게 들려준 혐의(공직선거법상 사전선거운동)로 공무원 A씨를 경찰에 고발했다고 22일 밝혔다.또 A씨와 A씨가 제작한 찬양가를 단체 대화방에 유포한 B씨에게는 공직선거법상 딥페이크 영상물 표시 의무를 위반했다며 각각 과태료 500만원을 부과하기로 했다.이번 조치는 2023년 공직선거법에 딥페이크 음향·이미지·영상물을 이용한 선거운동을 규제하는 조항이 신설된 이후 처음 내려진 처분이다.해당 조항은 선거일 전 90일 이전이라도 선거운동을 목적으로 AI 기술을 이용해 실제와 구분...
14:25
‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용해 자신을 가르치던 교사의 성 착취물을 제작, 유포한 혐의로 재판에 넘겨진 10대 고등학생이 실형을 선고받았다.인천지법 형사1단독 이창경 판사는 27일 선고 공판에서 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 편집 등 혐의로 기소된 A군(19)에게 단기 1년~장기 1년 6개월의 징역형을 선고했다. 또 A군에게 40시간의 성폭력 치료 프로그램 이수를 명령하고, 5년간 아동·청소년 및 장애인 관련 기관에 취업하지 못하도록 제한했다.앞서 지난 5월 결심공판에서 검찰은 A군에게 장기 5년∼단기 3년의 징역형을 구형했다. 소년법에 따르면 범행을 저지른 만 19세 미만 미성년자에게는 장기와 단기로 나눠 형기의 상·하한을 둔 부정기형을 선고할 수 있다.이 판사는 “A군은 공소사실을 모두 인정하고 반성하고 있으며 형사 처벌을 받은 전력이나 학교생활에 문제를 일으킨 적도 없다”고 설명했다.그러나 이 판사는 “...
11:13
홍콩 정부가 딥페이크(인공지능 기반 이미지 합성) 성범죄를 엄중히 처벌하기 위해 관련 법률 검토에 착수한다. 올 초 홍콩대학교에서 발생한 인공지능(AI) 성착취물 제작 사건을 제대로 처벌해야 한다는 여론이 확산하자 내놓은 대응이다.14일(현지시간) 사우스차이나모닝포스트(SCMP) 등 외신은 홍콩 혁신기술산업국(ITIB)이 “홍콩 내 AI 개발 및 응용 상황을 면밀히 주시하고 있으며 필요할 경우 관련 법률을 재검토하겠다”고 밝혔다고 보도했다.ITIB의 이번 발표는 지난 12일 홍콩대 학생 3명이 ‘hku.nfolderincident’라는 이름의 인스타그램 계정을 통해 공개한 성명에 따른 것이다. 이들은 지난 2월 한 법학과 남학생이 같은 학교 여학생 등 20~30명을 대상으로 700장이 넘는 딥페이크 이미지를 제작해 보관하다 적발된 사실을 밝혔다.피해자들은 3월 중순쯤 학교 측에 가해자에 대한 징계를 요구했지만 가해자는 처벌은커녕 경고 조치를 받는 데 그쳤다. 피해자...
22:19
대법원 양형위원회가 자금세탁 범죄와 응급구조 방해 행위 등에 대한 양형기준을 새로 만들고, 증권·금융범죄와 ‘딥페이크(인공지능을 이용해 특정 인물의 얼굴 등을 영상에 합성한 것)’ 등 디지털 성범죄의 양형기준은 손보기로 했다.양형위는 지난 23일 139차 전체회의를 열어 10기 양형위에서 향후 2년간 수행할 양형기준 설정·수정 대상 범죄를 선정했다고 24일 밝혔다.우선 양형위는 범죄수익은닉규제법·외국환거래법 위반 등 자금세탁 범죄에 대해 실효적 처벌을 위한 양형기준을 설정하기로 했다. 2회 이상 음주운전 또는 음주측정거부 등 일부 교통 범죄와 소방·구급대원의 구조·구급활동 방해 행위 등 응급의료·구조·구급 범죄에 대한 양형기준도 마련할 계획이다.증권·금융범죄 양형기준은 13년 만에 정비한다. 이는 최근 범죄 양상이 진화하고 자본시장법 개정으로 시세조종 등 법정형이 상향된 점을 반영한 것이다.디지털 성범죄 양형기준도 재설정한다. 딥페이크 범죄의 심각성이 두드러지며 국...
15:31
페이스북과 인스타그램의 모회사인 메타가 인공지능(AI)을 이용한 딥페이크 나체 이미지를 생성하는 앱을 광고한 홍콩 회사를 고소했다.20일 AFP통신과 홍콩 독립매체 더 위트니스에 따르면 메타는 최근 “온라인에서 나체 합성사진이 우려스럽게 증가하고 있다”며 SNS에서 딥페이크 사진 합성 앱의 홍보회사 역할을 해 온 조이 타임라인 홍콩을 상대로 28만9200달러(약 4억원)를 청구하는 소송을 홍콩 지방법원에 제기했다.메타가 법원에 제출한 소장에 따르면 이 회사는 페이스북과 인스타그램에 최소 170개의 비즈니스 계정을 만들어 사진 합성 앱 광고를 게재한 혐의를 받고 있다. 메타가 손해배상금으로 제시한 금액은 광고를 모니터링하고 지우는 데 들어간 비용이다.이 회사가 올린 광고는 지난 2월 기준 8만7000건이다. 일부 광고에는 AI가 생성한 노골적인 나체 이미지와 “사진을 올려 1분 만에 옷을 벗어요” “소녀의 옷을 지워요”라는 문구가 포함됐다. 이 같은 광고를 게시하는 것은...
12:40
‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용해 자신을 가르치던 교사의 성 착취물을 제작, 유포한 혐의로 재판에 넘겨진 10대 고등학생의 선고를 앞두고 교원단체가 엄벌을 촉구했다.더불어민주당 백승아·서미화 국회의원과 인천교사노조, 교육·여성단체 등은 17일 인천지방법원 앞에서 “디지털 성범죄 근절을 위해 교사 성 착취물을 제작한 10대 등 가해자들을 엄벌해야 한다”고 주장했다.인천교사노조는 딥페이크 디지털 성범죄 가해자 등에 대해 엄벌을 촉구하는 탄원서 67부와 7044명의 서명부를 인천지방법원에 제출했다.한 피해 교사는 “가르치던 제자에 의해 지난해 불법촬영과 딥페이크 성 착취물 제작이라는 참담한 피해를 본 후 사생활과 인격, 존재가 송두리째 무너졌다”며 “제가 피해를 증명하기 위해 학교, 경찰서, 재판정 앞에서 끊임없이 설명하고 해명해야 했다”고 호소했다.이어 “이 사건은 결코 저 한 사람만의 고통으로 끝나지 않는다”며 “이번 판결이 학교가 더 이상 ...
15:03
딥페이크 성착취물을 제작한 10대에게 벌금형이 선고됐다.광주지법 형사12단독 안지연 부장판사는 2일 같은 학교 여학생의 얼굴 사진으로 성착취물을 만든 혐의(정보통신망 이용 촉진 및 정보보호 등에 관한 법률 위반)로 기소된 10대 A군에게 벌금 500만원을 선고했다.A군은 2024년 8월 같은 학교에 재학 중인 여학생의 얼굴 사진으로 딥페이크 성착취물을 만들었다. 해당 성착취물은 온라인에서 신원이 파악되지 않은 사람에게 전달돼 사회관계망서비스(SNS)에 게시됐다.재판부는 “게시글의 내용, 표현의 정도 등을 고려하면 죄질이 불량하다. 피해자가 상당한 정신적 충격을 느꼈을 것으로 보인다”고 밝혔다.
11:25
경찰청이 독일 노르트라인베스트팔렌주 경찰과 공동으로 ‘허위조작 콘텐츠 진위여부 판별 시스템’ 개발에 착수했다고 26일 밝혔다.이날 경찰청에 따르면 허위조작 콘텐츠 판별 시스템 개발은 한국·독일의 과학치안 국제공동연구의 첫 사례다. 조작 콘텐츠를 탐지하기 위한 데이터 세트 구축과 통합시스템 개발을 목표로 2027년까지 3년간 진행된다.올해 초 공모 및 평가 절차를 거쳐 주관연구기관으로 숭실대가 선정됐고 성균관대, 연세대, 한컴위드가 참여하는 연합체가 국내 연구기관으로 선정됐다.독일 측에서는 노르트라인베스트팔렌주 범죄수사청의 추천을 받아 현장실사와 선정평가를 거쳐 부퍼탈 대학이 공동 연구기관으로 선정됐다.올해에는 생성형 인공지능(AI)을 이용해 만든 조작 영상(딥페이크)과 음성(딥보이스), 가짜뉴스를 탐지하기 위해 필요한 인공지능 학습용 데이터 세트 구축과 탐지모델 고도화를 추진한다. 내년부터는 이 데이터를 기반으로 인공지능이 자체 학습하는 머신러닝 모델의 개발부터 배...
10:24
교사를 상대로 딥페이크 성착취물을 제작해 사회관계망서비스(SNS)에 유포한 10대에 대해 검찰이 징역형을 구형했다.22일 법조계에 따르면 검찰은 전날 인천지법 형사1단독 이창경 판사 심리로 열린 결심 공판에서 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 편집 등 혐의로 기소된 A군(19)에게 장기 5년∼단기 3년의 징역형을 구형했다.소년법에 따르면 범행을 저지른 만 19세 미만의 미성년자에게는 장기와 단기로 나눠 형기의 상·하한을 둔 부정기형을 선고할 수 있다.A군은 지난해 7월 인공지능(AI)을 이용해 고등학교 교사 2명과 학원 선배·강사 등을 상대로 딥페이크 성착취물을 제작한 뒤 SNS에 유포한 혐의를 받는다.인천교사노동조합은 이 사건과 관련해 지난해 10월 교사 5410명이 참여한 피의자 엄벌 탄원서를 경찰에 제출하면서 교내 성범죄를 적극적으로 수사해달라고 촉구하기도 했다. 교육 당국은 교권보호위원회를 열고 중대한 교육활동 침해가 있다고 판단해...
10:19