‘AI 합성’ 여학생 나체 사진 집단 유포…스페인 사회 ‘발칵’

소도시의 11~17세 20여명 피해…용의자도 미성년자

‘딥페이크’ 전 세계적 확산 속 법적 공백 우려 목소리

배우 에마 왓슨의 얼굴인 것처럼 나타나는 AI 기반 딥페이크 광고. NBC뉴스 캡처

스페인의 한 도시에서 인공지능(AI)으로 합성된 아동·청소년들의 나체 사진이 온라인에 집단으로 유포되면서 스페인 사회가 충격에 빠졌다.

23일(현지시간) BBC와 엘파이스 등에 따르면 최근 스페인 엑스트레마두라주 알멘드랄레호 마을에서 AI로 만들어진 10대 여학생들의 나체 사진이 사회관계망서비스(SNS)에서 다수 확산됐다. AI 기반 딥페이크 기술로 옷을 입고 있는 평범한 모습이 담긴 10대 소녀들의 진짜 사진을 이용해 나체 상태의 가상 이미지가 만들어진 것이다.

인구 3만명의 알멘드랄레호에서만 현재까지 11~17세 아동·청소년 20여명이 피해를 본 것으로 알려졌다. 이 사건 후 일부 피해 소녀들은 집 밖으로 나가지 못하는 등 고통을 호소하고 있다. 14세 딸을 둔 마리아 블랑코 라요는 “어느 날 딸이 학교에서 돌아오더니 ‘엄마, 상반신을 벗은 제 사진이 돌아다니고 있어요’라고 말했다”면서 딸에게 ‘그런 사진을 찍은 적 있냐’고 물어보자, 딸은 “아니다. 가짜 사진인데, 우리 반에도 이런 일을 겪은 또 다른 여학생이 있다”고 답했다.

피해를 입은 여학생 28명의 부모는 피해 지원 그룹을 구성해 경찰에 고소장을 제출했다. 스페인 경찰은 현재 수사를 진행 중이다. 신원이 확인된 가해 용의자들 10여명 역시 대부분 12~14세의 미성년자로 드러났다. 이들은 왓츠앱, 텔레그램 등 온라인 메신저를 통해 사진을 유포했다. 이 문제를 SNS를 통해 공론화한 지역 산부인과 의사 미리암 알 아디브는 “강도와 같은 범죄 피해를 당할 때 피해자들은 숨지 않고 고소를 하지만, 성범죄인 경우 수치심을 느끼고 숨는 경우가 많다”면서 “‘네 잘못이 아니다’라는 메시지를 전하고 싶었다”고 밝혔다.

전문가들은 이번 사건의 경우 AI로 제작된 나체 사진이기 때문에 법적으로 매우 복잡한 사안이며, 법적 공백이 존재한다고 지적했다. 기술 변화에 따른 범죄에 대응하기 위해 법 제정을 신속히 해야 한다는 목소리도 나온다. 현재 스페인 형법은 AI를 활용한 이러한 유형의 범죄를 별도로 분류하거나 고려하지 않는다. 이번 사안과 같이 AI를 활용한 성범죄의 경우 노출이 있는 신체 사진들이 실제로 사적으로 촬영된 것이 아니며, 피해자들로부터 이 사진을 강탈하지도 않았고, 채팅을 통해 강요한 것도 아니라는 점에서 기존의 법을 적용하기 어렵다는 것이다. 지난해 9월 유럽연합(EU) 집행위원회도 이미 이러한 문제에 대해 경고하며 AI로 인한 범죄 피해에 대한 새로운 구체적인 규정 도입을 제안한 바 있다.

AI를 활용한 성범죄는 스페인뿐 아니라 이미 전 세계에서 확산하고 있다. 특히 한국은 딥페이크를 이용한 범죄가 가장 많이 발생하는 나라 중 하나다. 2019년 네덜란드 사이버 보안 연구 회사 ‘딥트레이스’가 발표한 보고서에 따르면, ‘딥페이크 포르노’의 전 세계 피해자 25%는 한국 여자 연예인이었다.

전 세계적으로 AI를 악용한 범죄가 확산하자 오픈AI의 DALL-E 등 일부 기업의 AI 프로그램은 폭력적·성적 이미지를 생성하는 기능을 제한한다고 밝혔지만, 이미 온라인에는 AI로 만들어진 수많은 사진들이 떠돌아다니고 있다. 지난 3월 SNS에는 딥페이크로 만들어진 엠마 왓슨의 음란 광고가 화제가 되는 등 유명 여자 연예인들이 가장 먼저 범죄의 표적이 됐다.

과거 딥페이크를 통해 주로 유명인들을 대상으로 한 이미지가 만들어졌다면, 최근에는 일반인을 대상으로 한 이미지도 다수 생성되고 있다. 딥페이크 영상은 최근 AI 기술을 활용해 더 정교한 이미지를 쉽게 만들 수 있다는 점에서 더 심각해졌다. 온라인 애플리케이션(앱) 등을 통해서 누구나 쉽게 접근할 수 있게 된 데다, 이러한 유형의 범죄 피해자 및 가해자의 연령이 갈수록 어려지는 점도 커다란 문제다. 스페인 경찰의 아동보호 책임자 하비에르 이스키에르도는 “이런 종류의 범죄가 더 이상 다크웹이나 아동 포르노를 다운로드하는 사람에게만 국한된 것이 아니다”라며 “우리가 직면하고 있는 새로운 문제는 미성년자들이 어린 나이에 이런 기술에 접근할 수 있게 된 것”이라고 말했다.