언스플래쉬(Steve Johnson)

마이크로소프트(MS)와 오픈AI 등 주요 인공지능(AI) 기업들이 유해한 성적 딥페이크 이미지 확산을 막기 위해 조치를 취하기로 했다.

12일(현지시간) AP통신에 따르면 이날 미 백악관이 발표한 서약에서 AI 기업들은 “적절한 경우 및 (AI) 모델의 목적에 따라 AI 학습 데이터 세트에서 나체 이미지를 자발적으로 제거하겠다”고 약속했다. 미국 정부가 중재한 이번 서약에는 MS와 오픈AI를 비롯해 어도비, 앤트로픽, 코히어 등이 동참했다.

미국 정부는 이미지를 기반으로 한 아동 성학대와 친밀한 관계에서의 동의 없는 성인 딥페이크 이미지 제작을 막기 위해 광범위한 캠페인을 벌이고 있다. 백악관 과학기술정책실은 이런 이미지가 “불균형적으로 여성과 어린이, 성 소수자를 표적 삼아 급증했다”며 “지금까지 가장 빠르게 증가하는 AI의 유해한 사용 사례 중 하나로 떠올랐다”고 지적했다.

공공 웹사이트에서 데이터를 수집하는 비영리단체 커먼 크롤도 이번 서약에 부분적으로 참여했다. 커먼 크롤은 AI 챗봇 이미지 생성기를 훈련하는 데 사용되는 주요 데이터 저장소다. 커먼 크롤은 앞으로 책임감 있게 데이터를 수집하는 등 이미지 기반 성적 학대로부터 데이터를 보호하기 위해 노력하기로 했다.

이날 MS를 비롯해 메타, 틱톡, 범블, 디스코드 등은 미국 여성폭력방지법 제정 30주년과 연계한 별도 서약을 통해 이미지 기반 성학대 방지를 위한 자발적 원칙을 발표했다.