중앙선거관리위원회 로고. 한수빈 기자

중앙선거관리위원회가 9일 오는 6·3 지방선거 선거운동을 위해 허위 딥페이크(인공지능을 활용한 합성·조작) 영상을 제작해 유포한 입후보 예정자를 경찰에 고발했다. 2023년 12월 딥페이크 영상을 이용해 허위사실을 공표하는 행위를 가중처벌하는 규정이 공직선거법에 신설된 이후 최초로 고발된 사례다.

울산남구 선관위는 이날 ‘외국의 유명 시사 주간지에서 ○○의 발전을 이끌 인물로 A를 선정했다’ 등의 내용을 담은 허위 딥페이크 영상을 인공지능(AI)으로 제작한 후, AI로 제작한 사실을 영상에 표시하지 않고 SNS에 게시·유포한 혐의로 A씨를 고발했다.

현행 공직선거법에 따르면 딥페이크 영상인 것을 표시하지 않고 선거에 당선될 목적으로 후보자나 후보자가 되고자 하는 자에게 유리한 허위사실을 공표한 사람은 5년 이하의 징역 또는 5000만원 이하의 벌금에 처할 수 있다. 선관위는 경찰 고발과 별도로 해당 영상이 AI 생성물임을 표시하지 않은 것과 관련해 A씨에게 500만원의 과태료를 부과했다.

지난 1월에도 강원속초시 선관위가 AI 생성물임을 표시하지 않고 자신이 지지하는 지방선거 입후보 예정자를 찬양하는 노래를 SNS에 게시한 사람에게 과태료 500만원을 부과했다.

공직선거법은 선거일 90일 전에 선거운동을 위해 AI 등을 이용해 가상의 음향·이미지·영상을 제작·편집·유포하는 경우, 해당 정보가 AI 기술 등을 이용해 만든 가상의 정보라는 사실을 인식할 수 있도록 영상 등에 표시해야 한다고 규정한다. 이를 위반하는 경우 1000만원 이하의 과태료가 부과될 수 있다.

선관위 관계자는 “지방선거를 앞두고 위법한 딥페이크 영상 등의 확산을 차단하기 위해 ‘딥페이크 등 허위사실 공표·비방 특별대응팀’을 운영하고 있다”며 “유권자의 올바른 판단을 저해하고 선거의 공정성을 훼손하는 딥페이크 영상 유포자에 대해 강력히 대응할 방침”이라 말했다.