평소 유튜브를 즐겨 보는 주부 A씨(62)는 한 온라인 광고를 보고 주름 제거기를 샀다 낭패를 봤다. 광고 속 중후한 얼굴의 의사를 믿었건만, 그 의사는 실제 사람이 아닌 인공지능(AI) 생성물이었다. A씨는 “살 빼는 약부터 각종 건강기능식품, 아이들 키 크는 약까지 속을 뻔한 적이 한두 번이 아니다”라고 말했다.

장·노년층을 울리는 이른바 ‘AI 가짜 의사’ 등 허위·과장 광고를 막기 위해 당국이 칼을 빼들었다. AI 생성물은 별도 표기를 의무화하고 징벌적 손해배상제로 제재를 강화하는 등 대응에 나섰다.

정부는 10일 정부서울청사에서 김민석 국무총리 주재로 ‘제7회 국가정책조정회의’를 열고 이 같은 내용의 ‘AI 등을 활용한 시장 질서 교란 허위·과장 광고 대응 방안’을 발표했다.

방송미디어통신위원회(방미통위)는 먼저 AI 허위·과장 광고 유통을 사전에 막기 위해 플랫폼 등에 ‘AI 생성물 표시제’를 도입한다. AI 생성물을 제작·편집해 게시하는 자는 AI 개입 여부를 알 수 있도록 해야 한다.

제작자는 ‘AI로 만들었음’ 워터마크, 플랫폼은 ‘제대로 표시했나’ 관리

또 플랫폼 이용자는 AI 생성물 표시를 제거 또는 훼손할 수 없으며, 플랫폼 업체는 이 표시가 제대로 이뤄지는지 관리해야 한다.

이는 내년 1월 시행 예정인 AI 기본법이 정한 ‘AI 생성물 의무 표시제’와는 별개 조치로, AI 기본법은 AI 사업자의 표시 의무를 규정하고 있다.

이미 AI 허위·과장 광고가 유통된 경우에는 빠른 차단에 나선다. 방미통위와 방송미디어통신심의위원회(방미심위)는 식·의약품과 화장품·의약외품·의료기기 등 AI 허위·과장 광고가 빈발하는 영역의 서면 심의 대상을 추가한다.

서면 심의 대상이 되면 심의 요청 후 24시간 내에 심의가 이뤄져 빠른 차단이 가능해진다. 국민 생명, 재산 피해 우려가 커 시급한 조치가 필요한 경우에는 방미통위가 플랫폼사에 직접 긴급 시정 요청을 할 수 있는 절차를 도입해 심의 완료 전 차단이 이뤄질 수 있게 한다.

AI 허위·과장 광고자에 대한 제재도 강화한다. 공정거래위원회와 식품의약품안전처는 악의적인 허위·조작 정보 유통 행위에 대한 징벌적 손해배상(손해액의 최대 5배)을 도입하고, 허위·과장 광고에 대한 과징금도 대폭 상향하기로 했다.

정부는 대책에 포함된 법령·제도 개선 등을 조속히 추진하고, 플랫폼 업계와 소비자단체 등 이해관계자와도 긴밀하게 소통할 계획이다.

AI 기술 발달로 등장한 AI 가짜 전문가 광고는 유튜브, 인스타그램 등 SNS에서 기승을 부리고 있다. 특히 식·의약품 분야를 중심으로 광고가 범람하면서 디지털 취약계층인 노년층 피해가 속출했다. 이재명 대통령은 지난 10월 근본적 대책 강구를 주문하기도 했다.