플랫
플랫

플랫팀

여성 서사 아카이브

틱톡·인스타그램 등 사회관계망서비스(SNS)에서 가상·타인의 얼굴을 덧씌우는 딥페이크(인공지능 기반 얼굴 합성 변조 기술) 영상이 인기를 끌고 있다. SNS 이용자들은 플랫폼이 제공하는 필터 기능을 이용하거나 관련 앱을 다운로드 받아 영상을 제작한다. 최근엔 딥페이크에서 한 단계 더 나아가 ‘디지털 더블’ 기술을 활용한 가상 인간이 CF 스타로 활약하는 등 관련 시장이 크게 성장 중이다.

대표적인 딥페이크 앱은 우크라이나의 AI회사 네오코텍스트가 개발한 ‘리페이스’와 중국의 이노베이셔널 테크놀로지스가 개발한 ‘페이스플레이’다. 이들 앱은 이용자들의 얼굴을 유명 영화·TV프로그램의 장면 속 인물과 합성해 보여준다. 합성 대상은 국내외 연예인부터 스포츠 스타까지 다양하다. 얼굴 사진만 있다면 타인의 얼굴도 제약없이 영상에 합성할 수 있다.

이미지컷

이미지컷

데이터분석 솔루션 모바일인덱스에 따르면 지난달 리페이스 국내 월간활성이용자(MAU)는 전월 대비 71% 증가한 10만4658명을 기록했다. 페이스플레이도 출시 보름만인 지난 8월15일 이용자 2만7215명이 사용한 인기 앱으로 등극했다. 지난 16일 기준으로 인스타그램에는 리페이스와 관련된 게시물이 약 65만개, 페이스플레이 관련 게시물은 3만4000개 이상 게시됐다.

딥페이크 기술에서 나아가 가상 인간을 생성하는 ‘디지털 더블’ 기술도 상용화됐다. 각기 다른 얼굴을 짜깁기하는 딥페이크와 달리 디지털 더블은 3D(입체)로 실제 모델을 직접 촬영한 뒤 얼굴을 분석, 기존 얼굴을 완벽하게 가상 얼굴로 대체할 수 있어 실제에 가깝다는 게 업계 설명이다.

그간 영상합성 기술에 대한 인식은 부정적 반응이 더 컸다. 딥페이크를 활용해 제작된 영상이 성범죄 등에 이용되는 등 악용사례가 속출했기 때문이다. 최근 IT(정보기술)·게임업계에서 딥페이크 기술을 새롭게 활용하면서 이러한 인식에도 변화의 바람이 불고 있지만, 윤리적 문제나 범죄 위험에서 아직 완전히 자유롭지는 않다.

국내 이용자 10만명을 기록한 딥페이크 앱 ‘리페이스’(왼쪽)와 출시 한 달 만에 100만회 이상 다운로드 되며 인기를 끈 딥페이크 앱 ‘페이스 플레이’(오른쪽)

국내 이용자 10만명을 기록한 딥페이크 앱 ‘리페이스’(왼쪽)와 출시 한 달 만에 100만회 이상 다운로드 되며 인기를 끈 딥페이크 앱 ‘페이스 플레이’(오른쪽)

딥페이크를 손쉽게 탐지할 수 있는 기술도 속속 등장하고 있다. 마이크로소프트는 지난 1월 세계 최대 가전 전시회 CES에서 영상의 퇴색 정도를 분석해 딥페이크 영상물을 구분하는 탐지 기술을 선보였고, 이흥규 카이스트 전산학부 교수 연구팀도 자체 기술을 이용해 만든 딥페이크·사진 위변조 탐지 앱 서비스 ‘카이캐치’를 지난 3월 상용화했다. 페이스북 AI(인공지능)도 미시간주립대학과 함께 딥페이크 탐지 플랫폼 개발을 진행 중이다.

부모 등 성인이 딥페이크 기술을 이용한 장난으로 영유아에게 공포·불안감을 조성하는 사례도 늘고 있다. 갑자기 말로 변하는 영상 속 부모의 얼굴을 본 아이들이 깜짝 놀라거나 울음을 터뜨리는 것이 대표적이다. 이를 본 일부 누리꾼들은 ‘아동학대’라고 지적했다.

인스타그램과 틱톡에서 유행 중인 ‘말로 변하는 부모’ 영상. 영유아기 아동 대부분이 울음을 터뜨리거나 놀라는 모습을 보였다. 인스타그램·틱톡 캡쳐

인스타그램과 틱톡에서 유행 중인 ‘말로 변하는 부모’ 영상. 영유아기 아동 대부분이 울음을 터뜨리거나 놀라는 모습을 보였다. 인스타그램·틱톡 캡쳐

고우현 세이브더칠드런 매니저는 “실제와 가상을 구분하지 못하는 영유아의 경우 생존과 직결된 보호자가 다른 존재로 변하는 모습에 정서적 충격과 두려움을 느낄 수 있다”며 “또한 이러한 모습을 사회관계망서비스(SNS)에 아동의 동의 없이 게시하는 것 또한 권리 침해가 될 수 있다”고 설명했다.

앞서 UN아동권리위원회는 지난 2월 “디지털 기술이 어린이의 인지적, 정서적, 사회적 발달에 유해한 영향을 미치지 않고 사용될 수 있도록 부모와 보호자에게 적절한 훈련과 조언을 제공해야 한다”고 명시한 ‘디지털 환경 관련 아동권리에 대한 일반 논평 제25호’를 채택했다.


이유진 기자 yjleee@khan.kr

TOP
경향신문 회원을 위한 서비스입니다

경향신문 회원이 되시면 다양하고 풍부한 콘텐츠를 즐기실 수 있습니다.

  • 퀴즈
    풀기
  • 뉴스플리
  • 기사
    응원하기
  • 인스피아
    전문읽기
  • 회원
    혜택