AI, 인간의 친구가 될 수 있을까?

유튜브 채널 ‘루이커버리’(RuiCovery)의 주인공 ‘루이 리’는 딥페이크 기술이 만들어 낸 버추얼 휴먼, 가상 인간이다. 루이커버리 유튜브 캡처

“이 얼굴은 인공지능이 만든 가상 얼굴입니다.”

고개를 돌려, 미소 짓고, 입을 움직여 노래를 부른다. 팝송을 커버한 영상을 주로 올리는, 노래와 춤이 특기라는 22살 여성의 유튜버 루이. ‘가상’이라는 설명을 보지 않았다면 지극히 평범했을 루이의 여행 브이로그 영상에는 “무서운 세상이다“, ”보고도 안 믿긴다“, ”소름 끼친다“ 등의 댓글이 줄을 이었다. 어떠한 어색함도 없는 얼굴과 표정, 영상 속에 존재하지만 세상에 존재하지 않는 AI가 만든 얼굴. 가상의 인간, 버추얼 휴먼(Virtual human)인 ‘루이 리’는 ‘가상’이라고 보기 힘들 정도로 사람의 얼굴을 하고 있다.

‘루이’를 만든 디오비 스튜디오 오제욱 대표는 이런경향과의 전화 인터뷰에서 “처음 유튜브에 영상을 올렸는데 사람들이 너무 안 믿어서 저의 얼굴로 비포, 애프터를 비교하는 간단한 영상을 만들어서 올렸다. 학습의 단계를 낮춰서 적용하니 사람들이 ‘가상’이라는 것을 인식했다”고 말했다.

오 대표는 실존하는 얼굴 데이터를 이용한 '기계 학습(Machine Learning)'을 통해 실제 사람과 가까운 '루이'의 얼굴을 만들었다. 특정인의 얼굴을 영상에 합성하는 딥페이크(Deepfake)기술의 일종이지만 실존하는 인물의 이미지가 아니라 가상의 얼굴을 생성하고, 생성된 얼굴을 영상에 합성하기 때문에 기존 딥페이크와 차이가 있다는 게 그의 설명이다.

“누구나 제 2의, 제3의 인생을 살아볼 기회를 줄 수 있는 ‘가상 얼굴 분양 센터’를 세워 B2C 플랫폼 사업을 구상하고 있다.”

디오비 스튜디오는 루이와 같은 버추얼 휴먼을 만들어 계속 공개할 예정이다.

‘루이 리’의 얼굴은 7명의 얼굴 데이터를 수집한 뒤 립 러닝(기계 학습)을 통해 최대한 실존 인물과 비슷한 이미지로 그래픽을 산출해 만든 가상 얼굴이다. 디오비 스튜디오 제공

‘가상’과 ‘현실’. 그 경계를 지우는 AI 기술은 이미 우리 생활 곳곳에 스며들었다. 심심할 땐 말동무가 되어주는 챗봇, 상품과 정보를 찾을 때 효율성을 높여주는 최적화된 검색엔진, 주문한 상품이 배송되기까지 최단 경로를 계산하는 물류 시스템의 배송 알고리즘까지 생활 전반의 서비스에 AI가 관여하고 있다.

김명주 바른AI연구센터장(서울여자대학 교수)는 “AI 기술은 과거 인터넷이나 PC, 휴대폰보다 훨씬 빠른 속도로 발전하고 있다”며 “이전에는 불가능하던 부분이 많이 가능해졌다”고 말했다.

가상의 얼굴과 목소리는 실제와 가까워질수록 ‘가상’에 대한 수요를 확장시킨다. 인스타그램에서 팔로워 숫자가 300만명에 달하는 ‘릴 미켈라(Lil Miquela)’는 미국 AI 스타트업 ‘브러드’가 선보인 버추얼 인플루언서(가상 인플루언서)다. 미켈라는 각종 유명 패션 브랜드의 화보 모델을 맡으며 마케팅 산업의 새로운 바람을 불러일으켰다. 영국의 온라인 쇼핑몰 온바이( Onbuy )에 따르면 미켈라가 2019년 한 해에 벌어들인 수익은 약 896만 파운드(140억원)로 인스타그램 기반 버추얼 인플루언서 중 수입 1위를 기록했다. 시장이 확대되면서 한국 엔터테인먼트 회사들도 버추얼 인플루언서를 앞다투어 공개하기 시작했다. 지난 엠넷에서는 그룹 거북이의 멤버였던 고(故) 임성훈(터틀맨)의 이미지와 목소리까지 복원해 무대에 올렸다. 해당 영상은 조회수 670만 회를 기록할 정도로 큰 화제를 모았고, 그룹 거북이의 무대를 다시 접한 사람들은 ‘가상의 터틀맨’을 반가워했으며 감동도 받았다.

엠넷에서 방영된 <AI 음악 프로젝트-다시 한 번>에서는 AI기술을 이용해 그룹 거북이의 멤버였던 ‘터틀맨’ 고 임성훈씨의 모습과 음성을 완벽히 구현해 낸 바 있다.엠넷 제공

과학 기술이 발전할수록 오남용에 대한 지적은 꾸준히 제기돼 왔다. 특히 AI 기술은 생명공학의 윤리와 같이 한 번 세상에 공개된 이후에는 돌이킬 수 없다는 측면에서 위험성이 크다. 특정인의 얼굴이나 신체를 영상에 합성하는 딥페이크 기술은 90%가 음란물에 활용되고 있다는 조사가 있을 정도로 범죄에 취약한 것도 사실이다. 본인에게 동의를 받을 수 없는 상황에서 고인을 다시 부활시키는 것도 문제의 소지가 있다.

“돌아가신 분을 리바이벌시켜 상업용으로 사용해도 되는가. 이 부분은 잊힐 권리의 연장선에서 논의가 될 겁니다. 아마 AI 시대에 가장 바빠질 직업은 변호사가 아닐까 생각해요. 각각의 사례들이 기존의 법으로 판단이 안되니 논쟁이 벌어지게 될 테니까요.”(김명주 센터장)

최근 스타트업 스캐터랩이 출시한 AI 챗봇 ‘이루다’ 사건도 기술과 인간이 어떻게 공존해야 하는지에 대한 질문을 던졌다. 출시 한 달 만에 서비스가 종료된 ‘이루다’ 챗봇은 스무 살 여자 대학생으로 설정돼 친근한 말투를 무기로 3주 만에 80만명을 모으며 인기를 끌었다. 친근함이 독이었을까. 서비스 과정에서 소수자 차별 발언과 데이터 수집 과정에서 개인 정보 유출 논란, 일부 이용자들의 이루다를 향한 ‘성희롱’ 발언 등 논란이 끊이지 않았다.

김재인 경희대 비교문화연구소 교수는 이루다 사건을 두고 “알파고-이세돌 9단의 대결 이후 한국 사회에서 (AI 기술과 관련된) 가장 중요한 사건이었다”며 “알파고는 인공지능이 어떤 능력과 힘을 가졌는지 충격적으로 일깨워준 사건이었다면, 이루다는 인공지능 기술이 인간의 굉장히 깊숙한 영역까지 들어왔고 그만큼 이롭거나 해로울 수 있는 윤리적이고 사회적인 기술이라는 점을 깨닫게 되는 계기가 됐다”고 말했다.

‘이루다’를 통해 대중들은 AI 기술의 부작용을 처음으로 학습한 셈이다.

스캐터랩이 출시한 AI 챗봇 ‘이루다’는 기술과 인간이 어떻게 공존해야 하는지에 대한 질문을 던졌다.

한국에서 인공지능의 윤리가 처음 논의된 것은 ‘로봇윤리헌장 초안’이 나온 2007년 즈음이다. 그후 인간과 인공지능의 공존에 대한 윤리적인 고민은 진전되지 않다가 최근 이루다 사태를 기점으로 상황이 변화됐다. 김명주 센터장은 “인공지능이 활성화되면서 윤리에 대한 중요성들이 부각되고 문제들이 더 많이 드러난 것 같다”고 설명했다.

IT업계에도 대중들의 인식 변화를 계기로 윤리 기준과 관련한 대응을 준비 중이다. 카카오는 2018년 1월 ‘알고리즘 윤리헌장’을 발표해 전 직원을 대상으로 교육했으며, 네이버는 서울대학교 AI정책이니셔티브(SNU AI Policy Initiative·SAPI)와 협력해 ‘네이버 인공지능(AI)윤리 준칙’을 만들어 지난 2월 발표했다. SAPI의 공동 디렉터로 있는 서울대 법학전문대학원 임용 교수는 “개발 과정에서의 ‘다양성’은 선택이 아니라 필수라는 것을 배웠다”며 “기업의 조직원 구성부터 제품 기획과 디자인, 개발과 출시하는 전 단계에 걸쳐서 ‘다양성’이 확보되어야 하고 의사결정 과정에서도 (다양성이) 구현될 수 있어야 한다”고 강조했다.

루이를 만든 디오비 스튜디오 역시 기술이 오용될 가능성을 인지하고 있다고 설명했다. “루이가 처음 나오고 ‘로맨스캠(외국인 사칭 사기)’으로 악용될 수 있겠다는 댓글이 달렸어요. 저희도 문제점을 인식해 자체적으로는 디오비의 검색 엔진을 통해 불법적으로 합성된 영상이나 사진은 검증할 수 있는 시스템을 갖추려고 합니다.”(디오비 스튜디오 오제욱 대표)

지난 2월 네이버는 서울대 AI 정책 이니셔티브와 협업하여 ‘네이버 AI 윤리 준칙’을 발표했다.

기술에 대한 윤리는 만드는 과정에서만 중요한 것이 아니라 사용 단계에서도 중요하다. 전문가들은 개발 과정에서의 윤리 못지 않게 이용자들의 책임도 무시할 수 없다고 말한다. 김명주 교수는 “인공지능 윤리가 외국에서는 벌써 10년 됐는데 과거에는 주로 개발자들이 교육의 중심이었다면 지금은 ‘사용자들의 윤리’를 상당히 강조한다”고 말했다.

특히 이루다 사건의 중요한 논란 중의 하나는 이용자들이 20대 여성으로 설정된 AI를 향한 차별과 혐오의 발언이었다. 김 교수는 “AI가 발달된 미국의 경우에는 초등학생들을 위한 인공지능 윤리 교재도 이미 존재한다. 한국도 2025년 초·중·고 교과서 개편 때 들어갈 인공지능 윤리 교재가 내년부터 시범 사업에 돌입할 것”라고 말했다.

과학기술정보통신부가 지난해 12월 발표한 ‘인공지능 윤리기준’의 첫 번째 원칙은 ‘인간 존엄성 원칙’이다. 인공지능을 온전히 사람을 위한 기술로 쓰기 위해 AI와의 관계성을 자각하는 것이 중요하다는 의미다. 김재인 교수는 “AI와 인간은 친구가 될 수 없다”고 단정했다.

“친근함 또한 사실은 개발자가 의도해서 우리에게 제공하는 그런 종류의 서비스이지요. 인형과 비슷한 존재라고 생각하면 됩니다. 친구는 상호작용을 주고받는 관계라면 인형에게는 우리가 일방적으로 우리 감정을 투영해요. 인형처럼 가끔은 AI를 친구로 느낄지 몰라도 그것을 우리가 어떻게 사용할지 즉 일종의 도구로 인식하는 게 필요합니다.”(김재인 교수)

이세돌 9단이 5년 전 알파고와의 대결에서 패배했을 때 마이크로소프트사 창업자 빌게이츠는 인공지능을 두고 “잘못하면 인류의 마지막 기술일 수 있으며, 인간이 멸종될 수 있는 기술”이라며 AI와 함께 할 미래에 대해 우려를 표현한 바 있다. 인간의 편의를 위해 탄생한 AI가 인간의 미래에 어떤 영향을 미치게 될까.

“인공지능과 함께 살아갈 인간의 삶은 굉장히 유용하고 능력있는 도구들을 사방에 두고, 마치 인간의 감각기관처럼 확장되갈 것입니다. 하지만 10년 전 스마트폰이 초래할 오늘날의 상황을 상상하기 힘들었던 것처럼 우리에게 밀착된 인공지능 기술에 우리 삶이 어떻게 변화될지 알기 어렵습니다. 이 문제를 예언하기보다는, 밀착해서 변화를 관찰해가면서 발생 가능한 문제를 점검하는 자세가 필요하지 않을까 생각이 됩니다.”(김재인 교수)

AI 인공지능 딥페이크 이루다 루이 릴미켈라 AI윤리 버추얼휴먼