[정은진의 기술을 기술하다](4)막고 끊어도 무섭게 퍼지는 ‘독버섯’…가상공간의 지독한 전쟁

가짜뉴스와의 전쟁

그래픽 | 김덕기 기자 hajuk932@kyunghyang.com

러시아의 우크라이나 침공에서는 이전의 그 어떤 전쟁보다 테크 회사들의 직간접적이고 신속한 대응이 눈에 띈다. 우크라이나의 미하일로 페드로프 부총리는 경제 제재의 일환으로 러시아 사업 중단을 요청하는 서한을 여러 테크 회사에 공개적으로 보냈고, 삼성전자를 비롯한 많은 회사들이 이에 호응했다. 우크라이나를 돕는 손길도 많다. 테슬라 최고경영자(CEO) 일론 머스크는 우크라이나에 인터넷 사용을 위한 스타링크 서비스를 지원했다. 에픽게임즈는 새 시즌 오픈 첫 2주간의 포트나이트 수익금을 기부하겠다고 공언했고, 첫날 하루 만에 약 440억원이 모였다. 이더리움 창시자 중 한 명인 비탈릭 부테린은 러시아 침공을 공개적으로 비난하면서 우크라이나에 기부할 것을 독려했다.

이번 전쟁은 그 어느 때보다 전 세계를 아우르는 여론전의 양상을 보이고 있기도 하다. 페드로프 부총리는 러시아 사업 중단을 요청하는 서한을 트위터에 공개하면서 각 기업의 트위터 계정을 인용했고, 전 세계 많은 사용자들이 댓글을 달아서 기업들의 빠른 대응을 촉구했다. 러시아는 침공 전부터 이런 여론전에 각종 인터넷 미디어를 사용하는 것으로 잘 알려져 있었고, 우크라이나 정부는 실리콘밸리의 빅테크 기업들에 러시아 정부가 가짜뉴스를 퍼뜨려 여론을 조작하려는 시도를 막아달라고 요청했다. 어째서 이런 요청이 언론사가 아닌 테크 기업들을 향하는 것일까?

사진과 동영상으로 퍼지는 가짜뉴스

지난 2월27일 오후 서울 종로구 보신각 앞에서 재한 러시아인 주최로 열린 우크라이나 전쟁 반대 집회에서 한 참가자가 든 우크라이나 국기 뒤로 전쟁 행위 중단을 촉구하는 팻말이 있다. 연합뉴스

우크라 전쟁은 유례없는 여론전
러시아는 방아쇠를 당기기 전부터
허위 영상 등으로 명분 쌓기 시도

지난 2월 미국 정부는 러시아가 우크라이나 침공을 위한 여론 형성을 목적으로 우크라이나 정부군이 러시아 영토나 우크라이나 동부의 친러 성향 분리주의자를 공격하는 내용의 허위 영상을 제작할 계획이 있다고 발표했다. 배우에게 가족을 잃고 울부짖는 연기를 시켜서 러시아인들의 분노를 일으키고 전쟁의 명분을 만들고자 한다는 것이다.

다른 문맥에서 찍힌 사진이나 비디오를 재사용하거나 아예 허위 영상을 이용해서 혼란을 야기하는 일은 예전부터 있었던 일이다. 2017년 시리아 난민 청년이 독일의 앙겔라 메르켈 총리와 찍은 셀피가 난민 출신 테러리스트와 메르켈 총리의 관계를 증명하는 사진이라고 허위뉴스에 사용된 일은, 그 청년의 일상을 파괴했고 메르켈 총리의 정치적 입지에도 영향을 미쳤다. 2018년에는 인도에서 딥페이크(Deepfake) 기술을 이용해 정부에 비판적인 여성 언론인의 얼굴이 음란물과 합성된 영상으로 유포된 일이 있고, 같은 해 멕시코에서는 당시 대통령이던 안드레스 마누엘 로페스 오브라도르가 “(선거 과정에) 선불카드를 뇌물로 받았다”고 말하는 음성 파일이 유포되어 사회적으로 큰 혼란을 불러일으켰다. 이 음성 파일은 딥페이크 기술로 만든 가짜였다. 이런 허위 사진과 동영상들은 전통적인 언론에 보도되는 것이 아니라 스트리밍 플랫폼에 올라오고, 사회관계망서비스(SNS)나 메신저를 통해 퍼져나간다.

가짜뉴스 판명을 돕는 자연어처리 기술

한번 퍼지면 삭제하거나 정정하기 어려운 가짜뉴스 유포를 플랫폼에서 어떻게 저지할 수 있을까? 일단 올라온 포스트가 가짜뉴스인지 판명하는 일부터 시작한다.자연어처리(Natural Language Processing) 소프트웨어는 딥러닝을 이용해서 이 글이 어떤 주제에 관한 것인지 알아내고, 글에 따라서는 글의 성향이 호의적인지 비판적인지 분류하기도 한다. 키워드들을 통해 주제를 파악하고, 어떤 형용사와 부사, 문장 구조 등이 사용되었는지 분석해서 전체적인 성향을 알아낸다. 예를 들어 코로나19 백신에 관한 포스트라면, ‘백신’ 혹은 백신제조사가 글에 등장해서 백신 관련 글이라는 것을 알 수 있다. ‘안심’ 같은 단어가 함께 등장한다면 호의적인 글이라고 판단할 수 있다. 이런 정보를 ‘라벨’로 만들어서 글마다 관련 정보로 저장한다. 동영상이라면 음성을 텍스트로 변환하여 자연어처리 소프트웨어를 사용한다.

소프트웨어가 알아낸 성향이 어느 정도 이상의 호의나 부정적인 감상을 포함한 경우, 직원에게 알려서 리뷰를 하도록 하기도 한다. 직원의 리뷰 결과에 따라 포스트를 지우는 선에서 끝나기도 하고, 계정을 막기도 한다. 전 세계적으로 쓰이는 페이스북으로 유명한 메타는 최근 러시아 국영 미디어 계정 4개를 닫았고, 앞으로 올라오는 포스트에 대해서도 꾸준히 라벨을 붙이는 작업을 할 예정이다.

사실 이런 기술은 사용자들의 제품 리뷰를 지적자산으로 간주하는 아마존이나 식당, 서비스 리뷰를 비즈니스모델로 삼고 있는 옐프(Yelp) 같은 회사에서 오래전부터 개발하고 사용해온 것이다. 리뷰가 좋은 상품이 검색결과에서 노출도 더 많고, 판매량이 올라간다는 것이 알려져 있어 많은 판매자들이 리뷰 조작을 시도하기도 하고, 반대로 사실과 다른 악성 리뷰를 하는 사용자들도 있어 감독이 필요하다. 하지만 방대한 양의 리뷰를 일일이 직원이 검수할 수는 없으므로 자연어처리 소프트웨어를 이용해 자동으로 1차적인 검수를 한다.

2021년 아마존은 별점과 리뷰, 또는 판매량을 조작한 업체 5만여개를 퇴출시켰고, 향후 조작된 리뷰에 속아 물건을 산 소비자에게는 약 120만원의 보상금을 업체가 지불하도록 하겠다고 발표했다.

광고 플랫폼으로 특정 계층을 겨냥

허위 정보를 특정 사용자에게 노출시키는 방법으로 광고 플랫폼을 사용할 수도 있다. 디지털 광고 플랫폼은 사용자의 신원을 모르더라도 사용자가 방문하는 웹사이트나 선호하는 글, 기존에 클릭한 광고 정보 등을 통해 사용자의 성별, 연령대, 국적, 거주지역 등 많은 정보를 높은 확률로 유추할 수 있다. 이 광고 플랫폼을 사용하면 특정 계층의 사용자들에게만 정보를 전달할 수 있다. 이런 시스템은 이미 정치 캠페인에 쓰이고 있다. 2016년 미국 대통령선거를 앞두고 러시아 해커들이 페이스북 광고 플랫폼을 이용해서 특정 후보에게 더 유리한 광고를 많은 투표권자들에게 보냈고, 실제로 이 광고들이 선거 결과에 영향을 미쳤다는 것이 중론이다.

정보 전달을 넘어 광고를 통해 수익을 올릴 수도 있다. 전 세계를 상대로 전쟁자금 모금 캠페인을 할 수도 있고, 우크라이나에 기부하라는 허위 광고를 통해 사용자의 의도와 반대로 러시아의 전쟁자금으로 사용할 수도 있다. 메타는 러시아 국영 미디어가 페이스북 광고 플랫폼을 사용하거나 수익화하는 것을 막았고, 트위터는 러시아 성향의 광고를 제한했다. 구글은 동영상 사이트 유튜브를 포함, 러시아 관영 매체들이 구글 광고를 이용해서 수익을 낼 수 없도록 했다.

추천 알고리즘 조작도 가능

새 e메일 주소 하나면 계정 생성
인터넷은 ‘가짜’의 통로가 되고
추천 알고리즘까지 역이용한다

가짜뉴스나 허위 광고가 인터넷 매체를 선호하는 이유 중 하나는 상대적으로 적은 비용 때문이다. 페이스북이나 트위터에 계정을 만드는 데에는 새 e메일 주소 하나만 있으면 되고, 새 e메일 주소를 만드는 비용은 거의 0원에 가깝다. 사실 스팸 e메일이 없어지지 않는 이유도 마찬가지다. e메일을 보내는 데 드는 비용이 거의 0원이고, 스팸을 보내서 그 e메일 계정이 막히면 새 계정을 만드는 데에 드는 비용도 거의 0원이다. (완전히 0원이라고 할 수 없는 이유는 인터넷 사용비와 기기 사용비 등이 들어가기 때문인데, 스팸 e메일 하나당 비용을 생각하면 거의 0원이다.) 게다가 한 사람이 여러 계정을 만들 수 있기 때문에 서로의 포스트와 동영상이 알고리즘의 추천을 받을 수 있도록 조작하는 것도 가능하다.

동영상 사이트나 SNS 서비스의 경우, 사용자가 서비스를 이용하는 시간이 길수록 그 서비스의 가치가 높다고 추정한다. 시간이 길수록 그 서비스에서 제공하는 광고에 노출되는 횟수도 늘어나고, 그 서비스에서 화제가 되는 상품이나 뉴스가 그만큼 더 영향력이 커지기 때문이다. 이런 서비스들은 자사의 이익을 극대화하기 위해 사용자 한 명 한 명의 성향을 최대한 파악하는 인공지능 알고리즘을 개발하고, 이 알고리즘을 이용해 사용자가 좋아할 것 같은 글이나 동영상을 가장 잘 보이는 곳에 배치한다. 이렇게 추천받은 글이나 동영상이 이어지면 사용자가 그 서비스를 사용하는 시간이 늘어나기 쉽다.

가짜뉴스를 유포하는 사람들은 이 시스템을 역으로 이용한다. 겨냥하고자 하는 계층과 비슷한 인적 정보를 사용해서 여러 계정을 만들고, 그 계정들에서 가짜뉴스와 허위 정보가 포함된 글이나 영상을 올리고, 서로의 글과 영상을 공유하고, 댓글을 달고, ‘좋아요’를 눌러서 비슷한 프로파일을 가진 다른 사용자들에게 노출될 확률을 높인다. 이런 작업은 새로운 계정을 다수 만드는 것에서 시작하기 때문에, 트위터의 경우 러시아에서 새 계정을 만드는 것을 일시적으로 중지했다.

러시아의 보복, 분리되는 인터넷

테크 기업들의 과감한 제재와
러의 보복성 차단으로 분리됐지만
정보 통제를 더 쉽게 만들어줘

장벽 허물기에 기여한 인터넷은
현실의 전쟁을 고스란히 반영
세계가 평평한 글로벌 시대는
가상공간에서도 존재하지 않는다

페이스북, 트위터, 구글의 이러한 조치가 여론전을 종식시켰다고 할 수는 없다. 러시아 정부는 트위터와 페이스북, 인스타그램 접속을 차단하고, 메타를 ‘과격파 조직’으로 규정했다. 최근 러시아의 우크라이나 침공을 ‘해방’이라고 표현한 동영상을 차단한 유튜브는 곧 접속을 차단당할 것으로 보인다. 테크 기업들의 제재와 러시아 정부의 보복성 차단은 러시아를 인터넷상에서 분리시키는 결과를 낳고 있다. 러시아 국민들은 정부가 통제하지 않는 정보를 얻기가 더 어려워졌고, 다른 나라에 사는 가족, 친지, 친구들과 연락을 하는 것도 점점 더 힘들어지고 있다.

이렇게 인터넷이 분리되는 현상을 ‘스플린터넷(Splinternet)’이라고 하는데, 중국이 ‘만리방화벽’을 이용해 자국민들이 서방 언론을 쉽게 접할 수 없도록 하고 다른 나라의 서비스 대신 중국 내에서 개발된 서비스만 사용할 수 있도록 하는 것처럼, 인터넷상의 국가 간 정보통신에 장벽이 세워지고 있다는 뜻이다.

분리된 인터넷은 여론전에서 정보의 통제를 더욱 쉽게 만들어준다. 가짜뉴스가 퍼지는 것을 막기 위한 조치들이 인터넷 분리의 가속화로 이어져 진짜뉴스에 대한 접근성을 떨어뜨리고 있다는 것은 아이러니하다. SNS와 동영상 사이트들은 현지의 생생한 소식을 전 세계로 알리며 ‘아랍의 봄’ 같은 시민운동을 도왔지만, 분리된 인터넷에서 그런 효과를 기대하기는 어렵다. 표현의 자유와 망중립성을 강조했던 기존의 인터넷은 전 세계 사용자들 사이의 시간과 거리의 장벽을 허무는 데에 큰 공헌을 했지만, 이제 인터넷은 현실공간에서의 전쟁을 가상공간에 그대로 반영하고 있다.

우리가 당연하게 생각했던 ‘세계가 평평한’ 글로벌 시대는 팬데믹으로 흔들리기 시작해 이제 가상공간에서도 더 이상 존재하지 않는다.

▶정은진 교수

[정은진의 기술을 기술하다](4)막고 끊어도 무섭게 퍼지는 ‘독버섯’…가상공간의 지독한 전쟁

서울대 전산과학과를 졸업하고 미국 오스틴에 있는 텍사스주립대학에서 전산과학 석·박사 학위를 받았다. 현재 샌프란시스코대학 부교수로 재직 중이다. 분산시스템과 인터넷에서의 보안을 연구했고, 최근에는 게임이론을 이용해서 합리적인 사람들이 블록체인처럼 탈중앙화된 시스템을 안전하게 사용할 수 있게 해주는 방법을 연구하고 있다. 최신 기술의 발전을 가까이 볼 수 있는 실리콘밸리에서 컴퓨터과학을 오래 가르치면서 기술이 사회에 미치는 영향에 대해 깊이 생각하게 되었고, 그 영향력을 선한 방향으로 이끌어가기 위해서는 더 많은 사람들이 기술을 쉽게 이해할 수 있어야 한다고 믿는다.

플랫폼 가짜뉴스