페이스북을 하다 보면 문득 뭔가 잘못 돌아가고 있는 게 아닌지 의심스러운 때가 있다. 세상이 너무 좋아 보이는 때다. 어쩌면 이렇게 내 생각과 같은 사람들이 많은지. 그들은 내가 좋아라 할 만한 말만 하고, 내가 미워하는 것을 함께 미워한다. 그들과 함께 ‘좋아요’를 주고받다가 깨닫게 된다. 세상이 정말 페이스북과 같다면 이렇게 엉망진창일 리가 없지 않은가.

페이스북은 ‘내게만’ 좋은 세상을 보여주지 않는다. ‘신박하게도’ 모두에게 각자 좋은 세상을 보여준다. 알고리듬(algorithm·알고리즘으로 표기하기도 한다)을 사용하기 때문이다. 이 알고리듬은 우리가 각자 맺은 친구관계, 거절한 친구 요청, ‘좋아요’ 한 것과 ‘화나요’ 한 것, 그리고 우리가 올린 모든 사진과 글을 분석해서 각자에게 좋은 세상을 뉴스라며 보여준다. 이렇게 유능한 페이스북 알고리듬이 사고를 쳤다. 아니, 수많은 문제들 가운데 하나가 또 드러났다고 해야겠다.

페이스북은 알고리듬을 이용해서 이용자에게 각자 좋은 뉴스를 제공하면서, 동시에 광고주에게 이용자 정보를 팔아 돈을 벌어왔다. 탐사보도 전문언론인 프로퍼블리카가 지난 14일 폭로한 바에 따르면, 페이스북은 인터넷 광고 판매에서 ‘세상을 망친 유태인의 역사’나 ‘유태인을 불태우는 방법’과 같은 범주가 이용되는 것을 용인했다고 한다. 인종, 종교, 성별에 대한 증오범죄를 묘사하는 내용을 용인하기도 했다.

미국 언론의 탐사보도가 계속되자 페이스북은 즉각 해명하고 사과에 나섰다. 의도적으로 그랬던 것은 아니지만, 그런 일이 발생했던 것은 사실이고 또한 페이스북이 인식하지 못했기에 잘못이라 인정했다. 물론 페이스북은 이 모든 일을 미리 의도하지 않았다. 그러나 그들은 이 사태를 초래한 알고리듬의 설계자요 관리자다. 그들은 효율적이고 효과적인 알고리듬이 얼마든지 편향적이거나 불공정할 수 있다는 사실을 알고 있었다.

알고리듬은 중립적이지 않다. 예컨대, 구글 검색결과가 그렇다. 같은 시간 같은 장소에서 같은 단어를 검색창에 넣은 두 사람은 완전히 다른 결과를 얻게 된다. 포털 뉴스도 마찬가지다. 포털 뉴스가 편향적이라고 비판하는 자는 애초에 그 자신이 포털에서 주로 어떤 뉴스를 봤는지 먼저 반성해야 한다.

인터넷 활동가 일라이 파리서는 이런 현상을 ‘여과기 거품’이라 불렀다. 우리가 인터넷 플랫폼을 이용하는 사이에 플랫폼에 고유한 알고리듬이 여과기처럼 작동하고 있는데, 우리는 여과기 밖으로 걸러지는 정보가 무엇인지 알 수 없다는 뜻이다.

여과기 거품은 일단 인지적 편향을 낳는다. 인터넷에서 진보적인 친구를 구하고 개혁적 주장을 펼치는 자는 실은 보수주의자의 염려를 접하지 못하는 것은 물론, 중도파의 유보적 견해나 독립파의 변심을 알아채지 못할 가능성이 높다. 전투적 여성주의자는 남성들의 괴롭고 슬픈 목소리를 듣지 못하는 것은 물론, 생각이 다른 여성주의자의 견해마저 놓칠 가능성이 높다.

보기 싫은 사람을 피하고, 듣고 싶지 않은 발언을 거르겠다는 게 왜 문제인가? 이는 실로 인식의 문제를 넘어선다. 여과기 거품 속에서 개인은 거품이 없었으면 하지 않았을 행동을 할 수 있다.

그리고 그런 행동은 거품을 넘어서 여론을 형성하기도 한다. 타인의 행동에 영향을 미칠 수도 있다.

미국은 지금 페이스북이 2016년 미국 대통령 선거에 미친 영향을 놓고 조사가 한창이다. 조사 중에 밝혀진 새로운 사실이 있다. 2015년 여름부터 러시아의 한 광고회사가 페이스북에 10만달러 상당의 광고를 집행했는데, 그 내용 중에 인종갈등과 성소수자 사안과 같은 미국 유권자를 이념적으로 분열하기 위한 내용이 있었다고 한다.

저커버그는 2016년 미국 대선이 끝난 직후에 페이스북이 유통한 ‘가짜뉴스’ 때문에 트럼프가 당선됐다는 주장은 “상당히 미친 생각”이라 말했다. 당시 그는 페이스북에서 친구들이 추천하는 뉴스가 신문이나 방송언론의 편집자가 걸러준 뉴스보다 더 다양한 정보를 제공한다고 주장했다. 이 주장은 당시는 물론 지금도 믿기 어려운 내용이지만, 그의 생각을 잘 드러내준다. 어쨌든 그는 “네게는 네 집 앞에서 죽어가는 다람쥐가 아프리카에서 죽어가는 사람들보다 더 중요하다”고 말했다 전해지는 사람이다.

다람쥐가 아프리카인보다 중요하다고 할 때 ‘중요함’이란 렐러번스(relevance)를 번역한 말이다. 적절성 또는 의미연관성 등을 함의하는 이 단어는 실은 알고리듬이 개별 이용자를 위해 정보를 걸러낼 때 사용하는 판단기준을 뜻하는 말이기도 하다. 판단을 위한 자료는 이용자로부터 오겠지만, 판단기준을 설계하고, 교육하고, 관리한 자가 엄연히 별도로 존재한다. 바로 인터넷 플랫폼 사업자다.

알고리듬이 인터넷 플랫폼 사업자의 책임을 회피하기 위한 변명처럼 활용돼서는 안된다. 오히려 그들의 사전사후적 책임을 묻는 열쇳말이 되어야 한다. 인터넷 플랫폼 사업자는 자신이 설계하고 관리하는 알고리듬에 대해 사전에 투명성을 강화하고, 사후적으로 설명 책임을 다해야 할 의무가 있다.