미국 시사주간지 타임은 지난 1월 인공지능(AI) 챗GPT와 관련된 케냐 노동자 착취 문제를 보도했다. 오픈AI는 혐오 발언을 구사하는 챗GPT 결함을 바로잡으려 외주 기업 사마와 계약을 맺고 혐오·차별이 가득한 텍스트를 건넸다. 케냐 노동자들은 시간당 1.3~2달러를 받고 혐오·차별 발언을 골라냈다. 그들은 매일매일 끔찍한 텍스트를 읽으며 데이터 작업을 해야만 했다.
‘어떻게 돈을 벌 것인가’에 가려진 착취와 수탈
<인공지능 시대 인간의 조건>(휴머니스트)을 낸 디지털사회 연구자 백욱인(서울과학기술대 명예교수)은 이 착취 사례를 “국경의 제한 없이 전 지구적으로 이뤄지는 ‘디지털 유령노동’ ”이라고 말한다. 2010년대 아이폰에 열광하던 사람들이 폭스콘 공장에서 감금되다시피 일하다 자살하는 중국 노동자들의 실태를 알지 못했다. 10여 년이 지난 뒤에도 오픈AI와 케냐 노동자들 사례처럼 플랫폼 개발과 기계학습, 데이터 만들기에 투입되는 인간 노동은 잘 드러나지 않는다. 의도적으로 감추는 경우도 많다. 이처럼 불분명한 고용 분야의 일을 부르는 용어가 ‘유령 노동’, ‘그림자 노동’이다.
‘챗GPT 로 돈을 버는 방법’을 내건 콘텐츠들.
백욱인은 거대 플랫폼과 AI로 이뤄진 ‘인지 자본주의’ 시대에 착취와 수탈이 동시에 진행된다고 본다. 그는 인터뷰에서 이렇게 말했다. “공유경제를 필두로 이루어진, 암호화폐, 메타버스, 챗GPT니 모두 기술혁신의 시기에 어떻게 돈을 벌 것인가’에 초점이 맞춰져 있습니다. 혁신기술을 이용하여 지구 환경문제의 개선이나 사회적 불평등의 문제를 해결하려는 노력은 별로 하지 않습니다. 기술지상주의자들은 혁신이 좋은 사회를 가져올 것이라 믿고 선전하지만 사실은 그 반대로 진행되고 있습니다. 기술혁신의 어두운 면이 상업화의 흐름 속에서 가려져 보이지 않는 것뿐입니다.”
백욱인은 “인공지능 도입에 따른 ‘노동의 종말’이라는 미래학의 수사는 현재 진행되고 있는 노동의 착취를 보지 못하게 만든다. 그들은 직업과 노동의 종말을 예언하면서 지금 여기에서 이뤄지고 있는 노동의 현실을 은폐한다”고도 했다.
이용자들이 열심히 생산한 비트 달걀 챙기는 거대 독점업체들
배달 노동 등에 대한 플랫폼 노동 착취는 조금씩 알려졌다. 배달노동자들의 노동조합인 ‘라이더유니온’ 같은 노조가 투쟁, 저항 운동도 진행한다. 그러나 사이버 공간의 이용자를 대상으로 이루어지는 수탈 문제는 여전히 잘 드러나지 않는다. ‘이용자’들은 자신이 만든 데이터를 ‘무료 연결의 대가’로 여기며 대수롭지 않게 생각한다. “플랫폼 자본은 이용자들이 양계장의 닭처럼 밤낮 가리지 않고 열심히 생산한 비트 달걀을 바구니에 차곡차곡 담는다.” 구글, 페이스북, 네이버 같은 거대 독점업체가 수많은 이용자가 만든 저작물에 공짜로 가져가 이윤으로 전환하는 점을 비유한 말이다. 페이스북 친구의 계정에 쓴 글, 트위터에서 재잘거린 말 등이 다 비트 달걀이다.다.
그는 “빅데이터와 AI를 결합해 무한 질주하는 인지 자본주의 시대에 데이터와 정보의 무한축적은 경제적으로는 새로운 가치 창출의 원천이 된다”고 말한다.
“소셜미디어 플랫폼을 사용해 이용자의 활동을 수취”하는 페이스북이나 트위터 체제나 “생활영역의 시간이나 자산을 자본주의적 상업화의 틀 안으로 끌어들여 이윤을 창출”하는 우버나 에어비앤비 체제는 공통점이 있다. “알고리즘으로 만든 디지털 플랫폼을 통해 이용자의 활동을 수취하고 매개 서비스를 제공하거나 특정 서비스를 제공하면서 ‘플랫폼 지대’를 수취”하는 것이다.
‘좋아요’를 누르는 것도 이윤을 낳는 상품의 원료
백욱인은 “플랫폼 장치가 옛날 공장처럼 이윤을 낳는 대표적인 생산수단이 된 것”이라고 했다. 구글 검색, 네이버 지식인 답변뿐만 아니라 페이스북 ‘좋아요’를 누르는 것, 챗GPT에 오류를 알려주는 것도 기업의 ‘이윤을 낳는 상품의 원료’가 된다.
한국대리운전협동조합, 한국노총전국연대노동조합 플랫폼운전자지부 등 관계자들이 지난해 10월 24일 국회 정문 앞에서 ‘카카오 먹통사태에 따른 대리운전노동자 피해보상 및 재발방지 촉구 기자회견’을 하고 있다. / 이준헌 기자
“인지자본주의는 플랫폼 지대를 통해 긍정적 외부효과를 수탈하고 인간과 기계를 다양하게 결합해 새로운 계층구조와 사회적 불평등을 창출한다.” 외부효과의 한 예는 카카오택시다. 카카오택시는 중개 서비스로 출발했는데, 그 부산물이 언제 어디서 택시를 이용하는지 등에 관한 데이터다. “택시 이용자의 활동 결과물인 데이터를 싹 가져가는데, 이게 ‘긍정적 외부 효과’예요. 그 데이터로 ‘맞춤 서비스’ 같은 상품을 또 만들죠. 외부 효과를 수취해 가는 거거든요. 그 반대가 ‘부정적 외부 효과’인데, 배달 노동자들이나 운수 노동자의 부상 같은 위험에 대한 부담은 다 외부화하는 거죠.” 백욱인은 배달의 민족도 알고리즘으로 노동강도를 높여 노동자들을 착취한다고 했다.
‘유튜브가 광고비를 주지 않는가’라는 반문이 나올 수 있다. “유튜버로 돈을 버는 사람은 1만명 중 10명도 안 될 겁니다. 많은 유튜버는 그저 자신들이 만든 활동 결과물을 수탈당하는 겁니다.”
‘무료’이기 때문에 수탈이 잘 와닿지 않는 측면도 있다. 구글은 엄청난 비용을 들여 만든 서비스를 공짜로 제공한다. 대신 이용자가 만든 비트를 자신의 데이터베이스에 축적한다. “구글의 데이터 레이어는 대부분 이용자가 만든 비트로 구성된다. 때로는 종이책을 스캔해 그들의 데이터베이스에 축적하기도 한다. 구글은 왜 엄청난 비용을 들여 그런 서비스를 제공할까? 나중에 자신들이 구축한 책 데이터베이스가 이용자의 활용과 결합하면 새로운 비트가‘ 만들어질 것이고, 그 비트로 이용자를 추적하면 새로운 사업영역이 생겨나기 때문일 것이다. 이처럼 비트는 새로운 비트를 낳고 비트끼리 결합할수록 가치는 더욱 증가한다.” 구글이 이용자 활동 결과물로 서버에 쌓은 빅데이터를 인공지공으로 가공해 새로운 정보를 제공하거나 상품을 만들고, 그 결과 더 많은 이용자를 끌어들여 구글 웹페이지나 유튜브에 광고하면서 수익을 올리는 점을 지적한 말이다. 백욱인은 “우리는 서비스를 공짜로 쓰고 있다는 착각 속에서 플랫폼 독점의 심각성을 잘 느끼지 못한다”고 했다.
‘AI가 지배하는’이 아니라 ‘AI로 지배하는’ 세상
백욱인은 “책에서 가장 강조한 건 AI를 인격화하지 말라는 것이다. AI는 개체로 개별화된 게 아니라 기계들과 사람들, 즉 이용자·생산자·소비자·노동자·엔지니어가 다 함께 연결된 기계체”라고 말했다. 책 부제도 ‘알고리즘과 플랫폼으로 지배하는 인지 자본주의’다. 흔히들 쓰는 ‘AI가 지배하는 세상’이 아니라 ‘기업가들이 AI로 지배하는 세상’이 더 정확한 표현이다.
인지자본주의에서는 이용자건 소비자건 모두 AI 플랫폼에 예속되어 있다. 그는 인지자본주의에서 이루어지는 ‘기계적 예속’과 ‘사회적 복종’을 ‘분할체화’와 ‘조각 주체화’를 통해 분석한다. ‘분할체화’와 ‘조각주체’도 ‘연결의 대가’다.
백욱인 서울과학기술대 명예교수.경향신문 자료사진
들뢰즈가 <통제사회후기>에서 지적한 것처럼 나눌 수 없다는 뜻의 ‘Individual(개인)’은 사이버 공간에서 무한히 분할된다. 개인, 즉 이용자의 활동은 수치화되고 디지털화되면서 쪼개진다. 예를 들어 ‘좋아요’ 클릭은 되먹임(피드백)되면서 추천 알고리즘과 결합되고 페이스북 광고나 유튜브 추천 영상으로 이어져 기업 이윤이 된다. 개인은 이 과정에서 조각난 ‘작은 주체’가 된다. 백욱인은 “기존 용어로 하면 인지자본주의에 걸맞게 사회화가 되는 것이다. 플랫폼 틀에 맞춰 분할체가 되고 그것이 다시 개인에게 되먹임되면서 조각 주체화가 이뤄지는 것이 기계적 예속과 사회적 복종의 방식”이라고 했다.
이 기계적 예속도 눈에 보이지 않는다. “군사정권 시기 물리력을 동원한 사회적 복종이 이뤄진 거면 투쟁 대상도 분명하게 보이고 전선도 그어지고 운동도 일어날 텐데, 지금 문제는 이런 예속의 모습이 잘 안 보이고 몸으로 안 느껴진다는 거죠.”
정치를 만든다는 환상으로 이어지는 정치 과몰입
백욱인은 ‘자동 민주주의’ 문제도 비판한다. “그 자체로 객관적인 사회 현실인 것처럼 소비”되는 여론조사 남발이 폐해의 한 예다. 백욱인은 “자동적으로 수치로 환원된 개인들의 의견과 생각을 조합해 통계적 결과를 사회적 실재처럼 내놓는 여론조사는 자동으로 처리된 수치가 민주주의의 기반인 듯한 환상을 조장한다”고 말했다. 그는 “정치 과몰입은 자신(이용자)들이 정치를 만든다는 환상으로 연결된다”고도 했다.
여론조사에다 기사에 대한 댓글, ‘좋아요’, 리트윗, 퍼 나르기, 리액션, 밈 전달, 유튜브 실시간 참여도 자동 민주주의의 한 축이다. 소셜미디어에서는 폐쇄적인 확증편향 강화, 즉 일방적 게시가 득세한다. 일방적인 커뮤니케이션과 폐쇄적 네트워크 안에서 메시지는 ‘밈’ 형태로 돌아다닌다.
백욱인은 “소셜미디어와 레거시미디어는 서로 인용을 주고받으면서 시민들의 숙의와 성찰을 거치지 않은 파편적 결과의 수집물을 사회적 사실로 확장한다”고 했다. 이 과정에서 사회적 책임은 경시되고, ‘사회적인 것’은 폄하되거나 축소된다. 직접적인 사회운동은 왜곡되거나 길을 잃는다고 백욱인은 지적한다.
사람들이 ‘자동 민주주의’가 작동하는 사실도 잘 알아채지 못하는 점도 지적했다. “인터넷을 통해 자신의 의견이나 판단이 다른 사람들의 즉각적인 반응을 불러일으키고 급속하게 대중적 영향력을 확산하기에, 직접민주주의에 대한 환상과 기대는 더욱 힘을 얻었다. 사람들은 선거 결과가 집계되어 자신들의 선택이 권력으로 이어지는 과정에서 권능감을 느낀다. 투표자들은 자신이 선택한 권력자를 지켜내는 호위무사의 역할도 감당한다. 디지털 권능감은 현실권력의 선택으로 증명되었지만 그러한 기계가 갖는 부정적 효과는 날로 확대되고 있다.”
‘정답’ 아니라 사실 아닌 답도 주는 챗GPT
백욱인은 책에서 챗GPT 등 생성 AI 서비스가 가져올 사회적 문제점도 분석한다. “구글 검색은 그나마 이용자가 검색 결과를 선별할 수 있어요. 여러 검색 결과를 고르고 선택하여 생각도 하고 비판도 하죠. 그런데 챗GPT는 바로 답을 줘버리잖아요. 사람들이 그 답을 정답으로 여기기가 쉬운 거죠. 있지도 않은 사실을 엮어서 답을 해도, 그대로 믿거나 답을 얻었다고 생각하기 쉽지요.”
백욱인은 AI, 플랫폼 자본주의, 소셜미디어가 제2차 세계대전 때 나온 사이버네틱스부터 출발한 것이라고 분석한다. 그는 “사이버네틱스는 빅데이터와 머신러닝이 본격적으로 결합하는 인공지능 시대에 접어들면서 데이터와 수치화된 것으로 사회를 통제하겠다는 목적을 이뤘다”고도 했다.
상업화 정점 향하는 나쁜 사이버 기술 주기에 처했
백욱인은 사이버 기술의 순환 주기 문제도 거론했다. “1990년대 초반이나 2000년대 한국 촛불, 이집트 혁명 같은 경우 소셜미디어를 사회운동에 활용한 좋은 주기였는데, 지금은 상업화 정점을 향해 가는 나쁜 주기에 있다”고 말했다.
백욱인은 지금 거대 플랫폼 기업의 자본가들이 과거 산업자본가들보다 더 영악하고 교묘해졌다고 말한다. “구글 창업 초기 표어가 ‘사악해지지 말자’였어요. 지금 독점적 지위를 더 강화하면서 사악함은 더 이상 신경도 쓰지 않고 있죠. 친구들의 친밀한 대화와 소통으로 출발했던 페이스북은 이용자의 프라이버시를 내다 팔았고요.”
인지 자본주의 시대에 이루어지는 착취와 수탈에 대한 대안은 무엇일까. 그는 “보이지 않는 디지털 노동을 다시 보이게 만들어야 플랫폼과 AI에 기초한 현재의 축적체제가 펼치는 수탈과 착취가 우리 눈에 띄기 시작할 것”이라고 했다.
이용자들의 행동으로는 ‘장치에서 벗어나기, 물러나기’를 들었다. “하지만 현실적으로 플랫폼을 이용 안 하기 힘들죠. 지속적으로 사회운동을 펼쳐나가기도 어렵고요.” 그는 “어차피 플랫폼에서 뛰어내리기가 어렵다면 연결과 소통이 자유로운 시기와 포획되고 지배당하는 순환의 시기를 잘 가려야 한다”고도 했다.
백욱인은 수탈과 착취, 지배의 인지 자본주의 시대 운동과 대안의 가능성을 탐색하는 내용의 후속작을 쓸 것이라고 했다.
![세이브 ‘팔레스타인’ 칠드런 [정동길 옆 사진관]](https://img.khan.co.kr/news/c/240x160/2024/05/02/news-p.v1.20240502.7f5f2b24ae1045d3969c3ffab08ee21c_P1.webp)
![[정희진의 낯선 사이]의정부시의 ‘기지촌’에 대한 인식](https://img.khan.co.kr/news/c/240x160/2024/04/30/l_2024050101000006900090972.webp)
![[이기환의 흔적의 역사] ‘조우관’ 쓴 아프로시압 사절, “연개소문이 파견한 고구려 밀사가 맞다”](https://img.khan.co.kr/news/c/240x160/2024/04/30/news-p.v1.20240424.96c6afc919f848759ea1efdc133a029e_P1.webp)
![[인터뷰] “중독·고립 부르는 AI 디자인, 디자이너가 고민해야할 ‘딜레마’”](https://img.khan.co.kr/news/c/130x100/2024/05/05/news-p.v1.20240505.f858ffbc54eb48a5b5dbe192ddc34a86_P1.webp)
