클로드 코드가 화제다. 아니, 정확히 말해 내게만 뒤늦게 화두가 됐다. 최근까지도 인공지능(AI)이 만들어준 코드를 가져와 직접 다듬는 편이었다. 얼마 전 클로드 코드를 사용해 프로그램을 만들어봤다. 기획안과 코드 작성, 검수까지 알아서 하도록 지시했다. 놀라웠다. 거의 손을 댈 필요가 없었다.

허무했다. 그동안 파이썬을 더듬더듬 익히고, 공식문서를 뒤지며 프로그램을 만들었던 시간은 다 무엇이었나. 그 경험이 도움은 되겠지만, 초심자들은 굳이 필요 없겠다 싶었다. 무엇이든 마음만 먹으면 만들어주는 도깨비방망이가 생겼다. 소셜미디어에서는 그동안 꿈만 꿨던 프로젝트를 실현했다는 간증이 이어지고 있다. 실리콘밸리에선 ‘토큰 맥싱’ 현상까지 일어나고 있다 한다. 개발자들이 AI 소비량 측정의 최소단위인 토큰을 얼마나 썼느냐를 가지고 자신의 생산성과 능력을 증명한다는 것이다.

막대한 사회적 자원을 쓰면서도
그 이익은 독점하는 AI 기업들
기술 진보 과실 평등하게 나눌 때
인류의 생활은 더욱 향상될 것

그 토큰 사용량을 수시로 들여다보게 된다는 게 챗GPT나 제미나이와 차이점이기도 하다. 금세 한계치에 도달하기에 고민 없이 키보드를 두드려 넣을 수 없다. 이것도 자원이고 희소성이 있다는, 어떤 실체를 느낀다. 디지털이니 클라우드니 하는 말은 이런 기술이 다른 차원의 세계에 존재하는 것처럼 생각하게 하지만, 실제 AI는 비물질적인 형태로 존재하지는 않는다. <AI 제국 : 권력, 자본, 노동>을 쓴 저널리스트 카렌 하오는 이런 관점에서 AI 산업을 파헤쳤다.

챗GPT와 같은 초거대 언어모델은 학습 데이터와 모델의 크기를 극적으로 키워서 가능했지만, 그 크기가 문제였다. 천문학적 훈련 비용을 대기 위해 열린(오픈AI)이라는 회사 이름과 비영리단체라는 설립 취지와는 반대로 비밀스럽고 배타적으로 영리를 추구해야 했다. 훈련에 쓸 만한 데이터가 부족하자 수많은 피와 땀이 어린 인터넷의 텍스트, 이미지, 코드 등을 오픈소스든, 저작권이 있든 가리지 않고 긁어다 썼다. 그중에는 끔찍한 내용도 많았지만, 그런 데이터를 제외하면 양이 너무 적었기에 모두 쏟아부었다. AI가 학습한 데이터 안에 생물무기 제조법이나 아동 성착취물이 들어갔는지 알 길은 없다. 예전에는 딥러닝의 작동방식을 모른다 해서 ‘블랙박스’라 표현했는데 이제는 학습 데이터 자체가 암흑 속이다. 딥러닝은 훈련과 평가 데이터가 구분돼야 제대로 모델을 평가할 수 있는데, 그저 올라가는 벤치마크 점수에 환호성만 지를 뿐이다.

오픈AI는 저질 데이터를 학습한 챗GPT가 부도덕한 답변을 내놓지 않도록 조정하기 위해 케냐 노동자들에게 폭력, 혐오 표현, 자해 관련 콘텐츠를 분류하는 일을 시켰다. 책에 소개된 노동자 모팟 오킨이는 이런 콘텐츠를 계속 들여다보다 정신이 무너졌다. 챗GPT는 오킨이 같은 이들의 인간 피드백 기반 강화학습(RLHF)이 핵심 메커니즘으로 작용했다. 더 비극적인 일은 자신의 삶을 무너뜨린 이 프로젝트, 챗GPT의 탄생이 프리랜서 작가였던 동생의 일감까지 빼앗아버렸다는 점이다.

지난해 AI업계에선 페이스북 모기업 메타에 영입된 28세 알렉산더 웡이 화제가 됐다. 자산만 약 4조8000억원이라는 이 젊은이가 창업한 ‘스케일AI’의 사업 모델은 베네수엘라 노동자들에게 시간당 평균 90센트를 주고 오킨이처럼 AI 학습에 쓰일 데이터에 라벨링을 시키는 인력중개업에 가까웠다. 스케일AI는 오픈AI가 일감을 맡기는 거래처이며, 웡은 오픈AI 창업자 샘 올트먼의 친구다. 웡은 “이제 곧 기업들은 연산자원 확보처럼 RLHF에도 몇억, 몇십억 달러를 쓰게 될 것”이라고 으스댔다.

AI는 무에서 유를 창조하는 도깨비방망이는 아니다. 이미지 1장을 생성할 때마다 스마트폰을 25% 정도 충전할 수 있는 전력을 쓴다. GPT-4 훈련은 당시 가뭄에 시달리던 아이오와주에서 진행됐는데, 한 달간 지역 수자원의 6%에 달하는 물 4353만ℓ가 소비됐다. 사회적 자원을 빨아들이는 AI 기술의 방향을 몇몇 이들이 독단적으로 결정하고 그 이익 역시 독점된다는 건 문제다. 노벨 경제학상 수상자인 다론 아제모을루는 <권력과 진보>에서 기술발전의 과실은 저절로 분배된 것이 아니라 그동안 “시민과 노동자가 스스로를 조직해 기술 향상의 이익이 더 평등하게 공유되는 방식을 강제해냈기 때문”이라고 썼다.