‘만약 기술이 문제를 일으키면 더 많은 기술이 그 문제를 해결할 것’이라는 믿음, 그것은 1960년대 중반 무렵 히피들의 반문화 저항운동을 계승한다면서 싹텄던 실리콘밸리 사조였다. 이들은 빠르게 변하는 기술 세계에서 정부의 규제는 너무 느리거나 비효율적이라며 거부하고 자유로운 인터넷, 자유로운 혁신 동기를 찬양했다. ‘캘리포니아 이데올로기’라고 불린 이 분위기는 거대 빅테크와 디지털 플랫폼을 각종 법적 책임으로부터 면제시키고 자율규제라는 특권을 부여했다.

간섭받지 않는 개인의 창의성, 다양성, 개방성을 추구했던 기술 자유주의자들은 정치적으로도 리버럴 민주당의 든든한 지지자가 되었다. 심지어 ‘구글이 전쟁 사업을 해서는 안 된다’며 수년 전 구글 직원 3000여명이 경영자들에게 문제 제기했던 사례처럼, 그들은 군수산업과 같은 국가 프로젝트로부터 거리를 두고자 했다. 때마침 시장지상주의와 세계화가 선진국을 지배하면서 국가도 더 이상 기술기업을 규제하지 않았다.

그런데 실리콘밸리가 자신의 초기 정체성과 정반대의 길을 가려는 조짐이 뚜렷해지고 있다. 그 뿌리는 자유경쟁의 소멸이었다. 21세기 사반세기 동안 규제 없는 시장에서 엄청나게 몸집을 키워 승자가 된 극소수 빅테크는 자율과 경쟁, 개방이라는 전통을 거부하고 독점과 배제를 위주로 더 많은 수익 추구에 몰두했다. 인공지능(AI) 시대가 도래하자 개방적인 오픈소스나 효율적인 알고리즘 개발 대신에, 대규모 자본을 동원해 매개변수와 데이터, 중앙처리장치(CPU) 장비를 끝없이 증설하는 ‘규모의 법칙’을 통해 AI 지배권을 구축하려 나섰다.

그리고 마침내 그들은 AI 기술을 국가의 전쟁 프로젝트에 적용하려는 금단의 땅에도 발을 들여놓았다. 메타는 자신의 AI ‘라마’를 군사 및 안보 기관에서 사용할 수 있도록 허용했고, 오픈AI도 경영 지침에서 ‘자사 제품의 군사적 활용 금지’ 조항을 철회했다. 이 경향의 정점에 미국의 기술기업 팔란티어가 있다.

2016년 대선부터 트럼프를 지지해 실리콘밸리의 극우를 대표하는 이단아로 알려진 피터 틸과 알렉스 카프 등이 2003년에 설립한 팔란티어는, 사실 처음부터 실리콘밸리의 전통에서 벗어나 정부 기관과 군수산업을 상대로 데이터 분석 등을 제공하며 조용히 수익을 올렸다. 그런데 팔란티어 창업자들이 최근 국가와 거리를 두어온 실리콘밸리 빅테크를 공개적으로 비판하면서 능동적으로 국가의 경쟁력이나 전쟁 능력을 개선하는 데 나서라고 촉구한 것이다.

팔란티어 경영자들이 최근에 출간한 책 <기술공화국 선언>을 보면, 저자들은 미국이라는 국가의 비전과 헌신을 외면하고 실리콘밸리가 고작 온라인 광고나 소셜미디어 플랫폼 등 주로 소비자 시장에 집중함으로써 ‘길을 잃었다’며 통렬히 비판한다. 이어서 그들은 “소비자 시장만 노리는 대신 미국 국방 정보기관의 수요를 충족할” 기술 개발을 요청한다. 첨단 AI 기술혁신을 동원해서라도 과감히 국방과 전쟁에 기술을 공급하고, 미국과 서구의 우위를 지키자는 섬뜩할 정도의 팔란티어 주장은 정확히 실리콘밸리 버전의 우익 국가주의다. 우리가 알던 자유로운 영혼의 고향 실리콘밸리가 사라지는 순간이다.

그리고 이들은 일론 머스크라는 인물의 행보에서 확인되었듯이 정치에서 트럼프 같은 극우 세력과 자연스럽게 결탁하게 됐다. 지난 1월 바이든 대통령이 퇴임 연설에서 기술산업복합체(tech-industrial complex)의 잠재적 부상의 위험성을 경고하며 빅테크가 미국에서 과두제 권력을 만들었다고 한 건 이 맥락이다.

더 심각한 문제는 역사상 가장 놀라운 기술적 성과라고 하는 AI 기술이 현재 거의 완벽하게 이들 주도로 개발되고 이용되며 진화되고 있다는 사실이다.

AI 혁신이 가져올 온갖 긍정적인 기대에도 불구하고, 사회와 기후에 미칠 부정적인 파급이 염려되는 진짜 이유는, AI 그 자체가 아니라 AI를 통제하고 있는 기술 권력의 위험성 때문이다. 노벨 경제학상 수상자 다론 아제모을루는 공적인 규제의 틀 없이 오직 사기업 수익 추구 수단으로만 AI 개발 방향이 결정되면 빅테크 주가는 천장을 뚫고 비상할 수 있겠지만 사회와 기후에는 악영향을 끼칠 수 있다고 경고했다.

‘AI 3대 강국’을 추구하는 한국 역시 AI가 국가 기술 경쟁력이라는 모호한 목적 아래 사적 수익만을 위해 소모되기보다 넓은 사회적 혜택을 줄 수 있도록 정책 방향을 섬세하게 조율할 필요가 있다.

김병권 녹색전환연구소 소장