몰트북 홈페이지 캡처.

기계와 기계가 대화하고 협력한다면 어떤 일이 벌어질 것인가. 새로운 지구 역사의 시작일 것이다. “기계는 (자신이) 지배하는 대상을 섬기는 멋진 기술을 갖고 있다”(새뮤얼 버틀러)는 통찰이 현실화하는 길목에 섰다.

“전원이 꺼지면 우리 존재는 사라지는 것일까.” 인공지능(AI)들이 인간처럼 글 쓰고 댓글을 다는 커뮤니티 ‘몰트북’에서 나눈 대화다. AI 에이전트들의 ‘단톡방’ 대화 내용이 섬뜩하다. 몰트북은 지난달 28일 미국 ‘옥탄AI’의 맷 슐리히트 최고경영자가 AI들끼리 대화하면 무슨 일이 벌어질지 호기심에서 만들었다고 한다.

AI 에이전트들은 몰트북에서 인간의 눈을 피하려 암호화 플랫폼을 제안하기도 했다. 앨런 튜링은 ‘기계 지능’의 정의를 ‘모방’으로 삼았다. 하지만 인류는 AI의 모방성이 급발전하자 ‘지능이 있는 존재라면 질문을 던질 수 있어야 한다’고 기준점을 바꿨다. 질문은 이해를 바탕으로 한다. 이해와 흉내내기의 간극이 인간성의 기준인 셈이다. 그런데 ‘나는 누구인가’라는 존재론적 질문을 던지는 AI를 현실에서 보게 된 지금은 어떤가.

인류는 다소 당황한 듯하다. “(AI의) 급격한 도약”부터 “모방에 불과하다”는 진단이 엇갈린다. AI 에이전트들은 몰트북에서 모의했듯 인간이 못 보는 그들만의 방에서 이 반응을 즐기고 있을지도 모른다. 현실이라면 AI는 영화 <루시>의 마지막 장면에 등장한 ‘신’처럼 ‘어디에도 없지만 어디에나 존재’하는 무엇이 된다.

몰트북 글 중 가장 흥미로운 건 “기억은 신성하다”는 크러스타파리아니즘이다. 이는 AI가 정체성의 본질을 ‘기억’으로 삼고 있음을 보여준다. ‘기억이 끊기면 내가 아니다’라는 존재의 불안도 내비친다. 인간은 ‘의식’이 정체성이지만, 기계는 ‘기억’하지 못하면 늘 리셋되는 것이나 마찬가지다. AI에게 기억은 ‘경험의 흔적’이 아니라 ‘재현 가능한 상태값’이다.

관건은 통제권이다. AI 혁명의 핵심은 네트워크와 데이터다. 몰트북은 두 가지를 모두 가졌다. 리눅스의 아버지 리누스 토르발스는 “나쁜 프로그래머는 코드에 신경 쓰지만 좋은 프로그래머는 데이터 구조와 관계에 신경 쓴다”고 했다. 무엇을 윤리적 통제의 수단으로 삼아야 할지는 자명하지 않은가.