이란 호르모즈간주 미나브에 있는 여자초등학교가 지난달 28일 미군에 공습당해 160여명이 숨졌다. 에스마일 바가이 이란 외교부 대변인 X 갈무리

인간의 통제를 벗어난 첨단 인공지능(AI)이 인간을 부리고 인간과 맞서는 묵시록적 상황은 할리우드 영화의 단골 소재 중 하나다. 영화 <매트릭스> 시리즈는 인류와의 전쟁에서 승리한 기계들이 에너지를 얻기 위해 인간을 생체전력 발전원으로 쓰는 세계를 설정한다. 영화 <터미네이터> 시리즈는 인류를 지배하려는 기계와, 그에 맞선 인간의 저항을 다룬다. 인간이 만든 AI 전략방어 시스템이 스스로 핵전쟁을 일으킨 뒤의 세계가 배경이다. AI가 완전한 자율성을 가지면서 파국이 시작되는 것이다.

미군이 ‘장대한 분노’로 명명한 이란 공습을 준비하면서 AI를 적극적으로 활용했다고 한다. AI가 이란에 대한 방대한 데이터 학습·분석을 토대로 다양한 공격 시나리오와 작전 순서까지 미군 지휘부에 제시했다는 것이다. “적 지휘관이 80% 확률로 A가옥에 은신 중이며, 인근 50m 내 민간인 거주 시설이 있어 정밀 타격이 필요하다”고 분석·전망하는 식이다. AI가 주도한 최초의 전쟁으로, AI 전쟁의 서막이 열렸다는 말이 나온다.

미군이 이란 공습에 활용한 AI 모델은 스타트업 앤트로픽의 ‘클로드’다. 이 앤트로픽이 도널드 트럼프 미 행정부와 갈등을 빚고 있다. 미국민에 대한 대규모 감시나 완전 자율무기에는 자사 AI를 사용하면 안 된다고 선을 그었기 때문이다. 여기에 발끈한 트럼프 대통령은 연방기관의 앤트로픽 기술 사용 중단을 촉구했고, 재무부와 연방주택금융청은 클로드를 포함한 모든 앤트로픽 기술 사용 중단을 선언했다. 앤트로픽 최고경영자(CEO)인 다리오 아모데이는 지난달 28일 CBS 인터뷰에서 “우리 군 장교들이 스스로 전쟁에 대한 결정을 내리고 기계에 온전히 넘기지 않을 권리”는 “미국인들에게 대단히 근본적인 가치”라고 했다.

미 국방부에 AI를 납품하는 기업 CEO가 정색하고 이 말을 하는 걸 들으니 AI가 인간을 통제하는 현실이 성큼 다가왔다는 게 실감난다. 얼마 전에는 AI가 핵무기를 주저없이 사용하더라는 가상 전쟁 실험 결과가 발표됐다. <터미네이터 2>에는 “미래는 정해지지 않았다. 우리 자신이 만드는 것 외에 어떤 운명도 없다”는 대사가 나온다. 인류는 지금 어떤 미래를 만들고 있나.