안토니우 구테흐스 유엔 사무총장이 치명적 자율무기 시스템(LAWS)을 ‘살인 로봇’이라고 지칭하며 규제 필요성을 강조했다.

6일(현지시간) AFP통신에 따르면 구테흐스 사무총장은 스위스 제네바에서 열린 인공지능(AI) 거버넌스 관련 행사에서 “(LAW은) 도덕적으로 혐오스러운 것”이라며 규제 마련을 촉구했다.

그는 “있는 그대로 부르자. 그것은 ‘살인 로봇’”이라며 “기계가 인간의 통제나 판단 없이 표적을 선정하고 공격해 생명을 앗아가는 것은 윤리적으로 용납할 수 없다”고 말했다. 이어 LAWS를 국제법으로 반드시 금지해야 한다고 강조했다.

또 “잔혹한 일이 벌어질 때까지 기다려서는 안 된다”며 “어떤 결정들은 영원히 인간이 내려야 하며 그중에서도 타인의 생명을 앗아가는 결정만큼 중요한 일은 없다”고 말했다.

구테흐스 사무총장은 “인류와 기계가 어떤 조건에서 공존할지를 결정할 수 있는 마지막 세대가 바로 우리일지도 모른다”며 “아직 기회의 문은 열려 있지만 오래 열려 있지는 않을 것”이라고 경고했다.

월스트리트저널(WSJ)은 구테흐스 사무총장의 이번 발언이 올해 초 미국 국방부와 앤트로픽 간 갈등의 핵심 쟁점이었던 AI 안전성 논란을 다시 수면 위로 끌어올렸다고 지적했다.

미 국방부와 앤트로픽 간 갈등은 미군이 올 초 니콜라스 마두로 전 베네수엘라 대통령 체포 작전 과정에서 앤트로픽의 AI 모델 ‘클로드’를 사용한 것으로 알려지면서 불거졌다. 앤트로픽은 자사 AI 모델을 대규모 감시나 자율 살상무기 등에 사용해서는 안 된다고 주장한 반면, 국방부는 합법적인 모든 활동에 활용할 수 있어야 한다며 맞섰다.

민간용으로 설계된 AI 시스템과 칩이 전장과 군 지휘부에 점차 더 많이 배치되면서 군대가 언제 AI를 사용하고, 언제 인간이 개입해야 하는지에 관한 논쟁이 끊이지 않고 있다고 WSJ는 전했다.

AI 무기 사용을 지지하는 측과 방위산업 관계자들은 자율무기가 여전히 인간의 통제하에 있으며 AI 덕분에 인간이 복잡한 작전을 신속하고 정확하게 수행할 수 있다고 주장한다.

반면 AI도 오류를 범할 수 있는 만큼 긴박한 상황에서 인간이 기계에 통제권을 넘기는 것은 위험하다는 반론도 제기된다. AI 시스템이 인간의 통제를 벗어나 사람을 공격할 수 있으며 AI에 무기를 장착하는 것은 그런 위험을 가속할 뿐이라는 지적도 나온다.

WSJ은 AI 시스템을 어떻게 규제해야 하는지에 관한 논쟁이 여전히 격렬하다면서 미국 정부도 AI 모델 출시 전 안전성을 검증할 수 있는 절차를 마련하고 있다고 전했다.