인간은 불완전한 존재다. 전장의 인간은 말할 것도 없다. 전쟁사가 사무엘 마셜이 면담 조사한 결과에 따르면, 제2차 세계대전 때 병사의 75~80%가 조준 사격을 하지 않았다. 양차 세계대전에 참전했던 그는 자신의 경험을 이렇게 털어놨다. “안전지대로 들어섰을 때 부대 전체를 감싸듯이 안도감이 밀려왔다. 내가 안전해져서가 아니라, 누군가의 생명을 앗아가지 않아도 된다는 사실에 행복감을 느꼈기 때문이다.”

데이브 그로스먼도 <살인의 심리학>에서 전쟁 때 군인들이 자신의 안전이 위협받는 것보다 상대를 자기 손으로 죽일까봐 더 걱정했다고 했다. 인간은 살인에 심리적 저항을 느끼는 존재다. 동시에 동종살해를 하는 존재이기도 하다. 영화 <플래툰>에는 살상을 두려워하다 살인에 익숙해지는 테일러, 시종 절제력을 보이는 그로딘, 무차별 살상하는 반스 간의 갈등이 펼쳐진다. 우리 안에는 테일러, 그로딘, 반스가 모두 있다.

어느 때는 살의가 너무 없고, 어느 때는 너무 넘치는, 이 오작동하는 인간을 통제하면서 훈련대로 전쟁을 수행하는 것은 전쟁의 오랜 과제였다. 그런데 해결책이 나왔다. 인간 통제 없이 스스로 표적을 정해 정밀 타격하는 인공지능(AI) 기반 자율살상무기, 일명 ‘킬러로봇’이다.

무엇보다 자율살상무기는 아군 피해를 최소화한다. 인간 병사처럼 포로 사살·민간인 학살·강간·약탈을 하지 않는다. 공포·복수심에 사로잡혀 무분별 살상도 하지 않는다.

로봇공학자 로널드 아킨 말대로 킬러로봇은 인간 병사보다 더 윤리적으로 전쟁을 할 수 있다. 무차별적 피해를 유발하는 생화학무기·집속탄·지뢰와 같은 비인도적 무기에 비하면 자율살상무기가 윤리적인 것은 분명하다. 마침 최근 몇년간 자율살상무기가 이끄는 군사작전과 전쟁이 여기저기서 펼쳐졌다. 그런 전쟁이 정말 윤리적일지 우리는 검증해 볼 수 있다.

2020년 리비아 내전 때였다. 튀르키예산 ‘카구2’ 드론이 통신망이 끊긴 상태에서 미리 설정된 알고리즘에 따라 자율적으로 비행하며 퇴각하는 군인을 적으로 판단하고 타격했다. 인간 판단 없이 스스로 살상 결정을 내리는 세계 최초의 킬러로봇이 등장한 것이다. ‘카구2’는 엄폐물 뒤로 숨거나 지형지물을 이용해 달아나는, 전투 의지 없는 병사를 기어코 찾아내 죽였다.

인류 역사상 최초로 기계가 살인면허권을 행사한 이 사건을 계기로 유엔은 ‘특정재래식무기금지협약(CCW)’ 틀 내에서 인간 개입 없는 자율살상무기의 제한을 추진했다. 하지만, 미국·러시아의 거부로 진척되지 않았고, 그러는 사이 AI 기술 발전 속도만큼 자율살상 기술도 빠른 속도로 발전했다. 가자지구와 이란은 세계 자율살상무기의 실험장이자 경연장이 되었다.

이스라엘은 자율살상의 선두에 있다. AI 표적 식별 시스템 ‘라벤더’는 살생부 자동생성 기계다. 가자 시민 230만명의 데이터를 분석해 하마스 대원을 3만7000명으로 판단, 이들을 타격 대상으로 설정했다. 오류율은 10%. 3700명이 이유 없이 죽음을 맞이하도록 프로그래밍됐다는 뜻이다.

타격에 따른 부수적 피해, 즉 민간인 사망 예상치는 점차 높아졌다. 대원 1명 타격에는 20명, 고위급 1명 타격에는 100명의 희생이 허용됐다. 허용 수치를 늘릴수록 대원 제거 확률은 높아진다. ‘아빠 어디 있어(Where’s Daddy)’라는, 그로테스크한 이름의 AI 위치추적 시스템은 표적이 집에 갔을 때를 감지해 공격 가능 시점을 알려준다. 군사시설에 있을 때보다 공격하기 쉽고 성공 확률도 높아지기 때문이다. 여기서 성공이란, 한 사람 제거 때 그의 아내와 아이, 이웃이 한 번에 몰살되는 것을 의미한다. 이런 수학적 살인이, 자율살상무기가 자랑하는 효율성이다.

자율살상무기가 전체 희생자를 줄인다는 사실이 항상 윤리성을 담보하지는 않는다. 5명을 살리기 위해 무고한 한 사람을 희생시키는 것은 수학적으로 합리적이다. 하지만, 우리는 그 죽음이 정당화될 수 있다고 보지 않는다. 이런 상황에서 자율살상무기가 내놓는 해법은 무고한 사람을 통계 오차 범위 내의 숫자로 처리하는 것이다. 문제 해결이 아니라, 문제 제거다.

기계에 생명은 0과 1의 데이터일 뿐이며, 살인은 픽셀 하나를 지우는 일에 불과하다. 인간 병사는 고통, 두려움, 도덕적 갈등 속에서 적을 죽인다. 토마호크는 어떤 분노도 연민도 없이 아이 170여명을 향해 날아갔다.

이대근 우석대 석좌교수