레오 14세 교황이 25일(현지시간) 바티칸 교황청 시노드 강당에서 ‘마니피카 후마니타스’를 발표하고 있다. AP연합뉴스

레오 14세 교황이 즉위 후 처음 발표한 최고 권위 교서에서 인공지능(AI)이 인간을 지배할 수 없도록 ‘무장해제’가 필요하다며 경고했다.

교황은 25일(현지시간) 교황청 시노드 강당에서 이러한 내용이 담긴 회칙 ‘마니피카 후마니타스(위대한 인간성)’를 직접 발표했다.

교황은 신기술과 데이터·알고리즘으로 만들어진 허위 정보가 전쟁을 둘러싼 양극화와 반감을 증폭시키고 있다며 ‘정당한 전쟁’은 없다고 말했다. 교황은 “이러한 이유로 전쟁에서의 AI 개발 및 사용은 존엄성과 생명의 신성함을 존중하고 무기 개발 경쟁을 방지하기 위해 가장 엄격한 윤리적 제약을 받아야 한다”고 했다.

이어 교황은 “자원의 공정한 분배, 인간 존엄성, 사회 정의 및 환경 보호를 포함한 일련의 원칙들이 AI 개발에 적용되어야 한다”고 했다.

그러면서 신기술에서 파생된 알고리즘, 디지털플랫폼, 기술 인프라, 데이터 등은 ‘보편적 재화’에 포함해야 한다고도 했다. 교황은 “디지털 환경에서 플랫폼·데이터·인프라는 국가가 아닌 경제·기술자들이 통제한다”며 “이런 권력이 소수에 집중될 때 불투명해지고 의존·배제·불평등으로 왜곡될 위험이 커진다”고 우려했다.

또한 교황은 AI 개발을 주도하는 민간 기업에 대한 정부 규제, 일자리가 위협받는 노동자를 위한 보호 및 재교육, 학생들이 기술에 대해 비판적으로 생각할 수 있게 돕는 교육, AI가 생성하는 폭력적이거나 허위적인 온라인 정보로부터 아동을 보호하는 조치, 무기 사용과 관련한 모든 결정에 있어 AI가 아닌 인간이 책임을 지도록 보장하는 안전장치 등이 필요하다고 강조했다.

디지털 경제의 노동력 착취도 언급하며 ‘새로운 노예제’라며 경고의 목소리를 높였다. 교황은 “디지털 경제의 상당 부분은 데이터 라벨링, 모델 훈련 등 보이지 않는 활동에 종사하는 수백만명의 조용한 노동에 의존하고 희토류 등 자원을 채굴하는 가혹한 노동도 있다”며 “새로운 형태의 노예제와의 싸움은 윤리적인 AI를 위한 결정적 시험”이라고 강조했다

회칙은 교황이 전 세계 가톨릭 신자와 주교들에게 전하는 최고 권위의 사목 교서다. 다른 교황 문헌인 교황 교서, 권고, 담화, 연설, 강론 등과 비교해 가장 구속력이 강하다. 4만2300단어가 넘는 방대한 내용의 이번 회칙은 교황이 작년 5월 즉위한 이후 처음 발표하는 교서다. 총 82페이지 분량으로 245개 항으로 구성됐다.