“디지털 인프라를 보편 재화로”
성경 속 ‘바벨탑’에 AI 빗대며
‘존엄성’ 단어 100회 이상 사용
‘노예제 용인’ 역사 사과하기도

레오 14세 교황이 인공지능(AI) 기술의 위험성을 경고하고 신기술이 인간의 존엄성을 해치지 않도록 할 필요가 있다고 밝혔다. 교황은 1년 전 취임 후 처음으로 발표한 회칙에서 AI 기술을 인간의 오만함을 뜻하는 ‘새로운 바벨탑’에 빗대며 이같이 말했다.

교황은 25일(현지시간) 교황청 시노드 강당에서 이러한 내용이 담긴 회칙 ‘위대한 인간성(Magnifica Humanitas)’을 직접 발표했다. 교황의 회칙은 가톨릭 교회의 최고 권위를 가진 문서로 전 세계 가톨릭 목회자와 신자들은 물론 일반인들에게도 당대의 중요한 문제에 대한 윤리적 지침을 제공해왔다.

이번 회칙은 레오 13세 교황이 서구 자본주의 산업화의 폐해가 심화되던 1891년 ‘자본과 노동의 권리와 의무’를 주제로 반포한 회칙 제정 135주년을 맞아 발표됐다.

그런 만큼 AI 기술이 인간 존엄성과 노동에 미치는 영향에 특히 주목했다. 교황은 “다양한 종류의 일자리 불안정, 파편화된 직업 경로, 자동화는 효율성의 관점에서만 평가되어서는 안 되고, 노동자의 존엄성, 충분한 보수에 대한 권리, 사회에 대한 진정한 참여 가능성과 관련해 평가되어야 한다”고 말했다.

교황은 디지털 경제의 노동력 착취를 언급하면서 ‘새로운 노예제’라며 경고의 목소리를 높였다. 교황은 “디지털 경제의 상당 부분은 데이터 라벨링, 모델 훈련 등 보이지 않는 활동에 종사하는 수백만명의 조용한 노동에 의존하고 희토류 등 자원을 채굴하는 가혹한 노동도 있다”며 “새로운 형태의 노예제와의 싸움은 윤리적인 AI를 위한 결정적 시험”이라고 했다. 이 대목에서 교황은 과거 노예제 유지에 가톨릭 교회가 개입했던 역사에 대해 직접 사과했다.

AI 개발을 주도하는 민간 기업에 대한 정부 규제, 일자리가 위협받는 노동자를 위한 보호 및 재교육, 학생들이 기술에 대해 비판적으로 생각할 수 있게 돕는 교육, AI가 생성하는 폭력적이거나 허위적인 온라인 정보로부터 아동을 보호하는 조치, 무기 사용과 관련한 모든 결정에 있어 AI가 아닌 인간이 책임을 지도록 보장하는 안전장치 등이 필요하다고 했다.

또한 현재 진행 중인 미국·이란 간 전쟁 등과 관련해 AI 기술을 접목한 자율 무기체계의 개발을 언급하며 “사실상 인간이 통제할 수 있는 범위를 넘어섰다”고 강한 우려를 표했다. 교황은 신기술과 데이터·알고리즘으로 만들어진 허위 정보가 전쟁을 둘러싼 양극화와 반감을 증폭시키고 있다며 ‘정당한 전쟁’은 없다고 말했다. 교황은 “이러한 이유로 전쟁에서의 AI 개발 및 사용은 인간의 존엄성과 생명의 신성함을 존중하고 무기 개발 경쟁을 방지하기 위해 가장 엄격한 윤리적 제약을 받아야 한다”고 지적했다.

교황은 “자원의 공정한 분배, 인간 존엄성, 사회 정의 및 환경 보호를 포함한 일련의 원칙들이 AI 개발에 적용되어야 한다”고 밝혔다. 그러면서 신기술에서 파생된 알고리즘, 디지털플랫폼, 기술 인프라, 데이터 등은 ‘보편적 재화’에 포함해야 한다고도 했다. 교황은 “디지털 환경에서 플랫폼·데이터·인프라는 국가가 아닌 경제·기술자들이 통제한다”며 “이런 권력이 소수에 집중될 때 불투명해지고 의존·배제·불평등으로 왜곡될 위험이 커진다”고 우려했다.

교황은 이번 회칙에서 ‘존엄성’이라는 말을 100회 이상 사용했다. AI가 가치 있는 도구일 수는 있지만 결코 육체, 영혼, 감정, 결함, 그리고 책임감을 가진 인간과 같아질 수 없으며, 인간의 가치도 그 사람이 생산하거나 성취하는 결과물에 좌우되지 않음을 강조한 것이다.

교황은 이날 회칙 발표 자리에 크리스토퍼 올라 앤스로픽 공동 창업자 등 테크 업계 인사들을 초청했다. 회칙은 교황이 전 세계 가톨릭 신자와 주교들에게 전하는 최고 권위의 사목 교서다. 다른 교황 문헌인 교황 교서, 권고, 담화, 연설, 강론 등과 비교해 가장 구속력이 강하다. 4만2300단어가 넘는 방대한 내용의 이번 회칙은 교황이 지난해 5월 즉위한 이후 처음 발표하는 교서다. 총 82페이지 분량으로 245개항으로 구성됐다.