AI가 불러올 사회 혼란 막기 위해 칼 빼든 EU

일러스트|김상민 기자

유럽연합(EU)이 세계 최초로 인간의 안전이나 권리를 위협하는 인공지능(AI) 시스템에 대한 포괄적 규제안을 내놓았다. 해당 법안이 EU 의회를 통과해 효력을 갖게되면 전 세계에서 성장하고 있는 AI 관련 시장에도 영향이 미칠 전망이다.

EU 집행위원회는 21일(현지시간) “기술이 윤리적으로 사용되도록 이끌고, EU를 신뢰할 수 있는 세계적 AI 중심지로 변모시키겠다”고 밝히며 108쪽 분량의 ‘유럽식 AI 접근법 규제안’을 공개했다. 규제안은 AI 시스템을 각각 ‘전면 금지’ ‘고위험’ ‘낮은 위험’ 세 단계로 분류했다. EU의 지침을 위반할 경우 기업이 전 세계 매출 6% 또는 최대 3000만유로(약 403억원) 고액의 과징금을 내야 한다.

EU는 공공장소에서 수집된 시민의 생체정보를 정부가 분석하는 행위를 전면 금지했다. 모은 정보를 바탕으로 개인을 평가하는 ‘사회적 점수 매기기’도 허용되지 않는다. 다만 실종아동 수색, 테러 예방, 범죄자 추적을 목적으로 하는 생체정보 수집 및 분석은 허용된다. 채용 면접, 신용 평가, 법 집행 등의 분야에서 개인을 평가하기 위해 생체정보를 모으는 것은 고위험 단계로 지정됐다. 고위험 단계군은 해당 기술이 시장에 출시되기 전 정부로부터 엄격한 기술 평가를 받아야 한다.

채용 면접, 신용 평가, 이민 이나 법 집행 등의 분야에서 개인을 평가하기 위해 얼굴 등 생체 정보를 모으는 것은 고위험 단계로 지정됐다. 고위험 단계군은 해당 기술이 시장에 출시되기 전 정부로부터 엄격한 기술 평가를 받아야 한다. AI 음성 기능으로 아이들에게 위험한 행위를 유도하는 장난감이나 애플리케이션 역시 고위험 단계로 분류됐다.

딥 페이크(인공지능 기반 얼굴 합성 변조 기술)와 같이 실제와 가상의 모습을 구분하기 어려운 영상에는 ‘AI가 만들었다’는 내용을 표시하도록 의무화하는 내용도 규제안에 포함됐다.

유럽은 AI 시장이 급격히 성장하기 시작하자 지난해부터 관련 전문가들을 모아 이번 규제안을 준비했다. 글로벌 컨설팅 업체 그랜드뷰리서치는 전 세계 AI 관련 시장이 2019년 390억달러(약 44조)규모였으며, 2027년까지 42% 성장할 것이라고 전망했다. 이번 규제안이 유럽의회와 회원국에서 통과되면 페이스북, 구글, 아마존, 마이크로소프트 등 AI 기술을 개발하는 기업들뿐 아니라 AI를 활용해 고객을 유치하는 보험 회사와 금융 회사 등에도 막대한 영향을 미칠 수 있다. 이번에 발표된 규제안이 통과되려면 EU 의회의 동의를 얻어야 하기 때문에 최종 통과까지는 수달에서 수년이 걸릴 전망이다.

규제 강도를 높이면 유럽에서 AI 관련 기술이 성장하지 못할 것이라는 우려도 나온다. 데이터 분석 연구소인 센터포데이터이노베이션의 벤자민 뮬러 분석가는 “유럽에서 AI 기술을 사용하려면 비용이 엄청나게 들어갈 수 있으며, 유럽의 AI 기술 개발이 뒤쳐질 수 있다”고 월스트리트저널에 말했다. EU는 이러한 우려에 대해 “앞으로 연간10억 유로(약 1조원)를 디지털 기술 개발을 위해 투자하겠다”고 밝혔다.

EU는 신기술 규제 법안을 선도적으로 만들어 시행하고 있다. 2016년부터 개인정보 삭제·이동 권리 등을 담은 개인정보보호 규정(GDPR)을 적용했으며, 지난해 12월에도 IT 기업이 반독점 행위를 하면 연 매출액의 10%를 벌금으로 매기는 ‘디지털 시장법’ 초안을 공개한 바 있다.

유럽 외 다른 나라들도 기술 기업에 이어 AI 관련 시스템을 규제하려는 움직임을 보이고 있다. 미국 규제기관인 연방거래위원회(FTC)는 지난 19일 ‘기업 AI 사용의 진실, 공정성, 평등을 위하여’라는 성명문을 발표해 기업들이 편견을 부추기는 AI 알고리즘 형성을 주의하고, AI가 모은 데이터를 어떻게 사용하는지 투명히 밝힐 것을 제안했다. 호주도 금융상품 상담 AI인 ‘로보어드바이저’로부터 투자자 개인정보를 보호하는 법안을 추진하고 있다.