4년 전 미국 워싱턴주 커클랜드시의 시의회를 지켜본 적 있다. 커클랜드시에선 아마존의 인공지능(AI) 배달 로봇이 길거리를 돌아다니게 할지 말지를 결정해야 했다. 코스트코 PB 브랜드로 익숙한 ‘커클랜드’는 알고 보면 구글 등 테크 기업들이 몰려 있는 도시다. 혁신의 도시는 AI 배달 로봇을 바로 도입하지 않고 결정을 6개월 유예했다.

당시 시의회 논쟁은 다층적이었다. “인도를 다니는 소형 로봇이 아이들과 부딪힌다면” “카메라가 달린 로봇으로 프라이버시가 침해될 수 있는데 대책은?” “로봇 안에 든 배달 물건이 도난당하면 누구의 책임인가?” 등 여러 가지 질문이 나왔다. 기술 자체보다도 기술이 빚어낼 책임과 질서를 먼저 따졌다. “사람도 주민세를 내듯이 로봇도 사회가 만들어놓은 인프라를 이용하니 도로 이용료를 내야 한다”는 신선한 주장도 나왔다. 한국에서라면 혁신을 가로막는 ‘5적’ 리스트가 나올 법한 발언들이었다.

이 질문들은 한국에서도 각기 다른 모양으로 점점 현실로 나타나고 있다. AI는 이미 고용, 저작권, 사고 등 다양한 영역에서 ‘책임의 공백’을 만들어내고 있지만 기술 확산 속도에 비해 이를 검증할 제도와 논의는 뒤처져 있다. 인공지능이 인간지능을 뛰어넘는 ‘특이점’이 언제 올지 모르겠지만 먼저 찾아온 건 ‘문제점’이다.

구글 등 테크 기업 몰린 도시
AI 배달 로봇 도입 놓고 논의
충돌 사고 등 ‘책임 문제’ 제기
신속한 결정 대신 신중한 검증

우선 고용 문제다. 국가데이터처가 발표한 ‘올해 2월 고용동향 보고서’를 보면 2월 청년층(15~29세) 취업자가 14만6000명 감소했다. 1년 새 20대 이하 청년 인구는 2%만 줄었는데 취업자 수는 4% 감소한 것이다. ‘암묵적 지식’을 가진 경력자들의 일자리는 유지되지만 AI 확산이 신입 일자리 감소에 영향을 미치고 있다는 분석이다. 실제로 AI가 단순 업무를 대체할 수 있다는 차원에서 대형 회계법인이 신입 회계사를 뽑지 않다보니 기존 회계사들 업무 부담이 늘어나는 일도 벌어지고 있다.

저작권 문제도 마찬가지다. 인간이 쌓은 저작물을 AI가 무단으로 학습하도록 놔둬도 되는 것인가. 이미 미국에선 출판사와 작가 등이 오픈AI를 상대로 소송을 제기했다. 자신들의 콘텐츠가 무단으로 AI 학습 훈련에 사용됐다는 것이다. 지난해 AI 모델 클로드 개발사 앤트로픽의 AI 학습용 데이터 관련 저작권 침해 소송에서 법원은 AI 학습 자체를 인정했고 해적본 데이터 도용만 문제 삼았다. 작가와 회사가 합의하면서 일단락됐지만 저작물의 AI 활용은 어디부터 침해인지 기준은 여전히 모호하다.

자율주행차는 책임 공백을 더 분명히 드러낸다. 지난 1월 미국의 온라인 보험사 레모네이드는 테슬라 자율주행차 사용자에게 보험료를 50% 할인하는 상품을 출시했다. 자율주행 차량의 사고율이 낮다는 데이터에 기반했다. 보험료 할인 논쟁도 있었지만 사고 발생 시 책임 주체가 불명확하다는 점은 여전했다. 자율주행으로 교통사고가 나면 운전자 책임인가. 제조사 책임인가. 이 질문은 한국에도 곧 닥친다. 광주시는 올해 초 한국 최초의 자율주행 실증도시로 지정됐다. 자율주행차 200대가 하반기부터 단계적으로 운행된다. 국내 보험사와 당국엔 아직 관련 기준이 없다.

가격 담합 이슈에서도 책임 공백이 보인다. 이미 온라인 플랫폼은 여러 업체의 상품·서비스 가격을 AI 알고리즘으로 탄력적으로 정하고 있다. 알고리즘이 가격을 정할 동안 당사자 간 의견 교환은 없다. 기업은 영업 기밀이라며 알고리즘을 공개하지 않는다. 담합이라 판단하기도 모호하고, 입증하기도 쉽지 않다. AI가 더 확산되면 담합 논란은 더욱 커질 것이다.

이런 질문들이 정리되기 전에 도입된 기술은 언젠가 분명 예상치 못한 비용으로 사회에 돌아온다. 기술 도입보다 검증을 택한 커클랜드 시의회 결정을 떠올리는 이유다. 당시 아마존 로봇 도입을 가장 강력히 반대한 켈리 커티스 시의원과 e메일을 주고받았다. 그는 이렇게 말했다. “우리가 이 로봇을 먼저 도입한 이웃 도시들로부터 배운 것은 이 소형 로봇에 예상치 못한 문제가 있다는 겁니다. 기술 자체는 흥미롭지만 속도를 늦추고 조사를 통해 신중히 하는 것이 좋겠다고 생각했습니다.” 혁신은 속도에만 있지 않다. 우리는 그 속도를 감당할 준비가 되어 있는가.