[조광희의 아이러니] 인공지능에 따르는 위험성의 대비

지혜롭게 인공지능 법제화 서둘러
챗GPT 같은 생성형 AI가 우리를
천국이 아니라 지옥으로 데려갈
위험을 예측하고 대비할 필요성
아무리 강조해도 지나치지 않다

지난 3월15일자 뉴욕타임스는 스티븐 존슨의 ‘역사상 가장 큰 실수를 두 번 저지른 뛰어난 발명가’라는 글을 실었다. 그 발명가는 토머스 미즐리다. 그가 1944년 세상을 떠났을 때 신문들은 자동차와 냉장고를 발전시킨 그의 획기적인 발명품을 찬미하는 기사를 실었다. 오늘날 미즐리는 비운의 발명가로 알려져 있다. 그는 납을 섞은 유연휘발유를 발명했고, 오존층에 구멍을 낸 프레온의 상업적 사용을 고안했다.

조광희 변호사

유연휘발유와 프레온의 위험성은 당시에는 제대로 알려지지 못했으므로, 끔찍한 상황을 예측할 수 없었다. 심지어 프레온의 경우에는 인류가 환경문제와의 관련성을 인지할 기술적 수단 자체를 가지지 못했다. 존슨은 이 위험한 발명들을 언급하면서 ‘위험의 주기’를 고민한다. 인류는 장기적으로 축적될 위험에 관하여 얼마나 고려하는 것이 타당할까. 유전자재조합 생물체(GMO)는 과연 충분히 장기간 검증되었는가?

화학이 아니라 정보기술의 문제이지만, 누가 보아도 인류에게 축복을 가져다주리라 믿어 의심치 않았던 인터넷의 부작용도 인상적이다. 인터넷은 삶의 속도와 패턴을 송두리째 바꾸었는데, 정치적으로는 권력자의 부패와 속임수를 낱낱이 전파시켜 독재권력의 토양을 갈아엎을 거라는 기대가 있있다. 우리가 실제로 당도한 곳은 필터버블로 인한 정치적 양극화와 가짜뉴스의 범람 그리고 유튜브 선동꾼과 저질 댓글들의 폐해다. 상당한 고등교육을 받은 사람들마저 모순되고 비합리적인 신념에 빠지면서 민주주의는 심각하게 위협당하고 있다.

수많은 새로운 기술과 제도의 역사를 보면, 의도와 효과가 일치하지 않는 경우가 허다하다. 기술이나 제도에 대한 산업의 요청과 대중의 갈증이 강력하면, 규제는 속박으로만 느껴진다. 그러나 결코 잊으면 안 되는 것이 규제와 진흥은 동시에 맞물려 돌아가는 두 개의 바퀴다. 역사는 군사 퍼레이드처럼 일사불란하게 진격하는 것이 아니다. 게릴라처럼 쳐들어가고 피아가 구분이 안 되는 상황에서 엄청난 전력을 잃으며 가까스로 고지를 점령하는 모습에 가깝다.

우연적 요소가 역사의 분기점이 되는 경우도 허다하다. 외계에서 날아온 커다란 운석이 지구를 절멸시키는 상황이 오면, 우리가 말하는 역사의 합법칙성은 한낱 개소리가 되고 만다. 이 세계는 기본적으로 우연과 아이러니가 예상 가능한 미래를 늘 위협하는 세상이다. 그러므로 우리의 지력에 대한 겸손함, 통찰력의 한계에 대한 확고한 이해가 새로운 기술과 제도를 도입하거나 중요한 정치적 행동을 하는 데에는 필수적이다.

지금 인공지능(AI) 시대에 대한 진흥과 규제가 중요한 화두가 되고 있다. 기업적 이익이 눈에 보이고, 그것이 국익으로 이어질 가능성이 엿보이기 때문에 발전을 뒷받침하는 진흥에 토를 달 사람은 없을 것이다. 문제는 그것이 수반하거나 파생시킬 부작용이나, 예상하기 어려운 결과에 대해 미리 연구하고, 합리적인 규제의 틀을 선도적으로 마련하는 것이다. AI에 대한 깊은 이해는 물론이고, 최상급의 입법론적이고 철학적이며 전략적인 사고방식이 필요한 이러한 작업을 해낼 인물이나 조직이 우리나라에 있는지 모르겠다. 있다고 하여도, 여론이나 정치에 휘둘리지 않고, 진행할 조건이 갖추어져 있는지는 더욱 의문이다.

조광희의 아이러니 구독

지난 3월3일자 애틀랜틱은 “음모론은 새로운 최고의 친구를 얻었다”는 제목으로 챗GPT 같은 생성형 AI가 가짜뉴스에 사용될 심각한 위험을 지적하고 있다. 기사에 따르면, 마이크로소프트의 최고 과학책임자인 에릭 호비츠는 “명백한 AI 혁명이 이번 세기 초 소셜미디어처럼 선전가들에게 새로운 무기를 제공할 뿐만 아니라 역사적 지형을 완전히 재편할 수 있다”고 말했다고 한다. 악당들은 생성형 AI를 사용하여 이벤트, 인물, 연설 그리고 뉴스 보도를 조작하여 허위 정보를 뿌리는 데 사용할 수 있는 것이다.

AI가 독자적 의식을 가지고 인간에 대항한다는 SF적 상상력은 먼 미래의 일일 것이다. 그러나 AI가 사무직과 전문직의 업무방식을 획기적으로 바꾸리라는 것은 현실이다. 편향된 정보를 사용함으로써 사회의 수구화에 기여할 가능성 또한 임박한 위협이다. 컴퓨터그래픽, 딥페이크, 가상인간이 인간의 정체성과 내러티브를 다루는 문화와 산업에 깊이 영향을 주리라는 것도 실제상황이다. 게다가 다시 한번 민주주의가 침식당할 가능성이 문 앞에 와 있다. 수준 높고, 촘촘하며, 지혜로운 인공지능 법제화를 서둘러 AI가 우리를 천국이 아니라 지옥으로 데려갈 위험성을 예측하고 대비할 필요는 아무리 강조해도 지나치지 않다.

인공지능 법제화 챗GPT AI