[송두율 칼럼]인공지능 시대의 명암

큼직한 사건을 다루는 국회의 국정감사에 대한 보도가 모든 언론 매체를 꽉 채운 듯한 요즈음 나는 21년 전에 있었던 한 사건을 떠올리게 된다. 이번 국정감사 중에 국회의원들이 증거자료로서 녹취록이나 파워포인트(PPT)를 연일 보여주었다. 21년 전 한나라당 정형근 의원은 국회의 대정부질의 때 나의 국가보안법 위반 혐의에 대한 중요한 증거라고 하면서 디스켓 하나를 복사한 종이 한 장을 흔들며 보여주었다. 디스켓의 양면 사진을 종이에 복사를 해서 증거물이라고 보여주었기에 그는 이 일로 대표적인 ‘컴맹 정치인’으로 불렸다.

이번 국정감사에서 가장 중요한 쟁점의 하나인 검찰의 김건희 불기소 처분에 대해 더불어민주당의 박지원 의원은 같은 혐의 내용을 대중적인 생성형 인공지능 챗GPT 4.0에 물었더니 ‘기소하라’고 했는데 법원 측의 판단은 어떠냐고 물었다. 참고인으로 출석했던 법제처장은 이에 대한 즉답을 피하면서 앞으로 인공지능을 보조적 수단으로 강구 중이라고 답했다.

그러나 질문의 본질은 인공지능의 재판 도입에 관한 문제가 아니라 시골 노인은 물론 현재 수준의 인공지능조차 충분히 판단할 수 있는 명확한 범죄사실 앞에 법이 눈감고 있는 현실에 관한 것이었다. 검사나 판사 대신에 차라리 인공지능을 활용하는 법 운용이 이제 사회적 정의와 법을 지키는 길이 될 수 있다는 냉소 섞인 상황이 되었기 때문이다.

법복을 입은 인공지능

이렇게 변화하는 정보사회의 기술적 조건에 대한 정치인의 이해를 보면서 그동안에 일어났던 우리의 생활세계 변화에서 인공지능이 얼마나 큰 역할을 하고 있는지를 새삼 확인하게 된다. 문법이나 맞춤법과 같은 저술작업에 등장하는 문제 해결 때문에 가끔 인공지능에 의지하는 나 자신도 인공지능 덕분에 산업과 경영, 금융과 유통, 언론, 교육, 보건, 노동, 예술 분야에서 그동안 일어났던 많은 변화와 흔적을 종종 느낄 수 있다.

위에서 언급된 인공지능의 법 운용체계에의 적용은 다른 영역보다 많은 문제를 안고 있기에 인공지능의 가능성과 한계를 가늠할 수 있는 하나의 중요한 사례로 최근 많이 논의되고 있다. 한마디로 표현해서 ‘로봇 판사’나 ‘인공지능 판사’가 내린 사법적 판결을 사회적으로 받아들일 수 있느냐는 질문이다.

엄청난 양의 과거 판결 데이터를 학습한 인공지능이 어떤 판결이 가능한지를 예측하는 데는 보다 더 적합하기에 판사보다는 변호사의 업무수행에 사실 더 유용하다고 볼 수 있다.

그러나 인공지능이 수많은 정보를 모으고 분석하고 내린 판결이 단순하게 법 적용에만 머무르지 않고 도덕적이거나 윤리적인 측면, 또는 해당 사건의 전체적인 맥락까지 고려해야 한다면 문제는 달라진다. 그래서 로봇 판사가 과연 판사의 역할을 할 수 있느냐는 데는 회의와 논박이 따른다.

여기에서 특별히 제기되는 문제는 인공지능이 사실관계의 확인과 판단을 내리는 모든 과정이 ‘암흑 상자’에 들어 있어 이에 쉽게 접근할 수 없다는 점이다.

가령 인공지능 판사가 내린 판결에 불복해서 피고가 항고한다면 어떤 과정을 거쳐 그런 판결이 나왔는지를 알 수 없을뿐더러 이의 책임 소재도 불분명하기 때문이다.

이런 불투명성과 함께 또 문제되는 것은 인공지능이 지난 판례를 학습하는 과정에서 자연히 그 속에 들어 있는 과거의 인종주의적, 종교적 또는 성적인 편견까지도 학습, 이에 기초해서 판결을 내릴 위험성이 크다는 점이다. 이런 문제를 안고 있는 인공지능이 판사의 역할을 과연 대신할 수 있느냐는 회의에도 불구하고 사실 너무나 접근이 어렵고, 불분명하고 혼란스러운 법의 운용체계를 대신하는, 인공지능이 도달할 수 있는 ‘법률적 특이점’에 대한 긍정적인 논의가 있다. 기술이 인간을 압도하는 시점으로 설정된 ‘기술적 특이점’에 대한 전망을 빌려 법체제도 마찬가지로 인공지능에 의하여 신속하고 정확하고 통일적인 것으로 변화시킬 수 있다는 것이다.

인간 지능보다 더 세련되고 빠른 인공지능이 인간의 지능 수준을 넘어서는 특이점이 언제 올 것인지를 두고 ‘구글’의 기술 부문 책임자인 레이 커즈와일은 <특이점이 온다>에서 현재 인공지능의 발달 속도를 고려할 때 이 변곡점의 시간을 대략 2045년으로 예견하고 있다.

초인공지능과 전도된 인간

그는 인공지능이 인간의 인지 능력을 능가할 뿐만 아니라 과학과 기술이 결국 정신적, 육체적 영역에서도 인간이 지닌 한계를 넘어설 수 있게 만들어 우리가 기존에 지녔던 인간상에 대한 생각을 넘어선다는 뜻에서 ‘트랜스 휴머니즘’을 설파한다. 고통과 질병, 장애와 노화 같은 인간의 숙명적인 조건도 생명과학과 게놈과 나노기술로 극복할 수 있는 새로운 세계를 약속한다.

인간존재의 극대화를 지향하는, 이런 생각은 물론 전혀 새로운 것은 아니다.

예를들어 니체의 ‘초인’ 개념에서도 비슷한 사고유형을 발견할 수 있다고 일련의 트랜스 휴머니즘의 지지자들은 주장하고 있다.

또 다른 이 분야의 전문가인 옥스퍼드 대학의 닉 보스트롬은 인공지능이 연속적으로 스스로 개량해 나가면서, 또 어느 시점에서는 폭발적으로 진화, 인간의 지능 수준을 훨씬 뛰어넘는 ‘초인공지능(ASI)’ 시대의 도래가 가능하다고 보면서 이는 인간이 통제할 수 없는, 인류의 실존적 위기라고 경고한다.

공상과학 소설이나 영화의 주제처럼 보이는 특이점이나 초지능에 대한 이런 논의는 그러나 우리가 사는 현실에 대한 이야기는 아직 아니다. 주어진 일을 인간의 의도에 따라 수행하는 인공지능으로, 많은 양의 데이터를 학습시켜 스스로 특정한 과제를 해결하는 것을 목적으로 하는 인공지능의 수준에 머무르고 있다.

그다음에 올 단계가 인간의 지능과 같은 수준의 지능을 지닌 ‘인공 일반지능(AGS)’이다. 2023년 인간의 추론능력과 비슷한 생성형 챗GPT의 등장을 계기로 해서 기계도 지능을 획득할 수 있다는 주장이 나왔다. 이에 이은 마지막 단계가 처음에 거론된, 초인공지능이 등장하는 특이점의 시점이다.

그러나 인공지능은 그의 어떤 단계에 있든지 근본적으로 데이터를 다루는 지능이다. 어떤 경우에도 다양한 의미를 담고 있는 현실과 만나면서 이를 해명하고 이의 가치를 생활세계 안에서 다른 사람과도 의견을 나눌 수 있는 인간적인 존재방식을 터득할 수는 없다. 인간적인 삶의 총체를 단순히 데이터나 정보의 총합과 등치할 수 없기 때문이다.

인공지능에 대한 이런 근본적인 비판은 현실적으로 존재하는 개인정보의 보호, 알고리즘의 편향성과 공정성의 결손을 문제 삼았다. 이에 대한 하나의 법적인 대응의 첫 결과가 바로 올해 3월13일에 통과되어 8월1일부터 시행된 유럽연합의 ‘인공지능 규제법’(AI Act)이다.

송두율 칼럼 구독

이 규제는 현재 인공지능의 무서운 팽창 속도를 고려한, 의미 있는 국제적인 대응이기도 하다. 2023년에 전 세계 인공지능시장의 규모가 약 2000억달러였는데 연평균 성장률이 30~40% 이상이 되어 2030년에는 약 1조달러 수준에 이를 것으로 예견되기 때문이다. 물론 이런 규제가 인공지능 개발의 연구자나 투자기업, 이 분야의 주식 거래자에게는 희소식은 아닐 것이다. 그럼에도 불구하고 앞으로 인공지능이 불러올 미래의 세계에 대한 이러저러한 전망을 정리하는 중요한 계기를 마련해주었다.

인간이 만든 기술이 인간의 수단이 아니라, 오히려 주인인 인간을 부리는 전도된 상황에 대한 비판은 항상 있었다. 시간이 흐를수록 완성도를 높여가는 기술과 인간의 불완전함 사이에 벌어진 차이를 반핵운동의 선구자였던 철학자 귄터 안더스(1902~1992)는 ‘프로메티우스의 간격’이라고 불렀다. 이런 간격으로 생긴 열등감 때문에 인간은 오히려 기계가 되고 싶어서 안달한다는 것이다. 바로 이러한 연유로 인간은 자신을 스스로 쓸모없는 존재로 만든다고 그는 비판하면서 ‘우리는 기계적으로 유치하게 되어간다’고 경고했다.