[전문가의 세계 - 박주용의 퓨처라마] 아무 말이나 늘어놓는다고 다 ‘말’이 되는 건 아니라서

(38) AI에 대한 과장 선동과 열광

일러스트 | 김상민 기자 yellow@kyunghyang.com

자연어 상호작용 가능해지며
AI 미래 놓고 찬사·기대 커져
신기술 가린 ‘신비’ 걷고 보면
‘말하는 사용설명서’ 수준일 뿐

지난 두 차례에 걸쳐 언어 인공지능에 대해 이야기를 조금 풀었더니 그에 대해서 이런저런 질문을 주는 사람들이 생겼다. ‘요즘 다들 그 이야기를 하는 것 같더라’는 말, 심지어는 ‘기계학습을 전공하지 않은 사람들조차 다들 언어 인공지능 전문가가 된 것 같다’는 놀라움의 말도 심심찮게 들린다.

이러한 높은 관심도와 ‘전문가’ 급증의 원인은 아무래도 누구나 하는 자연어로 상호작용할 수 있다는 사실이 아닐까 싶다. 챗GPT 같은 언어지능을 만드는 데 사용되는 ‘트랜스포머’ 같은 전문용어를 들어본 적이 없거나, 그 작동원리를 정확히 모른다 하더라도 우리가 매일 하는 말로 일을 시키고 그 결과물을 받을 수 있기 때문에 누구든 한마디 거들어보고 싶어지는 건 자연스럽다고 할까. 그래서 ‘잘할 수만 있다면’ 인간-컴퓨터 상호작용의 새로운 지평을 연 것이라고도 볼 수 있겠다. 물론 ‘잘한다’는 게 정확히 무슨 뜻인지는, 아래에서 기술할 이유들 때문에 아직 확실치 않지만 말이다.

이와는 정반대로 언어 인공지능 때문에 자신의 자리나 직업이 사라지지 않을까 노심초사하는 사람들의 이야기도 간혹 들린다. 디지털 인문학을 전공하는 연구원의 말로는, 다른 곳보다 인문학계에서 특히 그런 분위기가 느껴진다고 한다. 주어진 질의에 척척 유창하게 대답하는 모습을 보며 어느 날 정말로 자기들이 할 일이 사라지지 않을까 하는 우려인 것 같다.

그런데 이런 반응에는 ‘인공지능 때문에 사라져버릴 100대 직업’ 따위의 하이프(hype·새로운 것에 대한 과장선동과 흥분된 반응)로 범벅된 선정적인 글들이 큰 역할을 했다는 생각이 든다. 이로부터 서양 문학 전통의 오라클(oracle)이라는 개념이 떠올랐다. 라틴어로 ‘말하다’라는 뜻을 가진 ‘오라레(orare)’에서 파생된 오라클은 미래를 이야기해주는 성직자나 승려를 뜻하는데, 직접 미래를 볼 수 있는 예언자와는 달리 신 같은 초자연적인 존재가 알려주는 것을 전하기만 한다는 데서 영매(靈媒)와 조금 더 비슷하다.

그런데 도로시의 강아지 토토가 커튼을 걷어내자 오즈의 마법사가 신비한 마법의 존재가 아님이 드러난 것처럼 우리에게 필요한 것은 기계학습이라는 인간의 피조물을, 이해할 수 없는 신비한 존재가 뒤에 도사린 오라클이라고 생각하게끔 사람의 눈을 가려버리고 있는 저 하이프를 걷어내는 것이라고 할 수 있다.

변호사 시험은 통과한다 해도
경험·감각을 체득할 수는 없어
‘사용자’ 인간을 이해 못한다면
엉뚱한 대답만 내놓을 수밖에

과학의 발전에 기반해 등장한 기술을 일반인도 어려움 없이 직접 사용할 수 있게 된 역사적 예로는 내연기관을 들 수 있다. ‘열역학의 아버지’로 불리는 프랑스 물리학자 사디 카르노(1796~1832)가 1824년에 발명한 ‘카르노 사이클’이라는 개념으로부터 에티엔 르누아르(1822~1900)와 니콜라우스 오토(1832~1891)가 내연기관을 개발했다. 뒤이어 카를 벤츠(1844~1929)가 이 장치를 손잡이가 달린 수레에 달아 1886년에 내놓으면서 우리가 잘 알고 있는 자동차의 역사가 시작되었다. 그 이후 140년 동안 내연기관은 인류 문명의 발전에 말 그대로의 동력(動力)을 제공해 왔지만, 그것의 원리를 전문가 수준으로 자세히 알지 못하고 ‘카르노 사이클’이라는 말을 들어본 적이 없을 사람들도 자동차를 이해할 수 없는 신비한 존재로 여기는 일 없이 능숙하고 간편하게 조작하며 생활하고 있다.

가려는 방향을 동그라미(조향 휠)로 직관적으로 가리키게 하는 자동차와, 알고 싶은 것을 평문으로 물어보는 데 대해 대답을 해주는 최신의 언어 인공지능은 이처럼 닮았다. 그러나 조향 휠을 아무 방향으로 놓고 가속기를 밟아대는 것을 ‘운전한다’고 할 수 없듯이 컴퓨터에서 나오는 말이 내 질문에 대한 올바른 답이 된다고 기대할 수는 없는 노릇이다. 필자는 2회 전 ‘퓨처라마’에서 이미 대화라고 하는 것은 말의 교환을 통한 정보의 주고받기에 그치지 않고 사람의 감정이나 경험을 나누고 공감을 기대하며 대화 상대방의 행동과 사고의 변화를 유도하려는 의지와 계획의 산물인데 컴퓨터에는 그게 없다고 지적했었다. 그와 거의 같은 시기에 미국의 언어학자 노엄 촘스키(1928~)는 동료들과 함께 뉴욕타임스에 기고한 글에서 챗GPT의 세련되어 보이는 말과 사고의 표피 밑에 도사린 ‘무지능에 기인한 도덕적 냉담’은 현대 정치철학가 한나 아렌트(1906~1975)가 주창한 ‘악의 평범성(banality of evil)’과 비슷한 모습을 하고 있다고 주장했다. 악의 평범성이란 눈에 띄지 않는 평범한 모습으로 우리 일상 속에 숨어 있는 악이 더 큰 폐해를 끼칠 수 있다는 경고를 날리기 위해 만들어진 말인데, 촘스키는 이것을 “표절과 도작, 무감정과 냉담함, 책임 회피”로 점철된 말을 하는 프로그램에 열광하고 있는 현재 우리의 상황과 유사하다는 뜻으로 사용했다.

더 쉽게 표현하자면 이렇다. 지금 여러분이 친구와 대화를 하고 있다고 하자. 여러분은 자신의 진지한 생각, 진솔한 감정을 전달하고 있는데 그 ‘친구’의 말은 모조리 다른 사람의 말을 베낀 것이고, 여러분의 감정이나 상황에 조금의 관심도 없고, 번번이 자신이 하는 말에 책임을 질 수 없다면서 회피할 궁리만 하고 있다면, 여러분은 일초라도 빨리 그 자리를 박차고 일어나고 싶어하지 않을까? 그런데 왜 컴퓨터가 똑같은 행동을 하면 좋아하는 걸까?

자연어 상호작용 가능해지며
AI 미래 놓고 찬사·기대 커져
신기술 가린 ‘신비’ 걷고 보면
‘말하는 사용설명서’ 수준일 뿐

현대 언어학의 태두인 노년의 한 학자와 일군의 동료들이 제기한 이 같은 우려의 심각성에 얼마나 동감할지는 개개인의 판단에 달렸다. 하지만 이처럼 사람과 같은 경험과 사고를 할 수 없는 기계학습에 인간의 설자리가 사라질 것이라는 인문학자들의 우려는 기우라는 것은 확실해 보인다.

지금 인간의 설자리는 얼마나 위협을 받고 있는가? 극히 최근인 2023년 3월, 최신판 챗GPT가 미국 변호사 통합시험(MBE+MEE+MPT)과 미국 수능(SAT) 수리영역을 각각 상위 10%의 성적으로 통과하였고, 워드와 파워포인트를 만드는 일에 아주 뛰어난 성능을 보여준다는 발표가 있었다. 사람보다 뛰어나다는 말을 하고 싶었던 것인지 모르겠으나, 이 소식을 듣고나서 한 변호사(2개국에서 자격증을 지녔으니 나름 자격시험에 도통했다고 할 수 있다)가 이렇게 말했다.

“시험을 통과했으니 이제 사람과 동급의 변호사가 되었다는 이야기를 하고 싶은 것인가? 우리의 일은 상황에 따라 지식과 경험을 창의적으로 조합하여 대응해야 하는 것인데, 이는 시험을 통해서는 얻을 수도, 물어볼 수도 없는 것이다. 최소한의 지식을 익히게 하게 위한 시험을 통과하는 것보다, 실제 사람의 일을 경험하면서 전문가로 발전하는가가 백만배는 더 중요하다.”

곧이어 ‘어떤 사람들’에 대한 일침이 날아왔다.

“언어 인공지능이 처음 나왔을 때는 사람과 구별할 수 없는 언어로 사람과 함께 우주와 자연과 철학을 논할 수 있다고 열광하더니, 조금 더 지나자 표준화된 자격시험을 통과할 수 있다고 열광하고, 이제는 문서를 잘 만든다고 열광하네. 그런데 이렇게 열광하던 사람들이 다 같은 사람들이더라.”

예상치 못한 날카로운 지적이었다. 추상적인 주제에 대해 논하는 능력을 고차원적인 언어구사력으로 여기는 우리의 상식과 달리, 어느새 이 녀석은 성능이 좋아질수록 ‘인생과 철학을 논의할 수 있는 동반자’에서 ‘사무 문서 작성의 도우미’로 바뀌어 있었던 것이다. 앞장서서 이 신기술에 열광하는 분위기를 만들어오던 그 ‘어떤 사람들’, 즉 호사가들에게는 이 문제가 보이지 않았던 걸까?

이렇게 된 데는 거대 기업의 자본으로 천문학적인 돈을 투자해서 만든 기술이므로, 돈이 안 되는 ‘인생 대화의 상대’보다는 돈이 되는 ‘문서·웹사이트 작성 도우미’를 만들어서 이윤을 창출해야 한다는 사정도 있었을 것이다. 3에서 3.5로, 또 4로 판올림을 할 때마다 먹는 자원이 엄청나게 늘어난다는 것이 정설이기에 개연성이 있는 이야기이다.

하지만 인공 언어지능 열풍이 불던 초기에 사람들이 제일 많은 관심을 보인 분야가 ‘정신과 상담’과 같은 엄청난 시장규모를 가진 헬스케어(보건)였다는 사실을 생각해보면, 단순히 시장성 하나만으로 그 이유를 설명할 순 없음을 알 수 있다. 이렇게 된 것은 역시, 기계는 기계일 뿐이라 언어 이상의 것들-경험과 사고-의 부재를 뛰어넘을 수가 없으므로 대중의 열렬한 기대에도 불구하고, 그러한 것을 만들어내기에는 역부족이기 때문이라고 보는 게 맞다. 그래서 이것이 아무리 발전을 한다 하더라도 사용자가 인간이라는 사실을 이해하지 못하는 상황에서는 ‘스스로 말을 하는 사용설명서’(아직 사실 확인조차 그다지 완벽하지 않은)의 위상을 벗어나지 못할 것이다. 그리고 대부분의 사람들이 사용설명서를 잘 읽지 않듯, 이렇게 간다면 언어 인공지능을 둘러싼 지금의 하이프도 결국엔 사그라들 수밖에 없다.

향후 설 자리 걱정하는 인문학
오히려 더욱 중요해지는 이유

‘인간의 이야기를 쓰는 문학’ ‘인간의 역사와 철학을 담는 인문학’이 인공지능에 위협을 받지 않을 까닭이 여기에 있다. 오히려, 스스로를 돌아보지 않고 기술이 흘러가는 대로 몸을 맡겨 목소리를 높이는 호사가들이 판치는 지금이야말로 ‘과학기술을 아는 인문학’이 더 중요해지는 시점이라고 본다.

그것이 어떤 형태의 학문인지는 고민하면서 조금씩 풀어가 보려고 하지만, 평생을 과학에 몸담아온 입장에서 이 말을 강조하고 싶은 것은, 남에게는 사소해 보이지만 나에게는 아주 골치 아팠던 한 사건 때문이었다. 학생 시절부터 밤새워 코딩하고 글쓰는 것이 본업이다보니 타자의 느낌이 그렇게 좋다는 나름 고가의 키보드를 구입해 손가락을 통해 전해지는 감촉에 매우 만족해하고 있었는데, 몇년 전부터 컴퓨터를 깨울 때 키보드가 먹통이 되는 일이 생기기 시작했다. 키보드가 인식되지 않으면 컴퓨터를 쓸 수가 없으니 조금 쓰린 속을 붙잡고 고이 모셔두고 있다가 ‘사람 일은 헛짚어도 컴퓨터에 관한 답은 잘 알겠지’란 생각에 챗GPT4에 해결책을 물어볼 생각이 났다. 그랬더니 약 8000자에 달하는 기나긴 답이 나왔는데 그중에는 키보드를 이용해서 먹통된 키보드를 인식시키는 법, 키보드로 비밀번호만 넣고 들어가기만 하면 키보드 없이도 글자를 칠 수 있는 법에 대한 상세한 설명도 들어 있었다. 키보드가 안 먹힌다는데 어떻게 이용을 하고 비밀번호를 넣으라는 거냐는 나의 반응에 “죄송합니다”를 연발하는 이 녀석을 놔두고 동일 제품 이용자 게시판에 힘들게 들어가 한 사용자가 써놓은 말을 발견했다.

“컴퓨터를 키보드 말고 마우스로 깨우면 돼.”

전문가의 세계 - 박주용의 퓨처라마 구독

이렇게 단순하게 문제를 완벽하게 해결하다니! 단 몇 글자로 인공지능이 만든 기나긴 8000자를 이겨낸 인간 ‘경험’의 힘이었다. 교육자의 입장에서 챗GPT에게 이 얘기를 해줬더니 “그럴 수 있습니다. 마우스로 컴퓨터를 깨우는 방법은 다음과 같습니다”라면서 불필요한 말을 또 장황하게 시작한다. ‘문제의 해결책을 아는 사람’과 ‘문제의 해결책을 쓰는(즉, 마우스로 컴퓨터를 깨우는) 사람’이 같다는 당연한 사실조차 추론하지 못한 것이다.

이런 이유로 남들은 이미 챗GPT와 놀기를 그만뒀는데 설마 나 혼자만 계속해보고 있는 건 아닐까? 나도 사실은 손가락에 닿는 좋은 감촉을 아는 사람들과 놀고 싶다.

박주용 교수

[전문가의 세계 - 박주용의 퓨처라마] 아무 말이나 늘어놓는다고 다 ‘말’이 되는 건 아니라서

서울대학교 물리학과를 졸업하고 미국 미시간대학교(앤아버)에서 통계물리학으로 박사 학위를 받았다. 네트워크와 복잡계 물리학에 기반한 융합 데이터 과학 전문가로서 노트르담대학교, 하버드 의과대학 데이너-파버 암연구소 연구원을 거쳐 현재 카이스트 문화기술대학원에서 문화예술과 과학의 창의성을 연구하고 있으며, AI 이후 시대를 준비하는 카이스트 포스트AI 연구소 소장을 맡고 있다. 학창 시절 미식축구에 빠져 대학팀 랭킹 알고리즘을 고안한 뒤 지금도 빠져 있으며, 시간이 생긴다면 자전거와 모터사이클을 타고 싶어 한다.