[홍기빈의 두 번째 의견] AI 개발 6개월 중지 호소문의 뜻

기술 혁신이 가져온 파괴가
감당할 수준을 넘어서면
필연적 반작용이 온다

지금 성급하게
잘못된 선택을 하거나
준비를 하지 못한다면
결실은커녕 재앙이라고
공개 서한은 강조한다

우리는 챗GPT 출현 후
효율성에 흥분한 것 말고
이런 고민해 온 적 있나
이젠 그 서한의 의미
우리도 되새겨 볼 필요성

지난 3월29일, GPT-4를 넘어서는 고강도 AI의 연구·개발 작업을 6개월간 중지하자는 공개 서한이 발표되었고, 단 하루 만에 1000명이 넘는 이들이 동참하여 서명하였다. 이 사건과 그 서한의 의미를 깊이 되새겨 볼 필요가 있다.

홍기빈 정치경제학자

이 사건이 그 중요성에 비하여 특히 국내에서 상대적으로 간과되는 이유들이 있다. 먼저 이 서한을 주도한 기관이 그 유명한 일론 머스크의 자금에 크게 의존하는 곳이라는 사실이 한몫을 하였다. 머스크는 오래전부터 AI가 인류의 존속까지 위협할 잠재적 위험을 가지고 있음을 주장한 이였지만, 그간의 여러 말과 행동으로 인해 논란만 불러일으킨다는 세간의 인식이 굳어진 인물이었다. 그 때문에 이번의 공개 서한 또한 그가 벌이는 또 하나의 ‘쇼’가 아니냐는 인상을 심은 면이 있다. 게다가 마이크로소프트와 오픈AI가 손을 잡고 구글이 본격적인 경쟁에 뛰어든 이 시점에 뒤처진 이들이 선두주자들의 발목을 잡고 늘어지려는, 업계의 이해가 얽힌 것이라는 시각도 있다.

하지만 이 서한에 지금까지 서명한 이들의 이름과 면면을 보면 그렇게 생각할 일이 아님을 알 수 있다. 이들 중 다수는 AI 연구와 개발을 선도하는 이들로서, 이 문제에 대해 가장 정확한 지식과 많은 고민을 축적한 이들에 속한다. 따라서 이 서한의 내용을 진지하게 고려해 볼 필요가 있다. 그 문제의식은 세 가지 논점으로 요약할 수 있다.

첫째, 고강도 AI의 출현이 가져올 변화와 충격의 폭은 사람들의 상상을 넘어서서, 인류 문명의 존재 자체를 근본적으로 흔들 수 있는 것이라는 점이다. GPT-4가 준비되어 있는 상황에서 챗GPT를 먼저 공개한 것은 AI에 대한 세간의 인식을 형성하는 대단히 명민한 전략이었다고 보인다. 우리들이 사용하는 자연어로도 작동할 수 있는 인터페이스로 AI를 선보인 결과, 우리들은 AI를 대단히 친숙하고 심지어 “만만한” 존재로 인지하게 되었다. 무궁무진한 방식으로 편하게 부려먹을 수 있을 뿐만 아니라 때로는 그 “멍청함”을 가지고 장난을 칠 수도 있는 “덜 떨어진” 노예쯤으로 바라보아 적대감과 경계심을 풀어내는 효과를 가져왔다. 하지만 이 서한이 인용하고 있는 여러 연구 조사를 보면, AI의 진화가 가져올 충격은 그보다 훨씬 심대하다는 것을 느낄 수 있다.

인류 역사에서 광범위하게 사용되면서 인간의 삶을 완전히 바꾸어 놓은 ‘범용기술’은 여러 번 출현하였다. 하지만 그 ‘범용기술’들이 가져온 변화와 충격의 폭과 깊이는 크게 다르다. 바퀴와 전기를 비교해 보라. 둘 다 그 이전과 이후의 인간의 생활을 결정적으로 바꾸어 놓은 기술이지만, 그 변화의 폭과 깊이는 비교할 수 없다. 바퀴라는 기술이 바꾸어 놓은 부분은 이미 존재하는 힘의 전달 방식이라는 좁은 영역으로 국한되지만, 전기는 그보다 훨씬 깊은 차원에서 인간의 물질 생활과 정신 생활을 전면적으로 바꾸어 놓았다. 이 서한이 보는 바에 따르면, 고강도 AI라는 기술은 인류 문명의 존재는 물론 “지구 위의 생명의 역사에 근본적인 변화”를 가져올 수 있는 규모의 것이라고 한다.

막강한 힘을 극소수에 일임은 위험

둘째, 그럼에도 불구하고 고강도 AI의 미래를 좌우하는 모든 지식과 자원, 그리고 재량권까지 지금 오롯이 극소수의 대자본과 대기업이 완전히 거머쥐고 있다는 점이다. AI의 작동 메커니즘과 내부 논리는 극도의 영업기밀에 속하며, 그 소유자들 이외에는 누구도 들여다볼 수 없는 투명성 제로의 영역이다. 인류 문명 전체에 이렇게 크고 근본적인 변화를 가져올 수 있는 권력이 이렇게 소수의 손에 완전히 독점되어 있으며, 이들은 AI의 발전과 진화를 통하여 인류 문명이 나아갈 미래의 방향을 좌지우지할 권력을 쥐게 된다. 그리고 이에 대해 현재의 인간 사회가 보유하고 있는 그 어떤 제도와 장치도 개입하고 참여할 수 있는 방법이 없다. 한 가지의 예만 들어보자. 군사 기술에 고강도 AI가 도입되는 것은 피할 수 없는 일이다. 그런데 그 경우 현대 문명이 보유한 막강한 파괴력에 대해 이성적인 그리고 민주적인 통제는 과연 어느만큼이나 가능할 것인가? 그 결과에 대한 책임은 누가 어떻게 질 것인가? 이에 대해 국민들이 나아가 인류 전체가 집단적인 의사와 의지에 기초하여 통제력을 행사할 수 있는 가능성은 얼마나 되는가? 공개 서한은 이렇게 말한다. “이러한 중차대한 결정들을 사람들이 선거로 뽑은 것도 아닌 기술자들, 기업가들에게 일임하는 것은 결코 용납될 수 없는 일”이라고.

셋째, GPT-4 공개 이후로 사태는 새로운 국면에 들어섰다는 것이다. “지난 몇 개월 동안 여러 AI 실험실들은 더욱더 강력한 AI를 개발하고 실전에 배치하기 위한 경쟁에 돌입”하게 되었으며, “이러한 경쟁은 통제 불능의 속도로 치닫고” 있다고 한다. 그럼에도 불구하고 “AI 실험실들로서는 여기에서 빠져나올 수도 없는 상태”라고 한다. 그리고 “그렇게 해서 생겨날 ‘디지털 정신체’는 그 누구도, 심지어 그것을 만든 이들조차 이해할 수도, 예측할 수도, 또 안심하고 통제할 수도 없는 것들”이라고 진단하고 있다.

따라서 이 서한이 호소하고 있는 것은 최소한 6개월간의 전면적인 연구·개발 중지이다. 이 기간 동안 우리가 현존하는 “인류 문명”의 최소한의 안녕을 보장할 수 있다는 확신을 줄 수 있는 여러 통제 및 관리 장치를 마련하자는 것이다. 그리고 그 기초가 될 수 있는 사회적 토론과 합의를 도출할 수 있도록 하자는 것이다. 만약 이러한 과정을 기업과 자본 스스로가 해 나갈 수 없다면 마땅히 각국 정부가 개입하여 상황을 주도해 나갈 수 있어야 한다는 것이다.

인류 위해 여러 통제장치 마련해야

고강도 AI가 가져올 “파괴적” 혁신에 대응하기 위해 이미 여러 나라 정부가 나서고 있다. 미국 의회는 군사 안보, 치안, 교육 등의 문제를 놓고 여러 입법을 준비하고 있다고 하며, 유럽연합 또한 관련 법률은 물론 관리와 규제를 맡아볼 수 있는 전담 기구를 설립하겠다는 입장을 표명하였다. 하지만 회의론자들은 현재의 국제정치 상황을 빌려 이러한 노력이 무의미할 것이라고 말하기도 한다. 이미 미·중 갈등을 위시하여 전 세계 강대국들의 지정학적 경쟁이 시작되었으므로, 각국은 이러한 모든 고려를 뒤로 돌리고 오로지 “효율성” 하나에 집중하여 우위를 점하고자 하려 들 것이다. 이럴 때마다 흔히 거론되는 “악당”들의 이름으로 중국, 러시아, 북한 등이 있지만, 그런 이름과 거리가 있다고 여겨지는 영국의 경우에도 “거추장스러운 법률이나 관청” 등을 마련하는 것을 피하고 그저 다섯 개 정도의 “변형 가능한(adaptable)” 원칙을 제시하는 방향으로 나가겠다는 입장을 보이고 있다.

하지만 이러한 입장과 목소리를 그저 기술 발전의 발목을 잡고자 하는 낭만적인 것이라고 치부해서는 안 된다. 기술의 “효율성”은 사회가 그것을 허용하고 받아들이는 한계 안에서만 향상될 수 있기 때문이다. 기술의 혁신이 가져오는 “파괴”가 감당할 수 있는 수준을 넘어서게 되면 필연적으로 이에 대한 반작용이 벌어지게 되어 있다.

홍기빈의 두 번째 의견 구독

사회는 어떤 기술이든 다 받아들여 꿀꺽 삼키고 순식간에 헤쳐모여 재구성될 수 있는 그런 신박한 물체가 아니다. 사회라는 생체는 그 어떤 기술적 해법 심지어 “신의 경지”에 달한 초인공지능이라고 해도 마음대로 길들일 수 있는 존재가 아니다. 오로지 사회 성원들과 사회 전체가 받아들이고 적응할 수 있는 쪽으로 기술 혁신의 방향이 잡힐 때에만 기술과 사회의 상호작용과 시너지를 기대할 수 있는 법이다. 이것이 공개 서한에서 결론으로 강조하고 있는 바이기도 하다. AI의 지난한 발전의 결실을 우리가 거둘 수 있는 시점에 드디어 가까이 왔지만, 지금 성급하게 잘못된 선택을 하거나 해야 할 준비를 하지 못한다면 결실은커녕 예측하지 못한 재앙으로 끝날 수 있다는 것이다.

우리 사회는 챗GPT 출현 이후 몇 개월의 시간 동안 AI의 “효율성”에 고무되어 흥분하는 것 말고 이러한 방향의 진지한 고민과 토론을 얼마나 해 왔던가. 인류 역사상 어쩌면 가장 큰 규모의 힘을 가장 적은 숫자의 사람들이 독점하는 상황이 펼쳐진다면, 우리는 어떻게 준비하고 어떻게 적응해 나갈 것인가. 사람들이 흔히 입에 올리는, 앞에서 언급한 “악당” 국가들만의 일이 아니다. 우리는 과연 얼마나 다르게 행동하고 있는가.

챗GPT GPT-4 인공지능 AI 고강도 AI AI 개발 6개월 중지