“인공지능(AI)을 비롯한 전략 기술들을 지정학적 경쟁 수단으로만 바라보는 것은 위험하다. 국가 간 과열 경쟁은 충분히 통제되지 않는 기술을 서둘러 적용하게 만들고, 안전이나 윤리에 대한 가드레일도 우회하게 할 것이기 때문이다.”

마이클 바스카 마이크로소프트(MS) AI 전략·커뮤니케이션 리더는 AI 기술을 둔 국제 패권 경쟁 과열의 위험성을 이같이 경고했다. 바스카 리더는 구글 딥마인드, MS 등 주요 기술 기업에서 AI가 사회에 미치는 영향을 이해하고 설명하는 일을 해왔다. 그가 무스타파 술레이만 MS AI 최고경영자(CEO)와 함께 AI의 파괴적 영향력을 논한 저서 <더 커밍 웨이브>는 2023년 뉴욕타임스 베스트셀러에 오르기도 했다. 바스카 리더는 “이제 어떤 단일 국가도 AI의 위험을 독자적으로 관리할 수 없다”며 “효과적으로 통제하기 위해서는 각국의 내부 규제와 함께 국제 조약, 공동 안전 기준을 결합한 다층적인 국제 협력이 필요할 것”이라고 말했다. 기술 경쟁이 과열되고 있는 상황에서도 세계의 ‘실존적 위험’을 관리하는 것이 자국 안보에 이익이라는 점을 인식하고, 이를 위한 국제사회의 외교적인 노력이 꾸준히 필요하다는 지적이다.

그는 “AI가 세계 경제의 엔진이 될수록 기술 기업들은 정부를 능가하는 부와 영향력을 축적하게 될 것”이라며 이들에 대한 민주적 통제의 중요성도 강조했다. 초지능이 공공의 이익을 위해 작동하도록 국가가 기업 권력을 견제할 필요성이 커졌다는 진단이다.

경향신문은 지난달 13일(현지시간) 영국 런던에 있는 그의 사무실에서 인터뷰를 진행했다. 다음은 바스카 리더와의 일문일답.

- AI 등 전략 기술을 둘러싼 국제 경쟁이 격화하는 분위기다.

“국가들이 AI를 비롯한 전략 기술들을 ‘제로섬’인 지정학적 경쟁 수단으로만 바라보는 것은 매우 위험하다. 국가들이 경쟁국을 앞질러야 한다는 절박함을 느끼게 되면, 속도가 안전보다 우선되는 구조가 만들어진다. 이런 과열 경쟁은 강력하지만 충분히 통제되지 않는 기술을 서둘러 적용하게 만들 것이다. 이러면 AI에 대한 국제적인 조정 능력은 약화되고, 글로벌 위기가 발생할 가능성이 커진다.”

- AI가 국제 질서에 가져올 근본적 변화는 무엇이라 보나.

“전통적인 국가 중심 질서에서 권력이 대규모로 재분배되고 민주화되는 현상일 것이다. 역사적으로 첨단 공격 능력을 비롯한 막대한 영향력은 비용 등의 문제로 국가만이 가질 수 있었다. 하지만 AI의 물결은 그 진입 장벽을 낮췄으며, 이제 소규모 무장 세력이나 비국가 행위자들도 저비용의 자율 무기와 드론 군집을 활용해 특정 국가에 큰 피해를 줄 수 있게 됐다. 시스템적 혼란을 일으킬 수 있는 능력이 소규모 집단으로 광범위하게 확산될 수 있기에, 이들의 위협이 급격하게 커질 가능성이 있다.”

- AI가 발전해 ‘초지능’에 이르면 여파는 더 커질 것 같다.

“보통 초지능이라고 하면 인류 전체를 합친 것보다 더 지능적인 존재를 의미한다. 이는 정말 두려운 것이기에 MS AI에선 ‘인간주의적 초지능(humanist superintelligence)’이란 개념을 발전시키고 있다. 완전히 범용적인 초지능을 만들어서는 안 되며, 대신 제한된 초지능을 만들어야 한다는 개념이다. 의학이나 예술 등 인간에게 도움이 되는 특정 영역에 제한된 초지능을 만드는 것이 훨씬 현명하다고 본다. 다만 다른 AI 기업들의 경우, 여전히 완전한 초지능을 추구하고 있어 우려스럽다.”

- 개별 국가가 AI의 부정적 영향을 통제할 수 있을까.

“AI는 본질적으로 글로벌하고 개방적이며 빠르게 진화하는 기술이다. 한 국가에서 개발된 알고리즘이나 합성 기술이 즉각 전 세계에 영향을 미칠 수 있다. 특정 국가가 파괴적 AI 기술 개발을 제한해도 글로벌 위험 자체가 사라지기는 힘들기에 어떤 단일 국가도 AI의 위험을 독자적으로 관리할 수 없다. 결국 효과적으로 통제하기 위해서는 각국의 내부 규제와 함께 국제 조약, 공동 안전 기준을 결합한 다층적 국제 협력이 필요할 것이다.”

- 구체적으로 어떤 협력이 필요하다고 보는가.

“사회 모든 층위에서 작동하는 다층적 ‘억제’ 체계가 필요하다. 기술적 안전장치와 기업들의 책임, 강력한 국내 법률이 포함돼야 한다. 국제적으로는 핵 비확산 체제와 유사한 조약과 독립적 감사 기구가 필요하다. 또한 기후 분야의 기후변화에 관한 정부 간 협의체(IPCC)처럼 AI가 가져올 위험을 지속적으로 추적하고 국제적 합의를 형성할 수 있는 글로벌 기구도 필요할 것이다.”

- 기술 경쟁이 과열되는데 국제 협력이 이뤄질 수 있을까.

“가능하다고 본다. 경쟁 압력이 강하지만 협력은 여전히 필요하며 가능하다. 몬트리올 의정서, 파리기후협정, 핵확산금지 체제 같은 사례들이 이를 보여준다. 핵심은 국가들이 공동의 실존적 위험을 관리하는 것이 결국 자국 안보에도 이익이라는 점을 인식하는 것이다. 이를 위해 외교관과 기술 전문가들의 지속적이고 집중적인 노력이 필요할 것이다.”

- 향후 AI 시장은 미·중 양극 체제로 굳어질까, 다른 형태가 가능할까.

“AI 경쟁을 미·중 양강 구도로만 보는 것은 단순한 시각이다. 실제로는 여러 국가가 전략적 우위를 확보하고 디지털 주권을 지키기 위해 경쟁하는 ‘기술 민족주의’ 시대가 열리고 있다. 인도는 자립형 기술 시스템 구축에 적극적이며, 유럽연합(EU) 역시 독자적 제3극으로 자리 잡으려 노력하고 있다. 따라서 AI 질서는 여러 국가와 지역 블록이 경쟁하는 다극 구조로 발전할 가능성이 클 것이다.”

- 여러 블록이 경쟁하면 중복 투자 등 부작용은 없겠나.

“오히려 현재 미국과 중국을 제외한 다른 국가들이 AI에 충분한 노력과 에너지를 쏟지 않는다는 점이 더 걱정스럽다. 우리는 지금보다 훨씬 더 많은 AI 개발을 봐야 한다. 각국 정부는 미·중이 얼마나 앞서 있고, 기술 상당 부분을 장악하고 있는지 인식해야 한다. 하지만 많은 정부는 이 문제를 심각하게 받아들이고 있지 않다. 다극적 현실을 구현하기 위해 각국이 더 분발해야 하며, 그러지 않으면 미·중이 AI를 사실상 독점할 것이다.”

- 최근에는 전략 기술 기업들도 국가 이상의 영향력을 보이고 있다.

“AI가 세계 경제의 핵심 엔진이 될수록 기술 기업들은 정부를 능가하는 부와 영향력을 축적하게 될 것이다. AI를 주도하는 기업들은 역사적으로 국가만이 가졌던 수준의 영향력에 도달할 가능성이 크다. 인간의 상업 활동과 경험 전반을 사실상 좌우하게 될 것이기 때문이다. 이미 거대 기술 기업들은 국가 인프라 수준의 자본 지출과 시가총액을 보여주고 있다. 앞으로는 글로벌 분쟁 조정이나 핵심 인프라 관리처럼 전통적으로 국가가 맡던 영역까지 이들이 담당할 가능성이 있다.”

- 이들 기업에 대한 민주적 통제는 가능하다고 보는가.

“매우 어렵겠지만 반드시 필요한 일이다. 적절한 통제가 없다면 소수 거대 기업의 서비스 약관이 사실상 인간 사회의 법처럼 기능하게 될 수 있다. 민주적 통제를 유지하려면 기술 위험을 억제하기 위한 강력한 구조가 필요하다. 기술이 위험한 임계점을 넘기 전에 시민 배심원단 같은 메커니즘을 통해 사회적 합의를 형성해야 하며, 기업 생태계 전반에 걸쳐 강력한 감사·투명성·공적 책임 체계를 구축해야 한다. 국가는 초지능이 공공의 이익을 위해 작동하도록 기업 권력을 견제할 필요가 커질 것이다.”

- 빅테크 내부적으로는 이 같은 변화에 대해 어떻게 보나.

“대부분의 대형 기술 기업들은 자신들의 역할과 책임을 점점 자각하고 있다고 생각한다. AI 기업들이 지금 독특한 위치에 있고, 세계에서 특별한 역할을 하고 있다고 생각한다. 하지만 그렇다고 규제를 원하지 않는 것은 아니다. 모든 기업, 특히 빅테크들은 소속된 사회로부터 자신들의 존재나 운영 방식을 허락받아야 한다. 신기술을 이용해 기업이 지나치게 나간다면 사회로부터 존재의 정당성을 잃어버릴 위험이 있기 때문이다. 이에 적절한 규제는 어떻게 보면 기업 자신의 이익에도 부합할 것이다.”