구글의 인공지능 프로그램 알파고가 두 차례 대국에서 이세돌 9단을 이겼다. 인간이 만들었지만 인간을 능가하는 인공지능(AI) 시대가 눈앞에서 펼쳐지고 있다. AI의 진화는 눈부시지만, 그로 인해 바뀌게 될 인류의 미래에 대한 우려도 커지고 있다.

영국 파이낸셜타임스는 10일‘오늘은 보드게임이지만 내일은 세계’라는 제목의 사설에서 “AI가 기후변화 대응과 질병 치료와 노동력 절감에 도움을 주고 인류의 삶을 풍성하게 할 수도 있지만, 유전자공학이 제기했던 것과 같은 윤리적인 문제들을 야기할 수도 있다”면서 인간의 뇌를 모방하는 AI의 위험성을 경고했다.

AI는 올해로 환갑을 맞이한 오래된 기술분야이지만 최근 들어 위험을 경고하는 목소리가 부쩍 커지고 있다. 물리학자 스티븐 호킹은 지난해 “보드게임은 아무것도 아니며 AI가 궁극적으로 우리 모두를 뛰어넘을 수 있다”고 지적했다. 테슬라 최고경영자(CEO) 엘론 머스크와 애플 공동창업자 스티브 워즈니악 등 실리콘밸리의 거물들도 지난해 7월 아르헨티나 부에노스아이레스에서 열린 인공지능 국제학술대회(IJCAI)를 앞두고 “AI가 핵무기만큼 위험할 수도 있다”는 공개서한을 발표했다.

이들이 걱정하는 것은 인간보다 육체적, 지적으로 뛰어난 기계가 인간을 압도해버리는‘디스토피아’의 도래다. 공상과학 영화에서나 가능할 것 같은 일들이 인간의 예상보다 훨씬 빠른 시일 안에 현실이 될 수 있다. 로봇은 단순반복적인 일자리를 넘어 상당 수준의 학습과 판단 능력을 필요로 하는 고숙련 노동에서도 곧 인간을 대체하게 될 수 있다.‘킬러로봇’이라 불리는 살상용 자율무기(LAWS) 연구는 이미 심도 깊게 진행되고 있다.

인간이 기계를 제어하기는커녕, 역으로 기계의 통제를 받을 것이란 우려도 있다. 이미 다양한 스마트 기술이 보급되면서 인간의 기계 의존도가 어느 때보다 높아졌다. AI를 활용한 질병치료가 보편화되는 것은 반가운 소식이지만, 이 때문에‘의료 불평등’이 오히려 심해질 수도 있다. 고비용 로봇치료를 받을 수 있는 사람은 당분간은 소수에 불과할 것이기 때문이다.

자율주행차의 경우처럼, AI가 복잡한 상황에 대한 인간의 판단능력을 어디까지 모방할 수 있느냐도 의문이다. 인간은 교통 사고를 피할 수 없을 때조차 피해를 줄이기 위해 애쓰거나 가치판단을 해서 사람을 살리는 결정을 내릴 수 있다. 그러나 무인 자동차에게 이를 기대하기는 힘들다.

AI 시대의 윤리 문제에 대한 법적·제도적 대응도 쉽지 않다. 이런 기술들이 만들어낼 문제들을 미리 예측해 예방하기는 쉽지 않다. 결국 당분간은 기술을 개발하는 기업들의 자율적인 노력에 맡길 수밖에 없다. 자율주행차 기술을 선도하는 독일 다임러와 벤츠재단은 이런 윤리적 문제를 연구하기 위해 2012년부터 150만유로(약 19억8000만원)를 투자했다. 구글, 페이스북 등도 윤리위원회를 만들었다. 알파고를 개발한 딥마인드 창업자들은 2014년‘군사적 목적으로 기술을 사용하지 않는다는 것’을 조건으로 구글에 회사를 매각했다. 머스크는 지난해 11월‘오픈 AI’라는 비영리 연구단체를 설립했다. AI 교과서를 집필한 스튜어트 러셀 캘리포니아대(UC버클리) 교수는 “기본 전제는 AI가 인간 사회에 도움이 되는 결과를 가져와야 한다는 것”이라고 말했다.