[김월회의 행로난] 인간다움의 역설

인간의 본성은 선할까, 악할까? 저 옛날 맹자는 선하다는 쪽을 택해 사람이라면 누구나 선하게 태어난다는 성선설을 펼쳤다. 악하다는 쪽을 택한 이도 있었다. 순자는 사람은 다 악하게 태어난다는 성악설을 정리함으로써 훗날 두고두고 욕을 먹었다.

선악은 태어난 후에 결정될 뿐이라는 견해도 있었다. 이에 따르면 사람은 선하지도 않고 악하지도 않게 태어난다. 인간 본성을 꼭 선이나 악 중의 하나로 규정해야 함은 아니었던 것이다. 하여 순자는 성악설과 함께 이익을 좋아하는 게 사람의 본성이라는 견해도 제시했고, 한비자는 사람은 이익을 탐하는 탐리(貪利)적 본성을 지닌다고 단언했다.

흥미로운 점은 인간 본성을 악하다고 보든 이익을 탐한다고 보든 인간다움은 다 좋은 것만으로 이루어져 있다고 본 점이다. 과연 인간다움은 선한 것만으로 이루어졌을까? 미래 사회를 다룬 영화에서는 디스토피아가 그려지곤 한다. 인공지능과 로봇기술이 고도로 발전한 사회에서 인공지능이 인간을 비인간적으로 통제하는 상황이 상상되곤 한다.

가령 영화 <아이, 로봇>에서는 ‘비키’라는 인공지능이 아이작 아시모프의 로봇 3원칙 중 제1 원칙인 “로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다”에 입각하여 인간사회를 통제하려 한다. 그대로 두었다가는 인간에 의한 인간 파괴가 심화되어 인류사회가 위험에 빠지리라는 판단 아래 인공지능이 인간을 관리함으로써 인간을 보호하겠다는 결정을 내린 것이다. 그 결과 인간은 자유와 자율이 기계에 의해 통제되는 디스토피아적 상황에 처하게 된다.

김월회의 행로난 구독

여기서 흥미로운 역설을 목도하게 된다. 영화 속 디스토피아적 상황의 전개는 인공지능에게 인간의 악함을 이전한 결과가 아니다. 인공지능에게 인간다움만을 이전했는데 이를 전수받은 인공지능은 거악을 구현한다. 예술적 상상에 불과한 것이지만 인간다움의 이전이 비인간적인 상황을 자아내는 이율배반이 발생한 셈이다.

그런데 상상만이 아니라 실제로 인간다움 안에 악함도 들어 있는 건 아닐까? 우크라이나·러시아 전쟁에서 목도할 수 있듯이 대규모 파괴와 살상이 자행되는 전쟁 같은 행위는 인간만이 하고 있으니 말이다.

인간다움 자유 자율 인공지능 디스토피아