최근 CES 등 글로벌 기술 전시회에서 확인되듯, 가상세계에 머물던 인공지능(AI)은 이제 로봇과 자동차 등의 물리적 실체로 구현되고 있다. 고전적 컴퓨터와 전혀 다른 구동 방식을 가진 양자컴퓨터에 대한 기대감도 예사롭지 않은데, 이러한 기술 진보의 이면에는 세상을 움직이는 ‘생각의 틀’에서 일어난 거대한 전환이 자리 잡고 있다. 바로 ‘원인을 알면 결과를 완벽히 특정할 수 있다’는 결정론적 세계관의 붕괴다.

이 흐름의 기원은 17세기 아이작 뉴턴의 고전역학으로 거슬러 올라간다. 런던 인구의 4분의 1이 전염병으로 사망한 1666년, 대학의 휴교령으로 고향에 머물던 23세 청년 뉴턴은 나무에서 떨어지는 사과를 보며 만유인력을 깨달았다. 그는 무거운 두 물체가 서로를 끌어당기는 원리(무거울수록 더 세게, 가까울수록 더 강하게)를 수식으로 명쾌하게 정의했고, 사과가 떨어지는 현상과 거대 행성이 태양 주위를 도는 것이 결국 동일한 보편 법칙의 지배를 받는다는 사실을 입증해 냈다.

“힘을 가하면 빨라진다(즉 가속도가 생긴다)”는 단순한 명제를 수학적으로 표현한 뉴턴 방정식(F=ma)은 물체의 움직임을 기술하는 강력한 도구가 되었다. 사과에는 중력이, 자석 근처의 쇳덩이에는 자력이 그 힘의 역할을 수행한다. 뉴턴역학이 만유인력 법칙과 결합하자, 수천년간 경외와 호기심의 대상이었던 천체는 비로소 관측 데이터와 물리 법칙으로 ‘설명 가능한 대상’이 되었다.

뉴턴,‘변화율’로 미적분 창안

뉴턴이 천체의 운동을 기술하면서 마주한 최대 난관은 수학적 도구의 부재였다. 고대부터 전해진 수학은 정적(靜的)이었다. 중세 유럽 수학의 바이블이던 유클리드 원론도 철저하게 움직이지 않는 세상을 다루다 보니, 이걸로 ‘변화하는 세계’를 다루기엔 역부족이었다. 결국 뉴턴은 당시 인류의 사고체계에 없던 ‘변화율’의 개념을 도입하며 미분과 적분을 창안했다. 이는 문명사에 ‘동적 세계관의 출현’을 알리는 대사건이었다. 만유인력 법칙과 뉴턴 방정식을 미적분이라는 정교한 언어와 결합하자 지구의 공전 궤도가 타원임이 자명하게 증명됐고, 현대에 이르러 인공위성을 특정 궤도에 안착시키는 데 필요한 연료량 등의 정밀한 계산까지 가능해졌다.

수학은 이미 알려진 사실을 설명하는 데 그치지 않고, 새로운 발견을 견인하기도 한다. 해왕성의 발견이 대표적인 사례다. 1781년 허셜이 천왕성을 발견한 뒤 궤도를 추적하던 천문학자들은 만유인력만으로는 설명되지 않는 불규칙성을 탐지했다. 수학적 계산은 천왕성 너머에 또 다른 행성이 존재해야 함을 시사했고, 미확인 행성의 위치까지 예측해 냈다. 1846년 갈레는 예측된 지점에서 해왕성을 관측하는 데 성공했는데, 이는 정밀한 과학적 계산이 이뤄낸 첫 행성 발견으로 기록되었다.

뉴턴역학의 영향력은 과학을 넘어 철학의 지평까지 확장되었다. 초기 위치와 가해진 힘만 알면 미래의 위치를 완벽히 예측할 수 있다는 믿음은 칸트 등 당대 철학자들에게 영감을 주었으며, 인과율과 유물론의 견고한 토대가 되었다.

그러나 수백년간 확고했던 이 성벽도 20세기 초, 양자역학과 상대성이론이라는 대전환에 직면했다. 아인슈타인이라는 천재의 산물인 상대성이론과 달리, 양자역학은 집단적 협업으로 구축되었다. 보어, 하이젠베르크, 디랙 등 젊은 천재들은 30대의 나이에 노벨상을 거머쥐며 양자 세계의 질서를 세웠다. 결정론 대신 ‘확률’로 세상을 바라보는 이 생소한 시각은 고전적 인과율에 익숙했던 지식인 사회에 거대한 충격과 혼란을 안겼다.

물리학 방정식, 수학적 언어로 기술

흥미로운 점은 고전 물리학의 뉴턴 방정식이나 양자 물리학의 슈뢰딩거 방정식 모두 ‘미분방정식’이라는 수학적 언어로 기술된다는 사실이다. 수학은 구체적인 물리적 대상을 직접 다루지 않으나, 대상들 사이의 관계와 질서를 기술함으로써 과학의 가장 근본적인 언어가 된다. 20세기는 이 수학의 ‘언어적 가치’가 가장 찬란하게 빛난 시대였다.

인공지능이 모든 것을 대체할 듯한 오늘날에도 과학의 본질은 변하지 않는다. 주어진 데이터에서 논리적 추론을 통해 지배 법칙을 찾아내고 결론에 도달하는 ‘이성과 합리’의 과정 말이다. 낡은 체제의 한계를 직시하고 새로운 언어로 세상을 재정의한 100년 전의 열정처럼, 우리에게 지금 절실한 것은 데이터의 홍수 속에서도 본질을 꿰뚫어 보는 합리적 사고의 회복이 아닐까.

박형주 아주대 수학과 석좌교수