나는 사람들로부터 종종 “수학자들은 어떤 것을 논문으로 쓰나요?” “수학은 수천년 되었는데 아직도 풀어야 할 문제가 남아있나요?”와 같은 질문을 종종 받는다. 사실 수학자들이 하는 연구의 내용을 일반인들에게 설명하기가 쉽지 않다. 수학자들은 간단히 말해 수학적인 문제를 풀고 그 풀이를 논문으로 발표한다. 여기서 수학적인 문제를 푼다는 것은 대개 어떤 수학적 추측을 증명하는 것을 의미한다. 수학자들에게는 좋은 문제, 즉 좋은 추측을 찾아내는 것도 중요한 연구활동 중 하나이다. 또한 그들이 유난히 잘하는 일 중 하나는 누군가 어떤 수학 문제를 푸는 데에 사용했던 새로운 수학적 방법론을 남들이 쓰기 좋게 잘 정리해 놓는 것이다.

송용진 인하대 수학과 교수

수학은 자연과학일까, 아닐까? 전국 대부분의 대학교에서 수학과가 자연과학대학에 속하다 보니 막연히 수학은 자연과학의 한 분야이려니 하고 여기는 사람들이 많은데 과연 그게 맞는 것일까? 자연과학이란 자연현상에 대한 이해를 인간의 이성을 통해 합리적이고 논리적인 방법으로 추구해나가는 과정과 그러한 과정을 통해 얻어지는 지식과 이론의 체계이다. 그런 의미에서 현대의 수학은 자연과학은 아니라고 할 수 있다. 요즘에는 옛날과 달리 수학자들이 자연현상을 직접적으로 탐구하지는 않기 때문이다. 수학자들은 수학의 세계에서 발생하는 문제들을 연구하지, 실재적 세계의 탐구를 위한 실험이나 관찰은 하지 않는다.(물론 일부의 응용수학자 중 예외는 있을 수 있다.)

수학은 매우 폭넓은 방향으로 연구하는 학문이었지만 데카르트의 과학철학과 뉴턴의 운동역학의 등장 이후 학문 분야들이 현대화되는 과정에서 자연과학의 여러 분야가 수학으로부터 분파하며 수학과 자연과학 사이에는 어느 정도의 거리가 생겼다.

수학은 지구상의 수많은 학문 중 유일하게 수천년간 그 지식을 축적하며 발전해온 학문이다. 그리스 시대부터 수학은 ‘지식의 모둠’이라는 의미의 ‘mathematics’라는 말로 불렸고 수학자들은 요즘의 좁은 의미의 수학만이 아니라 기계, 역학, 천문, 광학, 음악 등 다양한 분야의 주제에 대해 연구해왔다. 우리는 현재 3700년 전 이집트의 수학 내용에 대해 알고 있고, 2400년 전 그리스의 수학, 1000년 전의 아라비아의 수학, 중세 유럽 수학의 내용에 대해 자세히 알고 있다. 수학은 오랜 세월 동안 마치 큰 탑을 쌓아가듯이 발전해왔으며, 결국 지금은 아주 크고 높은 거대한 탑이 되어 있다.

물리학, 화학(연금술 이후의 근대적 화학), 생물학, 지구과학 등의 자연과학이 독립적인 학문 분야로 자리를 잡은 것은 길어야 300년 정도이고 대부분 공학 분야의 역사도 200년을 넘지 않는다. 그런 의미에서 수학은 좀 고루한 느낌을 주는 학문이라고 할 수도 있다. 세상은 빨리 변해가고 과학기술은 눈부시게 발전해가고 있는데 수학자들이 하고 있는 연구의 내용은 100년 전이나 지금이나 별 차이가 없으니 말이다.

하지만 어쨌든 수학은 인류가 오랫동안 이룩한 최고 지성의 정수이다. 천문학, 물리학, 기계학 등이 수학에서 갈려 나갔고, 다시 전기공학, 기상학 등은 물리학에서 갈라져 나오는 등 학문은 분파를 거듭해 최근에는 수많은 이공계 학문 분야가 존재하고 수학의 입지와 역할은 전에 비해 많이 좁아져 있지만 그래도 수학은 그리스 시대로부터 지금까지 수많은 수학자들이 쌓아올린 거대한 지식의 탑을 보유하고 있다.

물리학자, 화학자, 생물학자, 천문학자와 같은 자연과학자들은 과학적 진리를 실험, 관찰, 이론 등을 이용하여 탐구하는 일을 한다. 그리고 그들은 자신의 과학적 발견을 논문이나 특허 등으로 발표한다. 따라서 그들의 학문적 업적을 평가할 때는 그들의 ‘연구 결과’, 즉 발견한 과학적 진리의 가치와 의미를 평가하면 된다.

하지만 수학은 좀 다르다. 수학은 언어적 요소가 많기 때문에 수학자들이 해결하거나 증명한 ‘결과나 결론’ 그 자체보다는 그것을 해결하는 과정에 사용한 방법론이나 아이디어가 더 중요할 경우가 많다. 대다수 수학자의 연구활동 중 가장 많은 시간을 차지하는 것은 다른 수학자들이 쓴 논문이나 책을 읽고 새로운 개념이나 이론을 익히는 것이다.

그래서 수학자들의 학문적 업적을 평가할 때는 그들이 여러 가지 어려운 이론들을 이해하고 그것을 이용하여 남들이 풀지 못하는 문제를 풀 수 있는 ‘실력을 갖추었는지’를 평가하게 된다.