고대 그리스 철학자 데모크리토스가 “모든 물질은 쪼개지지 않는 원자로 구성되어 있다”고 주장한 이래, 사물을 기본 단위로 분해하려는 시도는 전 분야에서 일어났다. 화학자는 원소를, 생물학자는 세포를 발견했다. 이러한 ‘분해의 관점’은 근대 과학 발전에 지대한 영향을 끼쳤다.

수학도 예외는 아니어서 고대 그리스 수학자들은 자연수를 소수(素數)로 쪼개는 법을 찾아냈다. 분해의 관점을 ‘함수의 분해’에 적용하기 시작한 것은 그로부터 2000여년이 흐른 19세기에 이르러서였다.

함수(函數)를 직역하면 ‘상자(函) 속의 수’라는 뜻으로, 입력값이 상자에 들어가면 특정 출력값이 나오는 관계로 해석할 수 있다. 입력 x를 출력 y로 바꾸는 상자를 f라고 할 때, 이를 흔히 y=f(x)라 표현한다. 한편 수학사 학자들은 중국에서 처음 영어 ‘function’을 번역할 때 그 발음을 따 ‘han shu’로 음차한 것으로 보기도 한다.

자판기의 1을 누르면 콜라가 나오고 2를 누르면 사이다가 나오면, 이 자판기는 함수가 된다. TV 리모컨의 특정 숫자를 누르면 특정 방송사가 나오니 리모컨도 함수다. 주식시장에서 특정 회사의 주식값은 시간에 따라 변하니 시간의 함수가 된다. 음악도 시간에 따라 높낮이가 변하는 시간의 함수다.

이렇게 원인과 결과로 표현되는 모든 것을 함수로 보는 관점은 근대 수학의 근간이 됐다. 수학자들은 함수를 다루는 다양한 방식을 발견해냈다. 음악에 원치 않는 잡음이 더해졌다면, 음악을 시간의 함수로 표현했을 때 이질적인 요소(예를 들면 비정상적인 고주파 신호 같은)를 찾아내서 빼버리고 잡음이 제거된 멋진 음악을 복원해내는 마법도 만들어냈다.

‘푸리에 마법’ 증명에 130년 걸려

이 마법의 주인공은 19세기 초 프랑스 수학자 조제프 푸리에다. 그는 물질을 원자로 쪼개듯 함수도 기본 단위로 쪼갤 수 있다고 믿었다. 그가 찾아낸 기본 단위는 오늘날 고등학교에서 배우는 사인(sin)과 코사인(cos) 함수였는데, 푸리에는 모든 함수를 삼각함수들의 합인 ‘푸리에 급수(Fourier series)’로 표현할 수 있다는 가설을 세웠다.

급수(級數)는 차례(級)대로 수를 더한다는 뜻이다. 진동수가 낮은 함수부터 높은 함수까지 다양하게 더하면 어떤 형태든 만들어낼 수 있다는, 당시로선 다소 황당무계하고 파격적인 발상이었다. 물론 이러한 ‘틀을 깨는 파격’이 쉽게 주류 이론이 되진 못했다. 대부분의 함수에 이 가설이 옳다는 것을 스웨덴 수학자 렌나르트 칼레손이 증명하는 데에는 130년의 세월이 걸렸다. 이렇게 수학의 난제 중에는 해결에 100년 넘는 세월이 걸리는 경우가 종종 있는데, 칼레손은 이 업적으로 2006년 노르웨이 왕실이 수여하는 아벨상을 수상했다.

본래 푸리에가 평생 몰두했던 과제는 ‘열방정식’의 해법이었다. 철판의 한 지점을 데웠을 때 열이 어떻게 확산되어 퍼지는지 기술하는 이 난해한 미분방정식은 당시 도무지 풀리지 않는 난제였다. 철판의 다른 특정 부분이 10분 뒤에 몇도가 될지를 알려면 이 방정식을 풀어야 하는데, 푸리에는 이를 해결하기 위해 함수를 기본 단위로 쪼개어 접근하는 방식을 고안해냈다.

자신의 아이디어가 열방정식의 해법을 넘어 현대 과학의 방대한 토대가 될 줄은 그 자신도 미처 몰랐을 것이다.

결국 푸리에 가설은 음계 이론의 수학적 이해를 넘어서 목소리와 악기 소리를 수학적으로 완벽하게 표현해냈고, 음(音)의 분해를 넘어서 자연계에 존재하는 온갖 신호를 분해해내는 초월적 기술이 되었다.

그 덕에 소리의 비밀 정복

이런 마법 같은 수학은 상상을 초월하는 응용 가능성을 가질 수밖에 없다. 고급 이어폰의 ‘노이즈 캔슬링’이 대표적이다. 외부 소음을 기본 함수들로 쪼갠 뒤 그 반대 파동(마이너스 신호)을 만들어 상쇄시키는 원리다. 또한 고화질 동영상을 압축할 때도 사람이 인지하지 못하는 고주파 영역의 기본 함수들을 제거함으로써 화질의 감소를 최소화하면서도 파일 크기를 획기적으로 줄인다. 주식 가격 차트에서 노이즈를 제거하고 큰 방향성을 보여주는 차트도 만들어낸다.

푸리에 이론의 완성으로 인류는 소리의 비밀을 정복했다. 오케스트라 악기별 특성을 수학적으로 완벽히 구현할 수 있게 되었고, 이는 곧 전자악기의 탄생으로 이어졌다. 근대 수학이 만들어낸 분해의 마법이랄까.

박형주 아주대 수학과 석좌교수