[전문가의 세계 - 이종필의 과학자의 발상법]위치와 운동량을 ‘동시에, 정확히’ 관찰해 규정하는 것, 그건 불가능하다…물질도 우주도 인간도

(65) 인간지성의 결정체, 양자역학 100년

일러스트 | 김상민 기자 yellow@kyunghyang.com

들여다보는 ‘행위 자체’는 양자의 중첩상태를 깨트리고 어느 상태가 남을지는 확률적으로만 정해져
이는 최종상태를 정확히 알 수 있고 일상 감각 경험과도 맞아 떨어지는 고전물리학의 '결정론적 세계관'을 무너트린 희대의 발견이 되었다
아인슈타인은 “신은 주사위놀이를 하지 않는다”고 말했지만 인간의 지성은 그마저도 뛰어넘어

20세기가 시작되기 직전인 1900년 12월, 독일의 물리학자 막스 플랑크는 과학의 역사를 뒤집어 놓을 담대한 가설로 당대의 과학적 난제를 해결하는 방안을 제시했다. 특정한 온도의 열을 가진 물체는 전자기파를 방출한다. 달군 쇠가 빛을 내거나 동물 몸에서 적외선이 나오는 것도 여기 해당한다. 이 과정에서 방출되는 다양한 파장대의 전자기파를 연구해보니 고전물리학으로는 설명할 수 없는 결과가 나왔다. 고전물리학에서는 짧은 파장대에서 무한히 큰 에너지가 방출될 것으로 예견되었으나 실제로는 에너지가 급격하게 줄어들었다.

이 현상(전문용어로는 흑체복사(blackbody radiation)라 한다)을 설명하기 위해 플랑크는 전자기파를 방출하는 가상의 진동자가 고전물리학에서의 파동과는 달리 파장에 반비례하는 최소에너지를 가지며 전체 에너지는 이 최소에너지의 정수배로만 존재한다고 가정했다. 플랑크의 대담한 제안은 아주 성공적이었다. 짧은 파장대의 무한대 문제를 깔끔하게 해결함은 물론 전 파장대에 걸쳐 실험결과와 일치하는 공식을 얻을 수 있었다. 파장과 에너지를 연결하는 가설에서 도입한 상수 h에는 당연하게도 ‘플랑크상수’라는 이름이 붙었다.

이로부터 불과 5년 뒤인 1905년 아인슈타인은 플랑크의 가설을 적극 받아들여 가상의 진동자가 아니라 실제 전자기파 자체의 에너지가 플랑크의 가설과 같은 형태로 존재한다고 가정해 광전효과(금속에 빛을 쪼이면 전자가 튀어나오는 현상)를 성공적으로 설명할 수 있었다. 같은 해에 아인슈타인은 특수상대성이론도 발표했다. 아인슈타인이 1921년 노벨 물리학상을 수상한 것은 주로 광전효과에 관한 업적 때문이었다.

플랑크나 아인슈타인의 가설처럼 어떤 물리량이 최소량의 정수배로 존재할 때 그 양은 양자화(quantized)되었다고 한다. 이때 그 물리량의 최소단위를 양자(quantum)라 부른다. 양자역학(quantum mechanics)이란 최소단위로 덩어리진 물리량에 대한 역학이라고 할 수 있다. 물리량이 양자화되어 있으면 그 양은 연속적이지 않고 띄엄띄엄 불연속적인 값을 갖는다. 고전물리학에서는 에너지나 운동량 등의 물리량이 연속적인 값을 가지는 것이 일반적이다. 양자효과는 대체로 원자 이하의 미시세계에서 잘 드러난다. 양자효과와 밀접한 관련이 있는 플랑크상수가 거시세계의 관점에서는 매우 작은 값이지만 미시세계에서는 그 존재를 무시할 수 없기 때문이다.

양자역학은 오랜 세월에 걸쳐 수많은 과학자들이 함께 구축한 역학체계이다. 그 여정에서 중요한 분기점이 지금으로부터 꼭 100년 전인 1925년이었다. 1901년생으로 당시 24세였던 독일의 젊은 물리학자 베르너 하이젠베르크는 원자들의 성질을 올바르게 기술할 수 있는 새로운 역학체계를 제시했다.

이때 하이젠베르크가 도입한 수학적 도구는 당시 물리학자들에게는 익숙하지 않았던 행렬(matrix)이었다. 하이젠베르크조차도 자신이 사용한 도구가 행렬이라는 사실을 몰랐다. 행렬은 숫자를 직사각형으로 배열한 구조물이다. 행렬의 가장 큰 특징은 곱하는 순서를 바꾸었을 때 그 결과가 달라질 수 있다는 점이다. 이 성질은 하이젠베르크의 새로운 역학체계(이를 행렬역학이라 부른다)에서 매우 중요한 요소였다.

행렬역학을 발표한 2년 뒤인 1927년 하이젠베르크는 불확정성 원리를 발표했다. 이에 따르면 어떤 입자의 위치와 운동량을 동시에 임의로 정확하게 측정하는 것이 불가능하다. 이는 단지 측정기구나 사람의 한계가 아니라 이 우주가 가진 근본적인 한계이다. 일반적으로 곱하는 순서에 따라 결과가 달라지는 두 행렬에 상응하는 두 물리량 사이에는 불확정성의 원리가 성립한다.

하이젠베르크는 1932년 노벨 물리학상을 단독으로 수상했다. 수상 이유를 보면 “양자역학을 창안한 공로(for the creation of quantum mechanics)”라는 말이 포함돼 있다. ‘creation’이라는 단어가 눈에 띈다. 이 때문에 하이젠베르크는 아인슈타인과 함께 20세기를 대표하는 물리학자의 반열에 올라섰다. 그도 그럴 것이 현대물리학의 가장 큰 기둥은 상대성이론과 양자역학이기 때문이다.

양자역학이 지배하는 미시세계는 인간의 경험과 직관이 잘 작동하지 않는 이상한 세계이다. 양자역학의 교리에 따르면 둘 이상의 양자상태가 하나의 계(system)에 중첩돼 존재할 수 있다. 중첩상태는 관측이 이루어질 때 깨진다. 관측이 행해지면 관측결과에 상응하는 단 하나의 양자상태만 남고 나머지 상태들은 모두 사라진다. 이때 중첩된 여러 상태들 중 어느 상태가 관측을 통해 남게 될 것인지는 확률적으로만 정해진다.

양자역학의 확률론적 세계관은 고전물리학의 결정론적인 세계관과 크게 대비된다. 고전물리학에서는 어떤 대상의 초기조건 및 작용하는 힘이 모두 알려져 있다면 최종상태를 정확하게 알 수 있다. 사실 우리가 과학에 대해 가지고 있는 보통의 심상은 이런 식의 결정론이다. 아인슈타인도 예외가 아니었다. 양자역학에 따르면 우리는 최종결과에 대해 확률적으로 말할 수 있을 뿐이다. 아인슈타인은 이를 못마땅하게 여겨 “신은 주사위 놀음 따위는 하지 않는다”는 말을 남겼다.

아인슈타인은 음으로 양으로 양자역학의 발전에 크게 이바지했다. 끝내 양자역학의 교리와 해석을 받아들이지 않았지만 양자역학의 맹점을 파고드는 기발한 논쟁을 촉발했고 이를 해소하는 과정에서 과학자들의 양자역학에 대한 이해가 깊어졌다. 대표적인 사례가 1935년 보리스 포돌스키, 네이선 로젠과 함께 발표한 이른바 ‘EPR(Einstein, Podolsky, Rosen) 논문’이다. 이 논문에서 EPR은 얽힘(entanglement) 상태에 있는 입자들을 이용해 불확정성 원리가 깨질 수 있다고 주장했다. 얽힘이란 여러 입자의 양자상태가 각각 독립적이지 않고 다른 입자의 양자상태에 종속되는 현상을 말한다. EPR에 따르면 양자역학은 불완전하며 아직 인간이 발견하지 못한 자연의 숨은 변수가 그 불완전성을 해소해줄 것이다. EPR의 논증에는 국소성의 원리가 깔려 있다. 즉 두 입자가 아주 멀리 떨어져 있으면 서로가 직접적이고 즉각적으로 영향을 줄 수 없다는 것이다.

그러나 이후의 실험들은 EPR이 틀렸고 양자역학이 옳았음을 계속해서 증명했다. 2022년 노벨 물리학상은 이와 관련된 공로로 알랭 아스페, 존 클라우저, 안톤 차일링거에게 수여되었다. EPR이 틀렸다는 것은 양자역학적인 얽힘에 비국소적인 성질이 있음을 뜻한다. 즉 양자얽힘 상태에 있는 두 입자는 아무리 멀리 떨어져 있어도, 우주 끝에서 끝까지 멀리 있어도 하나의 양자상태가 다른 입자의 양자상태를 즉각적으로 결정한다. 그러나 이 과정에서 물리적인 신호가 광속보다 빨리 전달되지는 않는다.

불확정성 원리, 확률론적 해석, 양자중첩, 양자얽힘 등은 우리의 일상생활이나 감각경험과는 잘 맞지 않는, 오히려 거스르는 것들로서 고전물리학의 틀에서 전혀 설명할 수 없다. 미국의 위대한 물리학자인 리처드 파인먼은 1964년 아무도 양자역학을 제대로 이해하지 못하고 있다고 말했는데, 이 말은 여전히 사실인 듯하다. 그나마 양자역학을 조금이라도 이해하려면 ‘생각의 회로’를 바꿔야 한다고들 말한다. 인간의 생각 회로는 수많은 원자들로 이루어진 거시세계를 직관적으로 잘 이해하도록 진화했을 것이다. 그래야 당연히 생존에 유리하기 때문이다. 그 결과 우리는 원자 이하의 미시세계에서 일어나는 일들을 직관적이고 당연한 것으로 받아들이기 어렵다.

인류 진화의 역사는 수십만~수백만년에 이른다. 그러니까 양자역학을 배우고 미시세계를 이해한다는 것은 기나긴 세월에 걸친 인류 진화의 결과를 거스르는, 대단한 지적 고통이 따르는 일임에 분명하다. 인간 지성의 이런 극적인 변화가 일어난 것이 긴 인류의 역사에서 겨우 100년 전에 불과하다.

주변 사람들에게 양자역학의 발전사를 소개하면 그 역사가 겨우 100여년밖에 되지 않는다는 사실에 다들 놀란다. 나는 이것이 바로 양자역학의 위대한 점이 아닐까 싶다. 지구라는 행성이 생겨나고 그 속에서 인류가 출현한 이래 그 오랜 세월에 걸쳐 형성된 생각의 회로를 극적으로 전복하기 시작한 것이 겨우 100년 전이라는 사실 말이다. 이런 까닭에 수많은 물리학자들은 아마도 양자역학이야말로 인간 지성의 결정체라는 주장에 대체로 동의할 것이다.

“그래서, 양자역학이 밥 먹여주나?”라는 소리를 나도 오랜 세월 들어왔다. 이미 핵무기와 반도체, 레이저 등의 기본원리는 양자역학에 기초를 두고 있다. 21세기에 접어들어서는 더욱 근본적인 수준에서 양자기술이 급속히 발전하고 있다. 구글과 IBM 등 빅테크 기업들은 이미 양자중첩과 얽힘을 이용한 양자컴퓨터를 만들고 있다.

양자컴퓨터는 특정 문제를 해결할 때 기존의 컴퓨터보다 기하급수적으로 뛰어난 능률을 보일 수 있다. 며칠 전인 지난 2월19일 미국의 마이크로소프트사는 위상학적인 양자소자를 이용한 양자컴퓨터를 처음으로 선보였다. 양자통신과 양자암호 기술도 실험실 단계를 넘어섰다.

직접 밥을 먹여주는 상황까지 갔을 때 부랴부랴 덤벼들면 이미 한참 늦은 것이다. 무엇보다 당장 밥을 먹여주지 않는 것들의 가치를 인정하는 것이 중요하다. 다빈치의 모나리자는 그 자체로 밥을 먹여주지 않는다. 오히려 전 세계의 수많은 사람들이 일부러 돈을 들여 비행기를 타고 모나리자를 보러 파리의 루브르로 달려간다. 그 자체가 인간 능력의 한 극단을 보여주는 작품이기 때문이다. 그래서 일부러 돈을 들여서라도 구경할 가치가 있다.

전문가의 세계 - 이종필의 과학자의 발상법 구독

양자역학은 인간지성의 걸작이다. 일부러 돈을 들여서라도 공부할 가치가 있다. 앞으로는 우리에게 엄청난 먹거리도 던져줄 것이 명확하다.

그럼에도 일선 대학교에서는 물리학과가 사라지고 기초학문이 여전히 홀대받고 있다. 인공지능과 양자기술이 세상을 바꾸고 있는 지금 가장 필요한 것은 기본으로 돌아가는 것이다. 그것이 미래를 대비하는 가장 빠르고도 확실한 길이다.

■이종필 교수

[전문가의 세계 - 이종필의 과학자의 발상법]위치와 운동량을 ‘동시에, 정확히’ 관찰해 규정하는 것, 그건 불가능하다…물질도 우주도 인간도

1971년 부산에서 태어났다. 1990년 서울대 물리학과에 입학했으며 2001년 입자물리학으로 박사학위를 받았다. 이후 연세대·고등과학원 등에서 연구원으로, 고려대에서 연구교수로 재직했다. 2016년부터 건국대 상허교양대학에서 조교수로 재직 중이다. 저서로 <신의 입자를 찾아서> <대통령을 위한 과학 에세이> <물리학 클래식> <이종필 교수의 인터스텔라> <빛의 속도로 이해하는 상대성이론> 등이 있고, <최종이론의 꿈> <블랙홀 전쟁> <물리의 정석> <스티븐 호킹의 블랙홀> 등을 우리글로 옮겼다.