[미디어파인=이상원 기자] 현대 물리학에서는 우리의 상식을 뛰어넘는 놀라운 아이디어들이 고등학교 과정에서 이미 슬쩍 모습을 드러낸다. 예를 들어, 아주 낯선 양자 세계를 접하거나 아인슈타인의 일반·특수상대성이론을 배울 즈음부터가 그렇다. 반면 학교에서 배우는 수학은 이런 경이로움을 따라가기에는 부족해 보인다. 사칙연산, 적분과 미분, 확률과 벡터의 기초적인 활용 정도가 고작이다. 운이 좋다면 의욕적으로 가르치는 선생님이 간단한 증명을 보여주기도 하지만, 그 정도에서 끝난다. 그러니 많은 학생이 수학에 대한 열정을 키우지 못하는 것도 무리는 아닐 것이다.
그러나 수학에는 놀라운 내용이 무궁무진하다. 예를 들어, ‘바나흐-타르스키 역설’처럼 구(球)를 마치 마법처럼 두 개로 ‘복제’해낼 수 있다는 주장도 있고, 서로 다른 ‘무한대’가 무한히 많다는 사실도 있다. 무엇보다 큰 충격을 주었던 부분은, 물리학의 가장 기묘한 현상들이 수학과 얼마나 깊숙이 얽혀 있는지 깨달았을 때였다. 사실 믿기 힘든 양자 현상들이라고 해서 그 자체가 특별한 물리 법칙을 만들어내는 것은 아니다. 오히려 시스템은 항상 엄정한 수학적 규칙을 따른다. 화학자 피터 앳킨스가 2003년 저서 『갈릴레오의 손가락(Galileo’s Finger)』에서 “수학이 끝나고 과학이 시작되는 지점을 구분하는 일은 아침 안개 가장자리를 지도에 표시하는 것만큼이나 어렵고 무의미하다”고 말한 것도 같은 맥락이다.
수학과 물리가 서로 얽혀 있다는 사실을 보여주는 좋은 사례로는 물리학자 마이클 베리가 발견한 현상을 들 수 있다. 1984년, 베리는 양자역학이 지니고 있던 한층 깊고도 예상치 못한 기하학적 측면을 밝혔다. 그리고 그 기하학이 양자 입자에게 일종의 ‘기억’을 부여한다는 통찰을 얻었다.
당시 베리는 중성자 같은 입자가 주변 환경 변화에 어떻게 반응하는지, 특히 그 양자 상태를 단순한 이론 모델로 연구하고 있었다. 중성자에는 스핀이란 양자적 성질이 있는데, 이를 미세한 자석에 비유할 수 있다. 이 스핀은 ‘위쪽’ 혹은 ‘아래쪽’을 향할 수 있어, 물리학에서는 이를 각각 ‘스핀 업(spin up)’과 ‘스핀 다운(spin down)’이라고 부른다. 그리고 중성자의 스핀은 외부 자기장에 영향을 받는다. 베리는 자기장의 방향이 매우 천천히 변할 때 중성자가 어떻게 될지를 수학적으로 살펴보았다. 20세기 초 도입된 ‘단열 정리(adiabatic theorem)’에 따르면, 주변 환경이 느리게 바뀌는 동안에는 그 양자적 성질, 즉 에너지나 운동량, 질량, 스핀 같은 물리량이 변하지 않아야 한다. 자기장의 방향을 서서히 돌려 놓고, 다시 원래 상태로 되돌린다면, 시스템은 이론적으로 아무런 변화를 겪지 않아야 한다는 뜻이다.
양자역학에서 가장 묘한 현상 중 하나가 바로 파동-입자 이중성이다. 양자적 대상은 입자처럼 점(點)으로도 그려지지만, 물결치듯 파동의 양상도 동시에 보인다. 여기서 ‘위상’이란 파동이 어떤 각도만큼씩 어긋나 있는 정도를 말한다. 예를 들어, 코사인 함수는 사인 함수를 일정 각도만큼 옮겨놓은 것에 지나지 않는다. 베리는 자기장이 천천히 회전하는 과정에서, 중성자의 파동함수가 특정 각도만큼 회전(위상 변이)한다는 사실을 계산을 통해 알아냈다. 이는 곧, 중성자의 파동함수가 일종의 ‘흔적’을 남긴다는 뜻이다. 즉, 어떤 변화(이 경우엔 자기장의 방향 변환)가 있었다는 기록이 파동함수에 새겨진다. 나아가 베리는 이런 위상 변이가 자석(자기장)뿐 아니라, 양자 시스템을 서서히 바꾼 뒤 다시 원래 상태로 복귀시키는 어떤 상황에서도 생길 수 있음을 지적했다.
베리의 획기적인 연구가 발표된 이후 진행된 실험들은 이를 뒷받침했다. 물론 양자역학을 조금이라도 접해본 사람이라면 알겠지만, 파동함수는 직접 관측할 수 있는 물리량이 아니다. 그럼에도 이 위상 변이를 측정하는 방법이 있으니, 바로 ‘비교 대상’이 되는 두 번째 입자를 활용하는 것이다. 예컨대, 하나는 변화하는 자기장에 노출되고, 다른 하나는 그렇지 않은 중성자 두 개를 충돌시켜 본다. 충돌 순간, 두 파동함수가 서로 간섭을 일으키는 것이다.
이 파동함수들은 물결이 만나듯 거동한다. 골이 골에, 마루가 마루에 정확히 맞물리면 서로를 강화하지만, 어긋나 있으면 서로를 상쇄하여 약해지거나 완전히 소멸된다. 전자는 ‘보강 간섭(constructive interference)’, 후자는 ‘상쇄 간섭(destructive interference)’으로 알려져 있다. 결과적으로, 실험에서 중성자들은 실제로 서로 위상이 맞지 않아 상쇄 간섭을 일으켰다. 이는 그 중 하나가 잠시 동안 변화하는 자기장 속에 있었음을 나타내는 지표였다. 눈에 보이는 물리적 특성은 그대로인데도, 파동함수가 변한 탓에 완전히 이전과 같지 않다는 사실이 드러난 셈이다.
이 모든 이야기는 정말 흥미롭다. 하지만 가장 인상 깊었던 점은, 완전히 새로운 물리 법칙이나 수학 공식을 창안하지 않았다는 사실이다. 이미 존재하던 수학적 사고방식을 토대로, 물리학에 숨어 있던 예상치 못한 면모를 발견해 냈을 뿐이다. 다시 말해, 물리적 현실은 여전히 수학의 언어로 기술 가능하다는 사실, 그리고 그 수학이 전혀 예상하지 못했던 물리 세계의 ‘비밀’을 풀어낸다는 사실이다.