과학과 수학의 불확실성 – (6) 하이젠베르크의 불확정성 원리


(1) 확실한 지식? 2020. 3. 3. 
(2) 기하학적 사유의 확실성 – 1. 2020. 3. 3.
(3) 기하학적 사유의 확실성 – 2. 2020. 3. 10.
(4) 포르투나와 사피엔티아, 또는 확률적 사유. 2020. 3. 17.
(5) 19세기의 과학과 수학. 2020. 3. 24.
(6) 하이젠베르크의 불확정성 원리. 2020. 3. 31.
(7) 거짓말쟁이의 역설과 양자역학의 서울 해석. 2020. 4. 7.
(8) 수학기초론과 괴델의 불완전성 정리. 2020. 4. 14. 
(9) 인식론의 문제. 2020. 4. 21.
(10) 과학과 수학은 확실한 지식을 주는가? 2020. 4. 21.

글: 김재영 (녹색아카데미)


20세기에 접어들면서 확실한 지식의 문제는 새로운 양상을 띠기 시작했다. 그 중 하나는 베르너 하이젠베르크의 ‘불확정성 원리’와 관련된다. 양자역학이 세계에 대한 인식에 한계가 있음을 보여주었다고 말할 때 자주 언급되는 것이 바로 이 ‘불확정성 원리’이다.

가령 전자의 위치와 운동량은 동시에 원하는 정밀도로 측정할 수 없음을 원리적인 수준에서 증명할 수 있다는 것이 흔히 말하는 불확정성 원리의 내용이다. 이는 대개 $\Delta x\Delta p\ge { \hbar }/{ 2 }$와 같은 식으로 표현된다.

여기에서 $\Delta x$라고 표기한 것은 위치 $x$의 정밀도를 의미하며, 차이(difference)라는 말의 d를 그리스어 델타($\Delta$)로 나타낸 것이다. 즉 $\Delta x$란 “$x$의 차이” 또는 “위치를 나타낼 때 나타날 수 있는 차이”를 의미한다.

마찬가지로 $\Delta p$라고 표기한 것은 운동량 $p$의 정밀도를 의미한다. 운동량은 위치가 변하게 만드는 것과 관련되는데, 고전적으로는 무겁고 빠를수록 운동량이 커진다.

[그림 1] 베르너 하이젠베르크(1901~1976). (출처: Physics World)

이제 불확정성 원리의 의미는 흔히 다음과 같은 식으로 해석된다. 즉 위치를 매우 정확히 측정하여 $\Delta x$를 매우 작게 하면 그만큼 $\Delta p$가 매우 커지기 때문에, 운동량에 대해서는 원하는 정도의 정밀도를 얻을 수 없다는 것이다.

반대로 운동량을 매우 정확히 측정하여 $\Delta p$를 매우 작게 하면 그만큼 $\Delta x$가 매우 커지기 때문에, 위치에 대해서는 원하는 정도의 정밀도를 얻을 수 없다.

물리학이라는 것이 물리량을 정확히 측정하고 그를 기반으로 물리량들 사이의 관계를 밝히는 학문이라면, 이와 같이 어떤 물체의 위치와 운동량을 동시에 정확히 알 수 없다는 것은 아주 심각한 문제가 된다. 

그러나 이 ‘불확정성 원리’는 물리학, 특히 양자물리학의 이해에 상당한 오해를 가져온 이름이다. 무엇보다도 ‘불확정성’이라는 용어 자체에 상당한 문제가 있다. 영어권에서는 거의 대부분 불확실성(uncertainty)이라는 용어를 쓰고 있다. 이 말을 곧이곧대로 받아들인다면 확실하지 않은(not certain) 것에 대한 얘기가 된다.

따라서 자연스럽게 소위 ‘불확정성 원리’는 가장 근본적인 수준에서 양자역학과 같은 물리학에 불확실한 지식이 본질적으로 내재한다는 믿음으로 이어졌다. 특히 1960년대 미국의 뉴에이지 운동의 일환으로 나타난 불확실한 세상에 대한 관념들이 양자역학과 연결되어 있다는 점은 놀라울 것은 없지만 잘못된 것이다.

하이젠베르크 자신은 주관적 색채가 강한 불확실성(Unsicherheit)이라는 용어를 거의 쓰지 않고, 대신에 부정확성(Ungenauigkeit)이라는 용어를 사용했다. 더 객관적이고 중립적인 용어는 미결정성(Unbestimmtheit, indeterminacy)일 것이다. 

[그림 2] 하이젠베르크의 ‘불확정성 원리’는 물리학, 특히 양자물리학의 이해에 상당한 오해를 가져온 이름이다. (그림 출처: medium.com)

또한 불확정성 원리는 ‘원리’가 아니다. 원리란 예를 들어 ‘최소작용량의 원리’처럼 엄밀한 의미에서는 증명(또는 확증)된 바 없지만 실제의 이론 전개에서 매우 근본적이고 중요한 역할을 하는 전제를 가리킨다.

원리는 특정의 이론체계에 국한되어 성립하는 것이 아니라 여러 이론체계에 대해 보편적으로 성립하는 것으로 믿어지는 것을 가리키는 말이다. 원리가 적용되는 영역이 이론체계가 적용되는 영역보다 더 넓기 때문에, 원리는 이론체계가 구성되는 것을 인도하는 나침반의 역할을 한다. 

아직 양자역학이 충실한 형식이론을 갖추지 못했을 무렵에는 고전역학과 구분하여 양자역학만의 독특한 주장을 이해할 수 있는 인도원리가 필요했으며, 초기 양자역학에서 불확정성 ‘원리’는 그런 역할을 충실히 수행했다. 그렇지만 하이젠베르크가 불확정성 원리를 제안한 직후에 이는 힐버트 공간에 바탕을 둔 양자역학의 형식이론에서 유도되는 하나의 수학적 정리에 지나지 않음이 밝혀졌다.

1927년에 26살의 하이젠베르크가 이른바 ‘불확정성 원리’(Unbestimmtheitprinzip)를 제시한 지 얼마 되지 않아, 1929년에 콘던과 로버트슨은 위치와 운동량 사이에 성립하는 부등식 $\Delta x\Delta p\ge { \hbar }/{ 2 }$는 힐버트 공간에 대한 코시-슈바르츠 부등식 등을 이용하면 가환이 아닌 두 연산자(예를 들어 위치와 운동량)에 대해 항상 성립하는 부등식임을 일반적인 수준에서 증명했다. 

양자역학에서는 전자와 같은 물리학적 대상의 물리적 상태를 수학적으로 힐버트 공간의 한 벡터로 표현하고, 실험실에서 관측할 수 있는 물리량을 이 힐버트 공간에서 작용하는 연산자로 표현한다.

여기에서 관심을 두는 ‘미결정성’ $\Delta A$는 양자역학 계산을 통해 얻을 수 있는 확장된 의미의 분산이며, 실험실에서 얻을 수 있는 데이터 따위의 통계적 분산과는 아무런 관계가 없다. 그런 점에서 미결정성은 측정행위와 무관하다.

[그림 3] 하이젠베르크의 ‘감마선 현미경 사고실험’.
“한 물체의 위치”라는 말이 무엇을 의미하는지 분명하게 밝히고 싶다면, 예를 들어 전자일 경우 …, “전자의 위치”를 측정할 수 있는 정확한 실험을 고안해내야 한다. 그렇게 할 수 없다면 “전자의 위치”라는 말에는 아무 의미가 없다. – 하이젠베르크. 1927. (출처: American Institute of Physics)

하이젠베르크가 ‘불확정성 원리’의 타당함을 방증하기 위해 도입했던 감마선 현미경 등의 사고실험은 측정에 대한 교란이론을 전제하고 있다. 감마선 현미경으로 전자의 위치를 정확히 측정하고자 하면 감마선의 매우 강한 에너지 때문에 전자의 운동량 값이 크게 변하게 되고, 그런 점에서 전자의 운동량은 불확정하다는 것이다.

그러나 측정 자체만으로 보면, 위치와 운동량을 굳이 동시에 측정해야 할 이유는 없다. 이와 같은 상황은 고전역학적인 대상에도 여전히 성립한다. 빠르게 움직이고 있는 자동차의 위치를 정하는 가장 좋은 방법은 스냅사진을 찍는 것이다. 스냅사진의 노출시간이 짧을수록 자동자의 위치는 정확히 결정되지만, 그와 동시에 자동차의 속도에 대한 정보는 훨씬 적어진다. 그러나 이를 두고 ‘불확정성 원리’가 성립한다고 말할 수는 없다.

‘불확정성 원리’는 측정 이전에 이미 측정과 무관하게 이론적으로 계산할 수 있는 물리량의 평균값에 대해 제한이 있음을 주장하는 것이다. 이런 맥락에서 이 부등식은 ‘불확정성 원리’의 표현이 아니라 오히려 양자역학의 힐버트 공간 정식화에서 유도되는 미결정성 정리(indeterminacy theorem)로 보아야 한다. 이것은 양자역학이라는 물리학 이론의 테두리와 제한성을 드러내고 있지만, 측정이나 인식상의 한계를 의미하는 것은 아니다. 

요컨대 하이젠베르크의 소위 ‘불확정성 원리’는 원리가 아니라 더 큰 양자역학의 체계에서 유도되는 한낱 정리에 지나지 않으며, 지식의 불확실성(uncertainty)의 문제와는 직접 관련되지 않는 이론적 테두리로서 이론의 한계를 보여줄 뿐이다. 

(7) 거짓말쟁이의 역설과 양자역학의 서울해석(2020. 4. 7)로 계속 됩니다.
과학칼럼은 매주 화요일에 업로드됩니다.


참고문헌

  • 김재영. (2001). “한계로서의 확률: 양자역학과 통계역학의 예”, 『과학과 철학』, 제12집. pp. 1~20.
  • 김재영. (2004). “통계역학의 기초 다시 보기: 메타동역학적 접근”, 『과학철학』, 제7권 pp. 21~63.
  • 김재영. (2010). “불확실성의 과학은 어떻게 만들어졌는가?”. 박성민 외, 『불확실한 세상』 사이언스북스. pp. 251-284.
  • 야마오카 에쓰로 (2004). 『거짓말쟁이의 역설』, 안소현 옮김, 영림카디널. 
  • 장회익 외 (2016). 『양자, 정보, 생명』 한울아카데미.
  • Franzén, Torkel (2005). Gödel’s Theorem. An Incomplete Guide to Its Use and Abuse. A K Peters.   
  • Gigerenzer, G. et al. (1989). The Empire of Chance: How probability changed science and everyday life. Cambridge University Press.
  • Goldstein, R. (2005). Incompleteness: The proof and paradox of Kurt Gödel. Norton; 고중숙. (2007). 『불완전성: 쿠르트 괴델의 증명과 역설』, 승산.
  • Hacking, I. (1975). The emergence of probability: A philosophical study of early ideas about probability, induction and statistical inference. Cambridge University Press.
  • Harman, P. (19 ). Energy, Force, Matter: Physics in the Nineteenth Century. Harvard University Press; 김동원, 김재영 (2000). 『에너지, 힘, 물질: 19세기의 물리학』, 성우출판사.
  • Kline, M. (1982). Mathematics: The Loss of Certainty. Oxford University Press; 심재관. (2007). 『수학의 확실성: 불확실성 시대의 수학』, 사이언스북스.

*알림: 웹사이트 스킨 문제로 댓글쓰기가 안되고 있습니다. 댓글이나 의견 등은 녹색아카데미 페이스북 그룹트위터인스타그램 등을 이용해주시면 감사하겠습니다. 공부모임 게시판에서는 댓글을 쓰실 수 있습니다. 이용에 불편을 드려 죄송합니다. – 녹색아카데미greenacademy.kr@gmail.com