과학과 수학의 불확실성 – (9)인식론의 문제 & (10)결론

(1) 확실한 지식? 2020. 3. 3. 
(2) 기하학적 사유의 확실성 – 1. 2020. 3. 3.
(3) 기하학적 사유의 확실성 – 2. 2020. 3. 10.
(4) 포르투나와 사피엔티아, 또는 확률적 사유. 2020. 3. 17.
(5) 19세기의 과학과 수학. 2020. 3. 24.
(6) 하이젠베르크의 불확정성 원리. 2020. 3. 31.
(7) 거짓말쟁이의 역설과 양자역학의 서울 해석. 2020. 4. 7.
(8) 수학기초론과 괴델의 불완전성 정리. 2020. 4. 14. 
(9) 인식론의 문제. 2020. 4. 21.
(10) 결론: 과학과 수학은 확실한 지식을 주는가? 2020. 4. 21.

글: 김재영 (녹색아카데미)


(9) 인식론의 문제

자연과학은 사람이 자신을 둘러싸고 있는 자연을 이해하려는 노력이라고 하지만, 이러한 관점은 너무 소박해서, 막상 자연과학이 무엇인가를 답하는 데에 별로 도움이 되지 않는다. 무엇보다도, ‘자연’이 무엇인지의 문제는 ‘자연’을 이해하는 정도나 방식과 매우 가깝게 연결되어 있다.

‘자연’은 그것을 이해하려는 사람과 무관하게 스스로 있는 것인가? 아니면, 그것을 이해하려는 사람에 대해서만 말할 수 있는 것인가? 이론은 실재를 투명하게 반영하는가? 

[그림 1] ‘소박한 실재론'(naïve realism)은 우리가 세계를 직접 인식한다고 주장한다. (출처: wikipedia)

이러한 문제에 대한 조심스런 접근을 우리는 과학적 20세기의 실재론 논쟁과 도구주의/경험주의/구성주의의 논의에서 볼 수 있다. ‘과학적 실재론’은 다음과 같은 주장들을 공유하는 입장으로 정의할 수 있다.

  1. 과학이론들에서 “이론용어”(즉 비관찰적 용어)는 무엇인가를 지시하는 표현으로 여겨야 한다. 과학이론들은 실재적으로 해석되어야 한다.
  2. 실재론적으로 해석된 과학이론들은 입증가능하며, 보통의 방법론적 표준에 비추어 해석된 보통의 과학적 증거를 통해 근사적으로나마 참인 것으로 사실상 곧잘 입증되어 왔다.
  3. 성숙한 과학들의 역사적 진보란 대체로 관찰할 수 있는 현상이든 그렇지 못한 현상이든 진리를 향해 더 정확한 어림의 문제이다. 나중의 이론들은 대개 이전의 이론들에 구현된 (관찰적 및 이론적) 지식 위에 구축된다.
  4. 과학이론들이 기술하는 실재는 대체로 우리의 사고나 이론적 믿음과 무관하다.

실재론자의 관심은 무엇보다도 이론적 용어에 해당하는 존재자(entities)가 실제세계에 존재하는가의 문제이다. 덧붙여, 이 이론적 용어가 가리키는 존재자들이 이론에서 규정하는 성질(properties)을 실제로 가지는가의 문제이다. 과학적 실재론의 기본주장은 더 단순화시키면 다음과 같이 말할 수 있다.

(1) 성공적인 과학이론들에 포함된 용어에 해당하는 존재자가 외부세계에 존재한다.
(2) 성공적인 과학이론들에 포함된 진술들은 참이거나, 적어도 근사적으로 참이다.

그런데 ‘실재론’이라는 용어는 몹시 포괄적이어서, 사용하는 데에 주의가 필요하다. ‘의미론적 실재론’은 모든 이론은 진리값을 가지고 있어서 설사 우리가 어떤 이론들이 참인지를 모르더라도 참인 이론이 분명히 존재한다는 주장이다.

[그림 2] 래리 라우던. 1941~. (출처: Error Statistics Philosophy)

앞의 주장 중 첫째 것 (1)은 ‘개념적 실재론’으로서, 이론적 용어에 대응하는 대상의 존재를 주장하고 있다는 점에서 매우 강한 주장에 속한다. 두 번째 주장 (2)는 ‘인식론적 실재론’으로서, 더 약화된 주장을 한다. 미국의 과학철학자 래리 라우던은 인식론적 실재론의 형태를 다음과 같이 규정하고 있다.

  • R1) 과학적 이론들은 (적어도 ‘성숙한’ 과학의 경우에) 대개 근사적으로 참이며, 좀더 최근의 이론들은 같은 영역에 대한 더 이전의 이론들보다 더 진리에 가깝다.
  • R2) 성숙한 과학들 안에 있는 관찰용어와 이론용어는 진정으로 지시한다(genuinely refer). 즉, 대략 말하자면, 우리의 최선의 이론이 상정하는 존재론에 대응하는 실체가 세계 안에 존재한다.
  • R3) 어떤 성숙한 과학에서든지 성공적인 이론들은 이전의 이론들이 가지고 있던 이론적 관계와 눈에 보이는 지시체를 ‘보존’할 것이다. 즉, 이전의 이론들은 나중 이론들의 특별한 제한적 경우(limiting cases)가 될 것이다.
  • R4) 받아들일 수 있는 새로운 이론들은 선행이론들이 성공적이었던 부분에서 왜 성공적이었는지를 설명하고 있고 설명해야 한다.
  • R5) 앞의 네 가지 주장에 따르면, ‘성숙한’ 과학이론들은 성공적이라는 결론을 얻을 수 있다. 다시 말하면, 이 네 가지 주장은 과학이 왜 성공적인가에 대한, 유일한 것은 아니지만, 최선의 설명이다. 따라서 과학의 경험적인 성공(상세한 설명과 정확한 예측을 줄 수 있다는 의미에서)은 실재론에 대한 놀라운 경험적 확증을 제공한다.

이러한 실재론적인 주장에 따르면, 다음과 같은 두 종류의 귀추적 추론이 가능하다.

  1. 과학적 이론들이 근사적으로 참이라면, 대개는 경험적으로 성공적일 것이다.
  2. 과학적 이론들의 중심된 용어들이 진정으로 지시한다면, 일반적으로 그 이론들은 경험적으로 성공적일 것이다.
  3. 그런데 과학적 이론들은 경험적으로 성공적이다.
    ——————————————————————–
  4. ∴ (아마도) 이론들은 근사적으로 참이고 그 용어들은 진정으로 지시할 것이다.

  1. ‘성숙한’ 과학에서 이전의 이론들이 근사적으로 참이고 그 이론들의 중심된 용어들이 진정으로 지시한다면, 같은 과학에서 더 성공적인 나중의 이론들은 이전의 이론들을 제한적 경우로서 보존할 것이다.
  2. 그런데 과학자들은 이전의 이론들을 제한적 경우로서 보존하려 애쓰며, 일반적으로 성공한다.
    ——————————————————————–
  3. ∴ (아마도) ‘성숙한’ 과학에서 이전의 이론들은 근사적으로 참이고 진정으로 지시적일 것이다. 

라우던은 이 귀추적 추론에서 사용된 5가지의 전제를 검토한 뒤에, 다음과 같은 결론을 얻는다. 

  1. 어떤 이론의 중심된 용어가 실제 세계의 대상을 지시한다고 해서 그 이론이 성공적일 것이라는 결론을 이끌어낼 수는 없다. 어떤 이론의 성공은 그 이론의 중심된 용어의 전부 또는 대부분이 실제 세계의 대상을 지시한다는 주장에 대해 전혀 보장이 되지 못한다.
  2. 근사적 참이라는 관념은 너무 모호해서 근사적으로 참인 법칙들로만 이루어진 어떤 이론이 경험적으로 성공적일지 아닐지를 판단하는 것이 불가능하다. 어떤 이론은 근사적으로 참이 아니더라도 경험적으로 성공적일 수 있다는 것이 분명하다.
  3. 실재론자들은 근사적으로 참이 아니면서 그 ‘이론적’ 용어들이 실제 세계의 대상을 지시하지 않는 것처럼 보이는 많은 이론들이 그럼에도 불구하고 자주 성공적이라는 사실을 설명하지 못한다.
  4. ‘성숙한’ 분야에서 과학자들은 대개 이전의 이론들이 법칙이나 메커니즘을 보존하거나 보존하려 애쓴다는 주장은 아마도 거짓이다. 그런 법칙들이 성공적인 나중 이론들에서 보존된다면 보존된 법칙과 메커니즘의 진리이기쉬움(truthlikeness) 때문에 나중 이론의 성공을 설명할 수 있다는 주장은 앞에서 언급된 근사적 참의 문제점들을 고스란히 갖고 있다.
  5. 설사 지시하는 이론이나 근사적으로 참인 이론이 성공적임을 보일 수 있다손 치더라도, 성공적인 이론들은 근사적으로 참이고 진정으로 지시한다는 실재론자들의 논변은 정확히 반실재론자들이 부정하는 바, 설명상의 성공이 진리임을 암시한다는 주장을 받아들이고 있다.
  6. 받아들일만한 이론들이 그 선행이론이 성공했거나 실패했던 이유를 설명하거나 설명해야 하는지가 불분명하다. 어떤 이론이 경쟁이론이나 선행이론보다 더 잘 지지된다 하더라도, 그것이 왜 경쟁이론이 먹혀들어 가는지를 설명하는가 아닌가는 인식적으로 명확하지 않다.
  7. 어떤 이론이 일단 오류로 판명되면, 그 후속이론이 그 이론의 내용 전부 또는 확증된 결과들 또는 이론적 메커니즘들을 유지하리라고 기대하는 것은 불합리하다.
  8. 실재론자들은 반실재론적 인식론이 과학의 성공을 설명할 만한 자료가 부족함을 확립하지 못했다.

이 결론을 통해 라우던은 자신이 퍼트남(H. Putnam), 뉴턴-스미드(W. Newton-Smith), 보이드(R. Boyd) 등의 ‘수렴적 실재론’(convergent realism)을 효과적으로 논박했다고 주장한다. 실재론은 그 중심용어가 명백하게 지시하지 않는, 다시 말해서 중심된 용어들이 실제 세계의 대상과 대응되지 않는 많은 이론들이 왜 성공적인지, 또는 이론적 법칙이나 메커니즘들이 근사적으로 참이 아닌 이론들이 왜 성공적인지를 설명하지 못한다는 것이 라우던의 주장이다.

즉, 과학사에서 보면, 그 중심용어가 실제 세계의 대상을 지시하지 않으면서도 매우 성공적이었던 이론들이 있었으며, 과학의 성공의 역사의 일부라도 그 중심용어가 지시하지 않는 이론들에서 나타나는 성공이었다면, 실재론이 과학이 성공적인 이유를 설명한다는 주장은 거짓이 된다는 것이다. 

과학적 실재론 논쟁은 프랑스의 수학자이자 물리학자이자 과학철학자 피에르 뒤엠이 『물리이론의 목적과 구성』(1906)에서 제기했던 이론미결정성 논제와 연관된다. 일반적인 통념에 따르면, 경쟁하는 이론들이 있을 때 어느 것이 옳은지 알고자 한다면, 각 이론들이 서로 다르게 예측하는 결정적 실험(experimentum crucis)을 고안해 내고, 실제로 이 실험을 해 보아서 실험결과가 예측과 맞아떨어지는 이론이 경쟁에서 살아남는다고 보면 된다.

하지만 이러한 소박한 관점은 현실의 과학에서는 거의 작동하지 않는 경우가 많다. 이를 더 단순화시키면, 경쟁하는 이론들이 아니라 제안된 가설의 입증 문제로 이해할 수 있다. 과거의 연구결과나 새로운 관찰을 통해 어떤 가설을 고안해 낸다고 하자.

이 가설이 옳은지 그른지를 판단하려면 이 가설로부터 연역적으로 도출되는 실험을 고안하여 실제로 실험을 수행한다. 실험결과가 가설의 연역적 귀결과 맞아떨어진다면 잠정적으로 그 가설은 시험을 통과한 것으로 간주한다. 만일 그렇지 않다면 가설은 잘못된 것으로 폐기한다. 뒤엠은 이러한 통념이 잘못된 것임을 강조하여 지적한다.

실험결과가 문제시되는 가설과 상충한다고 하더라도 하나의 이론체계에는 문제시되는 가설 이외에 여러 보조가설들이 포함되어 있기 때문에 특정 이론의 진위 여부를 실험결과로부터 결정적으로 판가름할 수는 없다. 따라서 결정적 실험은 존재할 수 없으며 실험은 이론들 중에서 어느 것이 옳은지 결정할 수 없다. 언제나 이것이 뒤엠 논제 또는 이론미결정성 논제이다.  

과학적 실재론 논쟁과 이론미결정성 논제는 과학이론이 최종적인 지식을 줄 수 있는가에 대한 철학자들의 조심스러운 의견 제시이다. 이런 의견들이 결정적인 답을 주는 것은 아니지만, 확실한 지식에 대한 우리의 고민에 좋은 생각거리들을 던져주고 더 통찰력 있는 혜안을 보여주고 있는 것은 틀림없다.

(10) 과학과 수학은 확실한 지식을 주는가?

이제까지 우리는 과학과 수학을 둘러싼 확실한 지식의 가능성을 역사적인 접근이라는 씨줄과 개념적 고찰이라는 날줄을 가지고 살펴보았다. 

데카르트가 추구했던 명석하고 판명한 지식은 대표적으로 에우클레이데스의 기하학과 연결되며, 이는 기하학적 형식체계의 대명사이기도 함을 보았다. 스피노자의 『에티카』나 뉴턴의 『프린키피아』가 기하학적 형식체계를 따라 서술된 것도 결국 확실한 지식임을 강변하기 위함이었다. 

확률적인 접근만 허용되는 문제들을 통해 확실한 지식의 토대가 흔들리는 것처럼 보이기도 했지만, 이것조차 한 단계 위에서 엄밀한 수학적 체계 안에 정립되고, 확률적 및 통계적 접근을 통해 물리과학과 생명과학에서의 혁신적인 발전이 이루어진 것을 보았다.

20세기에 들어와 하이젠베르크와 불확정성 원리와 괴델의 불완전성 정리는 확실한 지식의 추구에서 과학과 수학이 그다지 굳건한 토대 위에 있지 않음을 잘 보여준다. 그러나 이것 역시 면밀하게 보자면 확실한 지식에 직접적인 걸림돌이 되는 것은 아님을 논의했다. 

글머리에서 일식 예측의 정확성과 일기예보의 부정확성을 대비시켰는데, 이 글을 통해 이러한 단순 대조가 그다지 생산적인 것이 아님을 볼 수 있다. 일식 예측의 문제는 연관되는 변수가 최소로 되어 있고 변화의 원인이 비교적 상세하게 밝혀져 있는 반면, 일기예보의 문제는 혼돈이론이라는 이름이 붙을 정도로 복잡한 변수들이 초기조건에 따라 아주 민감하게 달라지는 비선형 동역학계의 전형적인 예인 기상현상을 다루어야 한다.

[그림 3] 1887년 12월 9일과 10일, 유럽의 기압 변화. 하루 동안 기압 배치가 완전히 달라졌다. (출처: physics.org)

따라서 일식 예측이 놀랄 만큼 정확한 반면, 일기예보가 당장 열흘 뒤조차 예측에 실패하는 것은 당연해 보인다. 게다가 확률개념이나 통계적 접근을 염두에 둔다면 이러한 대비는 피상적인 것일 뿐, 일식과 기상현상의 본질적 차이를 보여주지 않는다. 

불확실성의 위협은 언제나 확실한 지식의 추구를 향한 진일보로 이어지곤 했다. 피론주의와 같은 근본적인 회의주의는 오히려 데카르트와 같은 합리주의 철학으로 이어졌고, 확률적 사유 때문에 불안해 보였던 물리과학과 생명과학은 오히려 더 세련되고 발전된 이론으로 혁신을 일으켰다.

불확정성 원리나 불완전성 정리나 미결정성 논제는 확실한 지식의 가능성에 근본적인 문제를 제기했지만, 그것이 곧 확실한 지식을 향한 여정을 그만 둘 변명의 이유가 되지는 않는다. 적어도 과학과 수학에 관한 한, 아직은 확실함을 향해 천천히 걸어갈 수 있는 마음의 여유가 우리에게 있는 것으로 보인다.


참고문헌

  • 김재영. (2001). “한계로서의 확률: 양자역학과 통계역학의 예”, 『과학과 철학』, 제12집. pp. 1~20.
  • 김재영. (2004). “통계역학의 기초 다시 보기: 메타동역학적 접근”, 『과학철학』, 제7권 pp. 21~63.
  • 김재영. (2010). “불확실성의 과학은 어떻게 만들어졌는가?”. 박성민 외, 『불확실한 세상』 사이언스북스. pp. 251-284.
  • 야마오카 에쓰로 (2004). 『거짓말쟁이의 역설』, 안소현 옮김, 영림카디널. 
  • 장회익 외 (2016). 『양자, 정보, 생명』 한울아카데미.
  • Franzén, Torkel (2005). Gödel’s Theorem. An Incomplete Guide to Its Use and Abuse. A K Peters.   
  • Gigerenzer, G. et al. (1989). The Empire of Chance: How probability changed science and everyday life. Cambridge University Press.
  • Goldstein, R. (2005). Incompleteness: The proof and paradox of Kurt Gödel. Norton; 고중숙. (2007). 『불완전성: 쿠르트 괴델의 증명과 역설』, 승산.
  • Hacking, I. (1975). The emergence of probability: A philosophical study of early ideas about probability, induction and statistical inference. Cambridge University Press.
  • Harman, P. (19 ). Energy, Force, Matter: Physics in the Nineteenth Century. Harvard University Press; 김동원, 김재영 (2000). 『에너지, 힘, 물질: 19세기의 물리학』, 성우출판사.
  • Kline, M. (1982). Mathematics: The Loss of Certainty. Oxford University Press; 심재관. (2007). 『수학의 확실성: 불확실성 시대의 수학』, 사이언스북스.

*알림: 웹사이트 스킨 문제로 댓글쓰기가 안되고 있습니다. 댓글이나 의견 등은 녹색아카데미 페이스북 그룹트위터인스타그램 등을 이용해주시면 감사하겠습니다. 공부모임 게시판에서는 댓글을 쓰실 수 있습니다. 이용에 불편을 드려 죄송합니다. – 녹색아카데미