힐러리 퍼트넘, What Is Mathematical Truth? (1979)

  • 고전 논문을 읽는 것도 크리스마스 낭만 중 하나 입니다(...)

  • 힐러리 퍼트넘의 논문 <What is Mathematical Truth?>를 대화 형식으로 정리했습니다. 중구난방으로 정리한 것이니, 관심이 생기셨다면 원문을 찾아 읽어보시면 좋겠습니다!

  • ‘P’는 퍼트넘을, ‘Q’는 가상의 질문자를 지칭합니다.

  1. 실재론자 퍼트넘

P: 수학적 진술들은 객관적으로 참/거짓이야. ‘집합’이나 ‘함수’ 같은 개념이 물질과는 독립적인 플라톤적 대상을 지칭해서 그렇다는 건 아니야. 물리적인 것을 원소로 가지는 집합은 물리적인 것에 의존하니까.

Q: 물리적 대상과는 달리, 집합은 시간과 관계없이 존재하는 거 아냐?

P: 아니, 그건 수학자들이 ‘지금 존재한다’, ‘존재했다’, ‘존재할 것이다’의 시제들을 무시해서 그렇게 된 거야.

Q: 보통 집합론에서는 공집합이나 공집합의 집합...등으로 만들어진 순수 집합만 쓰지 않나?

P: 공집합 같은 unconditional한 집합은 집합론에서 필수적이지는 않아. 공집합 대신 집합이 아닌 오브젝트 하나만 가정해도 충분히 집합론을 할 수 있고, 공집합이 존재한다는 게 선험적으로 정당화된다고 볼 수는 없어. 어쨌든, 집합은 물리적인 것에 의존하는 conditional한 것이면서, <추상적 가능자>들이야. 수학적 대상들을 탐구하는 건 <어떤 구조가 추상적으로 가능한지>를 탐구하는 거지.

Q: 추상적 가능성들을 탐구하는 게 추상적이고 플라톤적인 세계를 탐구하는 거 아냐?

P: 아니, 물리학자가 수식이나 수학 개념으로 자연 법칙을 서술하는 건, 물리적 세계의 일부 특징을 추상화해서 기술하는 것일 뿐인 거야.

Q: 물리적 세계를 기술한다면, 수학의 선험성을 거부한다는 거야?

P: 그렇지! 경험적 지식인 거야! 또 수학적 지식은 변할 수 있고, 절대적이지 않아.

  1. 공리적 방법과 선험성

Q: 선험적인 공리에서 선험적 논리적 추론규칙을 통해 증명하는 게 바로 수학 아니었어?

P: 가장 ‘불변하는’ 것처럼 보이는 정수론을 보자. 네가 말한 <공리에서 증명>하는 방법은 역사가 짧아. 정수론에 제대로 된 공리가 생겨난 지 200년도 안 됐어. 사실 ‘불변하는’ 정리들에 맞춰서 공리를 ‘개발’한 거지. 자연수론조차 선험적이지 않다면, 집합론 같은 분야는 더욱 선험적이지 않겠지? 이제 확실히 경험적인 방법으로 수학을 하는 화성인 친구를 소개해 볼게. 우리 수학이 화성인들의 수학하고 얼마나 다른지 보자고!

  1. 화성인의 수학

M: 예. 화성인입니다. 우리는 과학을 지구인들과 거의 똑같이 해요. 그런데 수학이 조금 다르던데요. 지구인들이 ‘리만 가설’이라고 부르는 것을 우리는 버젓이 교과서에 실어 놨습니다. 컴퓨터로 엄청나게 많은 계산을 돌려도 반례가 나오지 않았고, 가설이 참이라고 가정한 뒤 다른 좋은 정리들을 많이 이끌어 냈거든요. 이렇게 리만 가설은 ‘검증’된 거예요. 지구인들은 왜 이렇게 ‘증명’에 집착하나 모르겠네요.

Q: 당신들은 과학적 ‘검증’의 개념만 가지고 있지, 우리가 말하는 수학적 ‘증명’이 무엇인지 모르는 거 아녜요?

M: 아뇨. 우리도 ‘증명’이 뭔지 알고 있어요. 더 자명해 보이는 원리들에서 덜 자명해 보이는 원리들을 연역적으로 도출하는 것 아닌가요? 과학에서와 마찬가지예요. 뉴턴의 작용-반작용 법칙이 다른 원리들에서 도출된다고 들었어요. 검증되었던 법칙이 ‘증명’까지 된 거죠. 오히려 당신들이 ‘수학적 검증’이라는 개념을 안 가지고 있는 것 같은데요? 어차피 수학적 정리들도 과학 법칙들과 마찬가지로, 인식적으로 우연적인 것 아닌가요?

3.5 불완전성 정리의 함축

Q: ‘수학적 검증’의 개념은 없을 수 있겠네요. 그런데 그런 것 없이도, ‘공리에서 증명’하는 방법만으로 수학을 할 수 있는 것 아닌가요? 참인 수학 진술들은 언젠가는 증명할 수 있잖아요?

P: 참인 수학 진술들-불완전성 정리에 의해, recursively enumerable하지 않음-이 모두 ‘증명될’ 수 있으려면, 서로 근본적으로 다르면서도 자명하게 보이는 공리들이 필요한데, 인간이 그런 공리들을 쓸 수 있을지 모르겠네. 그리고 ‘증명할 수 있다’가 ‘선험적 참이다’와 같은 말인지도 잘 모르겠어.

Q: ‘선험적’은 포기하더라도, 공리들은 ‘분석적 참’이고, 논리적 추론은 분석성을 보존하니까, 정리들도 ‘분석적 참’인 거 아닐까?

P: 그러면 불완전성 정리에 따라, ‘종합적으로 참’인 수학적 진술들이 존재하겠네. 보통 ‘종합적으로 참’인 진술들은 ‘사실적 내용’을 지닌다고 하니, 종합적으로 참인 진술들의 검증을 위해 화성인의 ‘수학적 검증’을 받아들여야 하는 것 아닐까? 이제부터 화성인의 수학적 방법을 ‘준경험적 방법’이라고 부를게.

  1. 지구인들의 화성인 수학

P: 사실은 지구인들도 화성인들의 준경험적 방법을 쓰고 있었어! <직선의 점들과 실수들 사이에는 일대일 대응이 성립한다>는 공리를 보자. 수 개념을 실수를 포함하도록 확장할 수학적 도구가 없었던 그리스인들은, 이 공리를 거부했어. 반면 데카르트는 해석기하학을 만들면서, 이 공리를 그냥 가정해버렸어. 실수가 코시 수열이나 데데킨트 절단으로 간주될 수 있다는 것도 전혀 몰랐던 채로, 엄밀한 증명 없이 가정한 거지.

Q: 데카르트가 말한 ‘직선’은 물리적 공간이 아니라 유클리드 공간(실수의 삼중 순서쌍들의 집합)의 직선이니, 그 공리는 데카르트의 체계에서 <정의에 의한 참> 아냐?

P: 리만 이전까지는 ‘공간’이 그런 의미가 아니었어. 왜 굳이 ‘공간’이라고 불렀겠니? 어쨌든, 설령 실수가 코시 수열이나 데데킨트 절단으로 간주될 수 없었다고 해도, 데카르트가 만들어낸 풍성한 해석기하학을 우리가 버렸을까? 데카르트가 ‘실수’를 더 이상 정의될 수 없는 원초적 개념으로 썼다고 해도, 해석기하학을 우리가 버렸을까? 데카르트가 선사해준 수학 지식은, 준경험적으로 만들어낸 지식인 거야. 과학에서 가설연역법과 비슷한 걸 쓴 거지.

Q: 데카르트만?

P: 아니! 뉴턴과 라이프니츠가 만들어낸 <무한소 미적분법>도 준경험적 방법을 쓴 거야. 무모순성이 증명(후대에 이루어짐)되지 않은 채로 무한소 개념을 상정한 거니까. 또 허수 개념도 상정된 거고. 미분적분학은 ‘엄밀한 방식으로’ 정당화되지 않았더라도 어차피 ‘정당화된’ 거였어. 물리학에서 성공적으로 사용되어 왔으니까. 오일러가 1/(n^2)의 급수가 파이제곱/6에 수렴한다는 걸 처음 발견한 과정도 ‘증명’은 아니었어.

Z: 나도 선택 공리를 그런 식으로 정당화했어. 데데킨트 칸토어 쾨니흐 등 다른 수학자들이 성공적으로 사용해 왔고, 과학자들이 사용해야 하는 여러 정리들이 선택 공리로부터 따라 나온다는 식이었지.

P: 또 수학자들이 직관적이라고 보아 가정한 것은 오류 가능하긴 해. 수학자들이 ‘자명하다’라고 하는 기준 또한 주관적이지. 그렇지만 <과학에 필수적이다>는 기준은 어느 정도 객관적이야.

그리고, <차이가 2인 소수들의 쌍은 무한히 많다>는 추측도 준경험적으로 정당화된다고 생각해. 소수들의 빈도를 통계적으로 생각해봤을 때 그렇다는 예측을 할 수 있는 거지.

Q: 그러면 <컴퓨터가 노가다를 했는데 반례가 없으므로, 골드바흐 추측이 참이다>는 나쁜 추론과 어떻게 다른 거야?

P: 앞선 추측은 통계적 도출 과정 중 몇 개 전제가 엄밀히는 틀렸다 해도 받아들일 수 있는 반면, 골드바흐 추측에 대한 나쁜 추론은 한 개의 반례만 나와도 바로 틀린 추론이 되어 버리지. 이런 추론은 과학에서도 쓰지 않아. <준경험적으로 정당화되는 추론과 나쁜 추론에는 어떤 차이가 있는가?>의 문제는 더 연구해야 할 것 같아.
5. 퍼트넘적 실재론

P: 학문 A에 대한 실재론이란: 1. <A의 이론의 문장들이 참/거짓>이며, 2. <그것들을 참/거짓으로 만드는 것은 우리의 마음이나 언어 등과 독립적인, 외재적인 것>이라는 주장이야. 그렇다면 ‘수학적 대상’들이 있다고 보지 않으면서도 수학적 실재론자일 수 있어.

Q: 수학적 실재론자가 수학을 <수학적 대상들의 영역>을 기술하는 학문으로 보지 않을 수도 있다는 거야?

P: 그렇지. 그런데 수학자들은 수학적 대상들을 집합으로 간주해버리면서 <가능성> 등의 양상적 개념이나 <증명> 등의 내포적 개념을 무시했었어. <한 가능성은 actual한 집합과 isomorphic하다>고 간주하면서, actuality를 기술하는 것에 대해서만 생각했던 거지.

Q: 수학이 <가능성>을 다루는 것의 예시를 들어 봐.

P: 이라는 논문에서 설명했는데, 집합론에서 ‘(x)(∃y)(z)Mxyz’라는 문장을 다음과 같이 해석해야 한다고 봤어:

“만약 G가 체르멜로 집합론에 대한 구체적인 표준 모델이고 P가 G 내의 임의의 점일 때, 다음이 가능하다: <G를 연장하는 그래프 G가 있어, G 또한 체르멜로 집합론에 대한 구체적인 표준 모델이고, G의 원소인 어떤 y는 (G``가 G를 연장하고 체르멜로 집합론의 구체적 모델이고, z가 G의 임의의 점일 때, ‘Mxyz’가 G 내에서 성립한다)”

Q: 그럼 넌 수학적 유명론자인 거야?

P: 과연 유명론자가 양상적 개념을 받아들일까 모르겠네.

Q: <우리가 볼 수 있는 것은 actuality지, possibility가 아니다>는 흄의 통찰은?

P: 물리학이나 경제학에서 충분히 정당하게 쓰여 왔는데, 과학에서 성공적으로/필수적으로 쓰인 개념을 수학에도 쓰자는 게 이상한 주장인지 모르겠어. 우리가 가능성을 직접 볼 수 없다고 해도, 가능성 개념을 거부하는 건 이 시대 과학과는 어울리지 않는 태도야.

Q: 그렇다면 가능성 개념을 원초적인 것으로 받아들여야 한다는 거야?

P: 꼭 그럴 필요까지는 없어. <S가 가능하다>를 <S에 대한 (집합론적) 모델이 존재한다>로 정의해버리는 방법이 유용할 때가 있을 거야. 하지만 반대 방향으로 정의해버리는 방법도 있다는 걸 사람들이 간과해왔다는 거지.

Q: 반대 방향으로 정의해버리는 방법은 어디에 유용한데?

P: 수학적으로는, <자명한 공리>의 기준을 바꿀 수가 있을 거야. 철학적으로는, 수학의 객관성을 그대로 인정하면서도 플라톤주의 논쟁에서 벗어날 수 있어. (Objectivity without objects)

5.5 실재론을 위한 논증 (흔히 ‘Indispensability Argument’라 부르더군요)

P: 실재론을 옹호하기 위한 부정적 논증은: 과학이론에 대한 환원주의나 operationalism은 실패했다는 거야. 긍정적 논증은: 실재론(만이) 과학의 성공을 기적으로 간주하지 않을 수 있다는 거야.

Q: 중세 사람들도 ‘신학의 성취도 신이 실재해서이다’라고 믿었을 텐데?

P: 사실 그 성취는 수학과는 다르게, 일관적이지 않았잖아. 다만 수학의 일관성도, 제2불완전성 정리에 따라, 우리 수학 이론의 일관성을 우리 수학으로는 증명을 못 하는데...

Q: 실재론만이 일관성을 설명할 수 있다고?

P: 아니, 기다려! 수학의 성공은 수학의 일관성(만)으로 설명할 수 있어. 수학이 어떠한 해석 하에서도 참이 아니라면, 우리가 그저 뜻도 모른 채 기호 조작이나 하고 있다는 것이니까. 그렇다면 수학은 어떤 해석 하에서 참이겠지. 여기까지는 수학적 실재론이 도출되지 않아.

그런데 물리학자들이 그 해석과 수학적 개념을 그대로 쓴다면, 실재론적인 해석이 필요해져. 그러니까 수학 바깥에서의 성공적인 응용이 바로 수학적 실재론에 대한 논거가 된다는 거지!

Q: ??

P: 생각해봐. <신과 천사는 모두 존재하지 않는다. 그러나 ‘신은 천사를 시켜 행성들을 창조했다’가 객관적인 사실을 나타낸다>는 주장은 어이가 없잖아? 수에 대해서도 마찬가지야!

[여기서 나온 Indispensability 논변은 이 논문이 나온 지 1년 후에 나온 (Field 1980) 때문에 아직도 논쟁 중인 것으로 알고 있습니다. Field 책도 언젠가는 봐야 하는데...]

Q: 그러면 물리학자들이 <공간은 연속적이지 않고 이산적이다>라는 걸 밝혀냈다면, 수학적 개념이었던 <연속적인 공간>은 뭐가 되는 거야?

P: <공간이 연속적이었다면 어땠을 것인가>에 대한 올바른 이해를 가져다주는 역할은 한 거지.

  1. 증명이론

P: 증명이 수학의 유일한 방법은 아닐지라도, 모순의 위험을 줄여준다는 중요한 기능을 수행하지. 그런데 초창기 증명 이론이 과학적 무기가 아닌 ideological 무기(??)로서 개발되어서, 아직 우리가 과학적 무기로서의 증명을 잘 모르는 것 같아. 다행히도 Kreisel Takeuti Prawitz 등 수학자들이 좋은 연구를 해주고 있는 것 같아.

  1. 물리학과 미래 수학

-양자역학의 발전에 따라 논리학을 바꿔버릴 수 있고, 연속체 가설 등 결정불가능한 문제들도 <수학적 직관>이 아니라 과학적 발견에 의해 결정될 수도 있겠다는 내용-

10개의 좋아요