이영의 외, 『입증』, 서광사, 2018.
5장 (베이즈주의) 입증 이론의 한계와 전망
베이즈주의 입증 이론의 문제점
문제점은 크게 두 가지이다. 첫번째는 베이즈주의 입증 이론이 과학 혹은 과학 활동의 객관성을 훼손하는 듯이 보인다는 것이며, 두번째는 베이즈주의 입증 이론이 과학의 실제 모습을 충분히 반영하지 못하고 있다는 것이다.
베이즈주의와 과학의 객관성: 사전 신념도의 주관성
베이즈주의 입증 이론은 가설과 증거 사이의 관계를 사전 신념도를 통해 규명한다. 그런데 사전 신념도는 확률 공리만을 만족하면 되는 것이어서, 사람마다 다를 수 있는 주관적인 것이다. 그런데 가설과 증거 사이의 관계는 객관적인 것 같다. 이는 모순적으로 보인다. 이에 크게 두 가지 해결 시도가 있다.
베이즈주의 외적으로 문제를 해결하려는 시도로서, 사전 신념도에 추가적인 제약 조건을 부여하기도 한다. 예컨대 무차별성 원칙(선택지 간에 특별히 선호할 만한 증거가 없다면 동일한 신념도를 부여하라), 통계적 원칙(통계적 사실과 일치하도록 사전 신념도를 할당하라)이 있다. 이러한 제약 조건들은 사전 신념도의 주관성을 약화시키고, 따라서 사전 신념도가 증거와 가설 사이의 객관적인 관계를 규명하는 것은 그리 이상하지 않게 된다.
그런데 이런 제약 조건들을 사용하기 위해서는 추가적인 정당화가 필요하다. 특히 무차별성 원칙은 다음의 문제를 가지고 있으며, 이런 원칙을 정당화하기란 쉽지 않아 보인다. 무차별성 원칙에 의하면, 주사위를 던졌을 때 어떤 눈이 나오리라는 신념도를 구할 경우 ‘주사위가 편향되지 않았다’는 정보가 신념도를 결정하는 데 어떠한 역할도 하지 못한다. 그런데 이 정보는 나의 신념도를 결정하는 데 매우 중요한 역할을 하는 것 같다.
베이즈주의 내적으로 문제를 해결하려는 시도로서, ‘사전 신념도의 주관성을 인정하지만 그 주관성이 과학의 객관성을 훼손하지 않는다’는 주장이 있다. 이러한 주장을 지지하는 사람들은 그 근거로 수렴 정리를 제시한다. 수렴 정리에 의하면, 사람들 사이의 사전 신념도가 크게 다르더라도 공통의 증거에 의해 갱신된 사후 신념도는 동일한 값으로 수렴한다. 과학 공동체에 속한 사람들은 일반적으로 동일한 증거를 공유하고 있으므로, 수렴 정리에 의해 과학 공동체에 속한 사람들 사이의 신념도는 크게 다르지 않을 것이다.
그런데 수렴 정리에 대한 수학적 증명은 많은 추가 조건들을 전제하고 있다. 많은 입증 이론가들은 증명이 전제하는 조건들이 실제 모습과 일치하지 않는다고 지적한다. 실제 모습과 일치하지 않는 전제들이 있어야만 증명되는 정리를 우리가 왜 받아들여야 하는가?
베이즈주의와 실제 과학 연구: 오래된 증거
기존 뉴턴 물리학으로 설명되지 않던 수성의 근일점 이동(이하 M)은, 새롭게 제시된 아인슈타인의 상대성 이론(이하 R)에 의하여 성공적으로 설명되었다. 따라서 M은 R을 입증함이 분명해 보인다. 그런데 베이즈주의 입증 이론은 M이 R을 입증한다는 결론을 도출할 수 없다.
(ㄱ) Cr(R|M)>Cr(R)
베이즈주의 입증 이론에 따르면, M이 R을 입증한다는 것은 (ㄱ)이 성립한다는 것이다. 그런데 신념도 함수 Cr은 특정 시점에서의 신념도 함수이므로, 다음 시점들을 고려해야 한다.
t1: 아직 R이 제안되지 않은 시점
t2: R이 제시된 시점
Cr이 t1의 신념도 함수라고 가정하자. t1에서 과학자들은 상대성이론을 모르고 있었다. 상식적으로 모르는 명제들에 대해 믿음을 갖는 것은 불가능하다. 따라서 Cr(R)과 Cr(R|M)의 값은 정의되지 않으며, (ㄱ)은 성립할 수 없다.
Cr이 t2의 신념도 함수라고 가정하자. t2에서 과학자들은 이미 M을 확신하고 있다. 따라서 (ㄴ)이 성립한다. 그리고 신념도는 확률 계산 규칙을 만족하므로 (ㄷ)이 성립한다. (ㄴ)을 (ㄷ)에 대입하면 (ㄹ)이 성립하고, 이는 (ㄱ)이 아님을 보여준다.
(ㄴ) Cr(M)=1, Cr(~M)=0
(ㄷ) Cr(R)=Cr(R&M)+Cr(R&~M)=Cr(M)Cr(R|M)+Cr(~M)Cr(R|~M)
(ㄹ) Cr(R|M)=Cr(R)
이러한 문제는 M이 R이 등장하기 이전부터 과학 공동체가 가지고 있던 증거라는 사실로부터 나타난다. 그래서 이 문제를 ‘오래된 증거의 문제’라고 부른다.