자연어처리 공부를 하다가 베이즈 통계학에 막혀서 이리저리 자료를 찾아보던 중 베이즈 인식론이란 것을 봤습니다. 베이즈 정리는 "사전확률로과 우도로부터 사후확률을 구할 수 있다." 혹은 "사후확률과 사전확률로부터 우도(역확률)을 구할 수 있다."인데 이게 어떻게 심리학, 인지학, 철학에 영향을 줬는지 간단한 역사가 알고 싶습니다.
2개의 좋아요
(1) 아시다시피, 베이즈주의(Bayesianism)는 원래 통계와 확률에 관한 이론이었죠. 즉, 베이즈 정리는 확률 이론에서 관련 조건에 의해 산출된 조건부 확률 또는 역확률에 비추어 예측을 수정하기 위한 수단이었습니다. 그런데 이후 자연과학의 분야가 아닌, 믿음이나 정당화와 같은 사안도 정도로 수치화하여 확률로 표현할 수 있다는 생각, 즉 베이즈정리를 철학적인 문제에도 적용할 수 있다는 생각이 나타나게 된 거지요.
(2) 베이즈 정리의 역사
2차 대전 이후부터의 역사만 다루겠습니다. 여기서는 심리학, 인지과학, 철학 등과 관련된 것만 다루면 될 듯 하니까요. 베이즈 통계는 2가지 흐름으로 발전되어 갔습니다. 바로 객관적 베이지안, 주관적 베이지안인데요, 이 양자 모두 확률을 믿음의 정도로 표현합니다.
a) 경제학자 케인즈는 주관적 베이지안이라고 할 수 있겠는데요, 그는 다소 이상하게도 이성적인 사람은 확률값을 선험적으로 알 수 있다고 생각했어요. 1930년대에는 이탈리아의 학자 피네티에 의하여 주관적 베이지안은 변화를 맞게 됩니다. 그리고 그로부터 20년 정도 후에 피네티의 업적을 연구한 새비지에 의해서 주관적 베이지안 이론은 크게 발전하게 되지요.
b) 객관적 베이지안은 제프리스에 의해서 발전하기 시작하는데요, 사전분포의 객관성을 위해 피셔정보를 사용했다고 해요. 그런데, 제인스라는 사람은 사전분포의 구성을 위해 피셔정보 대신 최대 엔트로피를 도입하고요.
c) 1990년대에 들어서 드디어 MCMC(마코프 체인 몬테 카를로) 방법이 고안되어요. 이후부터 바로 현재에 이르기까지 베이즈 이론은 계속해서 발전하고 개선되고 있습니다.
(3) 심리학, 인지과학, 철학에의 영향.
위에서 다룬 역사적 발전과정은 주로 확률론/통계학에서의 발전과정이었죠. 그런데 이러한 복잡하고 난해한 방법 자체를 그대로 심리학, 철학 등의 인문학에도 그대로 적용하는 것이 이 학문영역에서의 주된 관심사라고 보기는 어려울 것 같습니다.
a) 심리학이나 인지과학에서 베이즈 정리에 주목한 것은 인간의 마음(내지는 뇌)에서 일어나는 작용이 혹시 베이즈 정리를 따르고 있는 것이 아닌가, 하는 가설이 등장했고 이것이 많은 지지를 얻었기 때문이죠. 즉, 우리가 의사결정을 하거나 무엇을 믿거나 할 때, 베이즈 정리를 적용해서 의사나 믿음을 변경/수정하기도 한다고 이론을 구성하는 것입니다.
b) 이것은 철학의 분야에서도 쉽게 변형해서 논의가 가능하죠. 이를테면 우리의 주관이 객관적 대상을 인식하는데 있어서 그 방식과 논리적 구조를 베이즈 정리를 적용하여 설명한다든지, 혹은 믿음의 구조를 논할 때, 이 믿음이라는 것이 discrete한가 continuous한지의 여부를 베이즈 정리의 방식으로 설명하려 시도하는 것을 들 수가 있겠습니다.
저도 자세히 모르는 분야라서 답안이 충분치 못하네요. 죄송하고요, 그냥 한번 읽어보시기만 하면 될 것 같습니다.
3개의 좋아요
답변 감사합니다. 핵심적으로 베이즈 정리의 수학적 정의가 그대로 적용된 분야도 있는 반면, 그렇지 않은 분야도 있다는 거군요.
수학/통계학 분야 외의 분야, 특히 인문학에서는 수학/통계학의 이론을 그대로 받아들여서 계산하는 것이 주요 문제가 아닌 거죠. 이렇게 생각하시는 것이 더 나을 것 같습니다.
1개의 좋아요
과장을 좀 보태서 얘기하자면, 베이즈 통계학의 발전과 베이즈 인식론의 발전은 동전의 양면과도 같습니다. 왜냐면 베이즈 통계학/인식론은 결국 다 귀납논리의 유력한 한 형태로 볼 수 있기 때문입니다.
SEP의 귀납 논리 항목에 있는 The Historical Origins of Probabilistic Logic을 읽어보시면 좋을 것 같습니다.
3개의 좋아요
제가 문제에 대해 너무 가볍게만 생각하고 댓글을 위에 달은 것 같은데, 더 정확한 말씀을 해주셔서 감사드립니다.
1개의 좋아요
제가 수강한 과학철학 세미나 강의록에는 베이즈주의가 (1) 까마귀 역설의 문제를 해결, (2) 무관한 연언의 문제를 완화, (3) 듀엠의 우려를 해소했다고 적혀있네요.
베이즈주의의 문제점도 적혀있는데, 그 중 일부만 따오면 다음과 같아요.
(1) 확률을 믿음의 합리적 정도로 해석하고 우리가 가지는 믿음들이 합리적이려면 그 믿음들의 정도가 확률 이론의 공리 및 정리들을 만족시켜야 한다는 주장과 관련, 다음의 문제가 제기됨
(1-1) 사람들이 종종 그 자신의 실제적인 믿음의 정도와는 아무 관계가 없는 승률로 내 기를 한다는 점. 이는 설사 그의 실제적인 믿음의 정도들이 확률 계산법의 공리 를 위배한다 하더라도 그에 대해 더치 북을 거는 것이 가능하지 않을 수 있음을 의미.
(1-2) 자신이 가진 실제적인 믿음의 정도들에 의해 결정되는 승률로 내기하는 것을 사 람들이 거부하는 다양한 상황들이 존재함.
(2) 사전 확률값들에 대해 모든 과학자들의 의견이 일치하기 어렵다는 문제점 발생
분명 강의록에 적혀는 있으나 제 머리 속에는 없는 지식이라 정확한 설명은 못해드리겠네요.. ㅠ
3개의 좋아요