저는 컴공이 전공이라 딥 러닝(인공지능 및 로봇 공학)을 취미로 공부하고 있고 직업은 전혀 다른 분야입니다. 철학은 옛 학창시절 희망 사항이라 요즘 들어 조금씩 공부하고 있습니다. 아래의 번역은 '언어철학'을 공부하기 전이라 용어에서 조금 부정확한 부분이 있겠지만 의미 전달은 대략 된다고 봅니다. 컴공으로 따지면, 학부 졸업생이면 간단한 풀다운 메뉴 프로그램 작성하고, 혹은 간단한 문서 포맷 컨버터를 코딩하는 게 평균인데, 트랜스포머 알고리즘을 이해하고 그 부족한 부분을 어떻게 해결할 것인가 골몰하는 '진짜 빠돌이' 같다는 느낌을 이 논문에서 받습니다. 다 개인 능력치겠지만, 어제오늘 읽고 있는 논문의 작가이신 모 대학 철학 강사로 활동하신다는 ㄱㅎㅇ모 님에 비해서도 뒤지지 않는다는 생각이 드는군요.
중국어 방에 대한 삼빡한 의견이 없을까 검색하다가 발견한 논문입니다.
제 블로그에서 조금 더 깔끔한 포맷에서 보실 수 있을 겁니다. (아, 글자 수 제한 때문에 마지막 참고 문헌 부분을 지웠습니다.)
미친 토끼의 가출일기 : 네이버 블로그
비트겐슈타인과 중국어 방
Wittgenstein and the Chinese Room
by 오토 팔뫼프(Otto Palmlöf) VT23
스웨덴 웁살라 대학교(Uppsala University) 철학과 학사 학위 논문
지도교수: 다니엘 번슨
원문: https://www.diva-portal.org/smash/get/diva2:1773898/FULLTEXT01.pdf
소개
규칙 준수 기능주의 (The Functionalist View of Rule Following)
규칙 준수 기능주의 반박
규칙 준수 기능주의 방어
규칙 기반 이해 이론 (The Rule-based Theory of Understanding)
규칙 기반 이해 이론 반박
규칙 기반 이해 이론 방어
결론
참고 문헌
소개
1950년 앨런 튜링은 튜링 테스트라고 알려진 게임을 제안했다. 튜링 테스트는 사람, 기계, 심문자가 참여하는 게임으로, 심문자는 기계와 사람으로부터 격리된 방에 있으며, 둘 중 누가 사람이고 누가 기계인지 판단하는 것이 목표다. ‘X’와 ‘Y’라는 레이블이 사람과 기계에 할당되지만, 심문자는 게임 시작 시 어떤 레이블이 어떤 개체에 해당하는지 알지 못한다. 게임이 끝나면 질문자는 ‘X는 사람이고 Y는 기계다’ 또는 ‘X는 기계이고 Y는 사람이다’라고 선언해야 한다. 질문자는 ‘X는 체스를 둘 수 있나요?’와 같이 기계와 사람 모두에게 질문을 할 수 있다. 기계 또는 사람 중 X는 X에게 오는 질문에 대답해야 한다. 기계의 목표는 심문자로 하여금 기계가 사람이라고 믿게 만드는 것이고, 사람의 목표는 심문자가 기계를 정확하게 식별하도록 도와주는 것이다. 심문자가 기계를 확실하게 식별하지 못하면 기계는 테스트를 통과한다. 그 반대의 경우는 불합격이다.
기계가 튜링 테스트를 통과한다는 것은 무엇을 의미할까? 한 가지 일반적인 견해는 기계가 튜링 테스트를 통과한다면 이는 기계가 인간 참여자와 같은 종류의 진짜 정신 상태를 가지고 있다는 것을 의미한다는 것이다. 이를 튜링 기능주의(Turing functionalism)라고 부른다(기능주의는 정신 상태의 본질이 그것이 수행하는 기능에 의해 결정된다는 관점이며, 아래에서 더 자세히 설명한다).1) 2)
원주1) 튜링 기능주의는 진정한 정신 상태를 갖기 위한 충분 조건을 제시하는 것이지, 필요 조건이 아니라는 점에 유의해야 한다. 어쨌든, 돌고래나 고양이 등 진정한 마음을 가지고 있다는 테스트에 실패할 수 밖에 없는 다양한 존재들이 있다.
원주2) 튜링은 기계에 마음이 있는지에 대한 질문을, (그가 모방 게임이라 부른) 튜링 테스트를 기계가 통과할 수 있는지에 대한 질문으로 대체해야 한다고 생각했다. 따라서 튜링 자신은 앞서 설명한 의미에서 튜링 기능주의자가 아니었다.
1980년 존 설(John Searle)이 소개한 중국어 방 논증은 튜링 기능주의에 노골적인 도전장을 내밀었다. 이 논증은 컴퓨터와 이해에 관한 것으로, 사고실험의 형태를 취한다. 당신이 방 안에 혼자 앉아 있는데 (조그만 창문으로) 중국어 글자들이 연이어 들어온다고 가정해보자. 당신은 중국어를 전혀 알지 못하며, 중국어로 쓰인 글과 의미 없는 낙서를 구분할 수 없다. 하지만 여러분이 사용할 수 있는 대조 표(lookup table)가 있다. 이미 정해진 규칙에 따라 당신은 저도 모르는 사이에 특정한 낙서를 하게 되는데, 이 낙서들은 모두 중국어로 된 일관된 문장을 구성하는 합법적인 한자어이기도 하다. 한자를 받고, 쓰고, 전달할 때 여러분은 자신도 모르게 주어진 중국어 문장으로 제기된 질문에 적절한 대답을 하게 된다. 방 밖에 있는 중국어 원어민이, 실제로 그 글을 이해하는 중국인이 방 안에 있다고 착각할 정도로 잘한다.
이 마지막 부분에서 외부의 중국어 원어민이 당신이 쓴 글을 중국어 원어민의 글과 구별할 수 없다고 판단했다는 것은 중국어 방이 사실상 중국어 원어민에 대한 튜링 테스트를 통과했다는 것을 의미한다. 하지만 설은 그럼에도 중국어 방은 중국어를 이해하지 못한다고 말한다. 결국, 중국어 방 안에 있는 사람에게는 가령 ‘squiggle squiggle’에 대해서는 ‘squoggle squoggle’(*역주: 실제로는 중국어 글자여야 하는데 이 논문 작성자와 논문의 가상 독자, 존 설이 모두 서양인인 까닭에. 두 글자가 비슷하지만 약간 다름에 주의.)이 항상 올바른 대답이라고 알려주는 지침이 있다. 하지만 당신은 이 중국어 기호들이 무엇을 의미하는지 전혀 모른다. 따라서 당신은 중국어를 이해하지 못하며 방 전체도 중국어를 이해하지 못한다. 따라서 이 방에는 중국어 원어민이 가질 수 있는 진정한 정신 상태가 부족하다.
설이 옳다면 중국어 방 논증을 튜링 기능주의에 대한 반박으로 쉽게 변환할 수 있다. 먼저 중국어 방에 있는 사람을 기계로 대체한 다음, 중국어 과목으로 튜링 테스트를 진행한다. 기계는 테스트를 통과하지만 중국어를 이해하지 못하므로 중국어 원어민이 가지고 있는 진정한 정신 상태(중국어 이해)가 부족하다. 설은 나중에 이 논쟁의 요점을 이렇게 공식화했다.
이 주장의 요점은 다음과 같다. 방 안에 있는 사람이, 중국어를 이해하는 적절한 프로그램 실체에 의지한 결과, 중국어를 이해하지 못했으니, 다른 디지털 컴퓨터도 그 사실에 전적으로 근거하여 이해하지 못하는 것이 된다. 왜냐하면 방 안의 사람이 가지고 있지 않은 것(중국어 이해 능력 따위)을 컴퓨터가, 컴퓨터이기 때문에 가지고 있지 않아서 그런 것이다.
이 논문에서 나는 중국어 방이 중국어를 이해한다고 주장할 것이다. 따라서 설은 튜링 기능주의에 대한 반례를 제시하지 않은 것이 된다.
논증의 개요는 다음과 같다. 비트겐슈타인은 무언가를 이해한다는 것은 적절한 규칙을 따르는 것이라고 주장했다. 이를 우리는 규칙 기반 이해 이론(RU: rule-based theory of understanding)이라고 부른다. 규칙 기반 이론에는 자연스런 질문이 따른다. 즉 규칙을 따른다는 것은 무엇을 의미하는가? 한 가지 견해는, 규칙을 따르는 것은 올바른 기능적 역할을 수행하는 것 이상을 요구하지 않는다는 것이다. 이를 규칙 준수에 대한 기능주의적 관점(FR: the functionalist view of rule following)이라고 부른다. 이 두 가지 아이디어를 종합하면, 그럴듯한 실증적인(empirical, 경험적인) 주장이 주어지면 기계가 중국어를 이해할 수 있다는 결론이 나온다. 정리하면 이렇다.
(1) X를 이해한다는 것은 적절한 규칙을 따르는 것이다. (RU) (=규칙 기반 이해)
(2) 따라서 중국어를 이해한다는 것은 적절한 규칙을 따르는 것이다. (1에서)
(3) 일련의 규칙을 따르는 것은 특정 기능적 역할을 충족시키는 것이다. (FR) (=규칙 준수에 대한 기능주의 관점)
(4) 따라서 중국어를 이해한다는 것은 특정 기능적 역할을 충족시키는 것이다. (2,3에서)
(5) 인간은 중국어를 이해할 수 있다. (경험적/실증적 전제)
(6) 기계는 인간이 충족시킬 수 있는 모든 기능적 규칙을 충족시킬 수 있다. (경험적/실증적 전제)
(C) 따라서 기계는 중국어를 이해할 수 있다. (2, 4, 5, 6에서)
여기서 중국어는 물론 모든 형태의 이해로 대체될 수 있으며 특정 언어의 이해에 국한되지 않는다. 전제 6은 현재 기계의 능력에 대한 주장이 아니라, 이 경험적 전제가 실현되면 기계가 중국어를 이해할 수 있다는 결론이 참이라는 말이 된다.
이 백서의 나머지 부분에서 RU(규칙 기반 이해)와 FR(규칙 준수에 대한 기능주의 관점)을 옹호할 계획이다. 먼저 FR에 대해 좀 더 자세히 소개하겠다. 설과 그의 적대적인 담론자들의 정신으로 다양한 반박을 고려한 다음, RU에 대해서도 똑같이 할 것이다. 두 주장에 대한 논증은 대체로 비트겐슈타인적이지만, 지면 관계상 살아 생전 비트겐슈타인이 이 비슷한 주장을 견지했는가 하는 문제에 대해서는 다루지 않겠다. 다른 사람들도 이런 종류의 비트겐슈타인적 대응에 매료되었다. 따라서 나는 이 글에서 아벨손(Abelson, 1980)과 오버마이어(Obermeier, 1983)와 유사한 견해를 논의할 것이다. 많은 경우, 내 주장은 두 저자의 주장을 합성하고 확장하는 것이 될 것이다. 이 논문의 목표는 두 저자가 말하고자 했던 주장 중 최선의 것을 제시하는 것이다.
규칙 준수에 대한 기능주의 관점(The Functionalist View of Rule Following)
이 절에서는 먼저 기능주의를 설명하겠다. 그런 다음 규칙 준수에 대한 기능주의를 설명하고 두 견해가 어떻게 다른지 설명하겠다.
기능주의는 마음 철학과 인지 과학에서 널리 사용되는 이론으로, 정신 상태의 본질이 내부 구조에 의해 결정되는 것이 아니라 정신 상태가 속한 더 큰 시스템 내에서 수행하는 기능이나 역할에 의해 결정된다는 견해다. 즉 정신 상태는, 그 기반이 되는 물리적 기질(가령 뉴런과 축삭 등)에 대한 언급 없이 감각 입력을 받고 계산을 수행하며 행동 출력을 생성하는 과정으로 이해될 수 있다는 것이다. 기능주의에 따르면 시스템이 적절한 기능적 조직을 가지고 있을 때 마음을 가지고 있다고 본다. 더 나아가 이것은 정신 상태가 다양한 물리적 형태로 실현될 수 있으며, 서로 다른 물리적 시스템(가령 인간과 디지털 컴퓨터)이 동일한 인과적 기능을 수행하는 한, 동일한 정신 상태를 나타낼 수 있다는 것을 의미한다.
기능주의는 다양한 형태를 취할 수 있다. 특히 눈에 띄는 기능주의의 한 가지 유형은 계산주의다. 계산주의에 따르면 마음을, 정신 표상 취급을 위한 룰(규칙들)을 추종하는 정보처리 시스템의 일종으로 볼 수 있다. 마음을 갖는다는 것은 어떤 특정 프로그램을 인스턴스화(실체화)하는 것이라는 것이다. 기능주의는 주로 정신 과정의 기능적 행동에 관한 것이지만, 계산주의는 주로 정신 과정의 근간이 되는 형식 규칙(룰)과 알고리즘에 관한 것이다.
기능주의에 따르면, 마음(mind)을 갖는다는 것은 단지 올바른 기능적 역할을 하는 상태를 갖는 것을 일컫기 때문에 기능주의자들은 튜링 테스트에 전념한다. 기능주의자들이 튜링 테스트에 집착하는 이유는 특정 기능적 역할을 충족하는 상태를 갖는 것만으로도 진정한 마음을 가질 수 있다는 구체적인 주장, 즉 정신 상태는 물리적 구현과 관계없이 기능적 역할의 관점에서 이해할 수 있다는 주장 때문이다. 물론 가능성은 낮지만 무작위 응답 생성기가 우연히 튜링 테스트를 통과할 수도 있다. 이러한 이유 때문에 우리는, 튜링 테스트를 통과할 뿐만 아니라 안정적으로 통과할 수 있도록 진정한 정신 상태를 갖추는 충분 조건을 수정할 수 있다.
여기서 기능주의와 행동주의의 차이에 주목하는 것이 중요하다. 행동주의는 범위가 넓은 용어지만 내부 정신 과정보다는 관찰 가능한 행동을 강조하는 심리적 접근법으로 자주 사용된다. 행동주의는 모든 인간 행동을 그 앞뒤에 있는 환경적 요인을 분석하고 조절함으로써 설명할 수 있다고 주장한다.
행동주의는 인간 행동의 복잡성을 설명하지 못하고 실제 적용에 한계가 있기 때문에 종종 실행 불가능한 것으로 간주된다. 반면에 기능주의는 정신 상태의 존재를 부정하는 것이 아니라 정신 상태가 마음 기능에 어떻게 기여하는지를 이해하려고 한다. 또한 기능주의는 마음에 대한 계산 이론으로 가장 명확하게 이해되는 반면, 행동주의는 태도나 관점에 더 가깝다.
가령 팀 모들린(Tim Maudlin)은 기능주의와 행동주의의 차이를 강조하면서 기능주의에 물리적 시스템을 분석해야 하는 추상화 수준을 정확히 명시함으로써 (유용성을 갖기 위해) 기능주의에 정확한 내용을 부여한다. 따라서 이런 정확한 설명은 행동주의의 포괄적인 태도보다 더 구체적이다. 모들린에 따르면, 계산적 마음 이론은 뇌의 적정한 기능 조직은 뇌의 계산 구조이며, 이것은 기계 테이블(machine table: 튜링 머신에서는 명령어들에 다름 아니며 요즘의 코드 라인에 해당한다)로 설명할 수 있다. 기계 테이블은 기계의 내부 상태가 서로 간에 그리고 다양한 입력과 출력으로 어떻게 가정적으로(subjunctively) 연결되는지 지정할 수 있다. 기계 테이블은 입력과 초기 상태가 주어졌을 때 기계 상태가 어떻게 진화할지 정확히 결정할 수 있다는 것이다. 따라서 두 기계의 기계 테이블을 비교하여 동일한 프로그램을 가지고 있는지 여부를 판단할 수 있으며, 기계 테이블은 프로그램을 실행하는 물리적 기질(substrate)과는 관련 없이 이 작업을 수행한다. 이 경우 우리의 뇌는 물리적 기질이 아닌 계산적 기질의 힘으로 정신 상태를 지원한다.
기능주의는 마음(mind) 철학의 일반적인 입장으로, 정신(mental) 상태는 인과 관계에 따라 정의될 수 있으며, 현상적 상태(가령 빨간색을 보는 것)는 기능적 상태로 환원될 수 있다고 주장한다. 반면 규칙 준수에 대한 기능주의는(functionalism about rule following) 정신에 대한 직접적인 견해는 아니지만, 규칙의 성질과 규칙 준수에 초점을 맞추는 훨씬 구체적인 관점으로, 규칙 준수의 조건으로 정신 상태를 요구하지 않는다. 규칙 준수(rule-following)에 대한 기능주의는 정신 상태 없이도 규칙을 따를 수 있는 기계나 기관과 같은 다양한 시스템이 존재한다는 것을 인정한다. 예를 들어 마음 없이도, 세탁기는 일련의 세탁 규칙을 따르도록 프로그래밍될 수 있고 위장은 소화에 필요한 규칙을 따를 수 있다. 따라서 규칙 준수에 관한 기능주의는 현상적 상태가 기능적일 필요는 없으며, 현상적 상태에 대해 주장할 필요가 없기 때문에 마음 철학의 일반적인 입장으로의 기능주의보다 옹호하기 쉬운 입장이다.
규칙 준수에 대한 기능주의(FR: functionalist view of rule following)에 대한 반박
우리가 잠시 중국어 방 논증의 옹호자가 되어, 이해는 규칙을 따르는 것에 지나지 않는다고 인정한다면, 우리는 기계가 규칙을 따를 수 있다는 사실을 부정해야 할 것이다. 예를 들어, 규칙을 따른다는 것은 적절한 생물학적 뇌(또는 적절한 생물학적 뇌의 인과적 능력을 복제한 것)를 가지고 있으면서 특정 기능적 역할을 충족하는 것이라고 말할 수 있다. 이를 생물학적 관점이라고 부른다.
우리 인간은 중국어를 이해하는 것과 같은 일을 할 수 있는 뇌를 가지고 있다는 것을 당연하게 여긴다. 물리주의에 따르면 이는 우리에게 뇌가 있다는 사실에 근거한 것이다. 문제는 왜 우리의 것과 같은 뇌가 이해할 수 있는 마음을 가지게 된 것일까 하는 점이다. 한 가지 대답은 RU와 FR가 내놓을 것이다. 따라서 설이 FR(규칙 준수 기능주의)을 거부한다면 그는 대안을 제시해야 할 것이다.
설은 컴퓨터의 이해 가능성에 대해 열려 있지만, 적절한 프로그램의 구현에 근거하는 것은 아니다. 컴퓨터가 이해할 수 있는 유일한 방법은 인간 두뇌의 인과적 능력을 복제할 수 있다면 가능하다고 주장한다. 다시 말해, 설이 중국어 방에서 추구하는 목표 중 하나는 기능주의를 거부하는 것이다. 이해는 인간과 기능적으로 동등한 행동을 보이는 것이 아니라 인간 두뇌의 인과적 능력을 복제함으로써만 발생할 수 있다고 주장한다.
설은 용어 사용에 있어 차별을 둔다. 뇌는 일종의 기계를 뜻하고, 컴퓨터는 계산 수행 능력을 지닌 기계를 모두 일컬으며*, '강력한 인공지능(Strong AI)'는 ‘적합한 입출력을 갖춘 적절하게 프로그래밍된 디지털 컴퓨터(튜링 테스트를 만족하는 컴퓨터)는, 필연적으로 마음을 가지고 있을 것이라는 견해’를 뜻한다. 달리 명시되지 않는 한 우리는 이러한 정의를 사용하되, '기계machine'는 따로 명시하지 않는 한, 예외적으로 비생물학적 기계(non-biological machine)를 칭하는 것으로 한다. 설의 주장의 중심이 되는 또 다른 용어는 지향성**으로, 마음과 정신 상태가 사물, 속성 및 정황(states of affairs)을 표상하거나 의미(상징)하는 능력을 말한다. 화자가 사용하는 단어와 기호는 정신 상태의 내용을 전달하기 위해 사용될 때 지향성을 가지며, 그러면 화자는 지향성을 가지고 있다고 말한다.
- 원주: 그래서 설은 두뇌가 생각할 수 있기 때문에 기계가 생각할 수 있고, 정상 인간이 계산할 수 있기 때문에 계산기(컴퓨터)가 생각할 수 있다고 주장한다.
** 역주: intentionality. 보통 철학과 인공지능에서 지향성으로 번역되는 이 단어는 생물체 전반에 적용되는 반면, 이 단어를 일상에서 사용할 때는 ‘의도, 의도성, 의도적intentional’이라는 뜻이다. ‘의도성’은 지나치게 인간 중심적인 단어라서 좀 더 넓은 범위에 적용되는 중립적인 표현이 철학에서의 ‘지향성’으로, 인공지능에서 굉장히 중요한 개념이다. 고도의 지향성(2차 의식?)을 가진 인공지능에게 전자인격권을 부여하게 될 경우, 고차원 지향성을 보유하고 있느냐 아니냐는 그 자격 요건의 중요한 기준이 될 수 있다.
설의 대안은 이러한 개념에 기반을 두고 있으며, 이는 이해와 사고의 필요충분조건이라고 주장한다. 즉 인간은 지향성을 생성할 수 있기 때문에 이해하고 사고할 수 있으며, 지향성을 생성할 수 없는 기계는 이해하거나 사고하지 못한다는 것이다(역주: 설이 이 글을 쓴 1980년의 기술발전 수준을 감안하면 이해 못할 주장도 아니다). 정신 과정과 뇌의 인과 관계에 대한 경험적 사실로서 인간(및 동물)의 지향성은 뇌의 인과적 특징의 한 산물이며, ‘특정 뇌 과정들(processes)로도 지향성을 위해서는 충분하다’고 가정한다. 또한 "컴퓨터 프로그램을 인스턴스화(실체화)하는 것 자체가 결코 지향성의 충분조건이 될 수 없다’는 점도 주장하는데, 이것이 바로 그의 중국어 방 사고 실험이 보여주고자 하는 바다.
결과적으로 설은 ‘뇌가 어떻게 지향성을 생성하는지에 대한 설명은 컴퓨터 프로그램을 인스턴스화(실체화)하여 지향성을 생성한다는 것과 동격일 수는 없다’며 ‘지향성을 생성할 수 있는 메커니즘은 뇌와 동등한 인과적 힘을 가져야 한다’고 주장한다. 따라서 ‘강한 AI’가 지향성을 가지려면 인간 두뇌의 인과 능력을 복제해야 한다. 강한 AI가 이해하려면 그리해야 한다는 것이다.
설은 중국어 방 논쟁을 처음 발표한 동일한 글에서 여러 답변과 함께, 일부 제기된 (앞으로 살펴볼 아벨슨의 반응 같은) 비평들에 대해서도 답변했다. 설은 기계가 지향성을 갖는 것을 선험적으로 배제하지는 않지만, 만약 가지고 있다면 기계가 뇌의 인과적 능력을 복제할 필요가 있으며 형식 프로그램(a formal program)을 '단순히 인스턴스화'하는 것만으로는 뇌의 인과적 특징을 복제하는 데 충분하지 않다고 주장한다. 그는 또한 ‘수도관이나 화장지와 같은 세상의 모든 종류의 물질에는 뇌와 동등한 인과 능력이 부족하다고 분명히 생각하지만, 이는 내 경험적 주장일 뿐’이라고 썼다. 이것은 우리 뇌의 정신 과정의 기초가 되는 물리적 기질이 중요하다는 것을 의미하며, 따라서 그는 계산주의(computationalism)를 거부한다(물론 이것도 그의 말대로 경험적 주장이지만).
이것이 무엇을 의미하는지, 어떤 함의를 갖는지는, 설의 입장을 다음과 같이 공식화하고 그것으로부터 추론을 도출함으로써 자세히 설명할 수 있다. 그렇게 함으로써 특정 용어들을 더욱 명시적으로 연결 지을 수 있다.
(1) 특정 뇌 과정들(processes)은 지향성을 위해 충분하다.
(2) 인간은 이러한 특정 뇌 과정들을 가진 뇌를 가지고 있다.*
(3) 인간은 지향성을 가지고 있다. (1, 2에서)
(4) 인간은 특정한 뇌 과정들을 가지고 있기 때문에 지향성을 가지고 있다. (1, 2에서)
(5) 인간의 지향성은 뇌의 인과적 특징의 산물이다.
(6) 인간은 지향성을 가지고 있다 (5에서)
(7) 인간은 지향성을 가지는데 뇌가 인과적 특징을 가지기 때문이다. (5에서).
(8) 인간의 지향성과 관련하여, 인과적 특징(causal features)을 갖는다는 것은 특정 뇌 과정들을 갖는 것과 기능적으로 동일하다. (4, 7에서)
- 원주: 나는 이것이 설의 텍스트에 명백히 내포되어 있다고 생각한다.
인간이 이해할 수 있다고 생각하는 설의 이유를 보여주기 위해, 우리는 설의 견해에 중심 전제(9)를 추가한다.
(9) 어떤 것은 지향성을 생성할 수 있는 경우에만 이해할 수 있다.
(10) 인간은 이해할 수 있다. (9와 3, 혹은 9, 6에서)
그러나 (8)에 초점을 맞추면 ‘인과적 능력(causal powers)’이라는 신비주의적 개념(신비화)이 어느 정도 걷힌다는 것을 알 수 있다. 우리가 이해하기 위해서 인간의 뇌가 가지고 있는 것은 특정 뇌 과정들인 동시에 인과적 특징(즉 (8))이기도 하다. 따라서 설은 기계가 이해하는 것은 기계가 이러한 특정 뇌의 프로세스를 복제하기 때문이며, 동시에 기계는 형식적인 프로그램 인스턴스화만으로는 이러한 특정 뇌의 프로세스를 복제할 수 없다고 주장한다.
위에서 언급했지만 ‘특정 물질에는 이해에 필요한 인과적 능력이 부족할 것’이라는 설의 주장과 관련하여 두 가지를 지적한다. (ㄱ) 누군가는 이 주장에 합리적으로 동의하지 않을 수도 있지만, 이 주장에 우리가 단순한 반대를 할 수 없는 이유는, 설도 그것이 잘못된 것으로 판명될 수 있는 경험적 주장임을 인정하고 있으며, 설도 그것을 믿지만 어쨌든 자신의 주장에 필수적이라고 보지 않기 때문이다. (ㄴ) 그러나 여기서 주목해야 할 중요한 점은 설이 어떤 물질에는 이해에 필요한 인과적 능력이 부족할 것이라고 믿음으로써 인과적 능력이 어떤 식으로든 물질(즉 물리적 기질)에 연관되어 있음을 의미하며, 이는 FR(규칙 준수 기능주의)을 전면적으로 거부할 수밖에 없음을 의미한다.
설은 무엇이든 형식적 프로그램(a formal program)으로 시뮬레이션할 수 있으며, 이러한 시뮬레이션이 실제로 이러한 특정 뇌 과정들을 복제할 수 있다고 (그의 말대로 경험적으로) 믿지만 (따라서 (9)에 의해 ‘이해’할 수 있다), 그럼에도 그는 시뮬레이션이 형식적 프로그램의 인스턴스화 덕분에 이러한 특정 뇌 과정들을 복제하지 않는다고 주장한다. 형식적 시뮬레이션은 형식적 프로그램이기 때문에, 형식적 시뮬레이션이 그 자체의 인스턴스화(즉 프로그램의 ‘실행’)에 의해서가 아니라면 어떻게 이런 특정 뇌 과정들을 복제할 수 있는지, 그리고 이 경우 ‘추가 인과적 요소’가 무엇인지 우리는 궁금하지 않을 수 없다.
설은 ‘실제 정신 상태 사례들’을 의미하는 '내재적 지향성(intrinsic intentionality)'과 ‘우리의 활동에 등장하는 실체에 대해 사람들이 말하는 방식’을 의미하는 '관찰자에 따른 지향성 귀속(투사)(observer relative ascriptions of intentionality)’을 구별한다. 후자는 내재적 지향성이 부족하다. 설은 이 구별을 사용하여 제기된 반례가 잘못되었다는 것을 보여 주려고 한다. 그러한 반례로는 온도 조절 장치를 들 수 있는데, 혹자는 그 장치가 공기가 특정 온도라는 것을 믿는다고 말할지도 모르지만, 설은 이러한 예가 정신 상태가 없는 실체에 지향성을 귀속하는 것이라기보다는, ‘관찰자의 지향성에 대해 말하는 방식’이라고 보았다. 더욱이 그는 이렇게 썼다.
'관찰자에 따른 지향성 귀속(투사)는 항상 관찰자의 내재적 지향성에 의존한다. 지향적 정신 상태에는 두 가지 종류가 아니라 내재적 지향성을 가진 한 가지 정신 상태만 존재한다. 하지만 내재적 지향성을 투사 대상에 귀속시키지 않는 지향성 투사도 존재한다 (but there are ascriptions of intentionality in which the ascription does not ascribe intrinsic intentionality to the subject of the ascription).
따라서 그는 온도 조절 장치가 공기가 특정 온도라고 믿을 수 있다는 명백한 거짓은 이러한 구별을 보지 못했기 때문이며, 그가 지향성을 논의 할 때는 내재적 지향성을 의미한다고 명확히 한다. 설은 기능주의의 ‘전체 시스템’이 이 구별을 보지 못하는 것 위에 세워졌다고 말하며 결론을 내린다. 대신, 설은 기능적 속성(functional attributions)은 항상 관찰자 상대적이며, 내재적 지향 상태가 존재하는 것과 같은 방식으로는 내재적 기능(intrinsic function) 같은 것은 존재하지 않는다고 주장한다.
중국어 방 논쟁에서 설은 기능주의가 진정한 이해를 완전히 설명할 수 없다고 주장한다. 왜냐하면 방에 있는 사람이 주어진 규칙에 따라 정답을 만들어낼 수는 있지만, 그 사람이나 방 전체가 실제로 자신이 조작하는 한자의 의미를 완전히 이해하는 것은 아니기 때문이다. 이는 이해 및 의식이 단순히 규칙을 따르거나 기능적 과정에 참여하는 문제가 아니라 기능주의적 설명으로는 포착할 수 없는 이해 또는 지향성을 포함한다는 것을 의미한다.
설이 주장하는 이론에 따르면 정신 상태는 뇌의 물리적 과정에 의해 발생하며, 의식적 경험은 이러한 물리적 과정에서 발생하며, 이해는 그 한 예가 될 수 있다고 가정한다. 앞서 살펴본 바와 같이, 설은 지향성, 즉 진정한 정신 상태에 필요한 인과적 능력을 가지려면 물리적 기질이 중요하다고 믿기 때문이다. 즉 정신 상태는 단순한 기능적 상태나 행동 패턴이 아니라 이를 유발하는 뇌의 물리적 과정과 직접적으로 관련이 있다는 것이다. 이는 정신 상태가 그것들 기저의 물리적(하드웨어) 본성에서가 아니라 기능적 역할을 충족시킴으로써 결정된다고 주장하는 기능주의와는 다르다. 이런 이유로, 사람에게 있어 인과적 특징을 갖는다는 것은 특정 뇌 과정들을 갖는 것과 기능적으로 동등하다는 결론(7)은 설에게 문제가 되지 않는다. 왜냐하면 문제가 되는 것은 기능적 동등성(equivalence)이 아니기 때문이다. 말하자면, 중국어 방 주장은 의식에 대한 기능주의적 설명이 충분하다는 데에 이의를 제기하고 있고, 완전한 의식 이론을 위해 즉 ‘이해’를 위해, 정신 상태의 물리적 기반을 이해할 필요가 있음을 시사한다.
FR(규칙 준수 기능주의)의 방어
이제 설의 반론에 맞서 규칙 준수에 대한 기능주의적 관점에 대한 비트겐슈타인의 변호를 제시하겠다. 비트겐슈타인은 어떤 사람이 이해하고 있는지를 판단하는 우리의 기준은 그 사람의 행동에 의해 결정되며, 이를 판단하기 위해 그 사람의 내부 프로세스에 대해 아무것도 알 필요가 없다고 주장한다. 행동과 내적 과정 사이의 이러한 간극은 비트겐슈타인의 고통에 대한 논의에서 잘 드러난다. "감각 표현의 문법을 '대상과 지정(object and designation)'이라는 모델로 해석하면 대상은 무의미한 것으로 간주되어 고려 대상에서 제외된다."(상자 속의 딱정벌레beetle in a box). (내가 "발이 아파요!"라고 외친다면, 사람들은 내 통증 표현에 따라 내가 아프다고 생각하지 내 감각을 그들이 경험해서 그런 것은 아니다. 마찬가지로 사람들은 내가 생각하고 있는지 아닌지를, 내가 드러내는 행동(*표정, 자세 등)으로 판단하며, 이런 행동에 대한 판단이 바로 사고의 전부다.) 따라서 사람들은 당신이 어떤 내적 상태에 의해서 이해하고 있다고 보는 것이 아니라 당신의 이해-행동(이해를 드러내는 행동) 표현에 의해 당신이 이해하고 있다고 본다.
비트겐슈타인은 <철학적 탐구Philosophical Investigations>에서 이렇게 썼다.
"그에 대한 나의 태도는 영혼에 대한 태도다. 나는 그에게 영혼이 있다고 생각하지 않는다(My attitude towards him is an attitude towards a soul. I am not of the opinion that he has a soul)." "'하지만 기계는 분명히 생각할 수 없다!’- 경험적 진술인가? 아니다. 우리는 인간과, 생각하는 것 같은 인간 비슷한 존재에 대해서만 말한다. 우리는 인형과 의심할 여지 없이 영혼에 대해서도 그렇게 말한다. '생각하다'라는 단어를 도구로 보라." 이것은 ‘사용으로서의 의미meaning as use’ 개념의 전형적인 예다. “'의미'라는 단어를 사용하는 (전부는 아니지만) 많은 경우에 있어 이 단어는 이렇게 설명할 수 있다: 단어의 의미는 언어에서 그 단어의 사용에 있다(the meaning of a word is its use in the language).” 다시 말해, 기계가 이해할 수 있는지 따위와 같은 문제를 결정하는 것은 우리 공동체의 태도이며, 천상의 ‘사실’, 고유한 ‘사실’ 따위는 존재하지 않으며, 이것은 결정을 필요로 하지 발견을 필요로 하는 게 아니다. 여기서 주목해야 할 점은, 우리는 영혼이 생각한다고 말하고, 이해와 같은 정신 상태를 영혼에 귀속시킬 때, 영혼이 무엇으로 구성되어 있는지는 중요하지 않다는 것이다. 우리가 영혼에 대해 말할 때 영혼이 어떤 물질로 이루어졌는지 모른다고 말하는 것은, 남들이 규칙을 준수하는지 혹은 ‘이해’하는지에 접근할 때, 그들이 어떤 물질로 구성되어 있는지는 중요하지 않다고 우리가 생각한다는 것을 암시한다.
설은 여기서 내재적 지향성과 관찰자의 상대적 지향성을 구분하지 못한 데서 오는 혼동에 다름 아니며, 인형과 영혼은 후자의 한 사례라고 말할 가능성이 높다. 이에 대한 비트겐슈타인의 반론은 이런 식이 될 것이다. 이러한 유형의 구분을 보지 못했다는 것에는 의문의 여지가 없지만 문제는 설이 언어를 잘못 사용했다는 것인데, 이는 위 단락의 인용문으로 이해할 수 있다. 주로 비트겐슈타인은 이원론과 데카르트 전통에 반대하고 있지만, 그는 사적 언어(아래에서 자세히 설명할 것임)를 거부하는 것과 같은 근거로 그렇게 한다. 즉 ‘사적 언어’는 생래적으로 접근이 불가능하고, 그것을 가설적으로라도 논의하는 것이 타당하지 않은데 그 이유는, '뇌', '생각think', '느낌feel' 등과 같은 단어를 사용하는 우리의 방식을 오용하는 것이기 때문이다. ‘이해understanding’라는 '사실fact'은 그야말로 없으며, 우리의 태도와 그에 따른 행동 및 언어 사용 방식만이 있을 뿐이다.
그러나 비트겐슈타인의 목표는 설과는 매우 다르다. 설은, 프로그램 구현을 근거로 해서는 기계가 진정한 정신 상태를 가질 수 있다는 것을 부정하는 반면, 비트겐슈타인은 이러한 것들에 대해 이야기하는 것이 타당하지 않음을 보여주고자 한다(이 경우 그는 우리가 어떤 근거로도 진정한 정신 상태를 가지고 있지 않다고 말할 것이다). 이는 그에게 진정한 철학적 문제가 아니라 언어의 오용에서 비롯된 혼란이기 때문이다: "나에게 옳다(right)고 보이는 것은 무엇이든 옳다(right). 이 말에 유일하게 의미가 있다면, 여기서 우리는 ‘옳다right’는 것에 대해 말할 수 없다는 것이다."
이러한 관점에서 보면 설은, 행위자(one) 자신의 사례에서 행위자가 생각, 내적 상태, 의미가 무엇인지를 배운다고 믿는 오류를 범한다. 단어의 정확한 용법을 표현하는 능력은 합리적 언어의 핵심 특징이지만, 단어의 의미를 개인 간에 공유할 수 없다면 이러한 올바른 조건을 확립하는 것은 불가능하다. 이는 본질적 '이해'(intrinsic ‘understanding’)가 아니라 관찰자(공동체 참여자)의 태도만 존재한다는 것을 의미한다.
같은 학술지에는 설의 중국어 방 주장 외에도 그 중국어 방에 대한 여러 철학자의 반응도 게재되었다. 이를 통해 처음부터 더욱 미묘한 토론이 시작되었고, 설도 같은 학술지에서 답변과 함께 자신을 '변호'하고 자신의 주장을 더욱 발전시킬 수 있었기 때문에 더욱 명료한 답변을 할 수 있었다. 오버마이어(Obermeier)는 설의 답변에 직접적으로 관여하고 있기 때문에 로버트 아벨슨(Robert P. Abelson)이 쓴 설에 대한 초기 비판 중 하나(설이 나중에 답변함)를 살펴볼 가치가 있다. 아벨슨과 설이 여기서 발전시킨 요점에 대해 오버마이어가 더 자세히 살펴본다. 정확히 말하면, 아벨슨은 중국어 방 논증에 대한 대응으로 비트겐슈타인적 입장을 공식화했는데, 이는 오버마이어가 자신의 논문에서 탐구한 것과 같은 유형의 입장이다.
아벨슨은 중국어 방 논증에 대한 답변에서 설의 '이해understanding'라는 개념 자체에 의문을 제기한다. 그는 비트겐슈타인의 주장과 비슷하게, 이해란 외부 관찰자에 의해 결정되며, 일반적으로 우리는 새로운 언어나 상징체계에 대한 이해를 중국어 방에 있는 사람이 질문에 답하는 바로 그 유형의 답변으로 간주한다는 가정을 통해 이를 증명한다. 또한 그는 예를 들어 어린이가 (아마도 규칙 준수를 통해) 덧셈을 배울 때, "어느 시점에서 사람이 '단순히' 규칙을 조작하는 것에서 졸업해서 '정말로' 이해하는 단계로 나아가는가?"와 같이 이해가 어느 시점에 등장하는지는 전혀 명확하지 않다고 덧붙인다. 여기서 그가 덧붙이길, 대화 쌍방이 서로 무슨 말을 하고 있는지를 입증할 수 없을 때는 서로 유리한 판단을 하는 것이 일반 관행(common exercise)이다.
아벨슨의 비판은 비트겐슈타인이, 누군가가 문장을 이해하고 있는지, 또는 누군가가 ‘생각하’고 있는지 우리가 판단하는 기준은, 누군가가 문장을 말하거나 쓰는 동안 어떤 (내적) 프로세스들(과정)이 진행되고 있는지를 판단하는 기준과는 다르다는 주장과 유사하다. 일반적인 경우, 앞서 논의했듯이 우리는 누군가가 이해하고 있는지 여부를 외적 기준에 따른 행동을 평가하여 결정한다. 사고(though)와 이해는 전혀 (내적) 프로세스들(과정)이 아니다.
여기서 다룬 몇 가지 문제는 설이 (그의 중국어 방 논증에 대한) ‘다른 마음의 답변’이라고 부른 것의 일부로, ‘다른 마음의 답변’은 우리가 다른 인간의 행동과 상호작용에 따라 정신 상태를 귀속시키는 것처럼 인간과 구별할 수 없는 행동을 보이는 기계에도 정신 상태를 귀속시킬 수 있다고 주장한다. 본질적으로, ‘다른 마음의 답변’은 기계가 유사한 상황에서 인간이 행동하는 것과 기능적으로 동등한 방식으로 행동한다면 기계가 지향성을 가질 수 있다고 가정한다. 기계가 지향성을 가질 수 있는지 여부를 결정하는 열쇠는 기계의 구조적 상태에 있는 게 아니라 기계의 외부 행동과 주변 세계에 미치는 영향에 의해 결정된다고 제안한다. 이 견해는 아벨슨이 가장 많이 지지하는 견해다. 이 답변은 본질적으로 기능주의이므로 중국어 방 옹호자들은 중국어 방이 거짓임을 보여주는 것이 바로 이 견해라고 말할 것이다. 중국어 방(과 그 안의 사람)은 중국어 원어민과 똑같은 방식으로 세상과 상호 작용하는 사례를 제공한다는 것이다. 하지만 중국어 원어민은 이해력이 있지만 방은 그렇지 않다. 따라서 외부 행동만으로는 충분하지 않다고 중국어 방 변호인들이 (아벨슨에 대적해) 주장할 것이다. 이에 대해 비트겐슈타인은, 우리가 방에 이해가 없다고 말하는 것은 우리 공동체가 아직 (적어도 아직) (화합하는 답변cohesive response을 이루게 하는) 언어에 대한, 따라서 자세에 대한 이런 유형 질문에 대한 사례를 충분히 접하지 못했기 때문이라고 말할 수 있을 것이다. 우리가 말했듯이, 필요한 것은 결정이지 발견이 아니다.
규칙 기반 이해 이론(RU: The Rule-based Theory of Understanding)
이해를 보는 한 가지 방법은 비트겐슈타인이 <철학적 탐구>에서 가장 유명하게 논의한 규칙 준수(rule-following)를 통해 이해를 보는 것이다. 이것은 하나의 역설을 제시하는데, 그 역설을 대표적으로 크립키(Kripke)가 자신의 책 <비트겐슈타인 규칙과 사적 언어Wittgenstein on Rules and Private Language>에서 자세히 뜯어보고 있다. 그 책에서 크립키는, 비트겐슈타인의 <철학적 탐구>의 중심 논거가 규칙 준수 역설(rule-following paradox)이라고 주장한다. 크립키의 책에 나오는 역설 자체는 깊이가 있어서 여기서의 논의를 벗어나지만, 언어(따라서 메시지)를 이해할 때 우리는 규칙을 적용하는 방법을 이해하기 위해(알기 위해) 규칙을 적용할 필요가 없다는 결론은 그대로 적용된다. 그레이링(A.C. Grayling)은 이 문제에 대한 비트겐슈타인의 견해를 설명하면서 다음과 같이 썼다.
규칙을 따르는 것은 미적분처럼 객관적으로 옳고 그름의 기준을 부과하는 신비한 내적 과정이 아니라 공동체의 관습과 합의에 내재된 관행이며, 따라서 본질적으로 공적인 것이다. 규칙은 실제로 올바름의 기준을 제시하고 안내하지만, 이는 합의에 기반하기 때문에 가능한 일이며, 규칙을 올바르게 따른다는 것은 공동체의 확립된 관행에 따르는 것을 의미한다.
여기서 우리는 이 논의를 아벨슨의 설 비판과 비교하며, 덧셈 관련해서 이렇게 물을 수 있다. "어느 시점에서 규칙을 '단순히' 조작하는 수준에서 벗어나 '정말로' 이해하는 수준으로 진입하는가?" 비트겐슈타인의 회의적 해법에 대한 크립키의 설명은 이렇다. (덧셈의 예를 논의한다.)
사실, 우리 공동체에서는 덧셈에 관한 관행이 (대략적으로) 균일하다. 덧셈의 개념을 숙지했다고 주장하는 개인은 자신의 특정 답변이 커뮤니티의 답변과 충분할 빈도로 일치한 경우, 특히 간단한 경우('68 + 57 = 5’와 같이 답변이 기괴하게 틀린 것이 아니라 '계산 실수'를 했을 때에도 절차상 우리의 답변과 일치하는 것처럼 보이는 경우) 공동체로부터 숙지했다고 판단 받게 된다. 이러한 테스트를 통과한 개인은 공동체에 새로운 회원으로 들어올 수 있으며, 그 외에도 다양한 분야의 테스트를 충분히 통과한 개인은 정상적인 언어 구사자이자 공동체의 일원으로 인정받게 된다.
이러한 관점에서는 단순히 규칙을 따르는 것만으로도 충분히 ‘이해한다’고 볼 수 있다. 이 해법에 따르면, 공동체는 누군가가 '단순히 규칙을 조작하는 수준'에서 벗어나 '실제로 이해하는 수준'으로 진입하는 시점을 판단하는데, 이는 바로 설의 주장을 비판한 아벨슨 최고의 견해다. 아벨슨은 일반적으로 점점 더 많은 규칙을 준수할수록 이해도가 높아진다고 느끼며, 실제로 의미와 이해에 관련된 단어를 더 많이 사용한다고 지적한다. 이 경우, 우리는 공동체에서 규칙을 올바르게 따르는 사람, 올바르게 말하는 사람, 이해하는 사람으로 간주된다.
규칙 기반 이해 이론(RU: the rule-based theory of understanding)에 대한 반박
설은 언어를 이해하려면 특정 규칙을 따라야 할 뿐만 아니라 그 규칙을 사용하는 동안 특정 질적(qualitative) 경험을 해야 한다고 주장함으로써 규칙 기반 이해 이론에 반대할 수 있다. 설은 규칙 기반 이해 이론에 명시적으로 대답하지만, 그의 결론은 규칙 기반 이해 이론을 부정한다는 것을 암시한다. 설은 "무엇이든 형식적인 시뮬레이션으로 주어질 수 있으며, 각 시뮬레이션이 인과적 특징을 복제했는지는 각 사례에서 경험적 질문"이라고 생각한다. 그는 다음과 같이 설명한다(강조는 필자). "문제는 그 어떤 추가적 인과 요소(further causal elements) 없이도 형식적 시뮬레이션 자체만으로 정신을 재현하기에 충분한지 여부다. 그 질문에 대한 답은 ...'아니오'다."
이것이 우리에게 시사하는 바는, 설이 앞서 논의한 인과적 특징과 인과적 요소 개념이 기능주의뿐만 아니라, (설에 따르면) "정신의 재현"에 필요한 한, 규칙 준수와도 관련이 있다는 것이다. 따라서 인과적 능력이 야기하는 지향성 획득에 대한 결과로서 우리는 정신적인 것을 얻게 되는 것 같다. 이것은 어떤 식으로든 지향성을 정신과 동일시해야 한다는 뜻이 아니라 둘 다 설의 인과적 능력에서 반드시 발생한다는 것을 의미한다. 설은 규칙을 따르는 것만으로는 이해에 충분하다고 보지 않으며, 특정한 질적 경험이 추가로 필요하다고 본다. 설은 중국어 방의 남자처럼 입력과 출력이 있고 어느 정도 수준의 정보 처리를 따르는 위장(stomach)의 예를 제시함으로써 이를 예시하지만, 당연히 우리는 위장이 이런 방식으로 이해한다고 말하지 않을 것이다. 설에 따르면 이는 "중국어 하위 체제가 이해한다고 말하는 동기와, 위장이 이해한다고 말하는 동기를 구별"할 수 있는 원칙적인 방법이 없다는 것을 의미한다.
설은 중국어 방의 경우 지향성은 전적으로 해석하는 사람들의 눈에 있으며, 소화기관의 입력과 출력을 정보로 취급하는 것을 막을 수 있는 것은 아무것도 없다고 강조한다. 따라서 인공지능 연구 분야는 진정으로 정신적인 시스템과 그렇지 않은 시스템을 구분할 수 없다.
(인공지능 분야)는 마음이 작동하는 원리와 비정신적 시스템이 작동하는 원리를 구분할 수 있어야 한다. 그렇지 않으면 정신에 대해 구체적으로 정신적인 것이 무엇인지에 대한 설명을 제공하지 못한다. 그리고 정신-비정신 구분은 보는 사람의 눈에만 있는 것이 아니라 시스템에 내재적이어야 한다. 그렇지 않으면 보는 이에 따라 사람들을 비정신적인 것으로 취급하고 허리케인을 정신적인 것으로 취급할 수 있다.
설에 따르면 본질적으로 기계가 규칙을 따르는 것은 내재적으로 정신-비정신 구분이 없기 때문에 이해로 간주될 수 없다. 따라서 규칙을 따르거나 따르지 않는다고 해서 정신이 설명되지 않기 때문에 그는 위장이 규칙을 따른다는 점을 부정할 필요도 없고 인정할 필요도 없다. 위장의 예는 부조리한 예로 보이며, 다음 섹션에서 이에 대해 논의할 것이다.
규칙 기반 이해 이론(RU) 방어
오버마이어(Obermeier)는 설에 대한 답변에서 힐러리 퍼트남(Hilary Putnam)이 도입한 특정 용어를 사용하여 당면한 문제를 설명하는 데 도움을 준다. 또한 이러한 용어의 도입과 함께 퍼트남이 제시한 아이디어 중 몇 가지를 오버마이어가 사용하고 있다. 퍼트남은 '구조적 상태'와 '논리적 상태'라는 용어를 사용하여 뇌에 대한 두 가지 다른 수준을 설명한다. 구조적 상태는 축삭돌기와 신경 발화 패턴 등 정신 상태의 근간이 되는 뇌의 물리적 상태를 말하며, 이는 객관적이고 과학적으로 연구할 수 있지만 정신 상태의 본질을 완전히 설명하지는 못한다. 반면에 논리적 상태는 정신 상태의 의미 또는 내용이다. 이는 정신 상태와 정신 상태가 가리키는 세계 사이의 관계로서, 주관적이며, 구조적 상태와 같은 방식으로 과학적으로 연구할 수 없다. (예를 들어, 논리적 상태는 지향성을 가질 수 있지만 구조적 상태는 그렇지 않다고 말할 수 있다.) 이러한 두 가지 수준의 설명이 바로 설이 규칙 준수에 본질적으로 결여된 것으로 간주하는 정신-비정신 구분이다.
퍼트남은 기계의 내부 작동(가령 특정 플립플롭*의 상태, 그 플립플롭이 켜져 있는 상태)이 기계로 하여금 고통을 느끼게 하는 경우가 있는지 여부에 관한 질문은 인간의 내부 작동(가령 특정 C-섬유의 자극)에도 적용될 수 있으며, 이것이 고통을 느끼는 것으로 간주되는지 여부는 심신 문제가 구조적 상태와 논리적 상태 사이의 관계와 엄격하게 유사하다고 주장함으로써 설명할 수 있음을 보여준다. 이 점을 "퍼트남의 엄격한 유추의 주장"이라고 부르자.
- flip-flops: 1비트를 기억할 수 있는 논리회로로, 어떤 신호가 들어오기 전까지 현재의 상태를 유지한다.
퍼트남은 인간이 (예를 들어) 고통을 반추하거나 주목하거나 주의를 기울이거나 등등 하지 않고도 고통을 드러낼 수 있다는 비트겐슈타인의 용어 및 주장을 활용하여, 인간은 반추 등등 없이도 자신의 정신 상태를 드러낼 수 있기 때문에 기계도 논리적 상태에 대한 증거나 원인을 제공할 필요가 없다고 결론지었다. 즉, 특정 상태에 있음을 진술하는 것과 특정 상태에 있음을 합리화(justifying: 정당화)하는 것에는 차이가 있다는 것이다. ‘엄격한 유추의 주장’에 따르면, 퍼트남은 "기계는 자신이 A 상태라는 것을 '확신'하는가?"와 "[인간] 존스는 자신이 고통스럽다는 것을 '알고 있는가?"라는 질문은 아주 유사하며 따라서 동일한 함정에 빠지기 쉽다고 주장한다. 감각 경험(또는 감각 판독)은 필요하지만 지식이나 정신적 내용을 갖기 위해 이를 알 필요는 없다는 것이다. 본질적으로 우리는 이것을 합리화(정당화)할 필요 없이도, 심지어 그렇게 할 능력 없이도 지식과 이해를 가질 수 있다. 그러나 (사람이든 기계든) 다른 존재는 기계가 A 상태에 있는지 또는 존스가 고통에 처해 있는에 대한 경험적 질문에 답할 수 있다.
여기서 주목해야 할 점은 다른 개체(사람이나 기계)가 튜링 테스트의 심문자가 될 수 있다는 점이다. 게다가 여기서 우리는 존스 및 기계의 상태나 이해와 관련하여 존스 및 기계에 아무것도 내재화될 필요가 없다는 것을 알 수 있다. 오히려 기계가 A 상태에 있는지, 존스가 고통에 처해 있는지, 또는 둘 중 어느 쪽이 이해하고 있는지에 대한 질문에 답하는 것은 외부 관찰자(인간, 기계, 심문자)의 몫이다. 이러한 방식으로 우리가 이러한 단어를 사용하는 방식을 파고들면 내부 상태는 무관한 것으로 사라진다. 비트겐슈타인의 말을 다시 인용하면, "'대상과 지정'이라는 모델에서 감각 표현의 문법을 해석하면 대상(object)은 고려 대상에서 관련 없는 것으로 사라진다"는 것이다.
(설은 중국어 방에 있는 사람이 중국어를 이해하는 것이 아니라 중국어 방에 있는 사람이 하는 일, 즉 프로그램을 실현하는 것이 프로세스를 실행하는 것이라고 가정한다. 퍼트남의 용어를 사용하면, 기계는 단순히 구조적 상태를 소유하는 것만으로는 사고하지 않는다는 것이다.) "중국어 하위 체계가 이해한다고 말하는 동기와, 위장이 이해한다고 말하는 동기를 구별할 수 있는 원칙적인 방법이 없다"는 설의 앞선 인용에 대해 비트겐슈타인은 우리의 말을 어떤 동기에 의해 판단하는 게 아니라 생래적으로 공적인 관습에 의해 판단한다고 대답할 것이다. 퍼트남은 우리가 이러한 것들에 대한 동기를 제공하지도 않고 제공할 필요도 없다고 덧붙일 것이다.
게다가 인공지능 분야가 마음이 작동하는 원리와 비정신적 시스템이 작동하는 원리를 구분할 수 있어야 한다는 설의 견해는 비트겐슈타인에게 있어 정신에 대해 구체적으로 정신적인 것이 무엇인지 말해야 한다는 점에서 언어를 바라보고 사용하는 방식이 혼란스럽고 오용된 것이라고 볼 수 있다. 나중에 살펴보겠지만, 후기 비트겐슈타인의 주요 교리 중 하나는 우리가 사물을 구별하는 이유를 설명하는 어떤 종류의 정수(精髓, essence)나 생래적 이유의 필요성을 부정하는 것이다. '마음이 작동하는 원리'는 우리가 마음을 엄청나게 복잡한 생래적으로 공적인 기준에 의해서만 판단하고 정의하는 한 무의미한 개념일 뿐이며, 전혀 '원리'라고 말할 수 없다.
아울러 정신적-비정신적 구분이 보는 사람의 눈에만 있다기보다는 오히려 기계에 내재되어 있어야 한다는 설의 견해 역시 비슷한 이유로 잘못 해석되고 있다. 우리는 인간과, 인간 유사한 것이 생각한다고 말하지만, 다른 것들에 대해서도 그렇게 말한다. 설은 앞서 살펴본 바와 같이 그 구분은 "시스템에 내재적이어야 한다"고 말한다. 그렇지 않으면 보는 시각에 따라 사람들을 비정신적인 존재로 취급하고, 예를 들어 허리케인을 정신적인 존재로 취급할 수 있기 때문이다." 이에 대해 비트겐슈타인은 다시 말할 것이다. "그에 대한 나의 태도는 영혼에 대한 태도다. 나는 그에게 영혼이 있다고 생각하지 않는다(My attitude towards him is an attitude towards a soul. I am not of the opinion that he has a soul)." 기계나 인간에 대한 어떤 사실을 결정하는 것은 생래적으로(inherently) 공적인 언어 사용이며, 발언자의 구조에 내재된 것이 없다. 다시 말하지만 내가 "발이 아파요!"라고 외치면 사람들은 나의 감각을 경험하기 때문이 아니라 통증 표현으로 인해 내가 고통스럽다는 견해를 가지게 된다.
1983년 논문에서 오버마이어는 (강력한) 인공지능이 "단순한 인간 행동의 모방" 수준을 넘어설 수 있는지, 그리고 실제로 생각할 수 있는지에 대한 질문을 탐색했다. 그는 아벨슨과 마찬가지로 비트겐슈타인의 관점을 통해 설의 중국어 방을 분석하고 토론함으로써 이를 수행했다. 또한 오버마이어는 비트겐슈타인의 철학이 "철저한 인간 중심주의"였음에도 불구하고 현대 AI에 관심을 가진 선구자로 보인다고 언급했다.
오버마이어는 설에게 있어 지향성은 진정한 마음을 갖기 위해 필요한 생물학적 현상이라고 지적한다. 그러나 비트겐슈타인에게 있어 지향성은 언어 현상인데, "우리는 '의미', '믿음', '의도'라는 단어들을 그 단어들이 특정 상황에서 주어진 특정 행동, 마음 상태를 가리키는 방식으로 사용하기 때문"이다. 또한 "우리가 '의도(intending)'라고 불러야 할 행동과 마음 상태의 조합은 매우 많다."
오버마이어는 체스에서 수를 두는 것을 예로 들어 비트겐슈타인의 지향성 개념을 설명한다.
비트겐슈타인이 그랬던 것처럼 내가 체스에서 한 수를 두었다고 가정하자. 누군가가 '외통 장군을 의도했나요(Did you intend to mate him)?”라고 묻는다. 내가 아는 거라곤 그 수를 둘 때 내 안에서 일어난 일만 알고 있는데 어떻게 답을 알 수 있을까. 내가 왕을 A4에서 A5로 옮길 의도였거나 어떤 이상한 방법을 쓰려고 했거나 상대를 짜증 나게 하려고 했거나 게임 속도를 높이려고 의도했을 수 있다. 발언(가령 ‘체크메이트’=’외통장군')의 의미는 여러 가지로 해석될 수 있다. 그러나 의도(intention)는 일반적으로 상황을 통해 유추할 수 있다. 내가 이상한 방식으로 수를 놓지도 않았고 상대방에게 적대적인 태도를 보이지도 않았고 판을 뒤엎지도 않았으므로 나는 외통 장군을 의도한 셈이다. 이 예에서 우리는 의도성(=지향성)이 생물학적 과정이 아니라 언어적, 비언어적 사실로부터 추론되는 문제라는 것을 알 수 있다. 지향성을 생물학적 과정(프로세스)이라고 주장한 설과는 달리 말이다.
비트겐슈타인에게 있어 "발언(utterance)에 의미를 투영하는 것은 의도(지향) 자체가 아니다. 오히려 그것은 당면한 발언에 대한 해석이다 [...]". 즉, 의도는 언어적 사실과 비언어적 사실로부터 추론하는 문제이며, 발언 자체는 발언하는 사람의 내면적이고 접근하기 어려운 어떤 것에 의해서가 아니라 발언이 나타나는 맥락에서 의미가 부여된다는 것이다.*
- 원주: "우리는 투사 과정(the process of projection)을 재해석함으로써 항상 그 반대를 의도할 수 있었기 때문이다." 그리고 "우리가 어떤 방식으로든 어떤 식으로든 기호를 해석할 때마다, 그 해석은 이전 기호에 새로운 기호를 추가하는 것이다."라는 말이 이러한 생각을 보여준다. (비트겐슈타인, 1958, p.33)
아벨슨이 지적했듯이 이해력이 높아질수록 우리는 의미와 이해에 관련된 단어를 더 많이 사용하며, 단어의 의미는 특정 맥락에의 적용에 따라 결정되며, 이는 물론 '이해understanding', '의도intention', '의도성intentionality(지향성)' 등에도 해당된다. 결과적으로 단어의 해석은 문맥에 따라 달라질 수 있다. '이해'에서 중요한 것은 그 단어의 기능, 즉 사용(사용으로서의 의미meaning as use)이다. 오버마이어가 이로부터 도출한 주목할 만한 결론은, 의도성(intentionality=지향성)은 담화와 이해의 부산물일 뿐 필수는 아니라는 것이다. 오버마이어는 의도성(지향성)이 "언어의 모호성과 생물학적 함의 때문에 언어의 간결한 조사에 유용하지 않다"고 말한다.
이해의 과정(프로세스)이 그 본성에서 주로 언어적임을 보이기 위해 오버마이어는 수행(performance)으로서의 이해와, 느낌으로서의 이해를 구분한 비트겐슈타인 방식을 들고나온다.*
- 원주: 앞서 언급했듯이 비트겐슈타인은 (케니Kenny에 따르면) 그 생각을 가지고 있었을 공산이 크고, 여기서도 언급했지만, 이해는 외적 기준에 따라 평가되기 때문에 전혀 (내적) 과정이 아니라는 것이다. 나는 이 모순이 의미론적 불일치라고 생각한다. 케니는 사고와 이해를 우리가 전기 분해나 산화와 같은, 과정이라고 부르는 다른 것들과 구별하고자 하는 반면, "예를 들어 누군가가 문장을 이해했는지 여부를 결정하는 기준은 그가 문장을 말하거나 쓰는 동안 어떤 정신적 과정이 진행되고 있는지 결정하는 기준과는 상당히 다르다"고 말한다. (Kenny, 2010, 918쪽) 반면에 오버마이어는 이해를 본질적으로 언어적인 과정이라고 부르면서 동일한 구분을 하는 것 같다. 두 가지 모두 "과정"이라는 단어의 용도를 구분하는 유사한 방법 이며 이 백서의 목적에 대한 논의 주제에 직접적인 영향을 미치지 않는다고 생각한다.
또한 오버마이어는 설이 우리가 무언가를 이해할 때 우리가 하는 일과 우리가 느끼는 것을 혼동하고 있다고 주장한다. 비트겐슈타인의 '큐브'라는 단어의 예를 들어 오버마이어는 이 단어의 사용법이 다양하다는 것을 보인다. 하지만 이 단어는 새로운 의미를 갖지는 않는다.
예를 들어, 누군가가 나에게 '큐브'라는 단어를 말하면 나는 그 단어가 무엇을 의미하는지 안다.
하지만 이런 식으로 이해했을 때 그 단어의 전체 용법이 내 머릿속에 떠오를 수 있을까? 다른 한편으로는 단어의 의미도 그 용법에 따라 결정되지 않을까? 이러한 의미 결정 방식은 서로 충돌하지 않을까? 우리가 순식간에 파악한 것이 용법에 부합할 수도 있고, 부합하지 않을 수도 있지 않을까? 아울러 순식간에 우리에게 존재하는 것, 순식간에 우리 마음 앞에 떠오르는 것이 어떻게 용도에 맞을 수 있을까?
따라서 그 순간의 느낌은 (본성에 있어 수행적인) 그 사용과 동일하지 않다. 오버마이어는 이 예가 (물론 '큐브'라는 단어에만 적용되는 것은 아니기에) '이해'가 설이 말하는 것처럼 단순한 개념이 아님을 보여준다고 주장한다.
오버마이어는 (예를 들어) '고통'은 한 번도 경험하지 않았더라도 그 언어 사용을 숙달했다면 이해할 수 있다고 제의한다.* "마찬가지로 우리는 '내가 기계처럼 느껴져요'라고 말하는 사람을 완벽하게 이해하지만, 그가 기계가 되는 것이 어떤 것인지 직접 경험한 적이 없다는 것을 알고 있다." 내가 보기에 오버마이어는 비트겐슈타인에 대해 신중하고 절제된 독해를 하고 있다. 오버마이어는 사람이 고통을 느끼지 않더라도 고통의 개념은 언어 수준에서 이해될 수 있다고 말하는 반면, 비트겐슈타인은 크릭피안 읽기(흔히 '크립켄슈타인'이라고 함)를 통해 고통은 언어 수준을 제외한 어떤 수준에서도 무의미하며, 모든 통증은 통증행동(pain-behavior)의 환기(evocation)이며 언어의 사용이라고 주장한다.** 이는 비트겐슈타인의 사적 언어의 불가능성에 대한 논의에서 비롯된 것으로, 비트겐슈타인은 (사적 언어에서의) 어떤 기호의 정의는 사적인 것이기 때문에 표현될 수 없으며 따라서 다른 사람에게 전달될 수 없다고 강조한다. 즉 의미는, 개인이 감각에 집중하면서 동시에 기호를 만들어내는, 그런 명시적(외향적) 정의의 사적 연습을 통해 얻어야 함을 뜻한다. 그러나 비트겐슈타인은 이전부터 존재한 사적 사용 관행에서 의미를 추출할 수 없다고 주장한다. 왜냐하면 애초에 그러한 사용이 어떻게 성립될 수 있느냐가 문제이기 때문이다.
- 원주: 이는 선천성 통증 무감각증 (CIP) 및 다한증을 동반한 선천성 통증 무감각증(CIPA) 환자들이 서로의 상태를 이야기하는 방식으로 경험적으로 입증되었다. 마찬가지로, 우울증과 같은 질환은 개인적으로 그 피해를 입지 않은 사람들에 의해 완벽하게 타당하게 논의되는 경우가 많다.
** 원주: 비트겐슈타인의 소위 "사적 언어 논증"에 대한 독해는 다양하며, 정확한 해석에 대한 합의는 없다.
또한, 외향적(ostensive, 명시적) 정의가 성공하려면 기호와 감각, 예를 들어 통증의 환기와 통증 그 자체 사이의 연결을 확립해야 한다. 이를 위해서는 반드시 그 연결을 기억에 저장해야 하며, 이는 미래에 그 연결을 올바로 떠올릴 수 있도록 한다. 그러나 우리가 올바르게 기억하고 있는지, 그리고 우리가 자신의 사적인 언어를 올바르게 사용하고 있는지 어떻게 알 수 있는가? 이것은 인식론과 기억의 오류에 관한 질문이 아니다. "사적 언어학자가 'S'라는 기호와 감각의 과거 상관관계를 기억함으로써 'S'의 의미를 기억할 수 있다고 우리가 생각할 때, 우리는 그 자체로 확립되어야 할 것, 즉 기억해야 할 독립적인 상관관계가 실제로 있었다고 가정하는 것이다." 앞서 논의한 규칙 따르기와 마찬가지로 (그리고 같은 이유로) 감각은 무언가를 파악하는 신비한 내적 과정(공정)이 아니라 공동체의 관습과 합의에 내재된 관행에 의해 형성되며, 따라서 근본적으로 공적이고, 공동체로서의 우리에 의해 결정된다(이를 '회의적 해법'이라고도 한다).
오버마이어는 설처럼 우리가 '이해'의 엄밀한 생물학적 기반, 즉 인간 두뇌의 인과적 능력을 받아들인다면 모든 조사는 인간 두뇌의 물리적 상태(C-섬유 등)와 기계의 구조적 상태(플립플롭 36 등)로 축소될 것이며, 따라서 생래적으로 공적이 아닌 것에 대한 조사가 될 것이라고 지적한다. 이 주제에 대해 퍼트남은 기계의 논리적 상태가 구조적 상태와 절망적으로 다르다면, 같은 논리로 인간의 정신 상태는 엄격한 유추의 주장에 따라 신체 상태와 절망적으로 다르다고 썼다. 어쨌든 서로 다른 상태의 정체성 또는 비정체성은 중요하지 않으며 순전히 언어적일 것이다. 이것은 여기에 나타난 심신 문제에 대한 관심이 순전히 개념적일 수 있음을 보여준다.
결론
규칙 준수에 대한 기능주의 관점과 규칙 기반 이해 이론에 관한 설의 중국어 방에 관한 논의에서 몇 가지 시사점을 얻을 수 있다. FR과 RU 모두에 대해 중국어 방 논쟁을 통해 드러난 의견 불일치가 특정 사고 실험을 넘어선다는 것을 알 수 있다.
퍼트넘, 오버마이어, 아벨슨의 사례를 RU와 FR에 관한 것과 함께 정리하자면, 퍼트넘의 엄격한 유추 주장, 구조적 상태와 논리적 상태에 대한 두 차원의 설명 사이 틈새의 순전한 언어적 특성, 공동체로서의 우리가 누군가의 이해 여부를 결정하는 방식, '이해'라는 단어가 사용될 때 (1) 의도성(지향성)은 생물학 체계에 고유하게 귀속될 수 있는 것이 아니라 그 사용에 의해 의미가 결정되기 때문에 공동체로서 우리가 결정하는 것임이 분명하다. (2) 지향성은 기계의 이해 여부를 결정할 때 기계의 본성이나 존재 자체에 대해 우리가 알 필요가 없다는 것이다. (3) 지향성은 어떤 개체(인간이나 기계)의 구조적 또는 물리적 상태와는 관련이 없는데 왜냐하면 다른 수준의 설명에 속하기 때문이다. 두 수준(구조적-논리적/정신적-물리적) 사이에서 이루어진 연결이나 발견은 순전히 언어적일 뿐 인과적 능력과는 무관하며, 인과적 능력은 이러한 간극을 반드시 메워야만 한다.
(여기서 기계가 이해할 수 있다는 주장과 관련하여) 공동체의 결정은 (1)의 "적절한 규칙"이 무엇인지, (3)의 "특정 기능적 역할"이 무엇인지, 그리고 (6)을 충족하는지 여부를 결정하는 것이다. 따라서 결론은 이러한 점에 대한 공동체의 평가에 달려 있다. 즉, 설의 중국어 방 주장은 "이해"라는 단어를 사용하는 방식과 관련하여 공동체의 사용보다는 의도성(지향성)에 따라 달라진다고 잘못 가정함으로써 잘못된 방향으로 나아가고 있다는 것을 의미한다. 결론은 중국어 방에 있는 사람도 기계처럼 중국어를 이해할 수 있다는 것인데, 이는 발견이 아니라 결정이 필요한 것이다.