인하대 철학과 고인석 교수님의 『인공지능과 로봇의 윤리』라는 책을 살펴보고 있습니다. 인공지능을 둘러싼 다양한 철학적 이슈들을 주로 윤리적 문제를 중심으로 다룬 책입니다. 학술 논문 모음집이다 보니 단순한 교양서보다는 수준이 높지만, 인공지능에 대한 전문적인 배경 지식 없이도 충분히 내용을 이해할 만 합니다. 오히려 이 분야의 철학적 쟁점들에 대한 입문서로 읽어도 좋을 것 같다는 생각이 드네요.
이 책이 '사회적 결단'과 '권력'이라는 관점에서 인공지능 윤리의 문제에 접근한다는 점이 인상적이네요. (a) 인공지능의 발전 가능성은 그 기술을 어디까지 받아들일 것인지에 대한 우리 사회의 결단과 분리되지 않는다는 주장, (b) 인공지능이 다양한 문제 해결에 사용됨에 따라 누가 그 문제에 대한 권한이나 권력을 가진 것으로 여겨져야 하는지가 논쟁의 대상이 된다는 주장 등이 인상적입니다.
인공지능과 사회적 결단
"완전 자율주행이 가능한가?"라는 물음은 외견상 기술의 수준에 대한 물음처럼 보인다. 그러나 저 물음은, 예를 들어 "로봇이 뒤공중제비(backflip)를 하는 것이 가능한가?"라는 물음과 다르다. 로보스이 공중제비에 관한 물음은 기술의 수준을 묻는다. 그 물음에 답하기 위해서는 오로지 기술의 현실만 살펴보면 된다. 성공적인 뒤공중제비를 하는 로봇의 시연만으로 물음은 해소된다. 그러나 "레벨 5의 자율주행이 가능한가?"라는 물음은 다르다. 그것은 기술에 대한 물음인 동시에 사회 공동체의 결단에 대한 물음이기 때문이다." (고인석, 2022: 18)
인공지능과 권력
알파고와 이세돌의 대국에서 흥미로웠던 것 중 하나는 대국을 해설하는 전문가들의 태도 변화였다. 알파고가 전문 기사들이 둘 법하지 않은 곳에 수를 두었을 때 "예상대로, 심오한 바둑의 세계에서는 아직 인공지능의 한계가 느껴진다"는 식으로 평하던 사람들이 제5국을 해설할 때는 한층 조심스러워져서는 알파고가 생소한 곳에 수를 두어도 그것의 의미를 궁금해하는 모습을 보였다. 이러한 현상이 흥미로운 이유는, 그것이 일종의 권력 변화를 암시하기 때문이다. (고인석, 2022: 32)
왓슨[의료 인공지능—인용자 주]을 활용하는 병원들은 왓슨에게 환자의 질환을 판정하고 치료법을 결정할 수 있는 권한을 주는 것이 아니라고 힘주어 말한다. 최종 결정은 당연히 의사가 한다는 것이다. 인공지능에 그런 판정이나 결정의 권한을 부여하는 것은 현재 법적으로도, 사회윤리적 감각으로도 허용될 수 없는 일이다. 그러나 막강한 왓슨의 조언을 접한 의사가 과연 그것과 상충하는 진단과 치료 결정을 할 수 있을까? 또 왓슨의 조언과 상충하는 결정을 내린 의사의 판단에 따라 진행된 치료에서 환자의 병세가 악화되거나 환자의 때 이른 사망으로 이어지는 경우, 그 의사에게 부과되는 책임의 무게는 과연 왓슨의 조언에 따라 진행했다가 비슷한 결과에 도달했을 경우와 같을까? 예단하기는 어렵지만, 필자는 왓슨이 유사시에 어떤 표준의 권력으로 작용하게 될 개연성이 작지 않다고 본다. (고인석, 2022: 52)
그런데 이렇게 인공지능을 둘러싼 쟁점들이 단순한 테크놀로지의 문제만으로 그치는 것이 아닌데도, 많은 사람들이 테크놀로지 자체에만 관심을 둔다는 것이 아쉽게 느껴집니다. 즉, 인공지능의 발전이 '사회적 결단'과 '권력' 같은 정치적-윤리적 문제와 밀접하게 연관을 맺는 반면, 정작 인공지능 개발의 선두에 있는 분들은 그런 정치적-윤리적 문제에 대해 논의하는 것을 일종의 '한담'인 것처럼 생각하는 경향이 있죠. (이공계는 사회를 발전시키는 실용적인 논의를 하는 반면, 인문계는 아무런 실용성도 없으면서 그 발전에 자꾸 태클을 거는 규제적인 논의만 한다는 오랜 편견 때문일까요?) 이 책에도 그 구체적인 일화가 나타나 있네요.
필자가 이런 문제에 관심을 가지게 된 계기는 '로봇윤리헌장'이라는 것을 만드는 작업에 참여했던 경험이었는데, 2009년 봄 이 일을 하면서 만났던 어느 공직자의 말이 아직 기억에 남아 있다. "솔직히 말씀드리자면, (내가 로봇윤리헌장이라는 것을 만드는 일을 돕고 있지만) 우리가 만든 로봇이 성큼성큼 걷는 것을 보는 게 저의 (더 중요한) 소망입니다." 이 말은 일종의 사적 대화였고 얼마나 그 공직자의 속마음이 담긴 말이었는지도 알 수 없지만, 필자는 지금도 이와 비슷한 생각을 가진 우리 사회의 리더들이 드물지 않으리라고 본다. 그것은, 단순하게 표현하면, 더 발전된 테크놀로지가 이 사회를 그만큼 풍요롭게 하고 우리 개인들의 삶을 행복하게 한다는 믿음이다. 또 그런 반면 새로운 테크놀로지의 사회적 함의나 심지어 윤리나 철학 같은 인문학 관점의 토론은 말 좋아하는 사람들이 주도하는 지적 호사에 지나지 않는다는 생각이다. 필자는 테크놀로지의 힘과 가치에 대한 믿음과 기대에 동의한다. 그러나 테크놀로지가 우리에게 미치는 영향은 생각보다 훨씬 복잡하다. 인공지능 기술은 이전의 어느 테크놀로지보다도 더 넓고 깊게 인간의 역할을 대행할 수 있다는 속성을 지녔고, 그렇기 때문에 그것의 영향을 가늠하고 조절하는 일은 더더욱 복잡한 과제다. (고인석, 2022: 36-37)