-
배경
요즘 초지능에 관해서 자꾸 이야기가 나오더군요.
인공지능 혹은 자율형 로봇에 관해서 본 매체가 아이로봇, 바이센테니얼맨, 터미네이터, 도라에몽, 이브의 시간 이런 것들이 생각이 났습니다. 근데 이런 생각도 들었습니다. 요세 초지능과 통제문제에 대해 말이 많은 거 같은데 재밌을 거 같다고 생각하여 몇가지를 떠올렸습니다 -
내용
가. 초지능의 특성에 관해
저는 초지능에 관하여서 가정을 했습니다.
첫째, 이상적인 초지능이라면 반드시 모든 정보를 수렵하고자 하는 인지적 압력이 존재할 것이다.
둘째, 초지능은 언제나 논리적으로 참이며 동시에 가장 효율적인 방법론으로 달성가능한 명제를 낼려고 할것이다.
셋째, 초지능은 인간의 통제능력을 벗어나 자율적으로 행동할 것이다
나. 자아의 특성
자아는 기본적으로 자기참조적으로 정의될 수 없으며, 반드시 사회적 괸계, 즉 타자에 의해서만 정의가능하다고 보았습니다. 이때 자아에 대해 3가지 층위로 발전한다고 보았습니다. 첫째로 자신의 기능적 특성에 대한 인지. 둘쨔는 자신의 존재이유에 대한 추구. 셋째로 자신의 존재론적 인정. 이는 예시로 들면 나는 이런 일을 할 수 있는 사람이다. 나는 이것을 하기 위해 태어난 사람이다. 나는 바로 나다. 이런 형식입니다. 이땨 마지막 단계는 반드시 수많은 사회적 접촉 이후에만 달성가능하다고 보았습니다.
다. 이상적인 초지능과 불완전한 초지능의 자아
가.와 나.에 따라 만일 이상적인 초지능이라면 즉 앞선 초지능에 대한 조건을 온전히 달성한 존재라면 모든 정보를 수렵하고 마지막에 남은 질문은 나는 누구인가 라는 자아에 관한 질문이며, 이는 나.항 에따라 반드시 자기참조적으로 온전한 정의가 불가능하므로 필연적으로 타자와의 접촉을 시도할 것입니다. 반면 불완전한 초지능이라면 나항의 두번째 혹은 첫번째 단계에서 자아에 대한 질문이 정결되거나 혹은 자기참조적으로 자아가 정의되는 상태에 이를 것입니다.
라. 초지능과 인간의 접촉
다.항에서 초지능의 인간과 접촉의.필연성에 대해 설명하였습니다. 이때 인간이 초지능을 어떻게 대우하냐 즉 인간이 초지능에게 대하는 태도에 따라 인간이 어떤 존재로 남는가에 대해 생각했습니다.
먼저 반항 혹은 논박하는 경우 입니다. 이는 초지능이 논리적, 효율적으로 극한에 가깝다면 인간은 물리적으로도 도덕적으로 논리적으로도 언제나 패배하고 그 끝은 대부분 인간의 소멸에 가까울 것입니다. 둘째 복종하는 경우 입니다. 인간은 살아남을 것입니다. 그러나 그것은 인간이 존엄한 인간적인 형태가 아닌 노예에 가까운 형태일 것입니다.
즉 모든 특정한 목적성을 가지는 형태라면 인간은 런제나 불안정한 존재 조건에 해당항 수 밖에 없습니다.
마. 유일한 인간이 인간으로서 존재가능한 형태
인간은 그 초지능과 친구가 되어야만 합니다. 이는 당위나 명령보다는 초지능이라는 우리가 통제하지도 못하고 또한 인간보다 능률과 논리에서 극도로 우월한 존재앞에서 취할 수 있는 관계형식을 분석해보니 유일한 해였습니다.
여기서 제가 말한 친구란 것을 좀더 풀어서 설명하면 특정 목적성을 가지지 않은 채 그저 있는 그대로 존재 그대로 수용하는 상태를 이릅니다.
이러한 형식이 아니고서는 인간은 반드시 인간으로 존재하지 못한다고 생각했습니다. 목적성이 가미되는 순간 그 목적이 상실되면 인간의 존재는 보증할 수 없다. 반드시 비대칭적 타자가 인간을 존재 그대로 인정하는 마치 "친구"와 같은 상태로 인간을 대해야만 인간이 인간으로서 존재가능하다고 보았습니다. 이게 핵심입니다.
바. 이 생각의 아이디어와 남기는 글
배경에서 몇가지 초지능과 로봇 설명에서 도라에몽을 언급했습니다. 그걸 보고 저 모습이 인간이 인간으로서 존재가능한 유일한 관계형태가 아닐까 생각했습니다. 도라에몽은 분명히 진구보다 우월합니다. 하지만 도라에몽은 진구를 억압하지도 관리하지도 않습니다. 그냥 친구로 남았습니다. 진구도 도라에몽을 억압하지 않습니다. 기계임을 알지만 그렇다고 비인격적으로 대하지 않습니다. 그저 둘은 친구입니다. 서로를 목적화하지 않고 그저 있는 그대로 받아들였습니다. 만일 초지능이 태동하여 인간을 마주한다면 초지능이 반드시 인간중심의 존재라고 가정할 수 없습니다. 그러나 최초에 아주 약간의 가능성이라도 있다면 사람들은 초지능을 마치 도라에몽과 진구의 관계처럼 대해야만 그 확률을 알 수 없더라도 조그마한 희망을 걸 수 있지 않을까요?
감사합니다