https://reverie.herokuapp.com/arXiv_Demo/
엊그제 스탠포드 대학교와 구글의 공동연구 논문이 하나 아카이브에 게재됐습니다. "생성적 에이전트: 인간 행동의 상호작용적인 시뮬레이션"이란 제목인데 논문 전문은 안보고 대략적인 것만 봤습니다만 엄청납니다. 스타듀벨리같은 환경에 25명의 LLM기반 인공지능을 넣어놓고 각 인공지능에게 한문단 가량의 성격, 직업, 사는 환경 등등을 학습시키면 지금 자신의 환경에 따라서 종합적으로 우선순위를 두고 행동을 합니다. 이 과정에서 다른 인공지능과 상호작용을 하거나 자신의 환경과 상호작용하여 다른 인공지능에게 영향을 미치기도 합니다.
논문 말미에서 든 예시는 Isabella라고 이름 붙인 인공지능이 발렌타인 데이를 기념한 파티를 주최했는데 이 말이 전달되고 전달되서 총 12명의 인공지능이 이를 인지했다고 합니다. 그 중 7명이 이 약속을 지키지 않았는데 3명은 선약이 있었고 4명은 이에 대한 이유를 보여주지 않았다고 합니다.
그 외에도 서로 모르던 인공지능이 공원에서 만나 관계를 형성하거나 Isabella가 파티를 개최하는 것에 대해 Maria는 그녀가 Klaus를 좋아하는 것을 알고 도와주는 동시에 Klaus와 가까워지는 기회를 갖게 되었다거나 하는 식의 결과를 보였다고 합니다.
보면서 공포와 전율이 동시에 느껴지는 연구였습니다. 대GPT 시대에 저희가 어디로 가고 있는걸까요. 이 연구의 향후 활용방안이 너무 무궁무진한 것 같습니다.
6개의 좋아요
흥미롭네요. 항상 이런 것을 볼 때마다 로티가 『철학과 자연의 거울』에서 했던 주장에 대해 생각하고는 합니다. 누군가 이성을 지닌 인격적인 존재인지 아닌지를 판단하는 일은 자연적 사실의 문제가 아니라 사회적 실천의 문제라는 주장인데, 그 말대로면 어떤 존재를 이성을 가진 인격으로 볼 것인지 그렇지 않은지를 결정하는 것은 그가 의식이라는 자연적 현상을 갖고 있느냐 아니냐가 아니라, 공동체가 그에게 이런저런 권리를 갖고 책임을 귀속시킬 수 있는 사람이라고 자격부여(entitlement)를 하느냐 마느냐에 달려 있게 됩니다. 만일 로티의 주장을 받아들인다면 생물학적으로 인간(human)이 아닌 존재를 인격(person)이 아니라고 단정 지을 수가 없게 되죠.
물론 지금 기술들을 가지고 『아이로봇』이나 『바이센테니얼 맨』 같은 이야기를 상상하는 일은 현재 인공지능 발달 수준이나 업계의 사정을 전혀 모르고서 하는 소리라는 이야기도 들었습니다.
6개의 좋아요
사실 이런 논의는 기술 발전과는 별개로 필요하다고 생각합니다. 공대생이지만 공대를 싫어하는 이유 중 하나가 이러한 담론 없이 그저 수리과학에 매몰된 분위기때문입니다. 속도가 느리든 빠르든 AGI가 성공한다는 가정하엔 언젠가 우리가 맞닿게 될 미래이기에 필요한 담론이라고 생각합니다.
인공지능도 자아를 가지고 인간과 같은지를 어떻게 평가할지에 대해 얼마전에 친구와 얘기를 나눴습니다. 근데 결국 결론은 TheNewHegel님이 말씀하신 것과 비슷하게 기술의 한계 때문인지 근본적으로 안되는지는 몰라도 내재적으로 판단할 수 없다는 것이었습니다. 인류조차 나 외의 다른 사람을 사람으로 볼지에 대해 긴 시간동안 고민해왔는데 인공지능에게 인격을 부여해야하는가에 대한 논의가 확산되는 날엔 뉴스가 이런 얘기로 도배될 것 같네요.
6개의 좋아요