독서모임에서 읽은 책(김대식 2025)에 대해 소견을 작성해보았습니다. 선생님들의 시각이 궁금합니다.
기술 영주 빅테크 기업의 수익 모델은 정당한가?
김대식, 『AGI, 천사인가 악마인가?』, 2025
1. 들어가기
필자는 AI와 관련된 사회윤리적 문제는 다음과 같은 것들이 가장 대표적이라고 본다.
-
통제 불능 또는 통제력 상실의 문제
-
프라이버시와 지적 재산권의 문제 - 감시 자본주의라는 경제체제, 기술 봉건주의라는 사회체제와 관련.
-
편향된 예측이 빚어내는 사회적 문제들 - 백인 중심, 흑인 소외, 저소득층 소외
-
에너지 비효율의 문제
본 에세이는 그 중에서 기술 봉건주의의 정당성, 특히 데이터 브로커들의 행태에 대해 비판하고자 한다.
2. 기술 봉건주의와 정의
김대식(2025)은 자신의 저서에서 기술 봉건주의(technofeudalism)를 다음과 같이 정의한다.
“인공지능 시대에는 기술을 지배하는 자가 동시에 사회와 정치도 지배해야 한다.”
이러한 기술 봉건주의와 관련하여 우리는 두가지를 생각해볼 수 있다. 바로 1) 실현가능성 문제: 기술 봉건주의가 가까운 미래에 정말로 실현될 것인가라는 문제와 2) 분배 정당성의 문제: 그 사회가 현재의 우리 사회보다 더 정의로울까라는 문제이다. 이와 관련하여 필자는 분배 정당성과 관련하여 다음과 같은 질문을 제기한다.기술 봉건주의의 영주들(빅테크 기업)의 수익 창출은 규범윤리적으로 정당한 방식인가?
3. 기술 영주들의 수익 창출 방식
우리가 알고 있는 사실 관계를 먼저 따져보겠다.
빅테크 기업들, 특히, 소셜 미디어 플랫폼 또는 대규모 언어 모델을 기반으로 수익을 창출하는 기업들은 방대한 양의 데이터를 바탕으로 수익을 창출하는 소셜 네트워킹 서비스, 생성형 AI 서비스 등을 제공하고 있다. 그들의 서비스는 본질적으로 빅데이터의 존재에 의존한다. 빅데이터가 없었더라면, 그들의 서비스 사업은 성공하지 못했을 것이다. 이는 대부분의 사람, 심지어 AI 업계의 종사자들도 동의할 것으로 보인다.
그런데 그 빅데이터가 만들어지는 데에 기여한 자는 누구인가? 바로 우리다. 데이터를 제공하고 생산한 주체는 해당 서비스를 사용하는 우리였다. 즉, 우리가 빅데이터의 기반이 되는 데이터를 생산했다. 우리는 왜 그런 데이터를 생산했는가? 바로 다른 사람과 소통하고 정보를 교류하기 위함이다. 우리가 데이터를 생산했던 목적은 옳거나 훌륭한 또는 재밌는 정보를 확산시키고, 그러한 정보를 다시 얻기 위함이었다. 따라서 데이터를 생산하는 주체의 생산 목적은 바로 정보의 순환(소통)이라고 우리는 정리해볼 수 있다.
그런데 왜 데이터 브로커들은 생산자의 목적과 다른 방식으로 해당 데이터 세트를 이용하여 판매수익을 벌어들이는가? 데이터 브로커란 사용자의 데이터를 수집 및 분석하여 빅데이터를 필요로 하는 기업에게 판매하는 기업 또는 행위를 일컫는다(e.g. 캠브리지 애널리티카, 웨더채널 등: 시넛암스트롱 외, 2025, p.140-143). 즉, 데이터 브로커는 사용자가 제공하는 행동 데이터를 바탕으로 사용자의 인구통계적 속성(성별, 나이, 주소, 주 관심사 등)을 추론하고 그 결과를 다른 기업에게 공유(판매)하는 방식으로 수익을 창출한다. 데이터 분석의 대상은 생산자가 의도치 않게 또는 무의식적으로 제공한 방대한 데이터 세트이며 데이터 브로커는 이를 분석하여, 쉽게 말해, 돈을 벌어들인다.
4. 이는 정당한 수익 창출?
그런데 그들의 이러한 돈벌기 방식, 즉 수익 창출 방식은 과연 정당한 것인가? 생산자의 목적과 다른 방식으로 생산물을 이용한다면 그 이용의 결과로서 얻어낸 수익을 반드시 원 생산자에게 배분해야 한다. 지적 재산의 경우도(가령, 디즈니의 미키마우스와 같은 캐릭터 등) 한 인격체의 사유재산으로서 보장되고 있는 것이 현실이다. 그래서 어떤 창작물은 1차 창작자에게 귀속되어, 누군가 그 창작물을 이용하여 수익을 창출할 경우 그는 원 저작자에게 사전에 허락을 받았거나 또는 저작물 사용료를 지불해야 한다.
이러한 오늘날의 법률이 데이터에 적용되지 못할 이유는 없으리라 생각한다. 왜냐하면 애초에 원 창작자가 1차 창작물을 만들지 않았더라면, 그 창작물을 영리적 목적으로 사용한 사람도 수익을 창출할 수 없었을 것이기 때문이다. 마찬가지로 수억명 이상의 생산자가 정보 순환이라는 목적 하에 데이터를 활발하게생산하지 않았다면, 데이터 브로커들 역시 데이터 분석의 대상 자체가 없었을 것이므로 수익 역시 창출할 수 없었을 것이다. 이는 생산자의 데이터 생산 활동이 데이터 브로커의 수익 창출에 대한 직접 원인은 아니지만 주요한 기여 원인임은 분명하기 때문이다. 즉 데이터 브로커들의 수익 창출에 대한 원인 제공자는 우리 데이터 생산자들이다. 따라서 우리는 데이터 브로커들의 수익의 일부를 분배받을 정당한 권리가 있다.