테렌스 타오가 이번에 AI 프론티어 기업들에 대해 제기된 비판 성명의 취지를 해설한 글입니다.
해당 비판 성명에는 여러 필즈상 수상자와 수학계의 권위자들이 참여했습니다. AI 프론티어 기업들의 모델 발전을 수학계가 상당히 진지하게 바라보고 있다는 증거라고 생각합니다.
최근에는 AI 프론티어 모델이 나비에-스톡스 밀레니엄 문제를 풀었다는 발표까지 나왔습니다. 또한 수학과 박사급 이상의 지인들에게 물어봐도, 물론 세부 분야에 따라 차이가 있지만 난제급이 아닌 문제들은 AI가 상당히 깔끔하게 풀어준다는 이야기를 듣습니다. 불과 5년 전에는 “5+7이 얼마냐”와 같은 단순한 문제에서도 신뢰하기 어려웠던 것을 상기해보면, 발전 폭은 매우 가파릅니다.
타오의 글에는 여러 흥미로운 논점이 있지만, 가장 재미있는 출발점은 **“문제 해결은 프록시다”**라는 주장입니다.
“But solving problems is only a tool and proxy for achieving the primary goal of conceptual understanding and insight.”
즉 수학계에서 난제 풀이 자체가 primary goal은 아니라는 것입니다. 수학계는 난제를 푸는 과정을 통해
- 수학에 대한 이해와 직관을 발전시키고,
- 다음 세대의 수학자를 양성해왔습니다.
그런데 최근 AI 프론티어 기업들이 난제 풀이를 자사 AI 모델의 일종의 트로피로 사용하면서, 기존 수학계가 작동해온 방식에 상당한 부정적 외부효과를 끼치고 있다는 것이 이번 성명의 핵심적인 비판으로 읽힙니다.
깃허브 Staff Engineer인 션 고데케는 이를 일종의 굿하트의 법칙과 유사한 문제로 해석합니다. 원래 난제 해결은 수학적 이해와 통찰을 측정하는 좋은 프록시였는데, AI 기업들이 그 프록시 자체를 직접 최적화하기 시작했다는 것입니다.
여기까지는 수학계가 가진 고민을 타오가 명료화해준 것으로 보입니다. (개인적으로 타오가 이렇게 명료화해서 전달해주는 것에 상당히 도움을 받고 있습니다.) 하지만 저는 다음과 같은 의문이 들었습니다.
수학계의 사정을 AI 회사들, 나아가 우리 사회가 진지하게 고려할 필요가 있을까?
여기서 말하는 “진지한 고려”란 단순히 수학계의 우려를 경청하는 정도를 뜻하지 않습니다. 정부나 국회 등 권력을 가진 주체의 개입, 혹은 법원의 판단과 같이 사회가 실질적인 힘을 직간접적으로 사용하여 AI 기업과 수학계의 이해관계를 정렬하는 것(물론 타오가 이를 명시한 것은 아닙니다.)을 의미합니다. 저작권처럼 이미 존재하는 법체계 내부에서 충돌하는 문제는 일단 제외하겠습니다.
사실 기술 발전이 특정 업계의 기존 관행이나 이해관계와 충돌하는 것은 이번이 처음이 아닙니다. 체스나 바둑을 생각해볼 수 있습니다. AI의 등장으로 인간이 수십 년 동안 쌓아온 정석과 오프닝 이론의 권위가 흔들렸고, 프로 기사들의 훈련 방식도 크게 바뀌었습니다. 인간의 문제 해결 능력 역시 더 이상 해당 분야에서 최고 수준을 대표하지 못하게 되었습니다. 하지만 이때 체스계와 바둑계는 주로 내부적으로 적응했습니다. 알파고를 만든 딥마인드에 자신들의 이해관계에 맞게 행동해달라고 사회적 강제력을 동원해 요구하지는 않았습니다.
그렇다면 왜 수학은 이와 다른 특별한 지위를 가져야 할까요? 여기에 대해서는 조금 더 설명이 필요해 보입니다.
수학계는 사회의 공공재인 지식을 생산하는 학문 공동체입니다. 만약 기존 수학계의 관행을 보호해야 하는 이유가 단지 수학자들의 직업적 이해관계 때문이라면, 바둑기사나 택시기사와 본질적으로 다르다고 보기는 어렵습니다. 그러나 수학계가 장기간 축적해온 지식과 연구 역량이 다른 과학·기술 분야가 의존하는 공공적 지식 인프라라면 이야기가 달라질 수 있습니다. 이 경우 문제는 특정 직업집단의 보호가 아니라 사회 전체의 지식 생산능력에 관한 문제가 됩니다.
그렇다면 사회의 공통 자산으로서 수학 공동체의 효용은 무엇일까요? 이번 논의와 관련해서는 세 가지로 나누어 보는 것이 유용해 보입니다.
- 다른 분야와 사회 전체에 유용한 수학적 난제 해결 능력
- 연구 의제 설정
- 교육을 통한 학문 공동체의 재생산
각각에 대해 AI가 어떤 영향을 미칠지, 그리고 AI 기술의 발전으로 수학 공동체가 가진 고유한 가치가 실제로 침해받는지를 생각해볼 수 있습니다.
1. 수학적 난제 해결 능력
수학적 난제 해결 능력은 앞으로도 큰 사회적 가치를 가질 수 있습니다. 다만 AI의 성장이 매우 가파른 현재 상황을 고려하면, 이 능력이 앞으로도 인간 수학 공동체만의 고유한 가치로 남을 것이라는 전망의 기반은 그리 단단해 보이지 않습니다. 따라서 여기서는 2와 3에 좀 더 집중해보겠습니다.
2. 연구 의제 설정
우선 앞으로 상당 기간 AI가 연구 의제 설정에서 큰 역할을 하지 못한다고 가정해보겠습니다. 여전히 “AI에게 어떤 문제를 풀게 할 것인가”를 정하는 것은 인간의 역할이라고 보는 것입니다. 그렇다면 공공 자산으로서의 가치를 논하는 맥락에서는 무엇이 의미 있는 연구 주제 설정인지 생각해봐야 합니다.
수학자들만 관심을 가지는 순수수학의 주제는 이 맥락에서는 상대적으로 우선순위가 떨어질 수 있습니다. 오히려 여러 응용 분야에서 반복적으로 나타나는 문제들의 공통점을 찾아내고, 이를 추상화하여 수학적 연구 의제로 만드는 일이 더 직접적인 사회적 의미를 가질 것입니다.
저는 이 연구 의제 설정을 다시 두 부분으로 나눌 수 있다고 생각합니다.
2a. 어떤 현실 문제가 중요한지를 고르는 것
2b. 그 문제를 어떤 수학적 문제로 만들지를 결정하는 것
2a. 어떤 현실 문제가 중요한지를 고르는 것
이 역할은 상당 부분 도메인 전문가가 담당합니다. 유체역학자가 유체의 문제를 발견하고, 통신공학자가 신호처리의 병목을 발견하며, 물리학자가 물리계에서 이상한 현상을 발견하고, 컴퓨터과학자가 새로운 계산 문제를 만들어냅니다. Navier-Stokes 문제 역시 “수학자가 순수하게 재미있어서 만들어낸 문제”라기보다, 유체역학이라는 현실의 이론에서 출발한 PDE가 중요한 수학적 난제로 발전한 사례에 가깝습니다.
즉 사회적으로 중요한 현실 문제를 발견하는 역할은 애초부터 상당 부분 수학 공동체의 독점적인 역할이 아니었습니다.
2b. 그것을 어떤 수학적 문제로 만들지를 결정하는 것
여기서는 수학자의 역할이 컸습니다. 수학자는 현업의 문제 하나를 그대로 해결하는 데 그치지 않고,
“이 문제는 사실 특정 PDE class의 regularity 문제다.”
와 같은 방식으로 재사용 가능한 abstraction으로 바꿉니다.
도메인 전문가가 찾아낸 현실의 문제 속에서 숨겨진 수학적 구조를 찾아내고, 이를 다른 문제에도 적용할 수 있는 일반적인 형태로 추상화하는 역할을 전통적으로 수학자가 수행해왔다고 볼 수 있습니다.
다만 저는 2b가 2a보다 AI로 대체되기 쉬운 영역이라고 생각합니다. 2b는 현재 문제가 되는 현상과 유사한 수학적 이론을 탐색하고, 어떤 세부사항은 무시해도 되는지 판단하고, 여러 형태의 정식화에 대해 피드백을 주고받으면서 문제를 개선하는 과정입니다. 상당히 엔지니어링적인 반복 과정과 유사한 면이 있습니다.
따라서 장기적으로는 domain expert + AI 의 조합이 기존 수학 공동체가 수행하던 이 역할의 상당 부분을 대체할 가능성이 있다고 봅니다.
3. 교육을 통한 학문 공동체의 재생산
이 부분은 아마 타오의 글에서 가장 약한 고리라고 생각합니다. 기존 수학자들이 난제 풀이를 통해 다음 세대의 수학자를 양성하는 전통을 발전시켜온 것은 사실입니다. 하지만 그것은 당시 존재하던 사회적·기술적 환경에 맞추어 최적화된 교육 수단이지, 불변적인 무엇인가는 아닙니다.
AI로 인해 기존의 문제 풀이 방식이 더 이상 적절한 훈련 수단이 되지 않는다면, 현시대의 기술 변화에 맞추어 학문 공동체를 재생산할 새로운 방법을 찾을 책임은 기본적으로 그 학문 공동체에 있다고 생각합니다. 바둑기사와 체스기사들이 AI의 등장 이후 자신들의 학습체계를 정비한 것과 비슷합니다. 기존 정석과 인간 분석만으로 훈련하던 방식이 더 이상 최적이 아니게 되자, 기사들은 AI를 이용해 새로운 정석을 학습하고 기존의 훈련 방식을 수정했습니다.
수학자들도 마찬가지로 새로운 답을 찾을 수 있을 것이라고 생각합니다.
결론
1, 2, 3을 종합해보면, 인간 수학 공동체가 사회의 공통 자산으로서 가지고 있던 고유한 가치 가운데 상당 부분은 앞으로 AI에 의해 약화되거나 대체될 가능성이 있습니다. 수학계가 사회적 개입을 요구할 만큼 특별한 보호를 받을 이유가 있다면, 그것은 단순히 기존 연구 관행이나 수학자라는 직업을 보존해야 하기 때문이어서는 부족합니다. AI 시대에도 인간 수학 공동체가 사회 전체에 제공하는, 다른 방식으로는 쉽게 대체할 수 없는 공공적 가치가 무엇인지를 조금 더 구체적으로 설명할 필요가 있어 보입니다.