OpenAI, 100만 달러 수학 난제 해결 주장... 경쟁자, '표절 의혹' 제기
Decrypt2026년 9월 9일 06:384
인공지능(AI) 선도 기업인 OpenAI가 100만 달러의 상금이 걸린 유명 수학 문제, 즉 나비에-스토크스 방정식의 증명에 성공했다고 발표하면서 세간의 주목을 받고 있다. 이 소식은 AI가 난제 해결의 새로운 지평을 열었다는 기대를 안겨주었지만, 곧바로 경쟁 관계에 있는 수학자의 거센 비판에 직면하며 논란의 중심에 섰다.
OpenAI는 자체 개발한 AI 모델이 유체 운동을 기술하는 나비에-스토크스 방정식이 '폭발(blow up)'할 수 있다는 점을 증명했다고 주장했다. 이는 자연 현상에서는 발생할 수 없는 무한대의 속도를 예측하는 수학적 지점으로, 클레이 수학 연구소가 제시한 7개의 '밀레니엄 수학 문제' 중 하나로 상금이 100만 달러에 달하는 권위 있는 문제다. OpenAI에 따르면, 이 증명 과정에는 88시간 동안 약 1만 개의 AI 에이전트가 협력했으며, 결과의 정확성은 수학적 증명을 단계별로 검증하는 소프트웨어인 '린(Lean)'을 통해 확인되었다고 밝혔다.
하지만 OpenAI의 발표 직전, 뉴욕대학교(NYU)의 수학자인 트리스탄 버크마스터는 전혀 다른 이야기를 꺼내며 OpenAI의 주장에 의문을 제기했다. 버크마스터는 자신과 경쟁사인 앤트로픽(Anthropic) 소속의 수학자 레벤트 알포게가 약 1년 동안 AI 모델을 활용해 나비에-스토크스 방정식의 폭발 증명을 추구해왔으며, 지난 8월 22일 이미 해답을 얻었다고 주장했다. 그는 OpenAI의 발표 몇 시간 전에 이 사실을 공개하게 된 경위를 상세히 설명했다.
버크마스터의 주장에 따르면, 그는 9월 3일, 앤트로픽이 중요한 수학적 난제를 해결했다는 소문이 돌던 시점에 OpenAI 소속 수학자에게 이 프로젝트에 대해 알렸다. 그는 이 프로젝트가 개인적인 것이며 양사 모두와 무관함을 강조했다고 밝혔다. 그러나 단 3일 뒤인 9월 6일, 버크마스터는 통화 중에 OpenAI의 수학자인 세바스티앙 뷔벡으로부터 내부 모델이 이미 나비에-스토크스 방정식의 증명을 완료했다는 통보를 받았다고 한다. 뷔벡이 언급한 '강제 나비에-스토크스(forced Navier-Stokes)'라는 접근 방식은 버크마스터 본인이 거의 다른 누구도 시도하지 않았다고 여겼던 매우 특정한 방법이었다고 한다.
버크마스터는 뷔벡이 이후 두 가지 선택지를 제시했다고 주장했다. 첫 번째는 OpenAI가 버크마스터 팀보다 하루 뒤에 논문을 발표하는 것이고, 다른 하나는 버크마스터가 단독으로 논문을 작성하되, 앤트로픽 소속인 알포게는 경쟁사에 소속되어 있다는 이유로 이름에서 제외해야 한다는 것이었다. 버크마스터가 이에 공개적으로 나설 것이라고 답하자, 뷔벡은 “당신의 경력을 망치고 싶지 않다”고 말했다고 버크마스터는 전했다.
이러한 버크마스터의 폭로에 대해 OpenAI와 샘 알트만 CEO, 그리고 세바스티앙 뷔벡은 모두 사실이 아니라고 부인하고 있다. 뷔벡은 자신의 텍스트 메시지 기록을 공개하며, 오히려 버크마스터 팀에게 먼저 발표할 기회를 제공했다고 주장했다. 그는 버크마스터에게 “좋게 대하고 싶지 않다면, 나 역시 (좋게 대할 수 없다)”는 메시지를 보낸 것이라고 덧붙였다.
이번 사건은 AI 기술 발전의 빛과 그림자를 동시에 보여주고 있다. 한편으로는 AI가 인류 지성의 한계를 돌파하는 데 기여할 수 있다는 가능성을 시사하는 동시에, 다른 한편으로는 기술 개발 과정에서의 윤리적 문제와 지적 재산권에 대한 논쟁을 불러일으키고 있다. 100만 달러의 상금이 걸린 수학 난제 해결이라는 역사적인 순간이 될 수 있었던 OpenAI의 발표는, 이러한 논란으로 인해 그 빛을 바래고 있다.
과연 누가 먼저 나비에-스토크스 방정식의 증명에 도달했는지, 그리고 이 과정에서 어떤 윤리적 문제가 있었는지에 대한 진실 규명이 시급하다. 이는 단순히 두 수학자와 두 기업 간의 진실 공방을 넘어, AI 개발에 참여하는 모든 주체가 마땅히 고민해야 할 중요한 문제들을 제기하고 있다. 특히 AI 모델이 생성한 결과물의 저작권 및 기여도 인정 문제는 앞으로 AI 기술의 발전과 상용화에 있어 더욱 첨예한 쟁점이 될 것으로 예상된다.
밀레니엄 수학 문제는 2000년 클레이 수학 연구소가 발표한 7개의 난제로, 각 문제의 해결자에게는 100만 달러의 상금이 수여된다. 이 중 가장 유명한 것은 페르마의 마지막 정리와 함께 푸앵카레 추측이며, 나비에-스토크스 방정식은 유체 역학의 근간을 이루는 매우 중요한 문제로 여겨져 왔다. 이 방정식의 해법이 존재하며 특이점이 없다는 것을 증명하는 것은 물리학과 공학 등 광범위한 분야에 심오한 영향을 미칠 수 있다. OpenAI가 주장하는 증명이 사실이라면, 이는 AI가 과학 및 수학 분야의 난제를 해결하는 데 있어 얼마나 강력한 도구가 될 수 있는지를 보여주는 사례가 될 것이다. 그러나 이번 논란은 이러한 잠재력을 온전히 인정받기 위해서는 투명하고 공정한 과정이 필수적임을 시사한다.
현재로서는 버크마스터와 OpenAI 측의 주장이 엇갈리는 상황이며, 양측의 주장을 뒷받침할 추가적인 증거나 독립적인 검증이 필요한 상태다. 이 사건의 진실이 밝혀짐에 따라, AI 연구 개발 및 윤리에 대한 사회적 논의가 더욱 활발해질 것으로 전망된다. 궁극적으로 이 문제는 AI가 창출하는 결과물을 어떻게 평가하고 인정해야 하는지에 대한 근본적인 질문을 던지고 있다.