오픈AI, 나비에–스토크스 문제 해법 발표

오픈AI(OpenAI)는 내부 AI 시스템이 나비에–스토크스 방정식의 ‘존재성과 매끄러움’ 문제를 풀었다고 발표했다. 매끄럽게 시작한 3차원 유체의 흐름에서도 유한한 시간 안에 특이점이 생길 수 있다는 증명과 이를 린(Lean, 수학 증명을 컴퓨터로 검증하는 도구)으로 형식화한 결과를 함께 공개했다는 설명이다. 약 90년간 풀리지 않은 질문에 대한 답인 동시에, 어떤 모델과 계산 자원이 이 결과를 만들었는지, 다른 연구팀의 작업과 어떻게 겹쳤는지를 둘러싼 논쟁이기도 하다.

핵심 요약

  • 오픈AI는 매끄러운 힘을 받는 3차원 유체에서 속도가 유한한 시간 안에 무한히 커질 수 있음을 보였다고 주장하며, 밀레니엄 문제의 공식 명제 C와 D를 해결했다고 밝혔다.
  • 해석적 증명과 린 형식화를 함께 공개한 것은 결과뿐 아니라 증명을 검토할 수 있는 형태까지 내놓았다는 의미다.
  • 내부 모델을 쓰는 에이전트 약 1만 개가 참여한 집단에서 해법이 나왔으며, 이는 한 번의 질문보다 대규모 병렬 탐색에 가까운 작업이었다.
  • 오픈AI는 별도로 외력이 없는 오일러 방정식 문제도 풀었다고 밝혔고, 다른 연구팀이 해결한 외력이 있는 오일러 문제와는 구분했다.
  • 회사는 상금을 청구하지 않겠다고 했지만, 연구 우선권과 사용자 데이터의 영향 가능성은 토론의 중심에 남았다.

매끄러운 흐름은 끝까지 매끄러운가

나비에–스토크스 방정식은 유체를 분자 하나하나가 아니라 연속적인 물질로 보고 움직임을 기술한다. 바탕에는 힘과 가속도의 관계를 나타내는 뉴턴의 운동 법칙이 있다. 항공기 설계, 일기예보, 혈류 연구에 쓰이는 이 방정식을 두고도 근본적인 질문 하나는 오래 열려 있었다. 처음에 매끄러웠던 3차원 유체의 움직임이 시간이 지나도 반드시 매끄럽게 유지되는가 하는 것이다.

여기서 특이점은 유체의 속도가 유한한 시간 안에 한계 없이 커지는 상황을 뜻한다. 점성(유체의 움직임을 완만하게 만드는 성질)이 흐름을 누그러뜨리는데도 그런 일이 일어날 수 있는지가 핵심이다. 실제 유체가 무한한 속도로 움직일 수는 없으므로, 특이점이 생긴다면 유체를 연속체로 다루는 방정식의 기술 방식에도 한계가 드러난다. 그 이후의 움직임을 다루려면 개별 입자의 행동까지 추적해야 한다는 것이 오픈AI의 설명이다.

이 방정식의 이름은 19세기 연구자인 클로드루이 나비에(Claude-Louis Navier)와 조지 가브리엘 스토크스(George Gabriel Stokes)에서 왔다. 장 르레(Jean Leray)는 1934년 일반화된 의미에서 해가 존재함을 증명했지만, 그 해가 언제나 매끄러운지는 남았다. 클레이 수학연구소(Clay Mathematics Institute)는 2000년 이를 일곱 개 밀레니엄 문제 가운데 하나로 선정했다. 오픈AI가 답했다고 주장하는 것은 바로 이 미해결 지점이다.

정지한 유체에서 나타난 특이점

오픈AI는 처음에는 정지해 있던 매끄러운 유체가 유한한 시간 뒤 특이점에 이르는 해를 만들었다고 밝혔다. 유체에는 매끄러운 외력이 가해지며, 정지 상태부터 특이점이 형성될 때까지 에너지는 유한하게 유지된다는 설명이다. 회사는 이 결과가 밀레니엄 문제의 공식 서술에 있는 명제 C와 D를 성립시킨다고 주장한다. 해석적 증명문뿐 아니라 린으로 형식화한 증명도 공개했다고 했다.

해의 중심에는 안쪽으로 말려 들어가며 길게 늘어나는 소용돌이가 있다. 오픈AI는 중심 영역이 가늘어지고 작아지는 동안 속도가 커지지만, 전체 에너지는 유한하게 남는다고 설명한다. 단순히 처음부터 무한한 힘을 가해 속도를 키운 것이 아니라 유체의 움직임 자체가 파국을 만들어야 한다는 점이 관건이었다. 그래서 이 구성에서는 외력이 끝까지 매끄러워야 한다.

수학적으로는 가속도, 압력의 변화, 운동량 전달, 점성에 해당하는 항들이 각각 커지면서도 정교하게 상쇄돼야 한다. 그래야 유체 속도가 한계 없이 증가하는 상황과 매끄러운 외력이 동시에 성립한다. 오픈AI가 제시한 소용돌이는 바로 이 균형을 구현하는 해법이다. 결과를 판단할 때도 특이점이라는 결론만큼이나, 그 결론에 이르는 동안 문제의 조건이 유지되는지가 중요하다.

소문에서 시작한 병렬 탐색

오픈AI는 8월 28일부터 수학을 포함한 자체 평가에서 높은 성능을 보인 새 내부 모델을 훈련해 왔다고 밝혔다. 회사 설명으로는 이 모델의 역량이 GPT-6 아스트라(GPT-6 Astra)보다 상당히 높으며, 발표 당시에도 훈련이 계속되고 있었다. 9월 1일 밀레니엄 문제 두 개가 해결됐다는 소문을 들은 뒤에는 아직 열려 있는 밀레니엄 문제들과 다른 중요 문제들을 대상으로 모델을 평가하기 시작했다. 소문과 내부 모델의 성능 변화가 탐색을 시작한 계기였다는 것이다.

실험에는 내부 모델로 구동되는 에이전트(AI가 도구를 이용해 맡은 작업을 수행하는 단위) 여러 집단이 투입됐다. 에이전트는 저장된 인터넷 자료를 읽거나 코드를 실행할 수 있었고, 같은 집단 안에서는 서로 소통할 수 있었다. 나비에–스토크스 문제의 해법을 낸 집단에는 동시에 작동한 에이전트가 약 1만 개 있었다. 오픈AI는 이 평가 과정에도 감시와 격리를 포함한 자체 안전조치를 유지했다고 밝혔다.

집단마다 같은 문제를 똑같이 던진 것도 아니었다. 오픈AI는 성립을 증명하는 방향의 A·B와 반례를 만드는 방향의 C·D를 서로 다른 집단에 제시했다. 밀레니엄 문제 전체뿐 아니라 상대적으로 쉬운 문제도 함께 맡겼다. 이는 하나의 풀이를 길게 밀어붙이기보다, 여러 방향을 병렬로 시험하며 가능성이 높은 길을 찾는 방식이었다.

오일러 문제를 발판으로 모은 1만 개의 에이전트

그중 하나는 나비에–스토크스 방정식에서 점성 항을 뺀 극한에 해당하는 오일러 방정식의 정칙성 문제였다. 정칙성은 해가 매끄러운 상태를 유지하는지를 가리킨다. 오픈AI는 약 100개 에이전트가 약 50시간 협력해 외력이 없는 오일러 방정식에서 정칙성이 깨지는 결과를 냈다고 밝혔다. 이 해법을 본 뒤 나비에–스토크스 문제가 가장 유망하다고 판단해 다른 밀레니엄 문제에 투입한 자원을 옮겼다.

에이전트들은 앞서 얻은 오일러 결과를 전달받았고, 탐색 도중 더 훈련된 내부 모델을 사용할 수 있게 되자 새 모델로 갱신됐다. 오픈AI는 집단별로 다양한 접근법을 시도하게 한 다음, 코덱스(Codex)로 유용한 중간 결과를 모아 다른 집단의 후속 작업에 반영했다. 최종 해법을 낸 집단도 이런 과정을 거쳤다. 앞선 시도의 결과와 집단 간 교류가 문제를 좁혀 가는 데 쓰인 셈이다.

회사는 첫 에이전트를 가동한 지 약 88시간 뒤인 9월 5일 나비에–스토크스 해법에 도달했다고 밝혔다. GPT-6 아스트라를 통한 린 형식화와 검증에는 17시간이 더 걸렸다. 시도한 모든 문제를 합치면 에이전트들은 메시지 490만 건을 주고받고 출력 토큰 약 3,000억 개를 사용했다. 나비에–스토크스 문제에 해당하는 수치만도 메시지 270만 건과 출력 토큰 약 1,300억 개다.

겹친 연구, 다른 오일러 결과

오픈AI가 처음 들은 소문은 뒤에 레벤트 알푀게(Levent Alpöge)와 뉴욕대 수학 교수 트리스탄 벅마스터(Tristan Buckmaster)의 연구와 관련된 것으로 파악됐다. 회사는 9월 6일 자체 프로젝트와 린 검증을 마친 뒤, 두 사람도 나비에–스토크스 문제를 풀었다고 생각해 동시 발표를 제안했다고 설명한다. 대화 과정에서 확인한 상대의 결과는 나비에–스토크스가 아니라 외력이 있는 오일러 방정식에 관한 것이었다. 오픈AI는 두 연구자의 선행 성과를 인정하고 축하한다고 밝혔다.

두 오일러 결과는 적용한 조건이 다르다. 알푀게와 벅마스터의 결과에는 외력이 있고, 오픈AI 시스템이 만든 결과에는 외력이 없다. 오픈AI는 상대의 연구가 공개되기 전까지 연구자와 에이전트 모두 그 내용을 보지 못했으며, 문제를 푸는 데 특정 사용자의 데이터에 접근하지 않았다고 밝혔다. 또 조사 결과 벅마스터가 발표 전 두 달 동안 코덱스에 입력한 내용은 훈련을 포함해 어떤 방식으로도 해당 시스템에 영향을 줄 수 없었다고 설명했다.

이 대목은 발표 뒤인 9월 10일 조사 결과를 반영해 수정됐다. 서로 가까운 시기에 나온 연구 성과를 어떻게 구분할지뿐 아니라, 연구자가 AI 도구에 입력한 내용이 모델 개발과 어떤 관계에 있는지도 쟁점이 된 배경이다. 오픈AI는 이번 결과에 사용한 내부 모델이 사전 훈련된 모델을 바탕으로 대규모 강화학습을 거쳐 개발됐다고 밝혔다. 따라서 해법의 내용과 함께 작업 경로에 관한 설명도 검토 대상에 올랐다.

상금보다 앞세운 모델의 진전

오픈AI는 이번 결과로 밀레니엄 문제의 상금을 청구할 뜻이 없다고 밝혔다. 대신 발표 목적을 AI 모델의 상당한 진전을 알리는 데 둔다고 설명했다. 회사는 이 성과에 수학자와 AI 연구자의 작업이 함께 들어갔으며, 이를 개발의 종착점이 아닌 현재 진행 상황을 보여주는 장면으로 본다. 새 내부 모델의 성능을 언급한 것도 앞으로 나올 모델에서 무엇을 예상해야 하는지 알리려는 취지라고 했다.

회사가 강조한 또 다른 과제는 모델을 이해하고 이후의 역량 향상을 어떤 속도로 추진할지 판단하는 일이다. 오픈AI는 사람이 방향을 조정할 수 있고 책임을 물을 수 있는 AI 시스템을 목표로 제시했다. 동시에 이번 발표는 한 시스템의 증명 결과와 대규모 에이전트 작업을 같은 이야기 안에 놓았다. 수학적 주장의 검토와 그 주장을 만들어 낸 과정에 대한 평가는 함께 이어질 수밖에 없다.

커뮤니티 의견

한 사용자는 논란에 가려진 핵심이 새 내부 모델의 성능 향상이라고 봤다. 훈련을 시작한 지 2주가 채 안 된 모델이 아스트라보다 수학에서 두 배 넘게 뛰어나다는 것이 자신의 해석이라며 놀라움을 표했다. 답글에서는 아스트라의 훈련 시점과 새 모델의 훈련 기간을 곧바로 비교해서는 안 된다는 지적도 나왔다.

다른 사용자는 수학 문제의 해결과 자연과학 연구를 구분했다. 수학은 사람이 문제를 정의하지만 자연과학은 실제 자연의 복잡한 현상을 탐구하므로, 계산 성능이 곧 실험을 대체하지는 못한다는 주장이다. 이에 대한 답글은 AI가 실험 속도에 묶이지 않으려면 더 적은 사례로 배우는 능력이 필요하다고 짚었고, 흥미로운 질문을 고르는 일도 남은 과제로 꼽았다.

연구 데이터에 주목한 사용자는 초기 문구로 거론된 ‘비식별화된 사용 데이터가 모델 개선에 기여했을 가능성을 배제할 수 없다’는 표현을 문제 삼았다. 다른 댓글은 사용자가 훈련에 동의했다면 몰래 정보를 빼낸 일과는 다르다고 반박했고, 서비스 약관에 공개된 사용 방식이라는 의견도 있었다. 이 논쟁은 오픈AI가 뒤에 발표문을 수정하며 벅마스터의 코덱스 입력이 해당 시스템에 영향을 줄 수 없었다고 밝힌 대목과 함께 읽혀야 한다.

또 다른 사용자는 증명과 린 형식화가 함께 나왔다는 사실 자체에 놀라움을 표시했다. 답글에서는 결과가 유지된다면 체스의 딥블루(Deep Blue)나 바둑의 알파고(AlphaGo)보다도 큰 컴퓨팅 사건이 될 수 있다는 평가가 나왔다. 반대로 AI 연구소의 역량 집중과 연구 성과를 둘러싼 신뢰 문제를 먼저 걱정하는 반응도 뒤따랐다.

동시기 연구를 둘러싼 행동을 비판하는 의견도 있었다. 한 사용자는 다른 연구팀의 관점에서 이 일을 살펴봐야 한다며, 오픈AI 관계자들의 행보에 대한 비판을 소개했다. 또 다른 사용자는 큰 자본과 계산 자원을 운영하는 연구진을 신뢰하기 어렵다고 했다. 수학적 결과에 대한 감탄과 연구 과정에 대한 평가는 별개라는 시각이다.

탐색 과정을 짚은 사용자는 여러 밀레니엄 문제를 동시에 시험하다가 외력 없는 오일러 문제를 풀고, 그 결과를 바탕으로 나비에–스토크스에 자원을 집중한 순서를 높이 평가했다. 특히 약 100개 에이전트가 참여한 앞선 결과에서 약 1만 개가 참여한 최종 작업으로 이어진 점을 강조했다. 답글은 다른 연구팀이 먼저 문제에 매달려 있었다는 점을 들어, 빠른 성과만으로 이 사건을 축하하기는 어렵다고 맞섰다.

한 사용자는 오랫동안 풀리지 않은 밀레니엄 문제를 해결했다는 발표가 AI의 새로운 수학적 창의성을 보여준다고 주장했다. 반론은 상금만으로 연구자의 시간과 기회비용을 설명할 수 없다고 지적했다. 또 다른 의견은 오래도록 생산적인 연구를 이끌어 온 문제를 모델 성능을 홍보하는 소재로만 소비해서는 안 되며, 다음 세대의 문제와 연구자를 키우는 일도 중요하다고 봤다.

핵심 통찰

이번 발표가 바꾸는 것은 AI가 어려운 문제를 ‘풀 수 있는가’라는 기대만이 아니다. 오일러 문제의 중간 결과를 공유하고 에이전트 약 1만 개를 병렬로 움직인 과정은 수학 연구의 탐색 방식까지 달라질 수 있음을 보여준다. 이제 지켜볼 것은 공개된 증명이 수학계의 면밀한 검토를 거쳐 받아들여지는지, 그리고 연구자의 입력 데이터와 동시기 성과를 둘러싼 설명이 신뢰를 얻는지다. 성과가 클수록 검증 가능성과 연구 과정의 투명성도 같은 무게로 요구된다.


원본: On the Navier–Stokes Millennium Prize Problem

토론: Hacker News