2026년 9월 8일 OpenAI는 Navier-Stokes 방정식이 유한 시간 안에 무너지는 경우를 구성했다고 발표했습니다. Navier-Stokes 방정식은 유체의 흐름을 기술하는 편미분방정식이고, 이 문제는 Clay Mathematics Institute가 2000년에 내건 7개의 밀레니엄 문제 가운데 하나입니다. 상금은 문제당 $100만이며, 지금까지 공식적으로 해결된 밀레니엄 문제는 Poincaré 추측 하나뿐이었습니다. OpenAI는 분석 논문과 함께 린(증명의 논리적 오류를 기계가 확인하는 형식 검증 도구)으로 형식화한 증명을 공개했고, 1만 개의 자동화된 AI agent를 동원했다고 밝혔습니다.
여기서 중요한 것은 “AI가 난제를 풀었다”는 요약이 아니라, 어떤 조건을 만족하는 반례를 제시했는지입니다. 밀레니엄 문제는 결론보다 그 문제가 요구하는 정확한 명제가 무엇인지가 핵심입니다. Clay Mathematics Institute가 공개한 공식 문제 설명을 직접 확인해야 판단할 수 있습니다.
Navier-Stokes 방정식은 무엇을 기술하는가
유체의 운동은 당구공이 부딪히는 것처럼 단순하지 않습니다. 공 하나하나를 셀 수 없기 때문에 속도를 위치와 시간의 연속 함수로 다룹니다. 속도장 u는 3차원 공간 좌표 x와 시간 t에 따라 달라지는 벡터장입니다. Navier-Stokes 방정식은 뉴턴의 제2법칙, 즉 힘은 질량 곱하기 가속도라는 관계를 연속체에 맞게 다시 쓴 것입니다.
방정식의 왼쪽은 유체 덩어리가 받는 가속도를 나타냅니다. 시간에 따른 국소 변화뿐 아니라, 유체 덩어리가 이미 다른 속도를 가진 지역으로 이동하면서 생기는 이류 가속 항까지 포함합니다. 다변수 연쇄법칙을 적용해야 이 항이 나옵니다. 질량 밀도를 1로 정규화하면 이 왼쪽 항이 곧 질량 곱하기 가속도가 됩니다.
오른쪽은 유체 덩어리에 작용하는 힘의 합입니다. 첫째는 운동 점성 계수와 속도의 벡터 라플라시안을 곱한 항으로, 유체 내부의 점성 확산을 나타냅니다. 둘째는 압력의 음의 기울기로, 압력 차이가 만드는 힘입니다. 셋째는 외부에서 가해지는 힘입니다. 여기에 더해 발산이 0이라는 조건이 붙는데, 이는 유체가 압축되지 않는다는 뜻입니다.
▲ 유체 덩어리에 작용하는 힘
Clay Mathematics Institute가 요구한 조건: 유한 시간 붕괴
Clay Mathematics Institute의 설명에는 여러 진술이 있고, 그중 붕괴를 요구하는 진술이 있습니다. 요구 사항은 이렇습니다. 매끄럽고 발산이 0인 초기 조건과, 운동 에너지가 유한한 매끄러운 외부 힘을 잡아서 유한 시간 안에 특이점이 생기는 경우를 찾아야 합니다. 즉 매끄러운 해가 모든 시간에 걸쳐 존재하지는 않는다는 것을 보이는 반례를 제시하는 것입니다.
특이점, 또는 폭발은 속도장이 무한히 커지는 순간을 말합니다. 물리적으로는 이상해 보이지만 수학적으로는 모순이 아닙니다. 속도가 커지는 것보다 그 속도가 몰려 있는 영역이 더 빠르게 줄어들기 때문입니다. 회전하는 핵의 부피가 급격히 수축하므로, 전체 공간에 걸친 총 운동 에너지는 모든 시점에서 유한하게 유지됩니다. 붕괴 시점은 t=1로 두고, 남은 시간을 나타내는 값으로 1에서 t를 뺀 값을 씁니다.
홍보용 이미지와 논문 속 그림은 다릅니다
발표 직후 소용돌이 모양의 이미지가 널리 퍼졌습니다. 하지만 그 이미지는 대중 홍보를 위해 따로 만든 것이고 실제 증명에는 등장하지 않습니다. 논문의 첫 번째 그림은 훨씬 다른 도식을 보여 줍니다. 유체가 평면상의 나선을 따라 안쪽으로 감기면서 위아래 반대 방향으로 축을 따라 늘어나는 모습입니다. 논문 저자들은 도식의 세로 높이를 의도적으로 과장했다고 밝혔습니다. 가로세로 비율 변화를 결정하는 매개변수는 1/100보다도 작아서, 실제 핵은 그림보다 훨씬 납작하고 작게 수축합니다.
핵의 기하 구조를 직관적으로 확인하려고 3차원 흐름을 시각화해 보면, 남은 시간이 0.3 정도일 때 시작해 0에 가까워질수록 각속도가 초당 수천 라디안을 넘어서고 구조 전체가 원점 한 점으로 무너집니다. 빠른 흐름선과 느린 흐름선의 색을 달리해 보면 위와 아래의 축 방향 유출이 비대칭이라는 점도 드러납니다. 다만 이는 이해를 돕기 위한 근사적인 그림이고 엄밀한 유체 시뮬레이션은 아닙니다.
▲ 과장된 소용돌이와 납작한 핵 구조
증명의 핵심 장치: 매끄러운 외부 힘 만들기
증명에서 까다로운 부분은 외부 힘이 매끄러워야 한다는 조건입니다. 외부 힘을 먼저 정하고 해를 구하는 대신, 원하는 속도장을 먼저 정의하고 Navier-Stokes 방정식이 요구하는 나머지 힘을 역산하는 전략을 씁니다. 문제는 임의로 잡은 특이점 속도장에서는 외부 힘이 발산하거나 매끄럽지 않은 요철을 갖게 된다는 점입니다.
OpenAI는 논문 6쪽에서 반경과 높이, 시간에 따라 국소화된 진동형 속도 펄스열을 설계해 이 문제를 해결합니다. 펄스들을 정교하게 조율해 매끄럽지 않은 비선형 잔차 항들이 서로 완전히 상쇄되도록 만든 것입니다. 그 결과 외부 힘은 매끄럽고 유계로 유지되면서 특이점이 만들어집니다.
같은 날 나온 인간 수학자들의 결과와 논란
발표 당일 두 수학자가 매끄러운 외부 힘 아래에서 3차원 비압축성 Euler 방정식의 유한 시간 붕괴를 보이는 사전 인쇄본 세 편을 공개했습니다. Euler 방정식은 점성이 0인 Navier-Stokes 방정식이므로, 이들은 점성까지 있는 경우에도 거의 도달해 있었습니다. 두 사람은 Lean 코드 작성을 위해 ChatGPT의 Codex 도구를 사용한 것으로 알려졌습니다. 여기서 논란이 생겼습니다. 이들이 제출한 코드가 OpenAI의 학습 데이터나 모니터링 시스템에 들어간 것이 아니냐는 추측이 나왔고, 한 사람이 경쟁 AI 기업인 Anthropic에 재직 중이라는 점 때문에 OpenAI가 인간 연구진을 앞지르려 서둘렀다는 의혹까지 제기됐습니다. 이 부분은 확인된 사실이 아니라 제기된 의혹이라는 점을 구분해서 봐야 합니다.
1,300억 token과 $1,000만에서 $4,000만
규모도 눈에 띕니다. 1만 개의 자동화된 AI agent를 동시에 돌려 270만 개의 메시지를 주고받았고, 1,300억 개의 출력 token을 생성했습니다. 커뮤니티 계산으로는 API 기준 $1,000만에서 $4,000만의 컴퓨팅 비용이 들었을 것으로 추정됩니다. 상금 $100만를 크게 넘는 금액입니다.
Clay Mathematics Institute는 상을 주기 전에 2년의 검증 기간과 학술지 게재를 요구합니다. 인간 수학자와 Lean 커뮤니티의 독립 검증이 아직 끝나지 않았다는 점도 함께 기억해야 합니다.
물리적으로는 일어날 수 없는 붕괴
유체역학 쪽에서는 이 결과가 실제 액체에서 일어날 수 있는 일인지 따졌습니다. 결론은 사실상 불가능하다는 쪽입니다. 그런 극단적 속도에 도달하기 전에 실제 액체는 끓어서 기체로 변합니다. Navier-Stokes 밀레니엄 문제는 응용 공학이 아니라 순수 해석학의 문제입니다.
이 지점에서 오래된 변론이 다시 나옵니다. 수학자들은 이론 연구가 언젠가 실용적 이익을 낳을 수 있다는 약속으로 연구비를 요청해 왔습니다. 그런데 사회가 최종 결과만을 가치 있게 여긴다면 산업은 답으로 직행하는 AI식 강행 돌파를 선호하게 됩니다. 직관과 우연한 발견, 교육이 밀려날 수 있습니다.
답을 원하는가, 과정을 원하는가
수학자들이 AI 도구 자체를 배척하는 것은 아닙니다. DeepMind가 4x4 복소 행렬 곱셈을 더 빠르게 하는 알고리즘을 찾아낸 사례처럼 연구를 돕는 도구는 환영받아 왔습니다. 불만의 핵심은 설명 가능한 개념적 돌파 없이 한 번에 튀어나온 반례입니다. 만약 AI가 원적 문제는 불가능하다거나 5차 방정식은 근호로 풀 수 없다는 결론만 던졌다면, 초월수의 발견이나 갈루아 이론 같은 중간 성과는 나오지 않았을지도 모릅니다. Terence Tao의 웹사이트에는 한 수학 커뮤니케이터가 이 인식론적 쟁점을 다룬 분석을 올리기도 했습니다.
앞으로 신경망과 Lean 같은 형식 검증 도구의 결합은 표준 도구가 될 것으로 보입니다. 동시에 수학이 실리콘밸리식 기업 경쟁으로 변하는 것에 대한 우려도 함께 커지고 있습니다. 아직 공개되지 않은 수학적 성과를 기업의 전략 자산처럼 쌓아 두는 상황이 올 수 있다는 전망도 나옵니다.
지금 확인해야 할 것
정리하면 이렇습니다. OpenAI의 구성은 밀레니엄 문제가 요구하는 조건, 즉 매끄러운 외부 힘과 유한한 운동 에너지 아래에서 유한 시간 붕괴를 보이는 반례를 제시한 것으로 보입니다. 동시에 이 결과는 물리적으로는 실현 불가능하고 독립 검증은 끝나지 않았으며, 같은 날 나온 인간 수학자들의 결과와 코드 활용을 둘러싼 논란도 정리되지 않았습니다.
독자가 할 일은 분명합니다. 첫째, Clay Mathematics Institute의 공식 문제 설명을 직접 읽고 어떤 명제가 요구되는지 확인합니다. 둘째, 화제가 된 홍보용 이미지와 논문에 실린 도식을 구분해서 봅니다. 셋째, Lean 형식 검증과 동료 검토가 어디까지 진행됐는지 추적합니다. 해결됐다는 문장과 검증이 끝났다는 문장은 전혀 다른 이야기입니다.