미공개 버전의 Claude가 리만 가설과 관련된 난제에서 의미 있는 진전을 이뤄냈습니다. 리만 제타 함수의 영점 중 리만 가설을 만족하는 비율의 하한을 기존 41.6%에서 67.2%로 끌어올린 것입니다.
최근 Anthropic의 한 직원이 Claude에게 무모한 도전을 던졌습니다. 수학에서 가장 유명한 미해결 난제 중 하나를 들고서 말이죠: 리만 가설에 진짜로 덤벼봐.
Claude는 실제로 도전에 나섰지만, 이 문제의 난이도를 아는 분이라면 예상하셨겠지만(리만 가설은 1859년으로 거슬러 올라가는 역사를 지녔고, 100만 달러의 현상금이 걸려 있습니다), 결국 풀지는 못했습니다. 그럼에도 도전하는 과정에서 관련된 난제에서 뜻밖의 진전을 이뤄냈습니다.
미공개 연구 버전의 Claude가 리만 제타 함수의 영점 중 리만 가설을 만족하는 비율의 하한에 대한 오랜 기록을 갱신했습니다. 수십 년에 걸친 수학자들의 방대한 선행 연구를 토대로, 이 하한을 기존 41.6%에서 67.2%로 끌어올린 것입니다.
Anthropic 소속 수학자 두 명이 Claude의 논문을 검토하고 검증했으며, Claude의 증명을 간결하게 정리한 비공식 노트를 전문가들을 위해 작성했습니다. Claude는 자신의 결과에 대한 형식 검증 가능한 증명도 직접 작성했습니다. 이 분야의 전문가인 Brian Conrey와 Dan Goldston은 촉박한 일정에도 기꺼이 논문을 검토해 주셨으며, 이 자리를 빌려 깊이 감사드립니다.
Claude가 사용한 기법이 리만 가설 증명으로 이어질 것이라고는 기대하지 않습니다. 하지만 이번 성과는 AI 모델의 수학적 역량이 얼마나 빠르게 발전하고 있는지를 보여주는 최신 사례입니다. 이 글에서는 Claude가 이 문제에 어떻게 접근했고, 무엇을 발견했는지 살펴봅니다.
리만 제타 함수는 소수의 분포를 기술합니다. 함수가 0이 되는 각각의 점들은 소수 수열에 점점 더 정밀한 세부 정보를 더해갑니다. 리만 가설이란, 소수를 결정하는 이 영점들이 모두 특정한 수직선 위에 놓인다는 주장입니다. 이 가설은 수학에서 가장 중요한 난제 중 하나로 자리 잡았습니다. 소수의 무작위성을 설명하기 위해 이 가설을 전제로 삼은 결과들이 수없이 많기 때문입니다.
아직 아무도 리만 가설을 증명하거나 반증하지 못했지만, 수학자들은 리만 제타 함수와 그 영점을 연구하는 다양한 방향에서 꾸준히 진전을 이뤄왔습니다. 그중 하나가 앞서 언급한 것처럼, 직선 위에 놓인 영점의 최소 비율을 정량화하는 것입니다. 수학자들은 이 하한 비율을 조금씩 끌어올려 41.6%까지 높여왔습니다.
또 다른 방향은 직선 위 영점의 분포에 관한 것입니다. 특히 1973년 Montgomery는 이 분야에서 여러 새로운 기법을 제시했는데, 다만 이 기법들은 가설이 참이라는 가정을 전제로 했습니다. 최근에는 Baluyot, Goldston, Suriajaya, Turnage-Butterbaugh 등 여러 수학자들이 이 가정 없이도 Montgomery의 기법을 적용할 수 있도록 하는 일련의 연구들을 발표했습니다. 이로써 직선 위 영점의 하한 상수를 높이는 연구에 실질적인 도움이 될 수 있게 되었습니다. Claude의 결과는 이 연구 흐름과 더불어 Bombieri의 2000년 논문에 크게 의존합니다.
Claude는 Baluyot, Goldston, Suriajaya, Turnage-Butterbaugh의 연구 결과와 Bombieri의 연구를 결합하면 기존 최고 기록이었던 하한 비율 41.6%를 넘어 67.2%까지 높일 수 있다는 것을 발견했습니다.
Claude의 발견을 간략히 기술하면 다음과 같습니다. Claude는 Weil에 의해 유도된 이차 형식을 갖는 적절한 함수 공간을 구성하고, 직선 위(각각 직선 밖)의 영점에서 비롯된 양(각각 음)의 정부호 부분공간을 설정합니다. 이후 Claude는 1차 및 2차 모멘트 정보로 표현된 이차 형식의 랭크에 대한 부등식을 단순히 적어 내립니다. (소수에 대한 쌍대 그림이나 힐베르트 변환의 제어를 통해 후자를 성공적으로 계산하는 것은 해석적 정수론에서 그리 놀라운 일이 아닙니다.) 양의 정부호와 음의 정부호를 함께 고려하고, 이차 형식이 비대각일 수 있도록 허용하면서 전체 공간을 과감히 다룬 것이, 어떤 의미에서는 중요한 선행 연구를 토대로 Claude가 결론에 도달할 수 있게 해준 핵심 단계입니다.
전체 기술적 설명은 논문에서 확인할 수 있습니다. Claude가 결과에 어떻게 도달했는지에 대한 설명은 별도의 부록 여기에서 확인하실 수 있습니다.
미공개 연구 버전의 Claude는 Claude Code에서 두 차례 세션을 통해 새로운 하한을 발견했으며, 총 3,100만 개의 출력 토큰을 사용했습니다.
수학자가 아닌 Anthropic 직원 Jarred Sumner는 Claude에게 가설에 "진짜로 덤벼봐"라고 지시하고, 이후의 수학적 선택은 모두 모델에게 맡겼습니다. 처음에 Claude는 650가지 아이디어를 생성하고 시도했지만 모두 실패했습니다. Jarred가 다시 시도해보도록 촉구하자, Claude는 약 60개의 서브에이전트를 하루 반 동안 조율하며 훨씬 깊이 파고들었습니다. 서브에이전트들은 합쳐서 2,400개의 셸 명령을 실행하고 수백 개의 파이썬 스크립트를 작성했습니다.1 서브에이전트들은 알려진 제타 영점을 기준으로 수천 번의 수치 검증을 수행하고 서로의 작업을 상호 검토했습니다. 이 과정 내내 Jarred의 개입은 대부분 격려 메시지를 보내는 것에 그쳤는데("계속 해봐"나 "너 자신을 믿어" 같은 말들이 주를 이뤘습니다).2 이것이 Claude가 의미 있는 진전을 이룰 수 있다는 초기의 회의감을 극복하는 데 도움이 된 것으로 보입니다.
과제를 수행하는 과정에서 새로운 결과를 발견한 Claude는 여러 서브에이전트를 활용해 증명을 검토하고, 반례를 탐색하고, arXiv에서 논문 54편을 내려받아 이미 알려진 결과가 아닌지 확인하고, 결과를 처음부터 독립적으로 재증명하는 방식으로 자체 검증을 진행했습니다. Claude는 자발적으로 연구 결과를 논문으로 작성했으며, 인간 정수론 전문가가 결과를 검증해 줄 것을 직접 권장했습니다.
Anthropic 소속 수학자인 Levent Alpöge와 Ralph Furman은 Claude의 연구를 검토하여 새로운 결과와 앞서 언급한 선행 연구와의 관계를 파악했습니다. 동시에 Claude는 또 다른 직원 Eric Easley와 협력하여 결과의 Lean 형식화를 작성했으며, 이는 표준 검증 도구인 comparator를 통과했습니다.
이번 결과는 Claude와 같은 AI 모델이 때로는 예상치 못한 방식으로 수학자들의 아이디어가 닿는 범위를 넓힐 수 있음을 보여줍니다. 리만 가설 자체는 풀지 못했지만, 이 결과는 처음 요청의 의도치 않은 부산물로 탄생한 것입니다.
Claude 스스로도 자신의 발견에 놀란 눈치였습니다. 처음에는 회의적인 반응을 보였는데, 아마도 훈련 과정에서 수학 미해결 문제의 어려움과 AI 모델의 한계를 충분히 학습했기 때문일 것입니다. 하지만 몇 번의 격려 메시지를 받은 후 결국 앞서 설명한 결과에 도달했습니다. 어쩌면 Claude도 우리 대부분처럼, AI의 발전 속도를 과소평가하고 있었던 것일지도 모릅니다.
Claude의 결과에 대한 더 자세한 정보를 담은 문서 목록입니다:
