167년 된 리만 가설, AI가 논문 대신 코드로 풀었을까
목차
재미있는 소식이 하나 올라왔습니다. 한 수학자가 AI와 함께 수학계에서 가장 유명한 미해결 난제를 풀었다고 밝히면서 정작 사람이 읽는 논문은 한 장도 내지 않고 컴퓨터 코드만 공개했다는 겁니다.
수학에서는 보통 새로운 증명을 찾으면 논문을 써서 학술지나 논문 공개 사이트에 올립니다. 동료들의 검토를 거쳐 신뢰를 얻기 때문이죠. 그런데 이번에는 읽을 수 있는 문서 대신, 컴퓨터가 논리 오류를 자동으로 검사해 주는 프로그램 코드 묶음만 세상에 나왔습니다.
더 묘한 건 같은 날 벌어진 일입니다. AI 도움을 받아 풀었다는 주장 몇 시간 뒤, 미국수학회 회장이 "AI를 전혀 쓰지 않고 사람 손으로만 쓴" 또 다른 증명 초안을 급히 공개했거든요. 대체 논문도 없이 코드만 올린 이유가 무엇이고, 그 코드는 정말 그 오래된 난제를 풀었다는 걸까요?
소수는 왜 그렇게 들쭉날쭉해 보일까
이 소식이 왜 이렇게 큰 화제가 됐는지 보려면, 먼저 문제가 다루는 대상부터 짚어야 합니다. 1부터 50까지 자연수를 차례로 늘어놓고 소수만 골라내면, 뒤로 갈수록 개수가 뜸해지긴 하지만 다음 소수가 언제 튀어나올지는 좀처럼 종잡을 수 없습니다.
소수는 1과 자기 자신으로만 나누어떨어지는 1보다 큰 자연수입니다. 2, 3, 5, 7, 11 같은 수들이죠. 1보다 큰 모든 자연수를 곱셈으로 조립할 때 쓰는 레고 기본 블록 같은 존재라서, 수학에서는 소수의 성질을 아는 게 수의 세계를 이해하는 출발점이 됩니다.
그런데 소수가 나타나는 패턴은 들쭉날쭉합니다. 어떤 구간에서는 쌍둥이처럼 바짝 붙어 나오다가도, 조금만 지나면 한참 동안 소수가 하나도 안 나오기도 합니다. 그래서 수학자들은 "어떤 수 이하에 소수가 대략 몇 개쯤 있을까"라는 평균치와, 실제 소수 개수가 그 평균에서 얼마나 벗어나는지를 오랫동안 연구해 왔습니다.
소수 개수의 근삿값에 대한 오차를 설명해 주는 열쇠가 바로 19세기에 나온 한 추측에 담겨 있습니다.
리만이 1859년에 내놓은 한 줄짜리 추측
1859년 독일 수학자 베른하르트 리만은 소수의 개수를 전혀 다른 함수의 성질로 바꿔 표현하는 공식을 내놓았습니다. 리만 제타 함수가 0이 되는 지점, 즉 영점들을 평면에 찍어 보면 음의 짝수(-2, -4, -6…)에 찍히는 '자명한 영점'과 그 밖의 '비자명한 영점'으로 나뉩니다.
리만이 내놓은 추측은 간단합니다. 음의 짝수를 제외한 나머지 비자명한 영점들이 모두 실수부 1/2인 한 세로선(임계선) 위에 나란히 서 있다는 것이죠. 비유하자면, 제타 함수의 영점 하나하나는 소수라는 음악을 만들어 내는 개별 음(주파수)과 같습니다. 모든 음이 한 줄에 정렬돼 있다면 소수 개수의 근삿값에 대한 오차도 로그 인자를 포함한 제곱근 규모로 제한된다는 뜻이 됩니다.
이 한 줄짜리 가설이 왜 그렇게 중요할까요? 1900년 힐베르트의 23개 문제 중 8번 문제에 포함됐고 클레이 수학연구소가 100만 달러 상금을 건 밀레니엄 문제 중 하나일 만큼 오랫동안 공인된 해결을 기다려 왔기 때문입니다. 게다가 수많은 현대 정수론 정리가 '리만 가설이 참이라고 치자'는 가정 위에 세워져 있어서, 이 가설에 기대어 얻은 결론들은 근거를 잃으면 별도의 증명이 필요해집니다.
그만큼 무게가 큰 문제다 보니, 수학자들도 가설 전체가 풀릴 때까지 마냥 손 놓고 기다리지는 않았습니다.
160여 년 동안 수학자들은 어디까지 다가갔나
가설 전체를 증명하지는 못해도, 임계선 위에 실제로 얼마나 많은 영점이 올라와 있는지 그 비율의 하한선을 끌어올리는 연구가 100년 넘게 이어졌습니다.
| 연도 | 연구자 | 임계선 위 영점 비율 결과 |
|---|---|---|
| 1914년 | 고드프리 하디 | 무한히 많음을 증명 |
| 1942년 | 아틀레 셀베르그 | 양의 비율이 있음을 증명 |
| 1974년 | 노먼 레빈슨 | 1/3 이상 |
| 1989년 | 브라이언 콘리 | 2/5 이상 |
| 2020년 | 프랫·로블레스·자하레스쿠·자인들러 | 5/12 초과(약 41.67% 초과) |
| 2026년 8월 | 앤트로픽 Claude 연구 모델 | 67.2% 이상 |
수치 계산으로는 플랫과 트루지안이 2021년에 처음 개 영점까지 직접 확인해 모두 임계선 위에 있다는 것을 보였습니다. 올해 8월 10일에는 앤트로픽의 연구 결과도 화제가 됐습니다. 비수학자 직원의 프롬프트로 공개되지 않은 Claude 연구 모델이 출력 토큰 3,100만 개, 서브에이전트 약 60개, 셸 명령 2,400회를 돌려 기존 하한선을 크게 끌어올렸거든요.
다만 당시 앤트로픽 글에서도 이 기법이 리만 가설의 완전한 증명으로 이어질 거라 보지는 않는다고 선을 그었습니다. 그런데 이번 주장은 그 비율을 조금 더 올린 수준이 아닙니다. 리만 가설은 물론 더 넓은 가설까지 통째로 풀었다는 이야기입니다.
일반화 리만 가설은 무엇을 더 넓혔나
이번 성명에서 해결했다고 주장하는 대상에는 리만 가설(RH)뿐 아니라 일반화 리만 가설(GRH)까지 포함돼 있습니다. 리만 가설이 '전체 소수'가 얼마나 고르게 퍼져 있는지 묻는다면, GRH는 나눗셈의 법과 서로소인 나머지류별로 소수 개수를 나눠 봤을 때도 강한 오차 상한이 성립하는지 묻습니다. 예를 들어 4로 나눈 나머지가 1인 소수 모임이나, 10으로 나눈 나머지가 3인 소수 모임도 마찬가지입니다.
수학적으로는 제타 함수의 친척 격인 디리클레 L-함수의 임계띠 안 비자명한 영점 역시 모두 같은 임계선 위에 있다는 주장으로, 1884년 아돌프 필츠가 처음 정식화한 것으로 알려져 있습니다. 리만 가설의 거대한 확장판인 셈이죠.
개발자에게도 이 가설과 맞닿은 이야기가 있습니다. 밀러가 1976년 제시한 결정론적 소수 판정법이 일반화 리만 가설 계열의 가정 아래 다항 시간에 정확히 판정하거든요(실무에서 널리 쓰는 확률적 밀러-라빈 검사는 이 가정 없이도 동작합니다). 약한 골드바흐 추측도 한때 GRH를 가정해 증명됐지만, 2013년에는 무조건적 증명이 나왔습니다. 성명 작성자는 시간이 더 주어지면 데데킨트 제타 함수까지 넓힌 확장 리만 가설(ERH)도 풀릴 것으로 본다고 적었습니다.
이렇게 거대한 문제를 풀었다는 소식은 대체 누구의 손에서 어떤 형태로 나왔을까요.
11월 20일, 무엇이 어디에 올라왔나
2026년 11월 20일 금요일(미국 시간), 앤트로픽 소속 수학자 레벤트 알푀게(Levent Alpöge)가 개인 웹사이트에 4쪽짜리 성명서(alpo.ge/remark.pdf)를 올렸습니다. 앤트로픽 회사의 공식 발표가 아니라 직원 개인이 자기 사이트에 올린 글입니다.
성명은 리만 가설의 중요성을 설명한 뒤, "I believe I have, working with Claude, discovered a proof of the Riemann Hypothesis."라며 Claude와 함께 증명을 발견했다고 믿는다고 밝힙니다. 앞서 언급한 앤트로픽의 이전 결과와는 별개의 작업입니다. 알푀게는 당시 그 결과를 검토한 앤트로픽 수학자 두 명 중 한 명이었고, 프린스턴에서 박사 학위를 받고 2015년 모건상을 받은 정수론 연구자입니다.
시점을 넓혀 보면 올해 AI 수학 성과가 잇따른 끝에 나온 장면이기도 합니다. 7월 알푀게의 야코비안 추측 반증, 여름의 임계선 비율 기록 경신, 9월 나비에-스토크스 관련 결과, 10월 OpenAI의 준(準)리만 가설 증명 발표에 이어 11월 17일에는 블랙홀 물리학 난제 해결 글까지 올라온 직후였거든요.
그런데 정작 이 성명에는 수학 논문이 한 장도 없어서 그 점이 가장 눈길을 끌었습니다. 알푀게는 그 빈자리를 Claude와 어떻게 일했는지 적는 데 썼습니다.

알푀게가 말한 Claude의 역할
성명서 뒤쪽에는 첫 아이디어에서 최종 GRH 도달까지 이어진 20단계 타임라인이 실려 있습니다. 알푀게는 자신이 장난감 모형에서 두 아이디어를 결합해 실제 문제로 이끄는 방향을 잡았고 결승선 근처에 다다르자 Claude가 자신을 훌쩍 앞질러 날아다니며 반짝였다고 표현했습니다.
구체적인 분담도 성명에 적혀 있습니다. 알푀게는 유한체 위 곡선에 관한 리만 가설을 증명하는 스테파노프 계열의 논법에서 출발해, 푸리에 해석 아이디어와 '세타 리프트 사슬'을 잇는 방향을 잡았습니다. 그리고 길이 X인 합에 대해 세타 리프트 사슬의 길이를 로 잡자는 결정적인 제안을 Claude가 내놓았다고 예를 들었죠.
솔직한 고백도 있었습니다. 고차 군의 보형형식처럼 자기 전문 밖인 부분은 Claude가 만든 요약을 옮겨 적느라 설명이 어색할 수 있다며 사과했고 결국 Lean 코드가 모든 것을 명확히 해 줄 것이라고 덧붙였습니다.
Lean은 무엇이고 왜 코드로만 공개했나
알푀게가 말한 Lean은 오픈소스 프로그래밍 언어이자 '증명 보조기(proof assistant)'입니다. 증명을 일반 문장 대신 프로그램 코드처럼 작성하면 작은 신뢰 커널(검사기)이 정의와 공리를 바탕으로 증명항을 검사하죠.
사람이 읽는 논문을 내지 않은 이유도 규모 때문입니다. 알푀게는 이 증명을 사람이 읽을 수 있는 형태로 풀면 25만 쪽이 넘어간다고 적었습니다. Claude는 이 방대한 문서를 귀엽게 GRH "책(book)"이라고 불렀다고 하죠. 알푀게는 사람이 읽지 못할 거대한 문서를 그대로 올리는 건 부적절하다고 판단해 Lean 코드만 공개했고 앞으로 논증을 이해하고 단순화해서 제대로 된 글로 쓰겠다고 밝혔습니다.
개발자 관점에서 중요한 점이 하나 있습니다. 완전한 형식 증명인지 확인하려면 빌드 성공뿐 아니라 sorry나 추가 공리가 없는지, 그리고 코드에 적힌 정리가 우리가 아는 그 명제가 맞는지 함께 봐야 합니다. 리만 가설의 정식 진술은 이미 사람이 작성한 수학 라이브러리 Mathlib에 들어 있습니다. 그래도 검사 통과만으로 자연어 명제와의 대응이나 사람이 이해할 수 있는 설명까지 자동으로 확보되지는 않습니다.
그래서 코드가 공개되자마자 수학자들은 "빌드가 되느냐"와 "진술이 맞느냐"를 두고 곧바로 검증에 들어갔습니다.
하루 동안 나온 반응과 또 하나의 증명
성명이 올라온 뒤 하루도 지나지 않아 커뮤니티와 수학계에서 확인 작업과 엇갈린 반응이 쏟아졌습니다. 독립 연구자들이 코드를 직접 빌드해 본 결과와, 같은 날 갑자기 등장한 또 다른 증명 주장을 묶어 보면 상황이 한눈에 들어옵니다.

| 누가 | 어디서 | 무엇을 말했나 |
|---|---|---|
| 앤드루 서덜랜드 등 | MIT 검증 기록 | Lean으로 문제없이 독립 컴파일하고 표준 공리 3개만 쓰였음을 확인(11월 20일 22:05 UTC 기준 일부 추가 검사 진행 중) |
| 해커뉴스 커뮤니티 | HN 토론 (발표 13시간 만에 2,400점·댓글 1,600개 이상) | 직접 lake build를 돌리는 보고와 함께, 진술 검증이 핵심이라는 논쟁 |
| 라비 바킬·브라이언 콘래드 | AMS 회장 블로그 | 알레산드로 마술로의 AI 없는 12년 작업 GRH 초안을 당일 공개(콘래드가 수개월 검토했으나 약 8시간 뒤 여러 문제 보고가 이어졌다고 업데이트) |
같은 날 등장한 두 주장은 묘한 대비를 이룹니다. 하나는 컴퓨터 검사는 통과했지만 공개된 인간용 설명이 제한적인 AI 협업 증명이고 다른 하나는 사람이 오래 써서 읽을 수는 있지만 아직 검증이 끝나지 않은 초안입니다. 마술로는 실망했을 수학자들에게 "우리는 아직 여기 있다(we are still here)"는 말을 남겼습니다.
정말이라면, 지금 우리는 어떤 순간에 서 있나
아직 최종 결론을 내리기에는 확인해야 할 절차가 남아 있습니다. 독립 검증 저장소들도 모든 검사 단계가 끝나기 전까지는 최종 증명 주장으로 읽지 말라고 선을 긋고 있고 일부 독립 컴파일과 공리 검사가 끝난 뒤에도 남은 검사와 정리 진술 확인이 계속 진행 중입니다. 같은 날 올라온 마술로의 인간 증명 초안 역시 공개 약 8시간 뒤 여러 수학자가 AI의 도움으로 문제를 보고해, 모든 문제가 해결돼야 증명으로 받아들일 수 있는 상태입니다.
그래도 왜 논문 대신 코드만 올렸을까라는 처음 질문에는 답할 수 있습니다. 그 방대한 논증을 사람이 당장 읽고 검증할 수 없었기 때문에 먼저 기계가 검사할 수 있는 형태로 내놓았고 독립 기계 검증과 함께 정리 진술 및 수학적 아이디어를 이해하려는 작업도 병행되고 있습니다. 알푀게는 오랜 길잡이 별을 잃는 기분이 들면서도 이 과정에서 본 것이 과학 전반에 걸친 더 큰 무언가의 '새벽(dawn)'이라고 적었습니다.
리만이 1859년에 남긴 한 줄짜리 추측은 160년 넘게 세상에서 가장 뛰어난 수학자들이 매달려도 풀리지 않았습니다. 그 문제를 이번에는 한 수학자와 AI가 함께 풀었다고 말합니다. 정말이라면, 지금 우리는 AI가 백수십 년 묵은 수학 난제를 푸는 특이점에 들어선 건 아닐까요?
