2026년 5월, OpenAI의 내부 모델은 1946년에 제안된 에르되시의 단위 거리 추측에 대한 반례를 발견했다고 보고되었다; 6월에는 서클 이중 커버(CDC) 정리의 완전한 증명을 발표했으며, 7월까지 총 열 가지 오랜 미해결 수학 문제를 해결했다; 9월에는 나비에-스톡스 방정식의 존재성과 매끄러움에 관한 새로운 증명을 추가로 제시했다. 같은 기간, Anthropic 팀은 페르마의 마지막 정리의 형식화 검증을 완료하고, 리만 가설의 영점 분포에 대한 상계 추정치를 개선했다. 위의 성과들은 모두 ‘보고’(reported/published) 형태로 공개되었으며, 원문에서는 학술지 게재, 전문가 심사 또는 커뮤니티의 합의를 통해 확인된 어떠한 증거도 제공하지 않았다.
이 논문은 휴리스틱 개념 모델을 제시한다: 수학 문제의 난이도는 요구되는 핵심 통찰의 수 k와 각 통찰 간에 필요한 노력 t에 따라 지수적으로 근사적으로 의존하며, 이는 표현은 W.T. 가우어스의 논평을 인용한 것이지만, 비공식적이고 수치적 조작이 불가능한 분석 도구로 명확히 규정된다. AI는 깊이 우선 탐색자로 묘사되며, 테스트 시점 계산(test-time compute)을 통해 여러 경로를 병렬로 탐색하고, 자동 검증기의 최종 검증을 *완전한 증명*에만 의존하는 특성을 보인다. 반면 인간은 너비 우선 탐색의 특성을 띠며, 시간과 사기, 직업적 위험 등에 제약을 받고, 특히 진행 신호가 부족한 ‘통찰형 문제’에서는 실패 확률이 높은 경로에 지속적으로 투입하기 어렵다.
본문에서는 OpenAI의 수학자 치메르만이 단위 거리 반례 탐구를 포기한 사례를 예로 들고 있다. 그는 수체 확장 경로에서 깊이까지 시도했으나, 해석적 불확실성과 직관 부족으로 결국 중단하고 말았다. 이러한 ‘미분류 탐색’에 따른 인간의 비용은, AI가 저렴한 비용으로 대량의 시행착오를 반복하며 무효 경로를 신속히 배제할 수 있는 능력과 정반대되는 측면이다. CDC가 증명에 사용한 프롬프트에는 네 가지 강제 제약이 포함되어 있다: 반드시 긍정적 증명을 제시해야 하며, 특수한 경우나 계산 검증 등 대체 결과를 배제하고, 일반적인 오류를 피하기 위해 대립적 검사를 내장하며, 국부적 결핍 감지로 인해 조기 종료하는 것을 금지한다. 이러한 ‘부정적 프롬프트’는 이전의 여러 실패 경험에서 도출된 것이다.
AI의 수학적 능력 향상은 세 가지 중첩된 역량에 기인한다: (1) 체인링 프리미티브(chaining primitives), 즉 학습 목표를 통해 장기적 작업에서 재사용 가능한 중간 산출물의 생성을 강화하는 기능; (2) 자기 검증(self-verification), 모델이 실제 수학 검증 데이터로 학습한 뒤 논리적 오류(문법적 오류만이 아닌)를 식별하여 추론 과정에서 비용 효율적인 가지치기를 수행할 수 있게 하는 기능; (3) 오케스트레이션(orchestration), 하위 에이전트 간의 협업, 기억 기반 유도 및 부정적 힌트를 통한 비효율적 경로의 제거를 통해 구현된다. 그럼에도 불구하고 조합 폭발은 여전히 근절되지 않았다: 실현 가능성은 분지 계수 b와 핵심 통찰의 수 k에 의존하며, 오직 b^k × 계산 비용이 충분히 작을 때에만 달성될 수 있다. 사이버 보안 문제는 이미 b≈1–2라는 조건 하에 해결되었으며, 반례 탐색의 강력함은 본질적으로 b를 압축하는 데서 비롯된다. 나비에–스톡스 방정식 증명에는 10,000개의 에이전트가 동원되고, 3,000억 개의 토큰을 소모하며, 88시간이 소요되었는데, 이는 기존 연구 프로그램을 기계적으로 실행한 사례에 불과하다—이는 ‘핵심 통찰이 이미 알려진 이후’ AI의 지극한 실행력을 단적으로 보여준다.
인간의 강점은 여전히 분지 수가 많고 탐색 트리가 깊은 문제(즉, b와 k가 모두 큰 경우)에서 발휘되며, 이때 직관에 기반한 가지치기는 대체할 수 없습니다. 인간과 AI의 근본적인 차이는 실패의 가치에 있습니다: 인간은 수개월에 걸쳐 높은 신념을 바탕으로 투자한 실패로부터 종종 새로운 통찰을 도출하지만, AI가 저렴하게 수행하는 수많은 실패는 대부분 미숙한 경로에 국한되며, 관측되거나 설명 가능한 경우는 매우 드뭅니다. CDC의 프롬프트에 역사적 실패 사례를 열거하는 것은 AI의 실패 추론을 이해할 수 있는 드문 투명한 창구입니다. 또한 본 논문은 일반상대성이론의 핵심 아이디어(중력은 곡률이라는 기하학적 현상이다)가 k가 낮은 문제에 해당하지만, 그 수학적 구현은 매우 어렵다는 점을 지적합니다. 이는 바로 AI가 특히 강점을 보이는 ‘후기 통찰 단계’에 해당합니다. 한편, 아인슈타인이 8년 동안 뉴턴의 패러다임에 맞서 끈질기게 도전했던 데에는 신념의 강인함이 필요했지만, 현재의 AI 학습 메커니즘으로는 이를 모델링하기 어렵습니다. 본문 전체에서는 기관의 행동이나 학습 방법 등 사실에 관한 서술과, ‘사기 vs 계산 능력’, ‘신념이 증가함에 따라 실패 정보도 함께 증가한다’와 같은 저자의 추론을 엄격히 구분하고 있으며, 규제 상태나 상용화 배포, 또는 제3자 검증 결과에 대해서는 언급하지 않았습니다.