最近のAIの急速な進展は、人間の知的職能の陳腐化や数学の未来に対する不安を呼び起こしています。しかし著者は、これらの成果が新しい概念や理論を自律的に発明したり、自己持続的な再帰的自己改善を実証したとは言えないと主張します（自己改善＝自身の学習やアルゴリズムを自動で改良すること）。 (F1, F2)

具体例として、AlphaZeroは自己対戦（self-play）で性能を上げましたが、それは人間が設計した学習枠組みの中での改善でした。Darwin Gödel MachineやAlphaEvolveといった提案は、自らのアルゴリズムを提案・評価することを目指しますが、著者はこれらがシンギュラリティ（知能の自己加速的暴走）で想定されるような自己持続的な汎用知能の加速を示してはいないと述べます。 (F7)

現実の出来事も示されています。2023年には数百人のトップAI研究者がAIによる絶滅リスクをパンデミックや核戦争と同列に置く声明に署名しました。さらに、研究者のJacob Coxonによる自己改善への警告がX上で1億7千万回を超える閲覧を集め、Anthropicの研究者や同社CEOの「フロンティアモデル開発の鈍化」呼びかけなどの反応を引き起こしました。 (F3, F4)

またOpenAIは2026年9月8日に、ミレニアム懸賞問題の一つであるNavier–Stokes問題に対するAI生成の解を発表しました。報道ではその作業に最大で約10,000のAI“エージェント”が連携し、数百万ドル単位の計算資源が投入されたとされています。さらに同年10月6日には、幅広い数学分野での進展を主張する数百件のAI生成原稿が一斉に公開されました。 (F5, F6)

著者は、こうした機械由来の結果の扱いに慎重を促します。大量の事例検査や高速機械探索に依拠した証明は、正しさを示しても統一的な概念理解や洞察を与えないことがあります。歴史的には、個別の正しさよりもガロア理論のような概念的枠組みが重要だった例が挙げられます。 (F11)

形式化検証についても注意点があります。Leanなどの「証明支援ソフト」（証明を形式化してチェックするソフトウェア）は検証を助けますが、「Leanで検証済み」というラベルだけで結論を出すのは不十分です。発表されたNavier–Stokesの主張とそのLean形式化の間に不一致が報告されています。 (F12)

技術的限界はさらに根本的です。大規模言語モデルは既存の文献という「完成した表現」から学ぶため、元になった私的な想像過程にはアクセスできません。人間の判断がなければ、低品質な断片を再生したり、事実や引用を「幻覚（hallucinate）」することがあります。 (F9)

人間の知性は、価値ある目標の選択、粘り強さの判断、想像力、身体的経験や感情などを含みます。これらは標準的な知能測定では捉えにくく、創造的活動の形成に重要な役割を果たします。 (F10)

AIの急速なアウトプットは数学界にも影響を与えています。大量の主張が検証される前に流通すると、研究者にチェックや解釈、帰属の負担を強いることになり、若手研究者を中心に意欲をそぐと報告されています。 (F13)

著者自身はAIを道具として用いる新しい研究法を示します。対話的にAIを使い、論文の説明、計算の検算、例や反例の検証、LaTeXや文章の補助を行い、自身の判断で繰り返し問い直すという方法です。 (F14)