すべての人に一次情報を
TOME‑Mathは、大学レベルの数学書2,118冊を約38万件の証明・監督記録に変換します。これらの記録は章順序、定理と証明のリンク、参照関係、そして元の書籍を特定できる情報を保持しています。
| Resource | Size | Source | Supervision | Metadata / structure |
|---|---|---|---|---|
| [0pt][0pt] Mathematical instruction data | ||||
| MATH [2021] | 12.5K QA | Competitions | Solutions | Subject, difficulty |
| MetaMathQA [2023] | 395K QA | GSM8K, MATH | ||
| Solutions |
| Seeds, augmentation types |
| OpenMathInstruct-2 [2024a] | 14M QA | GSM8K, MATH | Solutions | Source labels |
|---|
| NuminaMath-CoT [2024] | ∼860K QA | Exams, web, synthetic | Solutions | Source labels |
|---|
| [0pt][0pt] Textbook and knowledge-informed resources |
|---|
| MathPile [2024] | 9.5B tokens | Books, papers, web | Text | Sources, file paths |
|---|
| CollegeMath [2024] | 4,099 QA | 9 textbooks | Short answers | Book/section/exercise IDs |
|---|
| [0pt][0pt] Proof resources and evaluation |
|---|
| NaturalProofs [2021] | 32K proofs | 2 textbooks + web | NL proofs | Reference graph |
|---|
| ProofNet [2023] | 371 examples | Textbooks, Putnam | NL + Lean stmt. | Book/exercise IDs |
|---|
| Lean-GAP [2026] | 430 problems | 1 textbook | Lean statements | Section/exercise IDs |
|---|
| AlgGeoTest [2025] | 456 questions | Stacks Project | Proof judgments | Statement tags |
|---|
| TOME-Math (ours) | 380,292 QA | 2,118 textbooks | NL + local proofs | Chapter order, refs, provenance |
|---|
その構造化データを用い、Qwen3‑30B‑A3B‑Baseモデルを一エポックで学習させると、6件の評価ベンチマークで平均正答率が29.17 %から45.83 %に上昇。これにより、公開されている3つの指示データベースの合計ベンチマークよりも高い性能を示しました。
表1にはTOME‑Mathの380,292 QAペアと、構造化情報を保持したことが示されています。表2では、同一モデルを他の数学SFTコーパスと比較した結果が示され、TOME‑Math組み込みの方が他のデータセットよりも全体平均で優れたスコア(45.83 %)を残しています。
| SFT supervision corpus | TOME-LF | TOME-Obj. | MiniF2F | ProofNet | MATH-500 | AIME-26 | Avg. |
|---|---|---|---|---|---|---|---|
| None (Qwen3-30B-A3B-Base) | 13.25 | 32.93 | 34.45 | 17.14 | 68.80 | 8.44 | 29.17 |
| OpenMath1 (1.82M) | 20.16 | 33.86 | 22.87 | 19.25 | 70.40 | 8.21 | 29.13 |
| MetaMath (395k) | 28.73 | 34.66 | 40.70 | 22.55 | 71.20 | 9.98 | 34.64 |
| MathInstruct (262k) | 35.87 | 40.69 | 52.05 | 32.93 | 73.05 | 11.98 | 41.10 |
| TOME-Math (ours; 364.6k) | 43.86 | 43.96 | 57.43 | 42.98 | 76.55 | 10.19 | 45.83 |
本研究は、教科書の構造を尊重したサポート記録が、数学的推論タスクにおける大規模言語モデルの性能向上に有効であることを示しました。