すべての人に一次情報を
GM Benchは、4種類のプロスポーツリーグにおいてチームの総合マネジメントを5シーズン(2022–2026)にわたって評価するベンチマークです。
本ベンチマークは、LLMを総合マネージャー(GM)として位置付け、選手やエージェントと対話しながらロイヤルティ、金銭制約、市場メカニズムを守る仮想シミュレーション環境で運用されます。各GMは、NFTレバレジーを含めてリアルな選手データから構築された5つの同等強度ロスターを扱い、ドラフト・契約・トレードを実行します。
NBA版では、29のLLMを比較し、Claude Opus 5.5がElo 1 977.3を記録し、5シーズンで3回の優勝を達成しました。次点はGPT‑6 AstraとGPT‑6.1 Solで、残り2位の優勝を共有しました。
評価期間は5シーズンに限定されており、選手の成長遅延や長期契約といったより長期にわたる効果の観察は困難です。より長い評価期間が設けられれば、老化やキャリア全体の影響を把握できると考えられます。