arXiv News

すべての人に一次情報を

サイト

Aboutプライバシーポリシー利用規約

© 2026 arXiv News

arXiv News

英語日本語

言語を切り替え

英語日本語
アカウントを読み込み中…

すべての人に一次情報を

トップページに戻る
人工知能日本語公開済み

リファインド実行パッケージで実験成功率が最大23%向上、APIコストが約20%削減

2026年11月7日arXiv: 2611.08452v1

リファインド再現可能アーティファクト(RRA)を用いると、実験の再現成功率が最大23.2パーセントポイント(pp)上昇し、API呼び出しにかかるコストが約20%減少します。

本研究では、ReproBridgeというフレームワークを使い、コードベースを洗練させ、環境設定スクリプト、ランチャー、再現ガイドのひとまとめのアーティファクトを構築しました。これにより、個々の実験を単純に実行するだけでなく、再現性を自動で監査できるようになりました。

実験は36本の論文、1,029のタスクで行い、4つの大規模言語モデル(Sonnet 4.6、Sonnet 5、Opus 5、Gemini 3.8 Flash)を対象としました。比較結果は次の通りです。 ・Sonnet 4.6で成功率が19.3 pp上昇し、APIトークン使用量が19.8 %減少 ・Sonnet 5で成功率が16.8 pp上昇し、APIトークン使用量が9.2 %減少 ・Opus 5で成功率が5.5 pp上昇し、APIトークン使用量が6.3 %減少 ・Gemini 3.8 Flashで成功率が23.2 pp上昇し、APIトークン使用量が18.3 %減少

表は、Sonnet 4.6, Sonnet 5, Opus 5, Gemini 3.8 Flash の4つの大規模言語モデルにおいて、Raw(既存コードベース)とRRA(リファインド実行パッケージ)での成功率、APIトークン数、API代金の平均値と改善量を示す。対照列は Raw と RRA の数値で、改善量は成功率のパーセントポイント増、APIトークンと代金は減少率(%)で表される。
Success (%)Tokens (B)API (USD)
ModelRawRRA
Gain
Raw
RRA
Red.
Raw
RRA
Red.
Sonnet 4.672.3±1.191.6±3.4+19.38.48±0.386.80±0.7619.83,165±1422,512±28620.6
Sonnet 576.5±2.893.3±1.4+16.84.98±0.554.52±0.249.21,726±1751,317±10223.7
Opus 589.2±1.294.7±2.2+5.53.01±0.162.82±0.296.33,480±1652,865±31217.7
Gemini 3.867.6±1.990.8±1.1+23.22.24±0.261.83±0.0918.3392±41326±1616.8
Table 3. リファインド再現可能アーティファクト(RRA)を使用した結果、各モデルの成功率がRaw(既存コードベース)からRRAへと向上し、API使用量が削減されたことを示す表。Wang, Yubo, Meng, Rui, Nam, Jaehyun, Pfister, Tomas, Yoon, Jinsung · arXiv:2611.08452v1 · Table 3: · CC BY 4.0

さらに、モデル間の成功率差は21.6 ppから3.9 ppへと縮小し、すべてのモデルで平均成功率が90%を超えました。

ただし、評価対象は36本の論文と1,029タスクに限定されており、機械学習会議全体を代表するものではありません。自動監査がすべての違反を検出できるわけではなく、誤った仮定がアーティファクトに残る可能性があります。

以上の結果は、再現可能なパッケージを保持することで実験の信頼性とコスト効率を改善できることを示しています。

元論文

ReproBridge: Building Reproducibility into ML Research Artifacts

人工知能
arXiv で見る
リファインド実行パッケージで実験成功率が最大23%向上、APIコストが約20%削減 | arXiv News