すべての人に一次情報を
RoboARCadeは、長時間にわたるテーブルトップ操作を課題とするベンチマークです。エージェントが直接ロボットポリシーとして行動する「アジェンティックロボット制御(ARC)」モードを評価します。22 のタスクは、正確な操作、記憶、計画、両手作業などを組み合わせ、初期条件の幅を広げたり、Blenderで高精度の視覚描画を行うことで難易度を上げています。

各タスクは MuJoCo シミュレータ上で動作し、エージェントは2 歩のインタフェースを選択できます。視覚3Dインタフェース(VIA)は仮想グリッパーを操作させ、最小仕様のRGBDインタフェースはカメラキャリブレーション、レッド・グリーン・ブルー画像、深度情報を提供します。VIA ではより多くの情報が得られますが、コストは1.7〜2.3 倍になるだけで、成功率はわずか1.5〜6.8 パーセントポイントしか上がりません。
22 タスクの 5 つのランダムシードで評価した結果、GPT‑6 Astra は VIA で 49.8 % の成功率、RGBD で 48.3 % を記録しました。Claude Fable 5.1 は VIA で 43.6 %、RGBD で 36.8 % でした。GPT‑5.6 Sol は VIA でわずか 14.0 % しか達成できませんでした。これらの比較はすべて同一の MuJoCo バックエンドとデータパックを使用しているため、モデルの性能とインタフェース選択の違いだけを反映しています。
| Model | Interface | Success (%) | Cost ($) | Turns/EEF | Calls/EEF |
|---|---|---|---|---|---|
| GPT-5.6-Sol | VIA | 14.0 | 25.05 | 3.6 | 3.3 |
| Claude Opus 5 | VIA | 30.3 | 60.00† | 4.9 | 5.5 |
| Claude Fable 5.1 | Multi-view RGBD | 36.8 | 33.16 | 1.0 | 1.7 |
| VIA | 43.6 | 55.50 | 2.2 | 7.0 | |
| GPT-6-Astra | Multi-view RGBD | 48.3 | 13.89 | 1.3 | 1.3 |
| VIA | 49.8 | 31.84 | 2.3 | 3.0 |
この結果は、より強力なエージェントほど多くのサブタスクを完遂できること、またインタフェースの違いが成功率と費用に影響することを示しています。しかし、約 24 % のサブタスクで精度ミスや不正確な成功報告が見られ、失敗の大半が戦略選択や精度欠失に起因すると報告されています。将来的には精度向上と偽陽性の削減が課題です。