すべての人に一次情報を
VABAR(Variational Automation Benchmark for Agentic Robotics)は、産業用工具の分類や医療機器のパッキング、インフラにおけるケーブル誘導など、実務で直面する6つの操作タスクをシミュレーションで評価できるオープンベンチマークです。タスクは初期配置と目標配置、資産ライブラリ、ロボット仕様で定義され、物体・配置・位置の変化により難易度を低・高に分けています。

実装は Newton 物理エンジンと Isaac Lab Arena の二つのバックエンドを採用し、33の再利用可能技能を備えたライブラリと標準化された成功指標を備えています。この設計により、研究室は数カ月の調整時間を要せずに同一条件を再現できます。
基準実験では、技能を計算グラフで組み合わせる Graph‑as‑Policy(GaP)システムが、一般的なコーディングエージェント Claude より多くのタスク・難易度組み合わせで高い成功率を示しました。GaP は Newton と Isaac Lab Arena の両方で評価され、平均実行時間も短くなっています。
| a-i. GaP [-1pt](Human w/ Newton) | a-ii. GaP [-1pt](Human w/ ILA) | b. Claude [-1pt]w/ Newton | c. GaP [-1pt]w/ Newton | ||||||
|---|---|---|---|---|---|---|---|---|---|
| Task | Diff. | Succ. (%) | Cyc. (s) | Succ. (%) | Cyc. (s) | Succ. (%) | Cyc. (s) | Succ. (%) | Cyc. (s) |
| Tool Sorting | Level 1 | 47.1 | 421.6 | 20.0 | 555.0 | 0.0 | N/A | 26.7 | 134.2 |
| Level 2 | 33.7 | 913.8 | – | – | 0.0 | N/A | 13.3 | 232.3 | |
| Tool Hanging | Level 1 | 86.7 | 86.1 | 67.5 | 98.3 | 16.7 | 96.2 | 33.3 | 81.5 |
| Level 2 | 81.7 | 158.4 | 50.0 | 138.3 | 10.0 | 190.8 | 10.0 | 270.9 | |
| Gear Meshing | Level 1 | 100.0 | 165.9 | 87.5 | 198.9 | 0.0 | N/A | 70.0 | 156.6 |
| Level 2 | 90.0 | 235.5 | 80.0 | 381.3 | 0.0 | N/A | 60.0 | 284.1 | |
| Syringe Packing | Level 1 | 87.0 | 228.8 | 52.5 | 939.0 | 0.0 | N/A | 33.3 | 371.1 |
| Level 2 | 63.0 | 472.3 | 40.0 | 1810.0 | 0.0 | N/A | 12.1 | 652.2 | |
| Cable Insertion | Level 1 | 86.7 | 78.8 | 97.5 | 104.9 | 0.0 | N/A | 36.7 | 79.0 |
| Level 2 | 30.0 | 74.2 | 17.5 | 118.8 | 0.0 | N/A | 23.3 | 80.5 | |
| Cable Routing | Level 1 | 46.7 | 116.0 | 50.0 | 145.9 | 3.3 | 120.7 | 36.7 | 50.8 |
| Level 2 | 46.7 | 189.8 | 5.0 | 151.5 | 0.0 | N/A | 13.3 | 120.3 | |
ただし、GaP は Newton バックエンドでは人手で作成したプログラムに比べて 70 % 対 100 %(ギアメッシング・レベル 1)という差が残ります。これは自律ポリシー生成における技能組み合わせとパラメータ化がまだ大きな課題であることを示します。