すべての人に一次情報を
研究者らは、NCodeという統一的数値符号化を発表した。NCodeは、ネットワーク構造、学習ハイパーパラメータ、データ比率といった異種のAutoML設計選択を、単一の離散数列に変換する。
このNCodeを用いて、研究者は大規模言語モデル(LLM)を検索器として構築した。LLMは、過去に収集した最適化経路をもとに、候補NCodeをランキングし、最良を選択する。これにより、タスク固有の微調整をせずに、構造・ハイパーパラメータ・データ比率を同時に最適化できる。
| Method |
|---|
| Kvasir-SEG |
|---|
| CVC-612 |
|---|
| ISIC2017 |
|---|
| CAMO |
|---|
| SBU |
|---|
| Leaf |
|---|
| Road |
|---|
| Sα↑ | Eϕ↑ | Sα↑ | Eϕ↑ | Jac↑ | Sα↑ | Eϕ↑ | Fβω↑ | BER↓ | IoU↑ | IoU↑ |
|---|
| BitFit [51] | 90.8±0.57 | 93.8±0.98 | 89.0±0.40 | 91.6±0.98 | 76.4±0.45 | 86.8±0.33 | 90.7±0.28 | 81.5±0.19 | 3.2±0.13 | 71.4±1.15 | 60.6±0.15 |
|---|
| Adapter [19] | 91.2±0.23 | 94.0±0.16 | 89.3±0.43 | 92.0±0.63 | 76.7±0.66 | 87.7±0.10 | 91.3±0.40 | 82.8±0.35 | 2.8±0.09 | 72.1±0.47 | 61.5±0.11 |
|---|
| VPT [24] | 91.5±0.23 | 94.3±0.06 | 91.0±0.94 | 93.7±1.41¯ | 76.9±0.94 | 87.4±0.60 | 91.4±0.68 | 82.1±0.75 | 2.7±0.06 | 73.6±0.26 | 60.2±1.87 |
|---|
| LST [40] | 89.7±0.25 | 93.3±0.37 | 89.4±0.37 | 92.4±0.54 | 76.4±1.05 | 83.3±0.28 | 88.0±0.23 | 77.1±0.02 | 3.2±0.01 | 70.2±0.87 | 60.2±0.26 |
|---|
| SAM-Adapter [5] | 89.6±0.24 | 92.5±0.10 | 89.6±0.22 | 92.4±1.06 | 76.1±0.45 | 85.6±0.26 | 89.6±0.55 | 79.8±0.89 | 3.1±0.06 | 71.4±0.20 | 60.6±0.06 |
|---|
| SSF [30] | 91.3±0.87 | 93.9±1.49 | 89.6±0.37 | 91.9±0.79 | 76.6±0.19 | 87.5±0.11 | 91.4±0.16 | 82.6±0.12 | 3.2±0.05 | 71.5±0.63 | 61.6±0.03 |
|---|
| LoRA [20] | 91.2±0.28 | 93.8±0.22 | 90.7±0.04 | 92.5±0.41 | 76.6±0.23 | 88.0±0.24 | 91.9±0.42 | 82.8±0.16 | 2.7±0.08 | 73.7±0.20 | 62.2±0.21 |
|---|
| Conv-LoRA [56] | 91.9±0.64 | 94.3±0.77 | 90.1±0.31 | 92.3±0.42 | 77.0±0.51¯ | 88.6±0.12 | 92.4±0.17 | 83.1±0.19 | 2.8±0.02 | 73.9±0.20 | 62.1±0.23 |
|---|
| Ours (Arc) [21] | 92.4±0.43¯ | 94.7±0.47¯ | 91.1±0.47¯ | 93.2±0.70 | 77.6±0.40 | 88.9±0.04¯ | 92.7±0.15¯ | 83.9±0.32¯ | 2.6±0.04¯ | 74.2±0.28¯ | 62.6±0.04¯ |
|---|
| Ours (Arc+Hyp) | 92.7±0.43 | 95.5±0.55 | 92.6±0.56 | 94.3±0.80 | 77.6±0.57 | 89.3±0.26 | 93.0±0.12 | 83.9±0.32 | 2.6±0.05 | 75.0±0.28 | 62.6±0.11 |
|---|
訓練はNAS‑Bench‑301から得た単一ドメインの視覚タスクの経路だけで行われたが、得られた検索器は、画像分割のベンチマーク（Kvasir-SEG、CVC-612 など）で既存の手法よりも高い性能を示した。大規模な1億パラメータのDiffusion Transformerを学習するには896 GPU日かかったが、GenEvalスコア0.91を達成した。ロールアウトのチェーンオブ・ソート思考は、探索段階から利用段階への戦略転換を解釈した。
ただし、訓練データが単一ドメインの視覚タスクに限定されているため、他ドメインへの一般化は保証されない。これ以上の汎用性を確認するには、追加のドメインでの検証が必要である。