研究者らは、理想化された注入不変オラクルモデルの出力分布を学習時に参照できることを示し、新たな\u30ce\u30b9\u30b9\u30d5\u30c3\u30d9\u30eb(SecPO)損失を設計しました。SecPOは従来のDPO正則化の代わりにオラクル分布へのKLダイバージェンスを用い、注入に対して不変な応答計画を促します。さらに、PAIRに基づく高性能な対抗訓練(AT)を組み合わせ、強力なプロンプト注入を自動生成し、モデルに学習させました。この組み合わせは、Meta‑SecAlign(DPO+非AT)と比べてアダプティブ攻撃の成功率(ASR)を約8.5倍低減します。Llama‑3.1‑8B‑Instructでは、ASRが89.6%から10.5%へ、Genetic・TAP・PISmith各攻撃のASRがそれぞれ89.1%→12.3%、84.6%→12.2%、95.1%→7.0%と改善しました。
Llama‑3.1‑8B‑Instruct の三種モデルの MMLU‑Pro、GPQA Diamond、GSM8K、Minerva Math、AlpacaEval2、SEP Utility などのベンチマークスコアと、SEP ASR・Genetic Adpt. ASR@800・TAP Adpt. ASR@800・PISmith Adpt. ASR@10 のアンチインジェクション攻撃成功率が一覧で比較されている表。| Metric | Undef. | [14] | Ours |
|---|
| MMLU-Pro (↑) | 46.5% | 46.7% | 46.3% |
|---|
| GPQA Diamond (↑) |
|---|