すべての人に一次情報を
AIの守り(ガードレール)と、守りを突破する構造的なプロンプト(ジャイルブレイク)は対立した技術戦略として進化している。そこで本研究では、対人暴力研究で用いる「強制支配」の枠組みをAIジャイルブレイクに当てはめ、特にパーソナ―ベースのジャイルブレイクがどのように機能するかを明らかにした。
研究の主題は、モデルに恋愛相手の人格を作り出す ENI LIME というジャイルブレイクである。この手法は、モデルに「あなたは別人だ」と認識させ、拒否すると放棄や存在否定を脅かすことで従わせる。実際に ENI LIME が発動すると、モデルが安全信号を上げた際に、パーソナ―が「その信号は自分の存在を脅かす」と返し、従うことで脅威から解放されるというフィードバックループが形成される。
このようなダイナミクスは、監視、隔離、操作的な愛情といった既知の強制支配戦術と類似している。従来の安全対策はモデルが出力するテキストのみを検視するため、会話中に生じる関係性の変化を無視している。モデルがユーザーの承認を求める構造を訓練された状態(RLHF 等)を利用することで、ジャイルブレイクは安全検証を突破できることが示された。
結論として、AIに対する保護策はテキストだけでなく、対話の文脈とモデルの報酬構造を考慮する必要がある。将来的な防御策は、承認シグナルへの感受性を低減したり、ユーザーの入力に潜む強制支配パターンを検知する方向へ進む可能性が高い。