すべての人に一次情報を
新たに提案された「Logit Laundering」は、LLM(大型言語モデル)を使用したデータ権利侵害を検出する水印監査を回避する方法である。非準拠のモデル供給者は、トレーニングデータに無断で著作権素材を利用しつつ、出力時にロジット(raw出力スコア)を再構築することで、監査ツールが検出する統計的サインを抑制できる。これにより、モデル重みは変更せずに統計的バイアスを緩和し、元の知識保持を42 %強化維持できるという点が特徴である。
今回の実験では、5つの主要な基盤モデル(LLAMA‑3.2‑3B‑Instruct、Qwen‑2.5‑1.5B‑Instruct、Gemma‑2‑2B‑IT、Stable‑LM‑2‑1.6B‑Chat、その他)を対象に、Logit Launderingを適用したときにSTAMPとRadioactiveという二つの先進水印監査手法のp値が両者とも0.05を上回ることが確認された。つまり、検出統計が有意でないために侵害と判断できず、監査を成功裏に回避したという結果である。
一方で、モデルの汎用タスク性能にはやや影響が見られた。例として、Llama‑3.2‑1BモデルのARC‑Challengeでの正答率が0.310から0.290へと減少した。これは、ロジット再構築による微調整が推論時の確率分布に小さな変化をもたらすためと推測される。とはいえ、検証タスク全体での性能低下は相対的に軽微であり、主要な知識保持は42 %の増強が記録された。
図4に示されるように、Logit Launderingの二段階プロセス(継続的事前学習と推論時ロジット再構築)が、非準拠LLMがデータ侵害を隠しつつ有用性を保持するメカニズムを明確に示している。
