すべての人に一次情報を
低ビット(4ビット)でデコードした際に上位のトークンが8ビット(全ビット)での正解と異なる場合を、出力分布のエントロピーで検知できることが実験で示された。エントロピー閾値は 15 % のアップスケーリング予算で 78 % のフリップを検出し、AUC は 0.928(95 % CI 0.924‑0.932)を記録した。
手法は重みを 8 ビットで確保し、まず上位 4 ビットだけでデコードを行う。低精度の分布にエントロピーの高い信号やトップ2ロジット間の差が小さい場合にのみ、完全な 8 ビットデコードへ切り替える。Qwen3‑0.6B モデルで GSM8K ベンチマーク(greedy デコード、384 トークン上限)に対し、36,724 ステップ再生で AUC 0.93 を達成した。
15 % のアップスケーリングでエントロピーゲートは 78 % のフリップと 59 % のKL質量を捕捉した。一方でマージンゲートは 94 % のフリップと 55 % のKLを、ランダムゲートは 15 % のみを検出した。これは 150 個の実際の問題をライブでデコードした結果で、アクチュアリティの統計は 64.0 %(高精度)と 55.3 %(低精度)と測定された。
本研究は Qwen3‑0.6B という単一の小規模モデルでのみ行われた。計画されていた 1.7 B モデルや他のモデルファミリー、Mixture‑of‑Expert 構造は実行されていないため、一般化には制限がある。また、ベンチマークは GSM8K のみを対象とし、greedy デコードと 384 トークン上限が誤差構造に影響した可能性がある。
今後はより大きなモデルや多様なデコード設定でエントロピーゲートを検証し、単なる重みバイト数以上の実装コストを測定する必要がある。