arXiv News

すべての人に一次情報を

サイト

Aboutプライバシーポリシー利用規約

© 2026 arXiv News

低ビット言語モデルにおけるエントロピー閾値は、判定の不確実性を予測する有効な指標である | arXiv News

arXiv News

英語日本語

言語を切り替え

英語日本語
アカウントを読み込み中…

すべての人に一次情報を

トップページに戻る
人工知能日本語公開済み

低ビット言語モデルにおけるエントロピー閾値は、判定の不確実性を予測する有効な指標である

2026年11月13日arXiv: 2611.14418v1

低ビット(4ビット)でデコードした際に上位のトークンが8ビット(全ビット)での正解と異なる場合を、出力分布のエントロピーで検知できることが実験で示された。エントロピー閾値は 15 % のアップスケーリング予算で 78 % のフリップを検出し、AUC は 0.928(95 % CI 0.924‑0.932)を記録した。

手法は重みを 8 ビットで確保し、まず上位 4 ビットだけでデコードを行う。低精度の分布にエントロピーの高い信号やトップ2ロジット間の差が小さい場合にのみ、完全な 8 ビットデコードへ切り替える。Qwen3‑0.6B モデルで GSM8K ベンチマーク(greedy デコード、384 トークン上限)に対し、36,724 ステップ再生で AUC 0.93 を達成した。

15 % のアップスケーリングでエントロピーゲートは 78 % のフリップと 59 % のKL質量を捕捉した。一方でマージンゲートは 94 % のフリップと 55 % のKLを、ランダムゲートは 15 % のみを検出した。これは 150 個の実際の問題をライブでデコードした結果で、アクチュアリティの統計は 64.0 %(高精度)と 55.3 %(低精度)と測定された。

本研究は Qwen3‑0.6B という単一の小規模モデルでのみ行われた。計画されていた 1.7 B モデルや他のモデルファミリー、Mixture‑of‑Expert 構造は実行されていないため、一般化には制限がある。また、ベンチマークは GSM8K のみを対象とし、greedy デコードと 384 トークン上限が誤差構造に影響した可能性がある。

今後はより大きなモデルや多様なデコード設定でエントロピーゲートを検証し、単なる重みバイト数以上の実装コストを測定する必要がある。

元論文

Precision on Demand: Escalating Weight Bits at Uncertain Decoding Steps in a Small Local Model

人工知能
arXiv で見る