ProQuantは、低ビット量子化を用いても視覚と言語の両方の能力をほぼ損なわない多モーダル大型言語モデル（MLLM）トレーニングフレームワークです。<br>一つ目の特徴はSelf‑Relabeling（SRL）というデータ再ラベル手法です。これにより、微調整時のデータ分布と事前学習時の分布を一致させ、モデルが持つ知識を最適に再利用します。<br>二つ目はProgressive Block Activation（PBA）です。PBAは視覚に敏感な層から量子化を段階的に有効化し、最初は言語層をフル精度のまま保持します。これにより、言語モデルの性能回復を遅延させつつ視覚理解を再構築できます。<br>図1はSRLとPBAの構成を示しており、ProQuantのコア手法を可視化しています。<br>実験ではQwen‑VL‑2B‑Instructモデルを対象に、4ビット重み・8ビット活性化（W4A8）設定で平均精度1830.28を達成しました。これはSmoothQuant（1736.61）、MBQ（1810.68）、MQuant（1736.61）、LLM‑QAT（1931.70）を上回ります。W4A4設定では1611.94に達し、MBQ（55.41）やLLM‑QAT（1532.13）よりもはるかに高い値です。<br>図2は各手法の量子化結果をまとめ、ProQuantが低ビット環境でも他の手法より優位であることを示します。<br>限界として、すべての層を一括量子化すると視覚理解が0%に落ち、AI2Dスコアが消失します。PBAにより段階的に再開することで、言語スコアは回復しますが、視覚性能はフル精度に近いままです。さらに、Post‑Training Quantization（PTQ）手法はW4A4設定でほぼゼロに下がるなど、ProQuantに比べて大きく劣ります。<br>この結果は、量子化スケジューリングと視覚感度ベクトルが低ビット量子化における多モーダル性能維持に不可欠であることを示唆しています。