PlantVLM‑Edgeは、量子化されたビジョン‑ラングエージンモデルをエッジデバイス上で完結させるフレームワークである。全データをローカルで処理できる点が特徴で、通信環境がなくても畑の診断が可能だ。

本研究では、まず既存のビジョン‑ラングエージンモデルを農業用質問応答データでLoRAにより微調整し、視覚エンコーダとマルチモーダルプロジェクタは凍結された。次に4つの量子化方式（W8A16‑RTN、W8A8‑SQ、W4A16‑RTN、W4A16‑AWQ）を適用し、言語ブロックのみを低ビット化した。最後にNVIDIA Jetson AGX OrinでvLLMによりサーブし、ブラウザベースのチャットインタフェースで農家が対話できる。

量子化の結果、Qwen3‑VL‑2Bモデルは3.96 GiBから2.01 GiBへ、LLaVA‑1.5‑7Bは13.16 GiBから4.20 GiBへ約70 %のメモリ削減を実現した。W4A16‑AWQの組み合わせでは、2‑Bモデルのエンドツーエンド遅延が0.78 sに短縮され、最高遅延は0.77 sと報告されている。8‑ビット量子化は回答品質にほぼ影響を与えず、4‑ビットAWQは両領域で98.6 %のROUGE‑Lを保持した。

ただし、正確一致率は5 %以下にとどまり、長文の説明カテゴリでは4‑ビットRTNで最大3.67点の低下が観測された。量子化は主に低レイテンシとメモリ削減に貢献するが、解説性の高い回答の品質保持はまだ課題である。