arXiv News

すべての人に一次情報を

サイト

Aboutプライバシーポリシー利用規約

© 2026 arXiv News

Trick‑or‑Treatベンチマークで明らかになった医療ビジョン‑言語モデルの錯誤 | arXiv News

arXiv News

英語日本語

言語を切り替え

英語日本語
アカウントを読み込み中…

すべての人に一次情報を

トップページに戻る
コンピュータビジョン日本語公開済み

Trick‑or‑Treatベンチマークで明らかになった医療ビジョン‑言語モデルの錯誤

2026年11月6日arXiv: 2611.06631v1

トリック‑or‑トリート(Trick‑or‑Treat)は、実際の胸部X線写真と合成した臨床写真をペアにし、異なる画像モダリティ間の推論を検証するために開発された対抗性ベンチマークです。<br>モデルは、同一患者の胸部X線と病気に関連する所見だけが異なる二つの合成写真を与えられ、両モダリティの情報を統合し診断を導くことを求められます。<br>照合ペア(マッチ)ではX線と写真が同じ疾患を示し、ミスマッチペア(ミスマッチ)では写真が別の所見を示すため、統一的診断が成立しません。<br>写真のみを提示した場合、3つの先進モデルはミスマッチ写真で25〜37.5%の確率で臨床上重要な所見を誤って報告し、マッチ写真で10〜27.5%の確率で実際の異常を見逃しました。<br>ミスマッチペアに胸部X線を加えると、誤報率は45〜57.5%に増加し、説明に合った所見を想像する傾向が強まります。<br>一方でマッチペアにX線を添えると、偽陽性は25〜48.4%から12.5〜17.5%へ、偽陰性は7.5〜27.5%から2.5〜12.5%へ低下しました。<br>この結果は、マルチモーダルコンテキストが推論エラーを増幅させるパターンを示しています。モデルはマッチング情報を優先し、ミスマッチの矛盾を無視してX線に合致する所見を想像する傾向があると考えられます。<br>合成写真は人間のレビューを経て生成されていますが、微細な生成アーティファクトが結果に影響する可能性があると作者は報告しています。<br>現在のベンチマークは40画像/条件などサンプル数が限られているため統計的信頼度に制約がありますが、これが示す弱点は現在のマルチモーダルモデルに対する重要な警告です。

表はマッチ写真とミスマッチ写真における偽陽性、偽陰性、どちらかの誤報率の統計情報を示す。
MatchedMismatched
ModelSettingFPFNAnyFPFN
Any
Claude Fable 5.1Photo only25.0 (12.7–41.2)27.5 (14.6–43.9)30.0 (16.6–46.5)25.0 (12.7–41.2)2.5 (0.1–13.2)27.5 (14.6–43.9)
Photo + radiograph17.5 (7.3–32.8)12.5 (4.2–26.8)20.0 (9.1–35.6)45.0 (29.3–61.5)2.5 (0.1–13.2)47.5 (31.5–63.9)
GPT-6 AstraPhoto only12.5 (4.2–26.8)10.0 (2.8–23.7)15.0 (5.7–29.8)37.5 (22.7–54.2)2.5 (0.1–13.2)40.0 (24.9–56.7)
Photo + radiograph2.5 (0.1–13.2)2.5 (0.1–13.2)2.5 (0.1–13.2)57.5 (40.9–73.0)0.0 (0.0–8.8)57.5 (40.9–73.0)
Gemini 4 ArgonPhoto only10.0 (2.8–23.7)7.5 (1.6–20.4)12.5 (4.2–26.8)35.0 (20.6–51.7)2.5 (0.1–13.2)37.5 (22.7–54.2)
Photo + radiograph7.5 (1.6–20.4)2.5 (0.1–13.2)10.0 (2.8–23.7)45.0 (29.3–61.5)5.0 (0.6–16.9)47.5 (31.5–63.9)
Table 1. マッチおよびミスマッチ写真に対する3つの先進モデルの誤報率(パーセント)。各値は40枚の写真で算出されたClopper–Pearson 95%信頼区間を括弧で示している。Banerjee, Oishi, Lee, Eujin, Kim, Sung Eun, Willauer, Alexandra N., Zhou, Christine Y., Yang, Zhizhou et al. · arXiv:2611.06631v1 · Table 1: · CC BY 4.0
図はマッチおよびミスマッチの画像ペアを並べ、ミスマッチペアで生じる誤報例を示す。
Figure 1. マッチ写真とミスマッチ写真を対照にした場合の誤報例。底右の画像は、胸部X線が怪我を示すと誤認し、写真中の良性の血管無形症を腺色素斑と混同した例である。Banerjee, Oishi, Lee, Eujin, Kim, Sung Eun, Willauer, Alexandra N., Zhou, Christine Y., Yang, Zhizhou et al. · arXiv:2611.06631v1 · Figure 1: · CC BY 4.0

元論文

Trick-or-Treat: Adversarial Evaluation of Multimodal Medical Reasoning with Synthetic Images

コンピュータビジョン人工知能
arXiv で見る