トリック‑or‑トリート(Trick‑or‑Treat)は、実際の胸部X線写真と合成した臨床写真をペアにし、異なる画像モダリティ間の推論を検証するために開発された対抗性ベンチマークです。<br>モデルは、同一患者の胸部X線と病気に関連する所見だけが異なる二つの合成写真を与えられ、両モダリティの情報を統合し診断を導くことを求められます。<br>照合ペア(マッチ)ではX線と写真が同じ疾患を示し、ミスマッチペア(ミスマッチ)では写真が別の所見を示すため、統一的診断が成立しません。<br>写真のみを提示した場合、3つの先進モデルはミスマッチ写真で25〜37.5%の確率で臨床上重要な所見を誤って報告し、マッチ写真で10〜27.5%の確率で実際の異常を見逃しました。<br>ミスマッチペアに胸部X線を加えると、誤報率は45〜57.5%に増加し、説明に合った所見を想像する傾向が強まります。<br>一方でマッチペアにX線を添えると、偽陽性は25〜48.4%から12.5〜17.5%へ、偽陰性は7.5〜27.5%から2.5〜12.5%へ低下しました。<br>この結果は、マルチモーダルコンテキストが推論エラーを増幅させるパターンを示しています。モデルはマッチング情報を優先し、ミスマッチの矛盾を無視してX線に合致する所見を想像する傾向があると考えられます。<br>合成写真は人間のレビューを経て生成されていますが、微細な生成アーティファクトが結果に影響する可能性があると作者は報告しています。<br>現在のベンチマークは40画像/条件などサンプル数が限られているため統計的信頼度に制約がありますが、これが示す弱点は現在のマルチモーダルモデルに対する重要な警告です。
表はマッチ写真とミスマッチ写真における偽陽性、偽陰性、どちらかの誤報率の統計情報を示す。 | | Matched | Mismatched |
|---|
| Model | Setting | FP | FN | Any | FP | FN |
|---|