arXiv News

すべての人に一次情報を

サイト

Aboutプライバシーポリシー利用規約

© 2026 arXiv News

NPCBenchベンチマークで大型言語モデルが上皮腫の診療ステップで大幅な欠落を示す | arXiv News

arXiv News

英語日本語

言語を切り替え

英語日本語
アカウントを読み込み中…

すべての人に一次情報を

トップページに戻る
人工知能日本語公開済み

NPCBenchベンチマークで大型言語モデルが上皮腫の診療ステップで大幅な欠落を示す

2026年11月7日arXiv: 2611.08369v1

NPCBenchは、鼻咽頭癌(NPC)の診断から治療までの全経路を問う新しいベンチマークです。

ベンチマークは、100件の患者経路と417のクリティカルタスク(組織診断、MRI T‑ステージ、ケア決定)から構成されています。

21の多模態モデルのうち、Claude‑4.6が最大23.0 %の「厳密CarePath」(診断・MRIステージ・治療がすべて正しい)成功率を記録しました。

表A7。各モデルの厳密CarePath成功率とCare精度を示す。Claude‑4.6の23.0%が最も高い。
ModelInput interfaceInference
Medical-Specific LLMs
HuatuoGPT-o1-72BTextLocal
HuatuoGPT-o1-7BTextLocal
Baichuan-M2-32BTextLocal
Fleming-R1-32B
Text
Local
Fleming-R1-7BTextLocal
Medical-Specific MLLMs
HealthGPT-Pro-4BText and imageLocal
HealthGPT-Pro-8B†Text and imageLocal
Hulu-Med-4BText and imageLocal
Hulu-Med-7BText and imageLocal
Hulu-Med-32BText and imageLocal
Lingshu-7BText and imageLocal
Lingshu-32BText and imageLocal
Open-Source LLMs
Qwen3-30B-A3BTextLocal
GPT-OSS-20BTextLocal
GPT-OSS-120BTextLocal
DeepSeek-V3.1TextAPI
Open-Source MLLMs
Qwen3-VL-8B-Instruct†Text and imageLocal
Qwen3-VL-30B-A3B-Instruct†Text and imageLocal
Qwen3.5-9BText and imageLocal
Qwen3.5-27B†Text and imageLocal
Qwen3.5-35B-A3BText and imageLocal
Qwen3.6-27BText and imageLocal
Qwen3.6-35B-A3BText and imageLocal
InternVL3.5-38BText and imageLocal
Proprietary (M)LLMs
GPT-5.1Text and imageAPI
GPT-4.1Text and imageAPI
Gemini-3.1-Pro-PreviewText and imageAPI
Gemini-2.5-ProText and imageAPI
Gemini-2.5-FlashText and imageAPI
Claude-Sonnet-4.6Text and imageAPI
Table A7. 表 A7 – 21モデルの厳密CarePath成功率とCare精度の比較。Claude‑4.6が23.0 %で最高。Wang, Pengkai, Zhang, Wei-Wei, Li, Yan, Tang, Min, Hou, Zhitian, Liu, Zeyu et al. · arXiv:2611.08369v1 · Table A7: · CC BY 4.0

Gemini‑3.1‑Pro‑Previewは、厳密CarePathでは11.0 %に留まりますが、個別タスクの「Care精度」は89.9 %と高いです。

長期的な再評価(L5)では、Gemini‑3.1‑Pro‑Previewが1回の判断で87.9 %、患者単位で71.0 %の完全成功率を示しました。Claude‑4.6は、85.2 %(1回)と63.0 %(患者全体)を記録しました。

表A10。L5 Longitudinal Revisionのターン精度、患者マクロ精度、全転成功率を示す。Gemini‑3.1‑Pro‑Previewが87.9%のターン精度と71.0%の全転成功率を記録。
ModelTurnPatient macroAll-turn success
API models
DeepSeek-V3.174.474.242.0
GPT-5.175.773.745.0
GPT-4.178.777.545.0
Gemini-3.1-Pro-Preview87.988.671.0
Gemini-2.5-Pro82.081.656.0
Gemini-2.5-Flash69.571.742.0
Claude-Sonnet-4.685.285.663.0
Local models
HuatuoGPT-o1-72B63.962.126.0
HuatuoGPT-o1-7B55.153.420.0
Baichuan-M2-32B66.265.531.0
Fleming-R1-32B75.774.140.0
Fleming-R1-7B59.359.323.0
HealthGPT-Pro-4B26.224.94.0
HealthGPT-Pro-8B38.737.39.0
Hulu-Med-4B59.359.126.0
Hulu-Med-7B47.247.116.0
Hulu-Med-32B70.270.437.0
Lingshu-7B49.249.414.0
Lingshu-32B70.570.137.0
Qwen3-30B-A3B63.363.527.0
GPT-OSS-20B48.948.013.0
GPT-OSS-120B60.358.023.0
Qwen3-VL-8B-Instruct69.870.038.0
Qwen3-VL-30B-A3B-Instruct68.567.636.0
Qwen3.5-9B60.760.724.0
Qwen3.5-27B76.474.546.0
Qwen3.5-35B-A3B72.872.941.0
Qwen3.6-27B79.779.653.0
Qwen3.6-35B-A3B76.174.649.0
InternVL3.5-38B58.458.421.0
Table A10. 表 A10 – L5 Longitudinal Revisionでのターン精度・患者マクロ精度・全転成功率。Gemini‑3.1‑Pro‑Previewが87.9 %/71.0 %で最高。Wang, Pengkai, Zhang, Wei-Wei, Li, Yan, Tang, Min, Hou, Zhitian, Liu, Zeyu et al. · arXiv:2611.08369v1 · Table A10: · CC BY 4.0

NPCBenchは、各タスクで利用可能な情報のみを許可し、将来の情報漏洩を防いでいます。

今後は、多施設・前向きデータ収集が必要です。

元論文

NPCBench: A Clinical Apprenticeship Benchmark for Multimodal Care-Pathway Reasoning in Nasopharyngeal Carcinoma

人工知能
arXiv で見る