論文の概要: Med-OPD: Improving Medical Vision-Language Models via Evidence-Aware On-Policy Distillation
- arxiv url: http://arxiv.org/abs/2607.16303v1
- Date: Tue, 14 Jul 2026 07:08:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.102063
- Title: Med-OPD: Improving Medical Vision-Language Models via Evidence-Aware On-Policy Distillation
- Title(参考訳): Med-OPD:Evidence-Aware On-Policy Distillationによる医用ビジョンランゲージモデルの改善
- Abstract要約: 医療ビジョンランゲージモデル(Med-VLMs)は、きめ細かい視覚的証拠から信頼できる推論を必要とする。
On-Policy Distillation (OPD)は、学生が生成する軌跡のトークンレベルを集中的に管理する。
我々は,Med-VLMにおけるオンライン蒸留と医療エビデンス対応の監視を統合したMed-OPDを提案する。
- 参考スコア(独自算出の注目度): 16.70988820954221
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Medical Vision-Language Models (Med-VLMs) require reliable reasoning from fine-grained visual evidence, yet existing models can produce plausible clinical answers by relying on language priors or medical templates rather than truly attending to diagnosis-critical regions. On-Policy Distillation (OPD) offers dense token-level supervision on student-generated trajectories and provides a privacy-compatible means of capability transfer without requiring the redistribution of raw patient data. However, standard OPD uniformly distills all tokens, causing sparse evidence-dependent tokens to be diluted by abundant clinical narrative tokens. Inspired by the success of OPD in the large language model community, we propose \textbf{Med-OPD}, to our knowledge the first unified post-training framework that integrates on-policy distillation with medical evidence-aware supervision for Med-VLMs. We introduce \textbf{Medical Evidence Advantage} (MEA), a teacher-grounded counterfactual signal that uses an answer-aware hint to focus teacher scoring on evidence supporting the target diagnosis, and measures each token's dependence on medical visual evidence by comparing teacher likelihoods under the original and evidence-degraded imaging modalities. Based on MEA, Med-OPD redistributes the distillation signal at both the token and trajectory levels, emphasizing diagnosis-critical tokens and evidence-reliant rollouts. Experiments on OmniMedVQA subsets show that Med-OPD consistently outperforms SFT and standard OPD across CT, MRI, Disease Diagnosis, and Lesion Grading. These results demonstrate that evidence-aware distillation can better strengthen medical VLMs' reliance on key visual evidence and improve reliable multimodal medical reasoning. The source code and data is publicly available at: https://github.com/yunhang8658/MedOPD.git
- Abstract(参考訳): 医療ビジョン・ランゲージモデル(Med-VLMs)は、きめ細かい視覚的証拠から信頼できる推論を必要とするが、既存のモデルは、診断クリティカルな領域に本当に参加するのではなく、言語優先や医療テンプレートに頼ることによって、妥当な臨床答えを生み出すことができる。
On-Policy Distillation (OPD) は、学生が生成するトラジェクトリのトークンレベルを集中的に監視し、生の患者データを再配布することなく、プライバシに適合する機能伝達手段を提供する。
しかし、標準PDは全てのトークンを均一に蒸留し、スパースエビデンスに依存したトークンは豊富な臨床物語トークンによって希釈される。
大規模言語モデルコミュニティにおけるOPDの成功に触発されて、我々は、オンライン蒸留と医療エビデンスを統合した最初の統合後トレーニングフレームワークである「textbf{Med-OPD}」を提案する。
本稿では,教師が認識するヒントを用いて,目標診断を支持する証拠に焦点を合わせ,各トークンの医用視覚的証拠への依存度を,原画像と証拠の劣化画像のモダリティに基づいて比較することにより測定する,教師の認識に基づく対物信号である「textbf{Medical Evidence Advantage} (MEA)」を紹介した。
MEAに基づいて、Med-OPDは、トークンと軌跡レベルの両方で蒸留信号を再分配し、診断クリティカルトークンとエビデンス-リライアントロールアウトを強調する。
OmniMedVQAサブセットの実験では、Med-OPDは、CT、MRI、疾患診断、病変グレーディングにおいて、SFTおよび標準PDよりも一貫して優れていた。
これらの結果から,エビデンスを意識した蒸留は,重要な視覚的証拠に対する医療用VLMの信頼性を高め,信頼性の高いマルチモーダル医療推論を改善することが示唆された。
ソースコードとデータは、https://github.com/yunhang8658/MedOPD.gitで公開されている。
関連論文リスト
- Concept-Grounded Reasoning with Prompt-Driven Localization for Interpretable Structured Report Generation [66.62662330558906]
CORALは、空間的接地と概念レベルの監督を統一的な推論プロセスに統合するマルチモーダルフレームワークである。
コーラルは、疾患の局所化とコンセプション・ボトルネックモジュールによる多クラス臨床属性の予測のために、プロンプト駆動型医療セグメンテーションモデルを採用している。
BUS-CoTとIU X線データセットの実験では、診断精度、概念整合性、報告品質が強力な汎用および医療MLLMよりも一貫した改善が示されている。
論文 参考訳(メタデータ) (2026-09-14T10:21:23Z) - Eliciting Medical Reasoning with Knowledge-enhanced Data Synthesis: A Semi-Supervised Reinforcement Learning Approach [62.0906177191353]
既存のアプローチでは、教師付き微調整を経て、大規模プロプライエタリモデルからの連鎖推論トレースを蒸留し、強化学習(RL)を実施している。
MedSSRは,医療知識を付加したデータ合成と半教師付き強化学習フレームワークである。
本フレームワークはまず, 分布制御可能な推論質問を合成するために, 稀な疾患知識を利用する。
次に、ポリシーモデル自体を利用して高品質な擬似ラベルを生成する。これにより、擬似ラベルデータ上での自己教師型RLと、人間の注釈付き実データ上での教師型RLの2段階固有の訓練パラダイムが実現される。
論文 参考訳(メタデータ) (2026-04-13T14:37:38Z) - MEDIC-AD: Towards Medical Vision-Language Model's Clinical Intelligence [17.512220295924816]
現在の医療ビジョンランゲージモデル(VLM)には、その幅広い知識を臨床的に実行可能なアウトプットに変換するメカニズムが欠けている。
MEDIC-ADは臨床指向のVLMであり,これら3つの能力をステージワイドフレームワークを通じて強化する。
MEDIC-ADは, 異常検出, 症状追跡, 異常セグメンテーションにおける性能を着実に向上させる。
論文 参考訳(メタデータ) (2026-03-28T07:26:40Z) - EMAD: Evidence-Centric Grounded Multimodal Diagnosis for Alzheimer's Disease [5.623782023759069]
構造化アルツハイマー病診断報告を生成する視覚言語フレームワークEMADを提案する。
それぞれの主張は明らかにマルチモーダルな証拠に基づいている。
GTX-Distillは、教師が限定的な監督を受けた教師からモデル生成レポートを運用している学生に接地行動を伝達する。
論文 参考訳(メタデータ) (2026-02-22T13:15:22Z) - MedEyes: Learning Dynamic Visual Focus for Medical Progressive Diagnosis [17.59077756990045]
MedEyesは、臨床医スタイルの診断推論を動的にモデル化する強化学習フレームワークである。
二重モード探索法を用いて診断過程をエミュレートし, 組織的異常局所化をスキャンし, 詳細な地域分析を行う。
実験の結果、MedEyesは複数の医療用VQAベンチマークで+8.5%の性能向上を達成した。
論文 参考訳(メタデータ) (2025-11-27T01:47:43Z) - S-Chain: Structured Visual Chain-of-Thought For Medicine [81.97605645734741]
S-Chainは,有界ボックスと構造化ビジュアルCoT(SV-CoT)を備えた,12,000のエキスパートアノテートされた医用画像の最初の大規模データセットである。
データセットはさらに16言語をサポートし、幅広い多言語適用性のための合計700万VQAペアをサポートする。
S-Chainは、根拠のある医療推論のための新しいベンチマークを確立し、より信頼性が高く説明可能な医療ビジョン言語モデルへの道を開く。
論文 参考訳(メタデータ) (2025-10-26T15:57:14Z) - MedAlign: A Synergistic Framework of Multimodal Preference Optimization and Federated Meta-Cognitive Reasoning [52.064286116035134]
我々はMed-VQA(Med-VQA)のための視覚的LVLM応答を保証するフレームワークであるMedAlignを開発した。
まず、優先学習を視覚的コンテキストに合わせるために、マルチモーダルな直接選好最適化(mDPO)の目的を提案する。
次に、画像とテキストの類似性を生かし、クエリを専門的でコンテキスト拡張されたLVLMにルーティングする検索型混合処理(RA-MoE)アーキテクチャを設計する。
論文 参考訳(メタデータ) (2025-10-24T02:11:05Z) - GEMeX-RMCoT: An Enhanced Med-VQA Dataset for Region-Aware Multimodal Chain-of-Thought Reasoning [60.03671205298294]
医学的視覚的質問応答は、医学的イメージに基づいた自然言語的質問にモデルで答えることによって、臨床的な意思決定を支援することを目的としている。
現在の方法はまだ、答えの信頼性の制限と解釈性の低下に悩まされている。
この研究はまず、回答を生成するプロセスが中間的推論ステップのシーケンスに先行する領域対応マルチモーダル・チェーン・オブ・ソートデータセットを提案する。
論文 参考訳(メタデータ) (2025-06-22T08:09:58Z) - Med-PRM: Medical Reasoning Models with Stepwise, Guideline-verified Process Rewards [28.419723761732357]
Med-PRMは、確立した医療知識ベースに対する各推論ステップを検証するためのプロセス報酬モデリングフレームワークである。
Med-PRMは最先端のパフォーマンスを実現し、ベースモデルの性能を最大13.50%向上させた。
我々は、Med-PRMの汎用性を、Meerkatのような強力なポリシーモデルとプラグイン・アンド・プレイ方式で統合することで示す。
論文 参考訳(メタデータ) (2025-06-13T05:36:30Z) - Uncertainty-aware Medical Diagnostic Phrase Identification and Grounding [72.18719355481052]
MRG(Messical Report Grounding)と呼ばれる新しい課題について紹介する。
MRGは医療報告から診断フレーズとその対応する接地箱を直接エンドツーエンドで識別することを目的としている。
マルチモーダルな大規模言語モデルを用いて診断フレーズを予測する,堅牢で信頼性の高いフレームワークである uMedGround を提案する。
論文 参考訳(メタデータ) (2024-04-10T07:41:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。