論文の概要: SafeMed-R1: Adversarial Reinforcement Learning for Generalizable and Robust Medical Reasoning in Vision-Language Models

• arxiv url: http://arxiv.org/abs/2512.19317v1
• Date: Mon, 22 Dec 2025 12:07:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-23 18:54:32.74072
• Title: SafeMed-R1: Adversarial Reinforcement Learning for Generalizable and Robust Medical Reasoning in Vision-Language Models
• Title（参考訳）: SafeMed-R1:視覚・言語モデルにおける汎用的・ロバストな医療推論のための逆強化学習
• Authors: A. A. Gde Yogi Pramana, Jason Ray, Anthony Jaya, Michael Wijaya,
• Abstract要約: ハイブリット・ディフェンス・フレームワークであるSafeMed-R1を導入する。 明示的なチェーン・オブ・シークレット推論で訓練されたモデルは、命令のみの変種と比較して、対角的堅牢性に優れることを示した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision--Language Models (VLMs) show significant promise for Medical Visual Question Answering (VQA), yet their deployment in clinical settings is hindered by severe vulnerability to adversarial attacks. Standard adversarial training, while effective for simpler tasks, often degrades both generalization performance and the quality of generated clinical reasoning. We introduce SafeMed-R1, a hybrid defense framework that ensures robust performance while preserving high-quality, interpretable medical reasoning. SafeMed-R1 employs a two-stage approach: at training time, we integrate Adversarial Training with Group Relative Policy Optimization (AT-GRPO) to explicitly robustify the reasoning process against worst-case perturbations; at inference time, we augment the model with Randomized Smoothing to provide certified $L_2$-norm robustness guarantees. We evaluate SafeMed-R1 on the OmniMedVQA benchmark across eight medical imaging modalities comprising over 88,000 samples. Our experiments reveal that standard fine-tuned VLMs, despite achieving 95\% accuracy on clean inputs, collapse to approximately 25\% under PGD attacks. In contrast, SafeMed-R1 maintains 84.45\% accuracy under the same adversarial conditions, representing a 59 percentage point improvement in robustness. Furthermore, we demonstrate that models trained with explicit chain-of-thought reasoning exhibit superior adversarial robustness compared to instruction-only variants, suggesting a synergy between interpretability and security in medical AI systems.
• Abstract（参考訳）: VLM(Vision-Language Models)は、VQA(Messical Visual Question Answering)に大きな可能性を秘めているが、その臨床環境への展開は、敵の攻撃に対する深刻な脆弱性によって妨げられている。 標準的な対人訓練は、単純な作業に効果的であるが、一般化性能と、生成された臨床推論の品質の両方を低下させることが多い。 ハイブリット・ディフェンス・フレームワークであるSafeMed-R1を導入する。 SafeMed-R1は2段階のアプローチを採用しており、トレーニング時にグループ相対ポリシー最適化(AT-GRPO)とAdversarial Trainingを統合して、最悪の場合の摂動に対する推論プロセスを明確化します。 OmniMedVQAベンチマークによるSafeMed-R1の評価を行った。 実験の結果,標準的な微調整VLMはクリーン入力では95%の精度で崩壊するが,PGD攻撃では約25%の精度で崩壊することがわかった。 一方、SafeMed-R1は84.45\%の精度を維持しており、59パーセントの堅牢性向上を示している。 さらに、明示的なチェーン・オブ・シント推論で訓練されたモデルは、命令のみの変種よりも優れた対角的堅牢性を示し、医療AIシステムにおける解釈可能性とセキュリティの相乗効果を示唆している。

関連論文リスト

• EchoBench: Benchmarking Sycophancy in Medical Large Vision-Language Models [82.43729208063468]
  医療用LVLM(Large Vision-Language Models)の最近のベンチマークでは、信頼性と安全性を見越して、リーダボードの精度を強調している。 ユーザが提供した情報を非批判的に反響させる傾向のモデルについて検討する。 医療用LVLMの梅毒を系統的に評価するベンチマークであるEchoBenchを紹介する。
  論文  参考訳（メタデータ） (2025-09-24T14:09:55Z)
• MedOmni-45°: A Safety-Performance Benchmark for Reasoning-Oriented LLMs in Medicine [69.08855631283829]
  我々は,操作的ヒント条件下での安全性能トレードオフの定量化を目的としたベンチマークであるMed Omni-45 Degreesを紹介する。 6つの専門分野にまたがる1,804の推論に焦点を当てた医療質問と3つのタスクタイプが含まれており、その中にはMedMCQAの500が含まれる。 結果は、モデルが対角線を超えることなく、一貫した安全性と性能のトレードオフを示す。
  論文  参考訳（メタデータ） (2025-08-22T08:38:16Z)
• Beyond Benchmarks: Dynamic, Automatic And Systematic Red-Teaming Agents For Trustworthy Medical Language Models [87.66870367661342]
  大規模言語モデル(LLM)は、医療におけるAIアプリケーションで使用される。 LLMを継続的にストレステストするレッドチームフレームワークは、4つのセーフティクリティカルなドメインで重大な弱点を明らかにすることができる。 敵エージェントのスイートは、自律的に変化するテストケースに適用され、安全でないトリガー戦略を特定し、評価する。 私たちのフレームワークは、進化可能でスケーラブルで信頼性の高い、次世代の医療AIのセーフガードを提供します。
  論文  参考訳（メタデータ） (2025-07-30T08:44:22Z)
• Med-R1: Reinforcement Learning for Generalizable Medical Reasoning in Vision-Language Models [22.376887343137884]
  視覚言語モデル(VLM)は、自然画像の推論において顕著な進歩を遂げているが、医療画像におけるその可能性はまだ探索されていない。 医用推論における一般化と信頼性の向上を目的とした強化学習(RL)による視覚言語モデルであるMed-R1を提案する。 我々はMed-R1を8つの異なる医用画像モダリティで評価した。
  論文  参考訳（メタデータ） (2025-03-18T06:12:38Z)
• Hierarchical Self-Supervised Adversarial Training for Robust Vision Models in Histopathology [64.46054930696052]
  敵対的攻撃は、医療のような重要な分野におけるビジョンモデルに重大な課題をもたらす。 既存の自己監督型逆行訓練手法は、病理像の階層構造を見落としている。 本稿では,これらの特性を活かした階層型自己監督適応訓練(HSAT)を提案する。
  論文  参考訳（メタデータ） (2025-03-13T17:59:47Z)
• MedVLM-R1: Incentivizing Medical Reasoning Capability of Vision-Language Models (VLMs) via Reinforcement Learning [29.84956540178252]
  推論は、医用画像解析の進歩における重要なフロンティアである。 我々は、自然言語推論を明示的に生成する医療用VLMであるMedVLM-R1を紹介する。 MedVLM-R1の精度は、MRI、CT、X線ベンチマークで55.11%から78.22%に向上している。
  論文  参考訳（メタデータ） (2025-02-26T23:57:34Z)
• CARES: A Comprehensive Benchmark of Trustworthiness in Medical Vision Language Models [92.04812189642418]
  我々はCARESを紹介し,医療領域全体での医療LVLMの信頼性を評価することを目的とする。 我々は,Med-LVLMの信頼性を,信頼性,公正性,安全性,プライバシ,堅牢性,5次元にわたって評価する。
  論文  参考訳（メタデータ） (2024-06-10T04:07:09Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。