論文の概要: MedAgent-R1: Faithfulness-Aware Reinforcement Learning for Evidence-Grounded Medical Reasoning

• arxiv url: http://arxiv.org/abs/2608.30676v1
• Date: Mon, 31 Aug 2026 12:19:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.384108
• Title: MedAgent-R1: Faithfulness-Aware Reinforcement Learning for Evidence-Grounded Medical Reasoning
• Title（参考訳）: MedAgent-R1:Evidence-Grounded Medical ReasoningのためのFhithfulness-Aware Reinforcement Learning
• Abstract要約: RL学習検索エージェントにおける系統的障害モードを同定する。 私たちは、忠実な報酬デザインでこの問題に対処します。 結果として得られるMedAgent-R1は、励起生成を31.8%から4.7%に減少させる。
• 参考スコア（独自算出の注目度）: 6.676492026608371
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When medical AI systems hallucinate clinical reasoning, the consequences extend beyond incorrect answers: fabricated justifications that superficially reference retrieved evidence can mislead clinicians into unsafe treatment decisions. Medical reasoning agents must therefore produce not only correct answers but also faithful justifications that clinicians can verify against cited evidence. We identify a systematic failure mode in RL-trained retrieval agents: outcome-only rewards improve accuracy while degrading faithfulness, a phenomenon we term confident hallucination. The agent learns to answer from parametric memory and backfill plausible but unsupported justifications; citation fabrication rates rise from 16.5% to 31.8% even as accuracy improves by 5 points over the supervised baseline. We address this with a faithfulness-gated reward design: accuracy credit is conditioned on evidence grounding via a hard gate, complemented by retrieval validity and conciseness signals that close exploitation paths unique to agentic retrieval. The resulting system, MedAgent-R1, reduces citation fabrication from 31.8% to 4.7% and raises evidence completeness from 58.7 to 82.6 while maintaining 75.1% accuracy, with 13.2-point gains on HealthBench Safety. Under the same agentic retrieval setup, MedAgent-R1 outscores GPT-4o on faithfulness-specific dimensions (Factual Support 4.55 vs. 4.25; Overclaiming 4.40 vs. 4.15) while remaining below GPT-4o in overall accuracy, suggesting that explicit faithfulness training yields evidence-grounding gains not achieved by scaling alone.
• Abstract（参考訳）: 医療用AIシステムが臨床推論を幻覚させると、結果は誤った答え以上のものとなる。 したがって、医学的推論エージェントは正しい答えだけでなく、臨床医が引用された証拠に対して検証できる忠実な正当性も生み出す必要がある。 結果のみの報酬は忠実度を低下させながら精度を向上させるが、これは自信の幻覚と呼ばれる現象である。 エージェントは、パラメトリックメモリとバックフィルプラウチブルから答えることを学ぶが、推奨ベースラインの精度が5ポイント向上しても、引用生成率は16.5%から31.8%に上昇する。 精度クレジットは、ハードゲートを介して根拠を定め、検索の妥当性と、エージェント検索特有の利用経路を閉じる簡潔な信号によって補完される。 結果、MedAgent-R1は引用生成を31.8%から4.7%に減らし、証拠の完全性を58.7から82.6に引き上げ、75.1%の精度を維持し、HealthBench Safetyでは13.2ポイントの利得を得た。 同じエージェント検索設定の下で、MedAgent-R1 は GPT-4o を忠実性固有の次元(Factual Support 4.55 vs. 4.25; Overclaiming 4.40 vs. 4.15)で上回り、総合的精度では GPT-4o 以下にとどまり、明示的な忠実性トレーニングは、単独でスケールすることで証拠のグラデーションを得ることができないことを示唆している。

関連論文リスト

• MediSkill-Evo: Process-Constrained Self-Evolution for Evidence-Grounded Clinical Interaction [8.036967404810378]
  バックボーンを微調整することなくプロセス知識を自己進化させるメディスキル・エボを紹介する。 Qwen FullChainでは、メディスキル・エボは診断精度を7.81%改善し、最も優れた先行剤よりも70.67%向上した。 マルチモーダルNEJM診断において、オプションのMedSkill-Evoは診断精度を2.56%、コアスコアを18.96%向上させる。
  論文  参考訳（メタデータ） (2026-08-24T15:45:26Z)
• Trivial Prompt Reframing Bypasses Safety Guardrails in Googleś MedGemma-4B [0.0]
  オープンウェイト医療言語モデルは、患者向けおよび臨床支援アプリケーションの基礎として、ますます利用されている。 MedGemma-4B-itの技術的洗練を必要としない攻撃におけるギャップを定量化する。
  論文  参考訳（メタデータ） (2026-07-09T18:31:43Z)
• An AI agent for treatment reasoning over a biomedical tool universe [35.05540785374698]
  1939年以降、FDAが承認した全ての薬物を治療するAIエージェントであるAtheNA-R1を紹介する。 AtheNA-R1は、212のバイオメディカルツールの宇宙上で強化学習によって訓練されている。 治療薬理学では94.7%、治療薬理学では82.9%に達する。
  論文  参考訳（メタデータ） (2026-06-27T02:24:56Z)
• Measuring Epistemic Resilience of LLMs Under Misleading Medical Context [47.20527783144983]
  大規模言語モデル(LLMs)は、医療ライセンス試験のエキスパートレベルスコアに到達した。 誤解を招く文脈が LLM が元来正しく答える質問に注入されると、彼らは正しい答えを放棄する。 本研究は, 逆行性てんかんのレジリエンス下での正しい判断を維持できる能力と, 測定にMedMisBenchを導入している。
  論文  参考訳（メタデータ） (2026-06-10T16:27:26Z)
• Benchmarking Multi-turn Medical Diagnosis: Hold, Lure, and Self-Correction [72.89352076103889]
  大規模言語モデル (LLM) は, 臨床情報がすべて一ターンで提供される場合に, 高い精度で診断を行う。 1,035例からなる高忠実多ターン診断ベンチマークであるMINTを導入する。 診断決定に大きな影響を及ぼす3つの永続的な行動パターンを明らかにする。
  論文  参考訳（メタデータ） (2026-04-06T00:23:10Z)
• Safety Recovery in Reasoning Models Is Only a Few Early Steering Steps Away [97.11976870616273]
  本稿では,安全回復を目的ではなく満足度の高い制約として扱う軽量な推論時防衛法を提案する。 6つのオープンソースMLRMと4つのjailbreakベンチマークで評価した結果、SafeThinkは攻撃成功率を30～60%削減しました。
  論文  参考訳（メタデータ） (2026-02-11T18:09:17Z)
• MedOmni-45°: A Safety-Performance Benchmark for Reasoning-Oriented LLMs in Medicine [69.08855631283829]
  我々は,操作的ヒント条件下での安全性能トレードオフの定量化を目的としたベンチマークであるMed Omni-45 Degreesを紹介する。 6つの専門分野にまたがる1,804の推論に焦点を当てた医療質問と3つのタスクタイプが含まれており、その中にはMedMCQAの500が含まれる。 結果は、モデルが対角線を超えることなく、一貫した安全性と性能のトレードオフを示す。
  論文  参考訳（メタデータ） (2025-08-22T08:38:16Z)
• Benchmarking Reasoning Robustness in Large Language Models [76.79744000300363]
  新規データや不完全データでは,性能が著しく低下することがわかった。 これらの結果は、厳密な論理的推論に対するリコールへの依存を浮き彫りにした。 本稿では,情報不足によって引き起こされる幻覚を利用して推論ギャップを明らかにする,Math-RoBと呼ばれる新しいベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-03-06T15:36:06Z)
• Medical Hallucinations in Foundation Models and Their Impact on Healthcare [71.15392179084428]
  基礎モデルの幻覚は自己回帰訓練の目的から生じる。 トップパフォーマンスモデルは、チェーン・オブ・シークレット・プロンプトで強化された場合、97%の精度を達成した。
  論文  参考訳（メタデータ） (2025-02-26T02:30:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。