論文の概要: MedCalc-R1: Knowledge-Guided Reward Framework for Medical Mathematical Reasoning
- arxiv url: http://arxiv.org/abs/2608.08623v1
- Date: Sun, 09 Aug 2026 10:13:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.887439
- Title: MedCalc-R1: Knowledge-Guided Reward Framework for Medical Mathematical Reasoning
- Title(参考訳): MedCalc-R1:医学的数学的推論のための知識誘導リワードフレームワーク
- Abstract要約: 知識誘導型ハイブリッド報酬フレームワーク(textscMedCalc-R1)を提案する。
計算式を明示的に生成する知識検証報酬機構を導入する。
臨床安全閾値とソフトで精度の高い報酬に基づいて、ハード制約を併用したハイブリッドソフトハード報酬方式を設計する。
- 参考スコア(独自算出の注目度): 13.536561786701407
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In Reinforcement Learning with Verifiable Rewards (RLVR) frameworks for mathematical reasoning tasks, floating-point results are typically evaluated using a tolerance-based reward. However, this strategy suffers from challenges such as difficulty in threshold calibration, unstable training dynamics, and limited accuracy, especially in clinical scenarios. To address these limitations, we propose a knowledge-guided hybrid reward framework (\textsc{MedCalc-R1}). Specifically, we introduce a knowledge verification reward mechanism that enforces explicit generation of computational formulas, which are further validated by an external verifier to enhance interpretability and reasoning reliability. Furthermore, we design a hybrid soft-hard reward scheme combining a hard constraint based on clinical safety thresholds with a soft, precision-sensitive reward that progressively guides learning within the acceptable range. Experimental results demonstrate that our method significantly outperforms existing baselines in both reasoning accuracy and generalization capability, validating the effectiveness and applicability in safety-critical domains.
- Abstract(参考訳): 数学的推論タスクのためのReinforcement Learning with Verifiable Rewards (RLVR)フレームワークでは、浮動小数点結果は通常、寛容に基づく報酬を用いて評価される。
しかし、この戦略は、特に臨床シナリオにおいて、しきい値校正の困難、不安定なトレーニングダイナミクス、限られた精度といった課題に悩まされている。
これらの制約に対処するため、知識誘導型ハイブリッド報酬フレームワーク(\textsc{MedCalc-R1})を提案する。
具体的には、計算式を明示的に生成する知識検証報酬機構を導入し、解釈可能性と推論信頼性を高めるために外部検証器によりさらに検証する。
さらに,臨床安全閾値に基づく厳密な制約と,許容範囲内での学習を段階的に導く,ソフトで精度の高い報酬とを組み合わせたハイブリッド型ソフトハード報酬方式を設計する。
実験の結果,提案手法は推論精度と一般化能力の両方において既存のベースラインを著しく上回り,安全性に問題のある領域における有効性と適用性を検証した。
関連論文リスト
- When Do Intrinsic Rewards Work for Code Reasoning? A Comprehensive Study [77.64957118012423]
検証可能な報酬(RLVR)による強化学習は、大規模言語モデル推論において大きな進歩をもたらした。
最近の研究は、多数決や信頼に基づくスコアなど、モデル自身の信号から報酬を導き出すことによって、この問題に対処している。
本稿では,コード生成における本質的な報酬手法の体系的研究について述べる。
論文 参考訳(メタデータ) (2026-06-18T19:15:50Z) - Improving Adversarial Robustness of Attribution via Implicit Regularization [9.78455276849371]
属性の敵対的堅牢性は、深層学習における信頼性説明可能性の基本的な要件である。
我々は、標準勾配降下の学習力学から頑健性が暗黙的に生じることを示した。
本研究は,ロバストな説明可能性のための原理的かつ実践的なメカニズムとして,学習力学を強調した。
論文 参考訳(メタデータ) (2026-05-28T14:19:39Z) - Beyond Prompt: Fine-grained Simulation of Cognitively Impaired Standardized Patients via Stochastic Steering [58.85421622061983]
認知障害患者の微粒化シミュレーションのためのStsPatientを提案する。
対照的な命令と応答のペアからステアリングベクトルを抽出することにより、ドメイン固有の特徴を捉える。
StsPatientは、臨床の信頼性と重症度の両方において、ベースラインを著しく上回る。
論文 参考訳(メタデータ) (2026-04-14T02:37:46Z) - Know What You Know: Metacognitive Entropy Calibration for Verifiable RL Reasoning [31.629261193485053]
大規模推論モデル(LRM)は、複雑な現実世界のタスクを解くための強力なパラダイムとして登場した。
既存の結果のみのRLVRパイプラインのほとんどは、バイナリの正当性信号にのみ依存しており、モデルの本質的な不確かさをほとんど無視している。
本稿では,メタ認知型エントロピーキャリブレーションフレームワークEGPOを提案する。
論文 参考訳(メタデータ) (2026-02-26T08:40:06Z) - ConformalHDC: Uncertainty-Aware Hyperdimensional Computing with Application to Neural Decoding [2.5805874648322664]
本稿では,共形予測の統計的保証と超次元計算の計算効率を組み合わせた統合フレームワークであるConformalHDCを紹介する。
コンフォーマルHDCは、神経活動データに表される刺激情報を正確に復号するだけでなく、厳密な不確実性の推定や、他の行動状態からのデータを提示した場合の正確な棄権も示している。
論文 参考訳(メタデータ) (2026-02-24T23:52:08Z) - Overalignment in Frontier LLMs: An Empirical Study of Sycophantic Behaviour in Healthcare [1.9010852820067994]
モデル不安定性("Confusability")を考慮してアライメントバイアスを分離する新しい尺度であるAdjusted Sycophancy Scoreを提案する。
以上の結果から, ベンチマーク性能は臨床信頼性の指標ではないことが示唆され, 簡易な推論構造は, 専門家主導の薬効に対して優れた堅牢性をもたらす可能性が示唆された。
論文 参考訳(メタデータ) (2026-01-26T10:21:34Z) - Decoding Rewards in Competitive Games: Inverse Game Theory with Entropy Regularization [52.74762030521324]
本稿では,観察行動から報酬関数を学習するための新しいアルゴリズムを提案する。
我々は,アルゴリズムの信頼性とサンプル効率について,強力な理論的保証を提供する。
論文 参考訳(メタデータ) (2026-01-19T04:12:51Z) - Safely Learning Controlled Stochastic Dynamics [61.82896036131116]
システム力学の安全な探索と効率的な推定を可能にする手法を提案する。
学習後、学習モデルはシステムのダイナミクスの予測を可能にし、任意の制御の安全性検証を可能にする。
我々は、真の力学のソボレフ正則性を高めることにより、安全性と適応学習率の向上を理論的に保証する。
論文 参考訳(メタデータ) (2025-06-03T11:17:07Z) - Advancing Embodied Agent Security: From Safety Benchmarks to Input Moderation [52.83870601473094]
エンボディード・エージェントは、複数のドメインにまたがって大きな潜在能力を示す。
既存の研究は主に、一般的な大言語モデルのセキュリティに重点を置いている。
本稿では, エンボディエージェントの保護を目的とした新しい入力モデレーションフレームワークを提案する。
論文 参考訳(メタデータ) (2025-04-22T08:34:35Z) - Fragility-aware Classification for Understanding Risk and Improving Generalization [6.926253982569273]
リスク・リバースの観点から分類性能を評価する新しい指標であるFragility Index(FI)を導入する。
我々は, クロスエントロピー損失, ヒンジ型損失, リプシッツ損失の正確な修正を導き, 深層学習モデルへのアプローチを拡張した。
論文 参考訳(メタデータ) (2025-02-18T16:44:03Z) - Regularization for Adversarial Robust Learning [18.46110328123008]
我々は,$phi$-divergence正規化を分散ロバストなリスク関数に組み込む,対角訓練のための新しい手法を開発した。
この正規化は、元の定式化と比較して計算の顕著な改善をもたらす。
本研究では,教師付き学習,強化学習,文脈学習において提案手法の有効性を検証し,様々な攻撃に対して最先端の性能を示す。
論文 参考訳(メタデータ) (2024-08-19T03:15:41Z) - When Demonstrations Meet Generative World Models: A Maximum Likelihood
Framework for Offline Inverse Reinforcement Learning [62.00672284480755]
本稿では, 専門家エージェントから, 一定の有限個の実演において観測された動作を過小評価する報酬と環境力学の構造を復元することを目的とする。
タスクを実行するための正確な専門知識モデルは、臨床的意思決定や自律運転のような安全に敏感な応用に応用できる。
論文 参考訳(メタデータ) (2023-02-15T04:14:20Z) - Evaluating the Safety of Deep Reinforcement Learning Models using
Semi-Formal Verification [81.32981236437395]
本稿では,区間分析に基づく半形式的意思決定手法を提案する。
本手法は, 標準ベンチマークに比較して, 形式検証に対して比較結果を得る。
提案手法は, 意思決定モデルにおける安全性特性を効果的に評価することを可能にする。
論文 参考訳(メタデータ) (2020-10-19T11:18:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。