論文の概要: CasePlay: Self-Play Reinforcement Learning from Case Reports for Medical Reasoning
- arxiv url: http://arxiv.org/abs/2610.24952v1
- Date: Sun, 18 Oct 2026 02:06:35 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:45:47.237187
- Title: CasePlay: Self-Play Reinforcement Learning from Case Reports for Medical Reasoning
- Title(参考訳): CasePlay: セルフプレイ強化学習 : 医療推論の事例報告から
- Abstract要約: 本研究では,高品質なラベル付き文書を効果的なRL学習信号に変換できるかどうかを考察する。
CasePlayは、Knowledge-Conditioned ProposerとReason-Judgeerの2つの主要なコンポーネントを備えたセルフプレイフレームワークである。
CasePlayは既存のセルフプレイベースラインを上回り、SFTウォームスタートモデルを平均3.1ポイント改善する。
- 参考スコア(独自算出の注目度): 21.979364801477633
- License:
- Abstract: Reinforcement learning (RL) is a promising way to improve the clinical reasoning abilities of large language models (LLMs), but current pipelines often rely on expert-labeled questions or costly synthetic-data generation. Meanwhile, the medical literature offers a wealth of high-quality unlabeled documents, including clinical case reports that trace the full clinical course from initial presentation to final treatment decisions. We study whether document-grounded self-play can convert these reports into effective RL training signals. We identify two challenges that limit existing self-play methods in this setting: knowledge-point fixation}, where the proposer repeatedly asks about a narrow set of salient clues in a source report, and difficulty-quality mismatch, where appropriately difficult questions may still be poorly formed or shallow, limiting their value for reasoner training. To address these challenges, we propose CasePlay, a self-play framework with two key components: (a) a Knowledge-Conditioned Proposer, which anchors question generation to case-specific knowledge points so that questions draw on a broader range of evidence from the source report; and (b) a Rubric-Judge Reasoner, which augments answer-accuracy feedback with rubric-based quality feedback on clue integration, reasoning depth, and option quality, guiding the proposer toward reasoning-intensive questions that better support reasoner training. Extensive experiments across seven medically related benchmarks demonstrate that CasePlay outperforms existing self-play baselines and improves the SFT warm-start model by 3.1 points on average, highlighted by a 6.3-point gain on LiveClin. This approach offers an effective path toward continually improving medical reasoning ability through self-play RL.
- Abstract(参考訳): 強化学習(Reinforcement Learning, RL)は、大規模言語モデル(LLM)の臨床推論能力を改善するための有望な方法である。
一方、医学文献は、初期プレゼンテーションから最終治療決定までの完全な臨床経過をたどる臨床報告を含む、高品質な未ラベル文書を多数提供している。
本研究では,これらの報告を効果的なRL学習信号に変換できるかどうかを考察する。
我々は,この設定における既存の自己プレーの手法を制限する2つの課題を識別する:知識ポイント固定(nowledge-point Fixation); 提案者がソースレポートにおいて,厳密な手掛かりの狭いセットについて繰り返し尋ねる; 難易度の高いミスマッチ(wat-quality mismatch)。
これらの課題に対処するために、我々は2つの主要なコンポーネントを持つセルフプレイフレームワークであるCasePlayを提案する。
(a)質問生成を事例特異的な知識ポイントに固定し、発信元報告書から幅広い証拠を引き出す知識指定プロポーラ
(b)ルーブリック・ジャッジ・リゾナーは、手がかり統合、推論深度、オプション品質に関するルーブリックに基づく品質フィードバックを付加し、推論集約的な質問を指導し、推論学習をより支援する。
7つの医学関連ベンチマークによる大規模な実験により、CasePlayは既存のセルフプレイベースラインを上回り、SFTウォームスタートモデルを平均3.1ポイント改善し、LiveClinの6.3ポイントのゲインによって強調されている。
このアプローチは、セルフプレイRLによる医療推論能力を継続的に改善するための効果的な経路を提供する。
関連論文リスト
- Fathom-Vaidya: Advancing Medical Reasoning with Rubric-Based Rewards [5.563127320625537]
医療における大規模言語モデル(LLM)は、2つの相補的な側面にわたる堅牢なパフォーマンスを必要とする。
HealthBenchやMedXpertQAといった最近のベンチマークでは、両方の領域で永続的な弱点が明らかになっている。
合成データとルーブリックに基づく強化学習を用いて、これらのファセットをターゲットとしたシーケンシャルなトレーニングフレームワークを導入する。
論文 参考訳(メタデータ) (2026-09-21T12:19:50Z) - Beyond the Leaderboard: Design Lessons for Trustworthy Multimodal VQA [4.080704298118247]
マルチモーダルAIは、信頼性と解釈性を維持しながら、視覚とテキストの証拠を組み合わせる必要がある。
我々は、質問応答と説明品質のために、9つの文書化されたシステムにまたがる設計選択を解析する。
この発見は、データ融合、説明可能性、レジリエントな評価に基づいて、信頼できるマルチモーダルヘルスケアAIをサポートする。
論文 参考訳(メタデータ) (2026-07-16T17:38:19Z) - Eliciting Medical Reasoning with Knowledge-enhanced Data Synthesis: A Semi-Supervised Reinforcement Learning Approach [62.0906177191353]
既存のアプローチでは、教師付き微調整を経て、大規模プロプライエタリモデルからの連鎖推論トレースを蒸留し、強化学習(RL)を実施している。
MedSSRは,医療知識を付加したデータ合成と半教師付き強化学習フレームワークである。
本フレームワークはまず, 分布制御可能な推論質問を合成するために, 稀な疾患知識を利用する。
次に、ポリシーモデル自体を利用して高品質な擬似ラベルを生成する。これにより、擬似ラベルデータ上での自己教師型RLと、人間の注釈付き実データ上での教師型RLの2段階固有の訓練パラダイムが実現される。
論文 参考訳(メタデータ) (2026-04-13T14:37:38Z) - RAR$^2$: Retrieval-Augmented Medical Reasoning via Thought-Driven Retrieval [25.425621641226815]
大きな言語モデル(LLM)は、様々な医療ベンチマークで有望なパフォーマンスを示している。
RAGは、外部医療情報を取り入れることで、知識ギャップと幻覚を緩和するための重要なアプローチとして登場した。
我々は、Reasoning-Augmented RetrievalとRetrieval-Augmented Reasoningを改善する共同学習フレームワークであるRAR$2$を提案する。
論文 参考訳(メタデータ) (2025-09-24T05:35:57Z) - End-to-End Agentic RAG System Training for Traceable Diagnostic Reasoning [52.12425911708585]
Deep-DxSearchは、強化学習(RL)でエンドツーエンドに訓練されたエージェントRAGシステムである。
Deep-DxSearchでは,患者記録と信頼性のある医療知識情報を含む大規模医療検索コーパスを構築した。
実験により、エンドツーエンドのRLトレーニングフレームワークは、プロンプトエンジニアリングやトレーニングフリーなRAGアプローチよりも一貫して優れています。
論文 参考訳(メタデータ) (2025-08-21T17:42:47Z) - Enhancing Clinical Multiple-Choice Questions Benchmarks with Knowledge Graph Guided Distractor Generation [29.547871298286687]
本稿では,インタプリタを生成することで,臨床データセットの難易度を高める知識誘導型データ拡張フレームワークを提案する。
我々のアプローチは、医療的関連性はあるものの、実際は正しくない、気晴らしの経路-連想を特定するために、医療知識グラフ上の多段階的、意味的に情報を得たウォークである。
設計した知識グラフガイド型イントラクタ生成(KGGDG)ピップラインを6つの広く使用されている医療用QAベンチマークに適用し、最先端のLCMの精度を一貫して低下させることを示す。
論文 参考訳(メタデータ) (2025-05-31T15:51:09Z) - Structured Outputs Enable General-Purpose LLMs to be Medical Experts [50.02627258858336]
大規模言語モデル(LLM)は、しばしばオープンエンドの医学的問題に苦しむ。
本稿では,構造化医療推論を利用した新しいアプローチを提案する。
我々の手法は85.8のファクチュアリティスコアを達成し、微調整されたモデルを上回る。
論文 参考訳(メタデータ) (2025-03-05T05:24:55Z) - Uncertainty of Thoughts: Uncertainty-Aware Planning Enhances Information Seeking in Large Language Models [73.79091519226026]
Uncertainty of Thoughts (UoT) は、大きな言語モデルを拡張するアルゴリズムであり、効果的な質問をすることで積極的に情報を求めることができる。
医療診断、トラブルシューティング、および20の質問ゲームに関する実験において、UoTは、タスク完了の成功率において平均38.1%のパフォーマンス向上を達成した。
論文 参考訳(メタデータ) (2024-02-05T18:28:44Z) - SPeC: A Soft Prompt-Based Calibration on Performance Variability of
Large Language Model in Clinical Notes Summarization [50.01382938451978]
本稿では,ソフトプロンプトを用いたモデルに依存しないパイプラインを導入し,確率に基づく要約の利点を保ちながら分散を減少させる。
実験結果から,本手法は性能を向上するだけでなく,様々な言語モデルの分散を効果的に抑制することが明らかとなった。
論文 参考訳(メタデータ) (2023-03-23T04:47:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。