論文の概要: Evo-PI: Aligning Medical Reasoning via Evolving Principle-Guided Supervision
- arxiv url: http://arxiv.org/abs/2606.31800v1
- Date: Tue, 30 Jun 2026 15:19:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.281243
- Title: Evo-PI: Aligning Medical Reasoning via Evolving Principle-Guided Supervision
- Title(参考訳): Evo-PI: 原則誘導型スーパービジョンの進化による医療推論の調整
- Abstract要約: Evo-PIは原則中心の学習フレームワークで、推論の原則を言語に基づく明示的な監視信号として扱う。
医用視覚質問応答におけるEvo-PIを,構造化された視覚的テキスト推論を必要とするハイテイクテストベッドとしてインスタンス化する。
本研究は,MLLMにおける専門家対応推論の学習に,原則指導の進化が,スケーラブルで汎用的なパラダイムを提供することを示唆するものである。
- 参考スコア(独自算出の注目度): 13.266458413629893
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Despite recent progress, the reasoning capabilities of large multimodal language models (MLLMs) remain fundamentally constrained by static supervision, where fixed prompts, rules, or reward models provide non-adaptive guidance throughout training. Such static signals are often sufficient to enforce output formats, but fail to shape the underlying reasoning process, leading to brittle generalization and performance saturation in complex decision-making tasks. We propose Evo-PI, a principle-centric learning framework that treats reasoning principles as explicit, language-based supervision signals that can be generated, evaluated, and iteratively evolved. Instead of relying on fixed rewards, Evo-PI enables a co-evolutionary loop in which principles guide model reasoning, while model behaviors in turn refine the principles that supervise them. This dynamic alignment mechanism allows supervision to progressively adapt to the model's reasoning deficiencies. We instantiate Evo-PI in medical visual question answering as a high-stakes testbed requiring structured visual-textual reasoning. Across eight benchmarks and multiple model backbones, Evo-PI consistently improves reasoning accuracy, achieving gains of up to 24.6%. Our results suggest that evolving principle-guided supervision offers a scalable and general paradigm for training expert-aligned reasoning in MLLMs. Code is available at https://github.com/zhengxianda/Evo_PI.
- Abstract(参考訳): 近年の進歩にもかかわらず、大規模なマルチモーダル言語モデル(MLLM)の推論能力は、固定プロンプト、ルール、報酬モデルがトレーニング全体を通して非適応的なガイダンスを提供する静的監督によって根本的に制限されている。
このような静的信号はしばしば出力形式を強制するのに十分であるが、根底にある推論過程を形作ることができず、複雑な意思決定タスクにおいて不安定な一般化と性能飽和をもたらす。
Evo-PIは、推論の原理を明示的な言語に基づく監視信号として扱い、生成、評価、反復的に進化できる、原則中心の学習フレームワークである。
固定報酬に頼るのではなく、Evo-PIはモデル推論の原則を導く共進化ループを可能にし、モデル行動はそれらを監督する原則を洗練させる。
この動的アライメント機構により、監督はモデルの推論の欠陥に徐々に適応できる。
医用視覚質問応答におけるEvo-PIを,構造化された視覚的テキスト推論を必要とするハイテイクテストベッドとしてインスタンス化する。
8つのベンチマークと複数のモデルバックボーンで、Evo-PIは推論精度を常に改善し、最大24.6%のゲインを達成している。
本研究は,MLLMにおける専門家対応推論の学習に,原則指導の進化が,スケーラブルで汎用的なパラダイムを提供することを示唆するものである。
コードはhttps://github.com/zhengxianda/Evo_PIで公開されている。
関連論文リスト
- Learning to Refine Hidden States for Reliable LLM Reasoning [0.21485350418225244]
大規模言語モデルは強力な推論能力を示すが、複雑な多段階設定では内部推論プロセスは不安定である。
本稿では,復号化前に隠蔽表現を反復的に更新する強化誘導潜時改善フレームワークReLARを提案する。
論文 参考訳(メタデータ) (2026-06-16T05:03:27Z) - Metacognition as Reward: Reinforcing LLM Reasoning via Knowledge and Regulation Signals [75.25256166997414]
本稿ではメタ認知に触発されたRLフレームワークであるメタ認知・アズ・リワード(MaR)を紹介する。
MaRは2つの一般的なプロセス次元を推論する。
MaRはモデル性能を継続的に改善し、ベースモデルよりも最大7.7%向上した。
論文 参考訳(メタデータ) (2026-05-22T08:54:37Z) - Self-Evolving Spatial Reasoning in Vision Language Models via Geometric Logic Consistency [53.28076739140119]
本稿では,視覚・言語モデル(VLM)における論理的一貫性を幾何学的・言語的双対性演算によって実現する枠組みを提案する。
SAGEは、従来のGRPO法に比べてモデルに依存しず、データ効率が良く、既存のVLMに軽量な後学習段階として適用することができる。
ビデオおよび空間推論ベンチマークの実験では、強いベースラインよりも一貫した改善が示されている。
論文 参考訳(メタデータ) (2026-05-18T10:05:21Z) - SVSR: A Self-Verification and Self-Rectification Paradigm for Multimodal Reasoning [12.51459553492698]
自己検証と自己修正(Self-Verification and Self-Rectification、SVSR)は、モデルの推論パイプラインに自己検証と自己修正を統合する統合フレームワークである。
SVSRは複雑な視覚的理解とマルチモーダル推論タスクの堅牢性と信頼性を大幅に向上させる。
論文 参考訳(メタデータ) (2026-04-11T14:25:17Z) - Not All Tokens See Equally: Perception-Grounded Policy Optimization for Large Vision-Language Models [38.47027398567909]
Perception-Grounded Policy Optimization (PGPO)は、トークンレベルでのメリットを動的に再評価する、新しいきめ細かなクレジット割り当てフレームワークである。
PGPOは,言語的先行音からの勾配雑音を抑えつつ,視覚的に依存するトークンの学習信号を積極的に増幅することを示す。
理論的および実証的な分析は、PGPOが勾配の分散を効果的に減少させ、訓練の崩壊を防ぎ、頑健で知覚的なマルチモーダル推論のための強力な正則化剤として機能することを確認する。
論文 参考訳(メタデータ) (2026-04-02T09:53:20Z) - EvoIdeator: Evolving Scientific Ideas through Checklist-Grounded Reinforcement Learning [15.169565493841384]
EvoIdeatorは、RLトレーニング目標とtextbfchecklist-grounded feedbackを整合させることにより、科学的アイデアの進化を促進するフレームワーク
Qwen3-4B上に構築されたEvoIdeatorは、重要な科学的指標において、はるかに大きなフロンティアモデルより優れている。
論文 参考訳(メタデータ) (2026-03-23T09:15:26Z) - Principled RL for Diffusion LLMs Emerges from a Sequence-Level Perspective [85.06838178922791]
強化学習(RL)は自己回帰言語モデルに非常に効果的であることが証明されている。
しかし、これらの手法を拡散大言語モデル(dLLM)に適応させることは、根本的な課題を提起する。
本稿では,全シーケンス生成を単一アクションとして扱い,ELBOを抽出可能なシークエンスレベル確率プロキシとして利用する,原則的RLフレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-03T13:05:32Z) - From <Answer> to <Think>: Multidimensional Supervision of Reasoning Process for LLM Optimization [62.07990937720985]
DRM(Dimension-level Reward Model)は、大規模言語モデルのための新しい監視フレームワークである。
DRMは3つの基本的、相補的、解釈可能な次元に沿って推論プロセスの品質を評価する。
実験の結果、DRMは効果的な監視信号を提供し、LCMの最適化を誘導し、推論能力を向上することが示された。
論文 参考訳(メタデータ) (2025-10-13T14:29:15Z) - Step-Aware Policy Optimization for Reasoning in Diffusion Large Language Models [57.42778606399764]
拡散言語モデル(dLLM)は、テキスト生成に有望で非自己回帰的なパラダイムを提供する。
現在の強化学習アプローチは、しばしばスパースで結果に基づく報酬に頼っている。
これは推論の自然な構造との根本的なミスマッチに由来すると我々は主張する。
論文 参考訳(メタデータ) (2025-10-02T00:34:15Z) - Revisiting LLM Reasoning via Information Bottleneck [57.519119962528166]
大規模言語モデル(LLM)は、最近、検証可能な報酬付き強化学習(RLVR)を通じて推論能力の顕著な進歩を示した。
本稿では,情報ボトルネック(IB)の原理に基づくLLM推論の理論的特徴について述べる。
IB対応推論最適化(IBRO)を提案する。
論文 参考訳(メタデータ) (2025-07-24T13:14:25Z) - OpenVLThinker: Complex Vision-Language Reasoning via Iterative SFT-RL Cycles [91.88062410741833]
我々はOpenVLThinkerを紹介した。OpenVLThinkerはオープンソースの大規模視覚言語モデル(LVLM)の1つである。
OpenVLThinker-7Bは、数学的および一般的な推論を必要とする6つのベンチマークで一貫して性能を向上することを示す。
論文 参考訳(メタデータ) (2025-03-21T17:52:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。