論文の概要: From Stages to States: Unified Iterative Reasoning for MLLMs
- arxiv url: http://arxiv.org/abs/2610.15620v1
- Date: Sun, 11 Oct 2026 13:46:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.229686
- Title: From Stages to States: Unified Iterative Reasoning for MLLMs
- Title(参考訳): 舞台から国家へ:MLLMのための統一反復推論
- Abstract要約: MCoT(Multimodal Chain-of-Thought)は、MLLM(Multimodal Large Language Models)の複雑な推論能力を大幅に向上させる。
学習に基づくほとんどのMCoT手法は、異なる推論動作が事前に定義された段階に割り当てられ、個別に最適化されるステージ中心のパラダイムに従っている。
ステージ駆動パイプラインから状態駆動動的プロセスへのマルチモーダル推論を再構成する,統合された反復推論フレームワークであるReStateを提案する。
- 参考スコア(独自算出の注目度): 30.40472787097603
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multimodal Chain-of-Thought (MCoT) substantially enhances the complex reasoning capabilities of Multimodal Large Language Models (MLLMs) by explicitly modeling intermediate reasoning processes. However, most learning-based MCoT methods follow a stage-centric paradigm, where different reasoning behaviors are assigned to predefined stages and optimized separately. This results in fragmented reasoning and a training-inference reasoning-state gap. To address these limitations, we propose ReState, a unified iterative reasoning framework that reformulates multimodal reasoning from a stage-driven pipeline into a state-driven dynamic process. It comprises two complementary components: Unified Reasoning State Modeling (URSM) and Closed-Loop Reasoning-State Learning (CRSL). URSM unifies reasoning construction, correct reasoning preservation, and erroneous reasoning correction as reasoning-state transitions within a shared state space, enabling these heterogeneous reasoning behaviors to be learned jointly. CRSL further incorporates self-generated historical reasoning states during training and recursively updates the current state during inference, thereby mitigating the reasoning-state gap and enabling iterative self-refinement without requiring an additional reflection module, critic, or independent correction stage. Furthermore, we construct VersaCoT-10K, a high-quality CoT dataset spanning eight visual reasoning domains, which provides diverse supervision for multi-domain reasoning and reasoning-state refinement. Extensive experiments demonstrate that ReState exhibits strong adaptability across different MLLM backbones and achieves strong performance on multiple public reasoning benchmarks, supporting the shift from stage-centric reasoning toward state-centric reasoning. Our data and code are available at https://github.com/YuChuang1205/ReState
- Abstract(参考訳): MCoT(Multimodal Chain-of-Thought)は、中間的推論プロセスを明示的にモデル化することにより、MLLM(Multimodal Large Language Models)の複雑な推論能力を大幅に向上させる。
しかし、ほとんどの学習ベースのMCoT手法は、異なる推論動作が事前定義された段階に割り当てられ、個別に最適化されるステージ中心のパラダイムに従っている。
この結果、断片的推論とトレーニング推論推論状態のギャップが生じる。
これらの制限に対処するために、ステージ駆動パイプラインから状態駆動動的プロセスへのマルチモーダル推論を再構成する統合反復推論フレームワークであるReStateを提案する。
Unified Reasoning State Modeling (URSM) と Closed-Loop Reasoning-State Learning (CRSL) である。
URSMは、推論構築、正しい推論保存、誤った推論補正を共用状態空間内の推論状態遷移として統合し、これらの異種推論動作を共同で学習することを可能にする。
CRSLはさらに、トレーニング中に自己生成された歴史的推論状態を取り込み、推論中に現在の状態を再帰的に更新し、推論状態のギャップを緩和し、追加のリフレクションモジュール、批評家または独立修正段階を必要とせずに反復的な自己修正を可能にする。
さらに、8つの視覚的推論領域にまたがる高品質なCoTデータセットであるVersaCoT-10Kを構築し、多領域推論と推論状態改善のための多様な監視を提供する。
大規模な実験により、ReStateは異なるMLLMバックボーンに強い適応性を示し、複数の公開推論ベンチマークで高いパフォーマンスを実現し、ステージ中心の推論から状態中心の推論への移行をサポートすることが示されている。
我々のデータとコードはhttps://github.com/YuChuang1205/ReStateで入手できる。
関連論文リスト
- SVoT: State-aware Visualization-of-Thought for Spatial Reasoning via Reinforcement Learning [23.099545873228195]
本研究では,中間状態と可視化情報を生成する強化学習フレームワークであるState-Aware Visualization-of-Thought (SVoT)を提案する。
SVoTは遷移推論チェーンを生成プロセスに統合し、モデルがアクションの前提条件と効果を検証できるようにする。
我々は古典的環境を拡張し、多目的相互作用と数値推論を必要とする2つの新しい領域、パックマンとガザを導入することで5つの領域を確立する。
トランジッション・アウェア・インシデント付きSVoTは導入ドメイン間の最先端性能を実現し、アウト・オブ・ディストリビューション・テストセットにおいて最大65%の精度向上が得られる。
論文 参考訳(メタデータ) (2026-06-10T07:54:42Z) - Think Consistently, Reason Efficiently: Energy-Based Calibration for Implicit Chain-of-Thought [33.267497114389734]
大規模言語モデル(LLM)は、emphChain-of-Thought(CoT)のプロンプトを通じて、強力な推論能力を示している。
CoT法は離散トークンレベルの推論プロセスに依存しており、誤りの伝播が難しく、語彙によって制限される。
EBM-CoT(Energy-based Chain-of-Thought)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-11-10T14:10:58Z) - Implicit Reasoning in Large Language Models: A Comprehensive Survey [67.53966514728383]
大規模言語モデル(LLM)は、幅広いタスクにまたがる強力な一般化を実証している。
最近の研究は、暗黙の推論に拍車をかけた、明示的な思考の連鎖から注意を向けている。
本調査では,表現形式から計算戦略へ焦点を移し,実行パラダイムを中心とした分類を紹介した。
論文 参考訳(メタデータ) (2025-09-02T14:16:02Z) - Explainable Chain-of-Thought Reasoning: An Empirical Analysis on State-Aware Reasoning Dynamics [69.00587226225232]
本研究では,CoTトラジェクトリを構造化潜在力学に抽象化する状態認識遷移フレームワークを提案する。
推論のグローバルな構造を特徴づけるために、それらの進行をマルコフ連鎖としてモデル化する。
この抽象化は、意味的役割の識別、時間的パターンの可視化、一貫性評価など、さまざまな分析をサポートする。
論文 参考訳(メタデータ) (2025-08-29T18:53:31Z) - EduFlow: Advancing MLLMs' Problem-Solving Proficiency through Multi-Stage, Multi-Perspective Critique [10.26163930911606]
教育科学的推論の完全なパイプラインをカバーする最初のエンドツーエンドフレームワークであるEduFlowを紹介します。
コアとなるEduPRMは、プロセス認識の報酬モデルで、タグと正当化によって推論ステップを批判する。
本稿では,ドメイン適応型検索フレームワークであるEduMCTSを提案する。
論文 参考訳(メタデータ) (2025-07-12T18:44:32Z) - CTRLS: Chain-of-Thought Reasoning via Latent State-Transition [57.51370433303236]
チェーン・オブ・シント(CoT)推論は、大規模な言語モデルで複雑な問題を解釈可能な中間ステップに分解することを可能にする。
我々は,遅延状態遷移を伴うマルコフ決定プロセス(MDP)としてCoT推論を定式化するフレームワークであるgroundingSを紹介する。
我々は、ベンチマーク推論タスクにおける推論精度、多様性、探索効率の改善を示す。
論文 参考訳(メタデータ) (2025-07-10T21:32:18Z) - Learning to Reason via Mixture-of-Thought for Logical Reasoning [56.24256916896427]
Mixture-of-Thought (MoT) は、LLMが自然言語、コード、真理表の3つの相補的なモダリティにまたがる推論を可能にするフレームワークである。
MoT は,(1) 自己進化型 MoT トレーニング,(2) 3 つのモーダルの相乗効果を完全に活用してより良い予測を生成する MoT 推論,という2段階の設計を採用する。
論文 参考訳(メタデータ) (2025-05-21T17:59:54Z) - The Curse of CoT: On the Limitations of Chain-of-Thought in In-Context Learning [56.574829311863446]
CoT(Chain-of-Thought)プロンプトは,大規模言語モデル(LLM)における推論能力の向上によって広く認識されている。
我々は、CoTとその推論変異が、様々なモデルスケールやベンチマークの複雑さに対して、直接応答を一貫して過小評価していることを実証する。
パターンベースICLにおけるCoTの性能を駆動する明示的単純推論の基本的なハイブリッド機構を明らかにする。
論文 参考訳(メタデータ) (2025-04-07T13:51:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。