論文の概要: Think, Compress, Answer: Reinforcement Learning for Multimodal Grounding via Reasoning Compression
- arxiv url: http://arxiv.org/abs/2610.25640v1
- Date: Mon, 19 Oct 2026 01:34:19 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:41:35.736818
- Title: Think, Compress, Answer: Reinforcement Learning for Multimodal Grounding via Reasoning Compression
- Title(参考訳): 思考, 圧縮, 回答: 推論圧縮によるマルチモーダルグラウンドの強化学習
- Abstract要約: Think-Compress-Answer (TCA)はマルチモーダルな大規模言語モデルのための強化学習フレームワークである。
マルチモーダルグラウンドは、自由形式推論(free-form reasoning)、ターゲット対応コンテキスト圧縮(target-aware context compression)、圧縮されたコンテキストに条件付き回答生成という3つのフェーズに分けられる。
TCAは、推理圧縮の有効性を実証し、かなりゼロショットのパフォーマンス向上を達成した。
- 参考スコア(独自算出の注目度): 41.99035071905111
- License:
- Abstract: Extended reasoning has substantially improved multimodal large language models (MLLMs) on tasks requiring compositional and relational inference. However, multimodal grounding imposes a distinct requirement: reasoning must ultimately converge on a target-specific compact representation that supports precise localization. As reasoning trajectories grow longer, they often expand into broad scene narratives and peripheral relational details, which can dilute grounded perceptual evidence and lead to ambiguous or incorrect predictions. Motivated by the information bottleneck principle, we propose Think-Compress-Answer (TCA), a reinforcement learning framework that decomposes multimodal grounding into three phases: free-form reasoning, target-aware context compression, and answer generation conditioned on the compressed context. TCA is optimized through a multi-stage Group Relative Policy Optimization (GRPO) with progressive rewards that establish the structured output protocol, minimize reasoning-specific information while preserving target-relevant content, and directly improve localization accuracy. This staged design enables MLLMs to retain the benefits of extended reasoning while distilling it into the minimal context required for grounding. Experiments across six multimodal grounding benchmarks show that TCA attains substantial zero-shot performance gains, demonstrating the effectiveness of reasoning compression.
- Abstract(参考訳): 拡張推論は、合成および関係推論を必要とするタスクにおいて、MLLM(Multimodal large language model)を大幅に改善した。
しかし、マルチモーダル基底は明確な要件を課す: 推論は究極的には、正確なローカライゼーションをサポートするターゲット固有のコンパクト表現に収束しなければならない。
推論の軌跡が長くなるにつれて、しばしば広い場面の物語や周辺関係の細部へと拡大し、根拠のついた証拠を希薄にし、曖昧または誤った予測につながる。
情報ボトルネックの原理を取り入れたTCA(Think-Compress-Answer)を提案する。これはマルチモーダルグラウンドを3つのフェーズに分解する強化学習フレームワークで、自由形式推論(free-form reasoning)、ターゲット認識コンテキスト圧縮(target-aware context compression)、圧縮されたコンテキストに条件付き回答生成を行う。
TCAは多段階グループ相対ポリシー最適化(GRPO)によって最適化され、構造化された出力プロトコルを確立し、ターゲット関連コンテンツを保存しながら推論固有の情報を最小化し、ローカライズ精度を直接向上する。
この段階的な設計により、MLLMは拡張推論の利点を維持しつつ、接地に必要な最小限の文脈に蒸留することができる。
6つのマルチモーダルグラウンドベンチマーク実験により、TCAはゼロショット性能がかなり向上し、推理圧縮の有効性が示された。
関連論文リスト
- Groc-PO: Grounded Context Preference Optimization for Truthful Multimodal LLMs [29.829143097768014]
Grounded Context Preference Optimization (Groc-PO) はマルチモーダル大言語モデル(MLLM)のための最適化フレームワークである。
複数の舞台においてより明示的な優先的監督を導入することで、Groc-POはコンテキスト依存の推論を強化し、ステージ間エラーの伝播を緩和する。
論文 参考訳(メタデータ) (2026-07-15T11:28:27Z) - Reasoning Matters: Mitigate Hallucination in Multimodal Large Reasoning Models via Reasoning-Conditioned Preference Optimization [59.20570719781289]
マルチモーダル大規模推論モデルは推論パラダイムを導入し、複雑な視覚言語タスクに強力な能力を示す。
既存のトレーニングベースの手法では、応答レベルの直接選好最適化(DPO)を通じて幻覚を緩和し、CoT(Chain-of-Thought)と最終回答をモノリシックな出力として扱い、協調的に最適化する。
我々は、応答生成条件としてCoTをモデル化し、異なるCoT条件下で同じ好みの回答を優先し、応答支持型推論連鎖アライメントを促進するReasoning-Conditioned Direct Preference Optimization (RC-DPO) を導出する。
論文 参考訳(メタデータ) (2026-05-27T03:27:23Z) - Hybrid Latent Reasoning with Decoupled Policy Optimization [19.348125016748018]
HyLaR(Hybrid Latent Reasoning)は、連続的な視覚的潜在表現を持つ離散テキスト生成をシームレスにインターリーブするフレームワークである。
我々は,HyLaRが細粒度知覚と一般的なマルチモーダル理解ベンチマークにおいて,最先端の潜時推論手法より優れていることを示す。
論文 参考訳(メタデータ) (2026-04-22T08:22:23Z) - PLUME: Latent Reasoning Based Universal Multimodal Embedding [52.35354073629127]
ユニバーサルマルチモーダル埋め込み(UME)は、異種入力を単一のモデルで共有検索空間にマッピングする。
最近のアプローチでは、埋め込みを抽出する前に明確なチェーン・オブ・シント(CoT)論理を生成することにより、UMEを改善している。
PLUMEは,言語化されたCoTを連続的潜伏状態の短時間の自己回帰ロールアウトに置き換えることで,UMEを進化させる潜在的推論フレームワークである。
論文 参考訳(メタデータ) (2026-04-02T14:04:53Z) - Reinforcing Structured Chain-of-Thought for Video Understanding [49.3086326382764]
概要駆動強化学習(SDRL)を紹介する。
SDRLは、Supervised Fine-Tuning (SFT)の必要性を回避したシングルステージのRLフレームワークである。
提案手法は、7つの公開ビデオQAデータセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2026-03-26T22:11:14Z) - Hit-RAG: Learning to Reason with Long Contexts via Preference Alignment [97.55382322103986]
Hit-RAGは認知的ボトルネックを解決するために設計された多段階の優先順位調整フレームワークである。
本手法は,3つの異なる段階を通じて外部証拠の利用を体系的に改善する。
論文 参考訳(メタデータ) (2026-03-07T04:05:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。