論文の概要: DRT: Dense Reasoning Trace for Efficient and Grounded Multimodal Reasoning
- arxiv url: http://arxiv.org/abs/2609.21675v1
- Date: Fri, 18 Sep 2026 12:09:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:17.07274
- Title: DRT: Dense Reasoning Trace for Efficient and Grounded Multimodal Reasoning
- Title(参考訳): DRT:Dense Reasoning Trace for Efficient and Grounded Multimodal Reasoning
- Abstract要約: 我々は、自然言語中心のChain-of-Thought(CoT)から離れるパラダイムであるDense Reasoning Trace(DRT)を提案する。
DRTは、シンボリックコネクタを持つ簡潔な中間状態を含むコンパクトな構造化されたトレースとして推論を表現する。
我々は,DRTがQwen3-VLベースライン上で1.3の精度ポイントを改善しつつ,トークン効率を5.5$times$改善することを示す。
- 参考スコア(独自算出の注目度): 45.0729016783581
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite the remarkable progress in Multimodal Large Language Models (MLLMs), prevailing Chain-of-Thought (CoT) paradigms remain confined to the natural-language expression space. Consequently, they inherently incur excessive linguistic overhead, leading to information dilution and weak visual grounding. To address this challenge, we propose Dense Reasoning Trace (DRT), a paradigm that departs from natural-language-centered CoT by expressing reasoning as compact structured traces, which include concise intermediate states with symbolic connectors and disentangle visual observations from logical deductions. First, we introduce the Dense Trace Initialization to internalize the DRT reasoning mode into the model, substantially improving token efficiency while preserving visual evidence. To further enable the model to faithfully capture the logical relations within traces, we propose the Trace-Grounded Reinforcement Learning framework, which builds reference traces through a tri-perspective verification pipeline and employs Trace-Grounded GRPO with structured rewards, encouraging the model to generate concise DRT-style traces with reduced hallucination and stronger logical grounding. Extensive experiments on challenging reasoning benchmarks show that DRT achieves 5.5$\times$ token efficiency improvement while improving 1.3 accuracy points over the Qwen3-VL baseline. These findings suggest that complex multimodal reasoning may not require verbose natural-language traces, opening a more efficient path for next-generation MLLMs. Our code and data are available at: https://github.com/HIT-leaderone/DRT
- Abstract(参考訳): MLLM(Multimodal Large Language Models)の顕著な進歩にもかかわらず、一般的なChain-of-Thought(CoT)パラダイムは自然言語表現に限られている。
その結果、それらは本質的に過度の言語的オーバーヘッドを生じさせ、情報の希薄化と視覚的基盤の弱さにつながる。
この課題に対処するために、Dense Reasoning Trace(DRT)を提案する。これは自然言語中心のCoTから外れたパラダイムであり、コンパクトな構造化されたトレースとして推論を表現している。
まずDense Trace Initializationを導入し、DRT推論モードをモデルに内包し、視覚的証拠を保存しながらトークン効率を大幅に改善する。
さらに、モデルがトレース内の論理的関係を忠実に捉えられるようにするために、三点検定パイプラインを通して参照トレースを構築し、構造化された報酬を伴ってトレーサグラウンドGRPOを用いて、幻覚の低減とより強力な論理的基盤を持つ簡潔なDRTスタイルのトレースを生成することを奨励するトレーサグラウンド強化学習フレームワークを提案する。
挑戦的推論ベンチマークに関する大規模な実験により、DRTはQwen3-VLベースライン上で1.3の精度ポイントを改善しつつ、5.5$\times$トークン効率の改善を達成した。
これらの結果から, 複雑な多モーダル推論は冗長な自然言語のトレースを必要としない可能性が示唆され, 次世代MLLMのより効率的な経路が開かれた。
私たちのコードとデータは、https://github.com/HIT-leaderone/DRTで利用可能です。
関連論文リスト
- TRAM: Enhancing Multimodal Reasoning with Trajectory-Derived Auxiliary Memory [35.19442792860492]
推論軌道が成長するにつれて、モデルがコンテキスト内で確立された情報の使用において効果が低下する可能性がある。
既存のアプローチは主に、推論を通して視覚的な接地を維持することでこの問題に対処する。
本稿では,TRAM(TRajectory- derived Auxiliary Memory)について紹介する。
論文 参考訳(メタデータ) (2026-08-03T08:57:00Z) - Attention-guided Fine-tuning of Multimodal Large Language Models Improves Chain-of-Thought Reasoning [39.5490415037017]
MLLM (Multimodal Large Language Models) におけるChain-of-Thought (CoT) の促進はいまだに不確実である。
我々は,CoTトラジェクトリに応答のコミットメントを遅らせるよう促す注意誘導微調整目標であるAttentive-CoT(Att-CoT)を提案する。
Att-CoTはアーキテクチャの変更なしに任意のCoT-SFTトレーニングにプラグインできる。
論文 参考訳(メタデータ) (2026-06-01T02:02:23Z) - AnE: Pushing the Reasoning Frontier of Multimodal LLMs via Anchor Evolution [61.593935260052795]
Supervised Fine-Tuning (SFT) とReinforcement Learning (RL) による後学習は多モーダル大規模言語モデル(MLLM)における推論の強化に不可欠である
既存のパラダイムは、静的データの制限により、しばしばパフォーマンスのボトルネックに達する。
我々は,真理に順応したデータキュレーションとモデル進化を統合する新しいパラダイムであるアンカー進化(AnE)を提案する。
論文 参考訳(メタデータ) (2026-05-25T08:26:34Z) - RAGTrack: Language-aware RGBT Tracking with Retrieval-Augmented Generation [71.2136732268131]
RGB-Thermal(RGBT)トラッキングは、多様な環境条件をまたいだ堅牢なオブジェクトローカライゼーションを実現することを目的としている。
既存のRGBTトラッカーは、ターゲットモデリングのための初期フレームの視覚情報のみに依存している。
堅牢なRGBTトラッキングのための新しい検索拡張フレームワークであるRAGTrackを提案する。
論文 参考訳(メタデータ) (2026-03-04T01:02:04Z) - Visual Reasoning Tracer: Object-Level Grounded Reasoning Benchmark [112.46338388724116]
このタスクでは、ターゲットオブジェクトをローカライズするだけでなく、推論パスを形成する中間オブジェクトを明示的に予測する必要がある。
この分野での研究を進めるために,(1)視覚的推論を評価するための人為的注釈付きベンチマークであるVRT-Bench,(2)推論トレースの質を評価するための新しい指標であるVRT-80k,(3)推論モデルトレーニングのための大規模データセットであるVRT-80kが提案されている。
論文 参考訳(メタデータ) (2025-12-04T18:55:34Z) - CIR-CoT: Towards Interpretable Composed Image Retrieval via End-to-End Chain-of-Thought Reasoning [93.05917922306196]
Composed Image Retrieval (CIR) は、参照画像と修正テキストから対象画像を見つけることを目的としている。
CIR-CoTは、明示的なChain-of-Thought (CoT)推論を統合するために設計された最初のエンドツーエンド検索指向MLLMである。
論文 参考訳(メタデータ) (2025-10-09T09:41:45Z) - Do Cognitively Interpretable Reasoning Traces Improve LLM Performance? [15.970162088175593]
CoT(Chain-of-Thought)トレースは、回答を生成する前に中間的推論トレースを生成する。
よくあるが、しばしば暗黙的な仮定は、CoTトレースは意味論的に意味があり、エンドユーザに解釈可能であるべきだというものである。
本稿では,LLaMAモデルとQwenモデルの教師付き微調整によるオープンブック質問応答領域におけるこの問題について検討する。
論文 参考訳(メタデータ) (2025-08-21T23:48:50Z) - Fractured Chain-of-Thought Reasoning [61.647243580650446]
完全CoTと解のみのサンプリングを補間する統合推論時間戦略であるフラクチャードサンプリングを導入する。
フラクチャードサンプリングは、Pass@kとトークンの予算に対して、急激なログ線形スケーリングゲインをもたらすため、優れた精度とコストのトレードオフを一貫して達成できることを示す。
論文 参考訳(メタデータ) (2025-05-19T11:30:41Z) - Integrating Chain-of-Thought for Multimodal Alignment: A Study on 3D Vision-Language Learning [20.562109430526007]
CoT(Chain-of-Thought)推論は自然言語処理において有効であることが証明されているが、マルチモーダルアライメントでは未探索である。
本研究では,構造的推論をアライメントトレーニングに組み込むことで,3次元視覚支援学習への統合について検討する。
論文 参考訳(メタデータ) (2025-03-08T14:24:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。