論文の概要: Routing by Reasoning Need: Trajectory-Aware Decoding Control for Diffusion Vision-Language Models
- arxiv url: http://arxiv.org/abs/2609.11315v1
- Date: Thu, 10 Sep 2026 09:41:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.285766
- Title: Routing by Reasoning Need: Trajectory-Aware Decoding Control for Diffusion Vision-Language Models
- Title（参考訳）: 推論ニーズによるルーティング:拡散ビジョン言語モデルのための軌道認識復号制御
- Abstract要約: 拡散視覚言語モデルは反復的洗練を通じて回答を生成し、推論時に検査および制御できる中間応答軌跡を露呈する。
この制御性は推論に必要となるミスマッチを生成し、異なる推論要求の質問に対して普遍的な生成長を適用する。
我々は、この問題を推論予算ミスマッチとして定式化し、LLaDA-Vで研究する。
- 参考スコア（独自算出の注目度）: 8.701251850915819
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion vision-language models generate answers through iterative refinement, exposing intermediate answer trajectories that can be inspected and controlled at inference time. However, this controllability creates a reasoning-need mismatch, where a universal generation length is applied to questions with different reasoning demands. Visually closed questions may be harmed by continued refinement after a stable answer has formed, whereas reasoning-sensitive questions may be harmed by premature commitment. We formulate this problem as reasoning-budget mismatch and study it in LLaDA-V. Rather than choosing a universal generation length, our training-free controller routes each example to early commitment, baseline preservation, or reasoning-supportive decoding using trajectory signals from answer closure, commitment evidence, and representation revision pressure, without using ground-truth answers. Across answer-focused, mixed-reasoning, and CoT-sensitive benchmarks, routed control improves robustness over fixed long decoding, pure short decoding, and single-rule interventions. The gains are not explained by shorter outputs alone. Answer-closed examples often benefit from commitment, whereas CoT-sensitive examples require preserving or supporting intermediate reasoning. Taken together, these results suggest diffusion VLM decoding should route inference-time control by the state suggested by the observed trajectory instead of relying on a universal decoding length.
- Abstract（参考訳）: 拡散視覚言語モデルは反復的洗練を通じて回答を生成し、推論時に検査および制御できる中間応答軌跡を露呈する。
しかし、この制御性は、推論要求が異なる質問に対して普遍的な生成長が適用される、推論を必要とするミスマッチを生成する。
視覚的に閉じた質問は、安定した回答が形成された後、継続的な改善によって害されるが、推論に敏感な質問は、早期のコミットメントによって害されることがある。
我々は、この問題を推論予算ミスマッチとして定式化し、LLaDA-Vで研究する。
ユニバーサルな生成長を選択するのではなく、我々のトレーニングフリーコントローラは、各例を素早いコミットメント、ベースライン保存、あるいは応答閉鎖、コミットメント証拠、表現修正圧力からの軌道信号を用いた推論支援復号にルートする。
応答中心、混合推論、CoT感受性ベンチマーク全体にわたって、ルーティング制御は、固定長の復号化、純粋な短符号化、単一ルールの介入よりも堅牢性を向上させる。
利得は短いアウトプットだけでは説明できない。
回答のクローズドな例はコミットメントの恩恵を受けることが多いが、CoTに敏感な例は中間的推論の保存や支援を必要とする。
これらの結果は、拡散VLM復号法は、普遍的な復号長に頼るのではなく、観測軌道によって提案される状態による推論時間制御をルートすべきであることを示している。
関連論文リスト
- Can We Break LLMs Out of Self-Loops? Fine-Grained Reasoning Control with Activation Steering [44.273459587532535]
大規模言語モデルからの推論トレースにおける潜時遷移のダイナミクスを解析し,発見する。
フェールトラジェクトリが自己ループで立ち往生していることを示し、最終回答に向けて前進することなくトークン予算を浪費する。
隠れ状態干渉・活性化による推論過程のステアリングについて提案する。
論文 参考訳（メタデータ） (2026-07-20T16:01:57Z) - Faithfulness as Information Flow: Evaluating and Training Faithful Chain-of-Thought Reasoning [10.87972575497941]
思考の連鎖(CoT)推論は言語モデルを監視するのに有用である。
モデルはCoTをバイパスするプロンプト・ツー・アンサー・ショートカットに依存することができる。
構造的情報フローの観点からCoTの忠実性を考察する。
論文 参考訳（メタデータ） (2026-05-22T23:37:29Z) - Stop When Reasoning Converges: Semantic-Preserving Early Exit for Reasoning Models [17.588873255093596]
長鎖の思考(CoT)を生成することでLRM(Large Reasoning Models)の性能が向上する
LRMは、しばしば過度に考え、ソリューションがすでに安定し、トークンを無駄にし、レイテンシを増大した後も、推論を続けます。
本稿では,軽量冗長検出器と応答レベル検証を組み合わせたプラグアンドプレイフレームワークPUMAを提案する。
論文 参考訳（メタデータ） (2026-05-17T22:04:11Z) - Mitigating Overthinking in Large Reasoning Language Models via Reasoning Path Deviation Monitoring [35.58177960646011]
LRLMにおける過剰思考を緩和する早期退避法を提案する。
本手法は,既存手法に比べてバニラCoTよりも高い性能向上を実現している。
論文 参考訳（メタデータ） (2026-03-15T07:00:47Z) - Balancing Faithfulness and Performance in Reasoning via Multi-Listener Soft Execution [79.98699884805636]
Reasoning Execution by Multiple Listeners (REMUL) は多人数の強化学習手法である。
REMULは、推論が他の当事者に従えるかがより忠実になるという仮説に基づいている。
スピーカーは、リスナーにとって明らかな推論を生み出すことで報われます。
論文 参考訳（メタデータ） (2026-02-18T02:55:55Z) - Constraint-Rectified Training for Efficient Chain-of-Thought [60.52883907721588]
CoT (Chain-of-Thought) は,Large Language Models (LLMs) の推論能力を大幅に向上させた。
より長い推論トレースは、自己訂正のような回答の品質とアンロック能力を改善することができるが、高い推論コストを発生させ、過度に考えることとして知られる冗長なステップをしばしば導入する。
近年の研究は、推論の長さと精度のバランスをとる効率的な推論戦略の開発を目指している。
論文 参考訳（メタデータ） (2026-02-13T02:13:45Z) - ReGuLaR: Variational Latent Reasoning Guided by Rendered Chain-of-Thought [49.203970812338916]
明示的な推論連鎖は、かなりの計算冗長性をもたらす。
近年の潜時推論法は、推理過程を潜時空間に圧縮することによりこれを緩和しようとする。
我々はRendered CoT-Guided Variational Latent Reasoning (ReGuLaR)を提案する。
論文 参考訳（メタデータ） (2026-01-30T17:08:06Z) - Structured Reasoning for Large Language Models [59.215789462977206]
本研究では、推論を明示的、評価可能、トレーニング可能なコンポーネントに分解するフレームワークであるStructured Reasoning(SCR)を提案する。
SCRは推論効率と自己検証を大幅に改善する。
既存の推論パラダイムと比較して、出力トークンの長さを最大50%削減する。
論文 参考訳（メタデータ） (2026-01-12T04:04:01Z) - Stop Spinning Wheels: Mitigating LLM Overthinking via Mining Patterns for Early Reasoning Exit [114.83867400179354]
オーバーライドは、大きな言語モデル全体のパフォーマンスを低下させる可能性がある。
推論は, 探索段階の不足, 補償推論段階, 推論収束段階の3段階に分類される。
我々は,ルールに基づく軽量なしきい値設定戦略を開発し,推論精度を向上させる。
論文 参考訳（メタデータ） (2025-08-25T03:17:17Z) - Overclocking LLM Reasoning: Monitoring and Controlling Thinking Path Lengths in LLMs [52.663816303997194]
回答の質に影響を与える重要な要因は思考段階の長さである。
本稿では, LLM が推論の長さを理解し, 制御するメカニズムを探求し, 活用する。
以上の結果から,この「オーバークロック」手法は過度な思考を軽減し,解答精度を向上し,推論遅延を低減することが示唆された。
論文 参考訳（メタデータ） (2025-06-08T17:54:33Z) - ThinkLess: A Training-Free Inference-Efficient Method for Reducing Reasoning Redundancy [8.962703809086628]
ThinkLessは推論効率のよいフレームワークで、推論生成を早期に終了し、モデルを変更することなく出力品質を維持する。
我々はThinkLessが完全長のChain-of-Thought(CoT)デコードに匹敵する精度を実現し,デコード時間とメモリ消費を大幅に削減することを示した。
論文 参考訳（メタデータ） (2025-05-21T15:58:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。