論文の概要: Before Thinking, Learn to Decide: Proactive Routing for Efficient Visual Reasoning

• arxiv url: http://arxiv.org/abs/2606.30217v2
• Date: Thu, 02 Jul 2026 09:16:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 15:16:32.243737
• Title: Before Thinking, Learn to Decide: Proactive Routing for Efficient Visual Reasoning
• Title（参考訳）: 考える前に、意思決定を学ぶ: 効率的なビジュアル推論のためのプロアクティブなルーティング
• Abstract要約: 本稿では,プロアクティブルーティングパラダイムであるPRPを提案する。このパラダイムは,ドラフトモデルとターゲットモデルの両方の能力を評価することで,早期意思決定を可能にする。 筆者らの試案であるレーティング学習 (DRL) は内部信頼度推定器を内蔵し, 共同レーティング学習 (JRL) は対象モデルが与えられたクエリをどの程度処理できるかを予測する。 これらの評価により、詳細なインスタンスレベルの textbfProactive Routing が可能になり、全体的なパフォーマンスを損なうことなく、推論を大幅に高速化できる。
• 参考スコア（独自算出の注目度）: 87.18590662029432
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large multimodal models have achieved strong reasoning on complex visual tasks, but their inference efficiency is often restricted by long chains of thought. A promising solution is to pair a small draft model with a large target model, enabling cooperative inference employing a routing signal that adaptively routes queries to either the draft or target model based on their difficulties for optimal efficiency and accuracy. Yet, the remaining bottleneck is to establish a reliable query difficulty signal under multimodal settings. Existing approaches designed for language models either rely on post-hoc token probabilities, which fall short in multimodal scenarios, or depend on supervised fine-tuning, which is a data-sensitive strategy. Both paradigms perform routing only after a complete output, and ignore whether the target model can actually solve the routed instances. To address this, we propose PRP, a Proactive Routing Paradigm that enables early decision-making by jointly evaluating the competence of both the draft and target models. Our Draft Rating Learning (DRL) equips the draft model with an internal confidence estimator, while Joint Rating Learning (JRL) predicts how well the target model can handle a given query, thereby prioritizing the allocation of samples it excels at rather than the hardest ones. These ratings enable fine-grained, instance-level \textbf{Proactive Routing} and substantially accelerate inference without compromising overall performance. Extensive experiments across multiple multimodal reasoning benchmarks validate our effectiveness and efficiency.
• Abstract（参考訳）: 大規模マルチモーダルモデルは複雑な視覚的タスクに対して強い推論を達成しているが、推論効率は長い思考の連鎖によって制限されることが多い。 有望な解決策は、小さなドラフトモデルを大きなターゲットモデルと組み合わせることであり、最適な効率と精度の難しさに基づいて、クエリをドラフトモデルまたはターゲットモデルに適応的にルーティングするルーティング信号を用いた協調推論を可能にする。 しかし、残りのボトルネックは、マルチモーダル設定下で信頼性の高いクエリ困難信号を確立することである。 既存の言語モデル用に設計されたアプローチは、マルチモーダルシナリオで不足するポストホックトークンの確率に依存するか、データに敏感な戦略である教師付き微調整に依存する。 両方のパラダイムは、完全な出力後にのみルーティングを実行し、ターゲットモデルが実際にルーティングされたインスタンスを解決できるかどうかを無視します。 そこで本研究では,プロアクティブルーティングパラダイムであるPRPを提案する。このパラダイムは,ドラフトモデルとターゲットモデルの両方の能力を評価することで,早期意思決定を可能にする。 我々のドラフトレーティング学習(DRL)は、ドラフトモデルに内部信頼度推定器を装備し、ジョイントレーティング学習(JRL)は、ターゲットモデルが与えられたクエリをどれだけうまく処理できるかを予測する。 これらの評価により、粒度の細かいインスタンスレベルの \textbf{Proactive Routing} が可能になり、全体的なパフォーマンスを損なうことなく、推論を大幅に高速化できる。 複数のマルチモーダル推論ベンチマークにわたる大規模な実験は、我々の有効性と効率を検証する。

関連論文リスト

• Decision-Making with Lightweight Confidence-Aware Language Model for Autonomous Driving [7.879160320881927]
  大規模言語モデル (LLMs) とマルチモーダルLSM (MLLMs) は、自律運転において大きな可能性を実証している。 本稿では,軽量な信頼度を考慮した言語モデルを用いた新たな意思決定フレームワークを提案する。 提案手法は,通常のシナリオと長期シナリオの両方において,SOTA(State-of-the-art)の成功率を達成することを示す。
  論文  参考訳（メタデータ） (2026-05-25T03:38:12Z)
• Route Before Retrieve: Activating Latent Routing Abilities of LLMs for RAG vs. Long-Context Selection [57.3886742625188]
  Pre-Routeは、応答前に構造化推論を実行するプロアクティブなルーティングフレームワークである。 本研究は, (i) LLMは, ガイドラインを確実に適用可能な遅延ルーティング能力を有すること, (ii) 線形プローブにより, 表現空間における最適ルーティングの分離性を高めること, (iii) 蒸留により, この推論構造を, 軽量展開のためのより小さなモデルに伝達すること,の3つの重要な知見を示す。
  論文  参考訳（メタデータ） (2026-05-11T09:10:55Z)
• When Less is Enough: Efficient Inference via Collaborative Reasoning [39.24624228580671]
  DUETは、有能なモデルと軽量なモデルが協調してタスクを解決する、協調的な推論フレームワークである。 その結果、DUETは、大規模モデルのみを用いて、エンドツーエンドの推論よりもかなり低い推論コストで、強い推論性能を維持している。
  論文  参考訳（メタデータ） (2026-05-01T21:31:59Z)
• GlimpRouter: Efficient Collaborative Inference by Glimpsing One Token of Thoughts [10.808072653940263]
  協調推論は、軽量モデルと大規模モデルの間の作業を選択的に割り当てることで、有望なソリューションを提供する。 ステップワイドなコラボレーションに関する新しい視点を提案する。推論ステップの難しさは,最初のトークンから推測できる。 Glimpは軽量なモデルを使用して、各推論ステップの最初のトークンのみを生成し、初期トークンエントロピーがしきい値を超えた場合にのみ、ステップをより大きなモデルにルーティングする。
  論文  参考訳（メタデータ） (2026-01-08T16:58:07Z)
• Self-Route: Automatic Mode Switching via Capability Estimation for Efficient Reasoning [36.470695895695044]
  Self-Routeは、一般的な推論モードと推論モードを自動的に選択する動的推論フレームワークである。 トークン消費量を30～55%削減しながら,自己ルートが推論モデルに匹敵する精度を実現していることを示す。
  論文  参考訳（メタデータ） (2025-05-27T03:18:31Z)
• Route to Reason: Adaptive Routing for LLM and Reasoning Strategy Selection [7.045509749924679]
  Route-To-Reason(RTR)は、予算制約下でのタスク難易度に応じて、LMと推論戦略の両方を動的に割り当てる新しい統一ルーティングフレームワークである。 RTRは、専門家モデルと推論戦略の両方の圧縮された表現を学び、推論時に共同で適応的な選択を可能にする。
  論文  参考訳（メタデータ） (2025-05-26T02:53:17Z)
• Scalable Best-of-N Selection for Large Language Models via Self-Certainty [75.1351701045874]
  Best-of-N selectionは、Large Language Models(LLMs)の推論性能を改善するための重要なテクニックである。 本稿では, LLM出力の固有確率分布を利用して, 外部報酬モデルを必要としない応答品質を推定する, 新規で効率的な指標である自己確実性を提案する。 本研究は, LLM推論能力を向上させるための実用的で効率的な方法として, 自己確実性を確立した。
  論文  参考訳（メタデータ） (2025-02-25T19:08:07Z)
• CART: A Generative Cross-Modal Retrieval Framework with Coarse-To-Fine Semantic Modeling [53.97609687516371]
  クロスモーダル検索は、異なるモーダルデータの相互作用を通じて、クエリと意味的に関連するインスタンスを検索することを目的としている。 従来のソリューションでは、クエリと候補の間のスコアを明示的に計算するために、シングルトウワーまたはデュアルトウワーのフレームワークを使用している。 粗大なセマンティックモデリングに基づく生成的クロスモーダル検索フレームワーク(CART)を提案する。
  論文  参考訳（メタデータ） (2024-06-25T12:47:04Z)
• Towards Efficient Pareto Set Approximation via Mixture of Experts Based Model Fusion [53.33473557562837]
  大規模深層ニューラルネットワークに対する多目的最適化問題を解くことは、損失ランドスケープの複雑さと高価な計算コストのために難しい課題である。 本稿では,専門家(MoE)をベースとしたモデル融合を用いて,この問題を実用的でスケーラブルに解決する手法を提案する。 特殊な単一タスクモデルの重みをまとめることで、MoEモジュールは複数の目的間のトレードオフを効果的に捉えることができる。
  論文  参考訳（メタデータ） (2024-06-14T07:16:18Z)
• MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
  Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。 MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。 また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
  論文  参考訳（メタデータ） (2024-06-11T17:55:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。