論文の概要: Resolution as a First-Class Decision: Task-Conditioned Routing for Efficient Multimodal Large Language Models

• arxiv url: http://arxiv.org/abs/2609.34942v1
• Date: Mon, 28 Sep 2026 11:35:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:32:17.777454
• Title: Resolution as a First-Class Decision: Task-Conditioned Routing for Efficient Multimodal Large Language Models
• Title（参考訳）: 第一級決定としての解決:効率的な多モーダル大言語モデルのためのタスク記述型ルーティング
• Abstract要約: 既存のアプローチは主に下流のトークン圧縮に重点を置いているが、上流の基本的な非効率性を見越している。 タスク条件決定として視覚的圧縮を定式化するTCRR(Routeing Task-Conditioned Resolution)を提案する。 具体的には,Qwen3-VL-8Bでは視覚的FLOPを40.9%削減し,レイテンシを53.7%短縮する。
• 参考スコア（独自算出の注目度）: 16.889824934625405
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The inference efficiency of Multimodal Large Language Models (MLLMs) is severely constrained by massive visual token sequences induced by high-resolution inputs, with computational cost scaling quadratically. Existing approaches primarily focus on downstream token compression, while overlooking a fundamental upstream inefficiency: input resolution is treated as a static, task-agnostic hyperparameter. We propose Task-Conditioned Resolution Routing (TCRR), which formulates visual compression as a task-conditioned decision and employs a lightweight cross-modal router that conditions backbone visual representations on textual semantics via feature-wise modulation and cross-attention to predict the minimal sufficient compression level per query. To support this, we curate a dataset of 500k samples across 12 task categories, labeled via a teacher-oracle pipeline to approximate Pareto-optimal compression scales. Extensive experiments across diverse architectures show that TCRR achieves a superior efficiency frontier, specifically reducing visual FLOPs by 40.9% and latency by 53.7% on Qwen3-VL-8B while preserving competitive performance. Further analysis of scaling behavior confirms that dynamically routing visual compression enables optimal resource allocation without modifying the MLLM backbone.
• Abstract（参考訳）: MLLM(Multimodal Large Language Models)の推論効率は、高解像度入力によって引き起こされる巨大な視覚トークンシーケンスによって、計算コストの2次スケーリングによって厳しい制約を受ける。 既存のアプローチは主に下流のトークン圧縮に重点を置いているが、基本的な上流の非効率性を見落としている:入力解像度は静的なタスクに依存しないハイパーパラメータとして扱われる。 本稿では,タスク条件付き決定として視覚的圧縮を定式化し,特徴量変調によるテキスト意味論のバックボーン視覚表現を条件とした軽量なクロスモーダルルータと,クエリ毎の最小圧縮レベルを予測するクロスアテンションを提案する。 これをサポートするために、12のタスクカテゴリにまたがる500kサンプルのデータセットを、教師-オークルパイプライン経由でラベル付けし、パレート-最適圧縮スケールを近似する。 様々なアーキテクチャにわたる大規模な実験により、TCRRは優れた効率のフロンティアを達成し、特に視覚FLOPを40.9%削減し、Qwen3-VL-8Bでは53.7%遅延し、競争性能を維持した。 スケーリング動作のさらなる解析により、動的に視覚的圧縮をルーティングすることで、MLLMのバックボーンを変更することなく最適なリソース割り当てが可能になることが確認される。

関連論文リスト

• Focus When Necessary: Adaptive Routing and Collaborative Grounding for Training-Free Visual Grounding [56.38477453373368]
  LazyMCoTは動的でトレーニング不要なフレームワークで、サンプルの難易度に基づいて視覚的接地作業を適応的に割り当てる。 LazyMCoTは、推論精度を同時に改善し、平均推論レイテンシを低減することで、トレーニングベースのアプローチと競合する。
  論文  参考訳（メタデータ） (2026-06-15T03:17:44Z)
• Task-Oriented Feature Compression for Multimodal Understanding via Device-Edge Co-Inference [54.53508601749513]
  本稿では,マルチモーダル理解のためのタスク指向特徴圧縮(TOFC)手法を提案する。 圧縮効率を向上させるために、視覚特徴の特性に基づいて複数のエントロピーモデルを適応的に選択する。 その結果,TOFCはデータ転送オーバーヘッドを最大52%削減し,システム遅延を最大63%削減できることがわかった。
  論文  参考訳（メタデータ） (2025-03-17T08:37:22Z)
• PRISM: Self-Pruning Intrinsic Selection Method for Training-Free Multimodal Data Selection [68.8373788348678]
  ビジュアルインストラクションチューニングは、事前訓練されたマルチモーダル大言語モデルに人間の指示に従うように適応する。 PRISMは、効率的な視覚的命令選択のための最初のトレーニング不要のフレームワークである。 データ選択とモデルチューニングのエンドツーエンドの時間を従来のパイプラインの30%に短縮する。
  論文  参考訳（メタデータ） (2025-02-17T18:43:41Z)
• PAR: Prompt-Aware Token Reduction Method for Efficient Large Multimodal Models [32.33892531885448]
  MLLM(Multimodal large language model)は、視覚的タスクにまたがる強力なパフォーマンスを示す。 しかし、それらの効率は、マルチモーダル入力で長いコンテキストを処理することによる計算とメモリの要求によって妨げられている。 PAR(Prompt-Aware Token Reduction)は,モデルの性能を損なうことなく,視覚トークンを効率よく削減する新しい,プラグアンドプレイ方式である。
  論文  参考訳（メタデータ） (2024-10-09T07:13:22Z)
• Transforming Image Super-Resolution: A ConvFormer-based Efficient Approach [58.57026686186709]
  本稿では, Convolutional Transformer Layer (ConvFormer) を導入し, ConvFormer-based Super-Resolution Network (CFSR) を提案する。 CFSRは畳み込みベースのアプローチとトランスフォーマーベースのアプローチの両方の利点を継承する。 CFSRは計算コストと性能のバランスが最適であることを示す実験である。
  論文  参考訳（メタデータ） (2024-01-11T03:08:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。