論文の概要: TIGER: Text-Conditioned Visual Gated Routing with Acceptance Alignment for Multimodal Speculative Decoding
- arxiv url: http://arxiv.org/abs/2607.11131v1
- Date: Mon, 13 Jul 2026 06:06:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 17:47:21.354876
- Title: TIGER: Text-Conditioned Visual Gated Routing with Acceptance Alignment for Multimodal Speculative Decoding
- Title（参考訳）: TIGER:マルチモーダル投機復号のためのアクセプタンスアライメント付きテキスト記述型ビジュアルゲートルーティング
- Abstract要約: 投機的復号化は、ドラフト作成者がより大きなターゲットモデルで検証された複数のトークンを提案することによって自己回帰生成を加速させる。
テキスト条件付き vIsual GatEd フレームワーク TIGER を提案する。
我々は,TIGERが精度の高い検証側投機的復号化の下で,許容プレフィックス長と投機的高速化で一貫した利得が得られることを示す。
- 参考スコア（独自算出の注目度）: 8.451420931444215
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Speculative decoding accelerates autoregressive generation by letting a lightweight drafter propose multiple tokens that are verified by a larger target model. Although effective for text-only LLMs, speculative decoding yields limited gains in VLMs because drafters often diverge on vision-critical content, while existing multimodal acceleration methods do not directly address irrelevant visual evidence or optimize the verifier-accepted prefix length that governs speedup. We propose TIGER, a Text-conditioned vIsual GatEd Routing framework for multimodal speculative decoding. TIGER dynamically selects a sparse set of context-relevant visual tokens based on the drafter's current textual state, rather than expose the full visual token set or a fixed compressed interface. To better align training with inference-time efficiency, we optimize the drafter with acceptance-aligned group-based policy training using verifier-derived rewards based on accepted prefix length, built on top of distillation warm start with KL anchoring. This encourages the drafter not only to imitate the target model, but also to produce speculative continuations that survive verification for longer prefixes. Experiments show that TIGER yields consistent gains in accepted prefix length and speculative speedup under exact verifier-side speculative decoding, while achieving favorable quality-latency trade-offs with comparable downstream accuracy in visual-routing analyses.
- Abstract（参考訳）: 投機的復号化は、軽量なドラフト作成者がより大きなターゲットモデルによって検証される複数のトークンを提案することによって、自己回帰生成を加速させる。
テキストのみのLLMに対して有効であるが、投機的復号化はVLMにおいて限られた利得をもたらす。なぜなら、ドラフト作成者は視覚クリティカルなコンテンツを多用することが多いが、既存のマルチモーダル・アクセラレーション法は、無関係な視覚的証拠に直接対処したり、スピードアップを管理するバリザが受け入れるプレフィックス長を最適化したりしないからである。
テキスト条件付き vIsual GatEd Routing フレームワーク TIGER を提案する。
TIGERは、完全なビジュアルトークンセットや固定圧縮インターフェースを公開するのではなく、ドラフトアの現在のテキスト状態に基づいて、コンテキスト関連視覚トークンのスパースセットを動的に選択する。
提案手法は,KLアンカーを用いた蒸留開始温暖機上に構築された,許容プレフィックス長に基づく検証器由来の報酬を用いて,提案手法を適応整合型グループベースの政策トレーニングで最適化する。
これにより、プロダクタはターゲットモデルを模倣するだけでなく、より長いプレフィックスの検証に耐えられる投機的継続を生成することができる。
実験により、TIGERは、正確な検証側投機的復号化の下で、許容プレフィックス長と投機的高速化で一貫したゲインを得る一方で、ビジュアルルーティング解析において、同等のダウンストリーム精度で良好な品質-遅延トレードオフを達成することが示された。
関連論文リスト
- FOVEA: Focused On-Demand Visual Evidence Adaptation for Cache-Friendly Multimodal Speculative Decoding [42.559533294854134]
マルチモーダル投機的復号化は、軽量なドラフトモデルにより、より大きなターゲットモデルによる並列検証のための候補トークンを提案することにより、視覚言語モデルを加速させる。
既存の方法は通常、事前に定義された視覚的な予算や静的な圧縮表現のような、固定されたビジュアルインターフェースにドラフトを条件付けする。
本稿では、再利用可能なビジュアルメモリを構築し、ドラフト状態の有界サブセットを動的に検索するキャッシュフレンドリーなアプローチであるFOVEAを提案する。
論文 参考訳（メタデータ） (2026-08-24T07:09:02Z) - Latent Visual States for Efficient Multimodal Reasoning [58.350643620457]
EVA(LatEnt Visual StAtes)は、連続的な潜伏した視覚表現を生成する新しいフレームワークである。
これらの内部表現は、Latnt_slotトークンの適応シーケンスとして表される。
EVAは推論効率を高めつつ、大幅な性能向上を達成する。
論文 参考訳（メタデータ） (2026-06-23T07:22:22Z) - Reward-Guided Semantic Evolution for Test-time Adaptive Object Detection [82.2968697030677]
Grounding DINOのような視覚言語モデル(VLM)を用いたオープン語彙オブジェクト検出は、テスト時間分布シフト時の性能劣化に悩まされる。
Reward-Guided Semantic Evolution (RGSE) は、テスト時にテキストの埋め込みを直接洗練するトレーニング不要のフレームワークである。
論文 参考訳（メタデータ） (2026-05-06T06:17:41Z) - DIVERSED: Relaxed Speculative Decoding via Dynamic Ensemble Verification [29.426184837710952]
投機的復号化は,複数のトークンを並列に起草することで,大規模言語モデルの推論を高速化する有効な手法である。
生成品質を保ちながら時間効率を向上させる緩やかな検証フレームワークである動的検証緩和投機復号法(DIVERSED)を提案する。
本研究では,DIVERSEDが標準的な投機的復号法に比べてかなり高い推論効率を実現することを示す。
論文 参考訳（メタデータ） (2026-04-08T21:52:32Z) - Training-Free Acceleration for Document Parsing Vision-Language Model with Hierarchical Speculative Decoding [102.88996030431662]
本稿では,文書解析タスクの学習自由かつ高効率な高速化手法を提案する。
投機的復号化にインスパイアされた私たちは、将来のトークンのバッチを予測するために、ドラフトモデルとして軽量な文書解析パイプラインを使用します。
汎用OmniDocBenchに対するアプローチの有効性を示す。
論文 参考訳（メタデータ） (2026-02-13T14:22:10Z) - Steering Pretrained Drafters during Speculative Decoding [32.75269650141292]
投機的復号化は、生成を高速なドラフトと並列検証に分離することで言語モデル推論を加速する。
主な制限は、トークンの受け入れを制限し、全体的な有効性を低下させるドラフトラ検証ミスアライメントである。
検証器の隠れ状態から計算し,事前訓練されたドラフトアライメントに注入するステアリングベクトルという,軽量な動的アライメント機構を導入する。
提案手法では, 標準サンプリングでは35%, グリージーサンプリングでは22%, 無視可能な計算オーバーヘッドを発生させながら, 許容トークン数を最大35%向上させる。
論文 参考訳（メタデータ） (2025-11-13T00:58:32Z) - DynaSpec: Context-aware Dynamic Speculative Sampling for Large-Vocabulary Language Models [13.242009624334996]
DynaSpecは動的ショートリスト機構で、堅牢で、ドラフトをスピードアップし、さまざまなタスクにまたがって一般化する。
Llama-3-8Bでは許容される平均長を98.2%まで改善した。
文脈依存の選択を利用することで、DynaSpecは生成トークンの最大2.18倍、固定語彙アプローチの1.91倍を達成する。
論文 参考訳（メタデータ） (2025-10-11T19:38:07Z) - DiffuSpec: Unlocking Diffusion Language Models for Speculative Decoding [66.40658898418316]
DiffuSpecは、事前訓練された拡散言語モデル(DLM)を用いて、単一のフォワードパスでマルチトークンのドラフトを生成する、トレーニングフリーのドロップインフレームワークである。
ベンチマーク全体を通じて、DiffuSpecは最大3倍のウォールクロックスピードアップを達成し、投機的復号化のための自己回帰型ドラフトラの堅牢な代替手段として拡散ベースのドラフトを確立する。
論文 参考訳（メタデータ） (2025-09-28T07:00:15Z) - Think Before You Accept: Semantic Reflective Verification for Faster Speculative Decoding [48.52389201779425]
投機的復号化は、軽量モデルを使用して複数のドラフトトークンを生成し、それらを並列に検証することで推論を加速する。
既存の検証手法は、意味的正確性を見越しながら、分布の整合性に大きく依存している。
我々は,学習自由でセマンティックなアプローチであるリフレクティブ検証を提案し,正確性と効率のトレードオフを改善する。
論文 参考訳（メタデータ） (2025-05-24T10:26:27Z) - BanditSpec: Adaptive Speculative Decoding via Bandit Algorithms [101.9736063064503]
大規模言語モデル(LLM)の推論を高速化する一般的な手法として、投機的復号法が登場した。
本稿では,テキスト生成時に投機的復号化のためのハイパーパラメータの設定を適応的に選択する学習自由オンライン学習フレームワークを提案する。
論文 参考訳（メタデータ） (2025-05-21T05:56:31Z) - Ouroboros: Generating Longer Drafts Phrase by Phrase for Faster Speculative Decoding [65.94521678103237]
投機的復号化(英: Speculative decoding)は、大規模言語モデルの生成プロセスを加速する広く使われている手法である。
我々は,草案作成プロセスの並列化のために,草案文を生成するOuroborosを紹介した。
ウロボロは投機的復号化で最大2.8倍、バニラ復号化で3.9倍のスピードアップを達成できる。
論文 参考訳（メタデータ） (2024-02-21T11:31:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。