論文の概要: Token-Disentangled Latent Test-Time Scaling for Vision-Language Reasoning

• arxiv url: http://arxiv.org/abs/2609.35228v1
• Date: Mon, 28 Sep 2026 14:10:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 15:55:49.77397
• Title: Token-Disentangled Latent Test-Time Scaling for Vision-Language Reasoning
• Title（参考訳）: ビジョンランゲージ推論のためのToken-Disentangled Latent Test-Time Scaling
• Abstract要約: 遅延テストタイムスケーリングは、推論中に隠れた状態を精錬することで推論を改善する。 既存のメソッドは通常、編集可能な潜在トークンすべてに単一のスカラー報酬を適用する。 Token-Disentangled Latent Test-Time Scalingは、潜在精錬トークンを認識できる推論時間フレームワークである。
• 参考スコア（独自算出の注目度）: 76.50676105904442
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Latent test-time scaling improves reasoning by refining hidden states during inference, but existing methods typically apply a single scalar reward to all editable latent tokens. For multimodal large language models, this global update ignores that generated tokens play different roles: some are sensitive to visual evidence, while others correspond to uncertain reasoning decisions. We present Token-Disentangled Latent Test-Time Scaling, an inference-time framework that makes latent refinement token-role-aware. Starting from an initial generated trajectory, we optimize a short hidden-state prefix while routing perception-side visual feedback to image-sensitive tokens and reasoning feedback to high-entropy tokens. Tokens selected by neither route are constrained by an anchor regularizer. Across both perception and reasoning benchmarks on Qwen2.5-VL-7B and InternVL3.5-8B, our method lifts macro accuracy over CoT by +2.57 and +1.51 respectively, and outperforms strong output-space test-time scaling baselines under matched decoded-candidate budgets. Code is available at https://github.com/Qwen-Applications/TD-LTTS.
• Abstract（参考訳）: 遅延テストタイムスケーリングは推論中に隠れた状態を精錬することで推論を改善するが、既存のメソッドは通常、編集可能な遅延トークンすべてに単一のスカラー報酬を適用する。 マルチモーダルな大規模言語モデルでは、このグローバルアップデートは生成されたトークンが異なる役割を担っていることを無視する。 Token-Disentangled Latent Test-Time Scalingは、潜在精錬トークンロールを意識した推論時間フレームワークである。 初期生成した軌道から始めて、認識側の視覚フィードバックをイメージセンシティブなトークンにルーティングし、高エントロピーなトークンに推論フィードバックをルーティングしながら、短い隠れ状態プレフィックスを最適化する。 どちらの経路でも選択されたトークンはアンカー正規化器によって制約される。 Qwen2.5-VL-7B と InternVL3.5-8B の知覚と推論のベンチマークでは,CoT 上のマクロ精度を +2.57 と +1.51 で引き上げ,一致した復号化予算下では強い出力空間の試験時間スケーリングベースラインを上回ります。 コードはhttps://github.com/Qwen-Applications/TD-LTTSで入手できる。

関連論文リスト

• Prefix Sliding for efficient test-time scaling [148.8911065058742]
  テストタイムスケーリングでは、パフォーマンス向上のために追加のテストタイム計算を使用する。 モデルが推論を続けるにつれて、ほとんどの中間推論トークンは重要性を失います。 我々は,前置詞や最後の数千のトークンのウィンドウにない推論中にトークンを破棄するPrefix Slidingを提案する。
  論文  参考訳（メタデータ） (2026-08-26T17:37:15Z)
• DIVE: Dynamic Iterative Visual Evidence Construction for Efficient Vision-Language Models [13.866355425347384]
  視覚言語モデルの視覚入力は、しばしばテキストよりもかなり長いトークンシーケンスに符号化される。 近年の手法では、トークンの重要度を判定し、低スコアのトークンを1回のパスでプルーニングすることで、このボトルネックに対処している。 この知見に触発されたDIVEは、動的エビデンス構築として視覚障害者のプルーニングをリキャストする、トレーニング不要のフレームワークである。
  論文  参考訳（メタデータ） (2026-08-05T06:32:25Z)
• LAST: The Last Query Token Guides Visual Token Pruning for Edge-Cloud Collaborative MLLM Inference [63.932718076408584]
  LASTは、エッジクラウド協調MLLM推論におけるクエリ依存のビジュアルトークンプルーニングのための、トレーニング不要のフレームワークである。 完全な精度の95.4%を維持し、視覚トークンの12.5%しか保持せず、エッジ側の選択オーバーヘッドは低く、クラウド側の計算は少ない。
  論文  参考訳（メタデータ） (2026-07-30T09:59:25Z)
• Efficient and Trainable Language Model Test-Time Scaling via Local Branch Routing [65.59464371673623]
  Local Branch Routing (LBR)はトークンレベルのテストタイムスケーリングフレームワークである。 小さなローカルなルックアヘッドツリーを拡張し、言語モデルを通じてすべてのサンプルブランチを転送し、軽量ルータを使用してコミットするdeep-1サブツリーを選択する。 LBRにより、各トークン決定は、完全なソリューションレベルの検索を避けながら、ルート次トーケン分布を超えるエビデンスを使用することができる。
  論文  参考訳（メタデータ） (2026-06-24T03:42:44Z)
• Ablate-to-Validate: Are Vision-Language Models Really Using Continuous Thought Tokens? [36.160974399366225]
  視覚言語モデル(VLM)は、"視覚的思考"をサポートするために、連続的または潜時的な非テクスチャトークンでますます拡張されている。 タスク精度が向上したにもかかわらず、これはモデルが実際にこれらのトークンを推論に使用していることを示すものではない。 我々は,潜入型コンテンツが真に活用されているかどうかを調べるための診断原則であるAblate Ablate-to-Shelfを定式化する。
  論文  参考訳（メタデータ） (2026-05-20T18:55:16Z)
• TTE-Flash: Accelerating Reasoning-based Multimodal Representations via Think-Then-Embed Tokens [32.700228795574255]
  TTE-Flash-2Bは,MMEB-v2ベンチマークにおいて,その明示的なCoTよりも優れたマルチモーダル表現モデルである。 本研究では,1)LLMバックボーンからトークンの考え方と埋め込みを抽出する方法,2)トークンを2つの依存タスクとしてトレーニングする方法,の2つの重要なアーキテクチャ設計について検討する。
  論文  参考訳（メタデータ） (2026-05-15T21:10:56Z)
• Evading Visual Aphasia: Contrastive Adaptive Semantic Token Pruning for Vision-Language Models [52.78477729846771]
  本稿では,COAST(Contrastive Adaptive Semantic Token Pruning)について紹介する。 COASTはトークン予算をまたいだ強力なプルーニングベースラインを一貫して上回り、複数のLVLMファミリをまたいだ一般化を実現している。
  論文  参考訳（メタデータ） (2026-05-10T09:07:04Z)
• Beyond Imitation: Reinforcement Learning for Active Latent Planning [18.05072303874982]
  潜時推論メソッド 個別の言語トークンを連続的な潜時トークンで置換するために、大言語モデルを微調整する。 現在の潜在トークンは一般的に、言語ラベルの模倣に基づいて管理される。 本稿では, ATP-Latentを条件付き変分自動エンコーダとして, 遅延トークンの監視過程をモデル化する。
  論文  参考訳（メタデータ） (2026-01-29T12:07:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。