論文の概要: T3R: Training-Free Two-Stage Token Refinement Towards Efficient and Robust VLA Models

• arxiv url: http://arxiv.org/abs/2611.08413v1
• Date: Thu, 05 Nov 2026 18:17:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 04:55:13.615699
• Title: T3R: Training-Free Two-Stage Token Refinement Towards Efficient and Robust VLA Models
• Title（参考訳）: T3R: 効率的かつロバストなVLAモデルに向けた訓練不要2段階の富化
• Abstract要約: VLA(Vision-Language-Action)モデルは、エンドツーエンドのロボット制御を可能にするが、推論はますます高価になる。 トレーニングフリーの2段階Token RefinementフレームワークであるT3Rを提案する。 LIBERO-Spatialでは、T3Rはシーンカメラの視覚トークンの85%を取り除き、本質的に未実行の成功率と一致する。 LIBERO、SIMPLER、RoboTwinの3つのVLAバックボーンによる評価は、マルチカメラ設定において最も高い精度効率の利点を示している。
• 参考スコア（独自算出の注目度）: 33.91353014911186
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-Language-Action (VLA) models enable end-to-end robot control, but inference is increasingly expensive. Each decision processes hundreds of visual tokens, often across multiple cameras, leading to substantial computation while allowing irrelevant background content to distract action prediction under distribution shift. We argue that these issues stem from two complementary forms of redundancy: many visual tokens are spatially irrelevant, while attention over the remaining tokens is often misallocated. Based on this observation, we propose T3R, a Training-Free Two-Stage Token Refinement framework. In the first stage, segmentation-guided token pruning removes irrelevant visual patches to reduce computation and eliminate distracting context. In the second stage, saliency-guided attention biasing reallocates attention toward action-critical visual regions and language instructions within the retained tokens. Together, pruning produces a cleaner candidate set, while attention biasing further emphasizes the most decision-relevant evidence, yielding a better accuracy-efficiency frontier than either stage alone. On LIBERO-Spatial, T3R removes 85% of scene-camera visual tokens while essentially matching the unpruned success rate, and improves success by up to 7 percentage points under out-of-distribution object-placement perturbations. The timing comparison attributes 7.8 ms per inference call to pruning and attention-bias application. As input resolution increases, LLM-forward profiling shows up to a 3.3x speedup over the unpruned baseline. Evaluations across LIBERO, SIMPLER, and RoboTwin with three VLA backbones show the strongest accuracy-efficiency benefits in multi-camera settings. These results demonstrate that training-free token refinement is a practical approach to efficient and robust VLA inference.
• Abstract（参考訳）: VLA(Vision-Language-Action)モデルは、エンドツーエンドのロボット制御を可能にするが、推論はますます高価になる。 各決定は、数百の視覚トークンを処理し、多くの場合、複数のカメラで処理し、相当な計算を行い、無関係なバックグラウンドコンテンツは、分散シフト下でのアクション予測を妨害する。 視覚的トークンの多くは空間的に無関係であり、残りのトークンに対する注意はしばしば誤配置される。 そこで本研究では,T3Rをトレーニングフリーな2段階Token Refinementフレームワークとして提案する。 第1段階では、セグメンテーション誘導トークンプルーニングにより、無関係な視覚パッチを取り除き、計算を減らし、邪魔なコンテキストをなくす。 第2段階では、サリエンシ誘導による注意バイアスは、保持トークン内の行動クリティカルな視覚領域や言語指示に注意を向ける。 プルーニングは、よりクリーンな候補セットを生成する一方、注意バイアスは、最も決定に関係のある証拠をさらに強調し、どちらのステージよりも正確で効率の良いフロンティアを生み出す。 LIBERO-Spatialでは、T3Rはシーンカメラの視覚トークンの85%を排除し、基本的に未処理の成功率と一致させ、アウト・オブ・ディストリビューション・オブジェクト配置の摂動の下で最大7ポイントの成功率を改善する。 タイミング比較属性7.8msは、プルーニングおよびアテンションバイアス適用に対する推論呼び出しである。 入力解像度が大きくなると、LCMフォワードプロファイリングは未処理のベースライン上で3.3倍のスピードアップとなる。 LIBERO、SIMPLER、RoboTwinの3つのVLAバックボーンによる評価は、マルチカメラ設定において最も高い精度効率の利点を示している。 これらの結果は、トレーニングフリーなトークン精錬が、効率的で堅牢なVLA推論への実践的なアプローチであることを示している。

関連論文リスト

• ACPruner: Visual Token Pruning as Biased Attention Coverage Maximization in LVLMs [61.39113360313417]
  ACPrunerは、効率的なLVLM推論のためのトレーニング不要なビジュアルトークンプルーニングフレームワークである。 ACPrunerは、エンド・ツー・エンドの推論スピードアップを実現しながら、パフォーマンスを継続的に維持する。
  論文  参考訳（メタデータ） (2026-09-28T08:14:55Z)
• STAR-Pro: Stage-Wise Token Adaptive Reduction with Progressive Refinement for Efficient Large Vision-Language Models [54.273344678561024]
  大規模視覚言語モデル(LVLM)は強力なマルチモーダル理解を実現するが、処理する数百から数千の視覚トークンは計算オーバーヘッドを課す。 視覚的トークンプルーニングの2つの相補的解析を行う。 視覚的トークンプルーニングのためのトレーニング不要な2段階フレームワークSTAR-Proを提案する。
  論文  参考訳（メタデータ） (2026-09-05T06:18:28Z)
• Calibrate Before Reason: Robust Visual Token Reduction against Semantic Drift in VLMs [26.936352183867854]
  CaReは,1)多方向摂動下で安定なモデル側の影響を持つアンカーを識別する摂動ロバストアンカリング,2)未選択トークンから信頼性の高い校正信号を抽出しアンカーに注入する信頼性ゲートトケンの2つの相互補完モジュールから構成される。 視覚トークンの94.4%をプルーニングする一方で、本手法は元のフルトーケン性能の96.4%を保持し、未使用バニラモデルと比較して最大2.30倍高速なエンドツーエンド推論速度を実現する。
  論文  参考訳（メタデータ） (2026-07-30T05:36:29Z)
• ERA: Entropy-Guided Visual Token Pruning with Rectified Attention for Efficient MLLMs [77.57757084153083]
  本稿では,効率的なMLLMを実現するために,Rectified Attention を用いたエントロピー誘導型ビジュアルトークン解析フレームワーク ERA を提案する。 ERAはDEP(Dual-view Entropy Pruning)、BTR(Bias-Aware Tokencycle)、LAR(Logit-Reserving Attention Rectification)の3つの重要な構成要素から構成される。
  論文  参考訳（メタデータ） (2026-06-30T17:20:29Z)
• PRPO: Perception-Reinforced Policy Optimization via Token-Level Dynamic Advantage Reshaping [5.89473045822308]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、LVLM(Large Vision-Language Models)の推論能力向上に有効なパラダイムとなっている。 既存のRLVR法は、全ての生成されたトークンに対して同一の学習信号を割り当てる軌道レベルの結果報酬に依存している。 本稿では,重要な知覚トークンを明確に識別し,強化するトークンレベルの強化学習フレームワークである知覚強化政策最適化(PRPO)を提案する。
  論文  参考訳（メタデータ） (2026-06-07T16:06:29Z)
• ASAP: Attention-Shift-Aware Pruning for Efficient LVLM Inference [26.71949723961501]
  本稿では,新しいトレーニングフリーなKVキャッシュ対応プルーニングレシピであるASAPを提案する。 ダイナミックな双方向ソフトアテンションマスクを利用することで、アテンションシフトを緩和する。 また、トークンセット内の高い意味的冗長性は性能を低下させると仮定する。
  論文  参考訳（メタデータ） (2026-03-15T18:51:31Z)
• Don't Just Chase "Highlighted Tokens" in MLLMs: Revisiting Visual Holistic Context Retention [50.97683288777336]
  MLLM(Multimodal Large Language Models)は、巨大な視覚トークンに依存するため、計算オーバーヘッドがかなり大きい。 近年の研究では、この問題を緩和するためにトークンプルーニングが検討されている。 本稿では,効率的な推論のためのビジュアルトークン・プルーニング・フレームワークであるHoloVを提案する。
  論文  参考訳（メタデータ） (2025-10-03T11:33:40Z)
• Rethinking Visual Token Reduction in LVLMs under Cross-modal Misalignment [38.04426918886084]
  視覚言語モデル(LVLM)は、視覚入力をパッチレベルのトークンの密度の高いシーケンスとしてエンコードし、微細なセマンティクスをキャプチャする。 これまでは、大型言語モデル(LLM)の前か中のいずれかで、視覚トークンの削減を検討してきた。 トレーニングフリーで視覚のみのプルーニングフレームワークであるVisionDropを導入し、モーダル内(視覚から視覚への)注目に基づいて情報的視覚トークンを選択する。
  論文  参考訳（メタデータ） (2025-06-27T14:55:40Z)
• ToDRE: Visual Token Pruning via Diversity and Task Awareness for Efficient Large Vision-Language Models [59.47738955960352]
  ToDREは、2段階でトレーニング不要なトークン圧縮フレームワークである。 トークンの多様性とトークン-タスク関連性に基づいてトークンをプルーニングすることで、優れたパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2025-05-24T15:47:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。