論文の概要: Text-Vision Synergistic Token Caching: A Training-Free Framework for Efficient Vision-Language-Action Inference

• arxiv url: http://arxiv.org/abs/2609.34319v1
• Date: Mon, 28 Sep 2026 04:59:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 21:50:43.919858
• Title: Text-Vision Synergistic Token Caching: A Training-Free Framework for Efficient Vision-Language-Action Inference
• Title（参考訳）: テキスト・ビジョン・シンジスティック・トーケン・キャッシュ:効率的な視覚・言語・アクション推論のための学習自由フレームワーク
• Abstract要約: VLA(Vision-Language-Action)モデルは汎用的なロボット制御を可能にするが、計算コストは高い。 本稿では,効率的なVLA推論のためのトレーニングフリーフレームワークであるText-Vision Synergistic Token Caching (TVCache)を提案する。 TVCacheは、テキストビジョン情報に基づくアテンションヘッドをフィルタリングし、タスク関連および物理的に一貫した視覚的グラウンドを改善する。
• 参考スコア（独自算出の注目度）: 8.940908000438288
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision-Language-Action (VLA) models enable generalizable robotic control but remain computationally expensive. Token caching provides a training-free, plug-and-play acceleration alternative. However, existing VLA caching does not fully exploit a key inductive bias of VLA models: text-vision synergy, wherein textual semantics guide the precise visual grounding of task-relevant regions. In particular, existing designs insufficiently account for head-wise reliability in attention aggregation and layer-wise stability in cache reuse. To address this, we propose Text-Vision Synergistic Token Caching (TVCache), a training-free framework for efficient VLA inference. TVCache filters attention heads based on text-vision information focus to improve task-relevant and physically consistent visual grounding. Concurrently, we introduce a reuse-layer selection mechanism guided by text-vision entropy differences to avoid caching unstable representations and improve cache resource allocation. Extensive experiments across four representative VLA models, two simulation benchmarks, and real-world robotic tasks demonstrate the effectiveness and generality of TVCache. At matched token-retention ratios, TVCache consistently improves task success over existing VLA caching with comparable computational cost. On OpenVLA-OFT, it improves average success by up to 14.5 percentage points over VLA-Cache at 12.5% retention while reducing FLOPs by 2.45x relative to full-token inference.
• Abstract（参考訳）: VLA(Vision-Language-Action)モデルは汎用的なロボット制御を可能にするが、計算コストは高い。 トークンキャッシュは、トレーニング不要のプラグイン・アンド・プレイアクセラレーションの代替を提供する。 しかし、既存のVLAキャッシュはVLAモデルの重要な帰納バイアスをフル活用していない。 特に、既存の設計では、アテンションアグリゲーションにおけるヘッドワイドな信頼性とキャッシュ再利用におけるレイヤワイドな安定性が不十分である。 そこで本研究では,効率的なVLA推論のためのトレーニングフリーフレームワークであるText-Vision Synergistic Token Caching (TVCache)を提案する。 TVCacheは、テキストビジョン情報に基づくアテンションヘッドをフィルタリングし、タスク関連および物理的に一貫した視覚的グラウンドを改善する。 同時に、不安定な表現のキャッシュを避け、キャッシュリソース割り当てを改善するために、テキストビジョンのエントロピー差に導かれる再利用層選択機構を導入する。 4つの代表的なVLAモデル、シミュレーションベンチマーク2つ、実世界のロボットタスクにわたる大規模な実験は、TVCacheの有効性と汎用性を実証している。 一致したトークン保持率では、TVCacheは計算コストに匹敵するコストで既存のVLAキャッシュよりもタスクの成功を継続的に改善する。 OpenVLA-OFTでは、VLAキャッシュよりも12.5%の保持率で平均成功率を最大14.5ポイント向上し、フルトーケン推論と比較してFLOPを2.45倍削減している。

関連論文リスト

• PackCache: A Training-Free Acceleration Method for Unified Autoregressive Video Generation via Compact KV-Cache [61.57938553036056]
  トレーニング不要なKVキャッシュ管理手法であるPackCacheを導入し,KVキャッシュを3つの協調機構でコンパクト化する。 効率の面では、PackCacheは48フレームの長いシーケンスで1.7-2.2倍のエンドツーエンド生成を高速化する。
  論文  参考訳（メタデータ） (2026-01-07T19:51:06Z)
• VLCache: Computing 2% Vision Tokens and Reusing 98% for Vision-Language Inference [32.33685370786451]
  VLCacheは、KeyValue(KV)キャッシュとEncoderLang入力の両方を活用するキャッシュ再利用フレームワークである。 VLCacheはトークンの2-5%しか計算しておらず、1.2x-16x TTFTの高速化を実現している。
  論文  参考訳（メタデータ） (2025-12-15T04:45:47Z)
• CronusVLA: Towards Efficient and Robust Manipulation via Multi-Frame Vision-Language-Action Modeling [84.51372201195132]
  CronusVLAは、単一フレームのVLAモデルをマルチフレームパラダイムに拡張する統合フレームワークである。 CronusVLAは70.9%の成功率で先進的な性能と優れた堅牢性を達成する。 これらの結果は、より強力で堅牢な実世界展開のためのVLAモデルにおける効率的なマルチフレーム適応の可能性を強調している。
  論文  参考訳（メタデータ） (2025-06-24T17:30:27Z)
• dKV-Cache: The Cache for Diffusion Language Models [53.85291644298835]
  Diffusion Language Models (DLMs) は自己回帰型言語モデルにとって有望な競合と見なされている。 本稿では,DLMの復調過程に対するKVキャッシュ機構,遅延KVキャッシュを提案する。 我々のアプローチは、異なるトークンが拡散過程を通して異なる表現力学を持つという観察によって動機付けられている。
  論文  参考訳（メタデータ） (2025-05-21T17:32:10Z)
• AirCache: Activating Inter-modal Relevancy KV Cache Compression for Efficient Large Vision-Language Model Inference [11.73134417321505]
  本稿では,LVLM推論の高速化を目的とした新しいKVキャッシュ圧縮手法であるAirCacheを提案する。 本手法は,視覚的KVキャッシュの10%を保ちながら,フルキャッシュに匹敵する性能を実現する。
  論文  参考訳（メタデータ） (2025-03-31T11:13:18Z)
• VLA-Cache: Efficient Vision-Language-Action Manipulation via Adaptive Token Caching [23.52474883720957]
  VLA(Vision-Language-Action)モデルは、視覚知覚と言語命令から直接のアクション生成を可能にする強力なマルチモーダル推論能力を示している。 本稿では,フレーム間の静的な視覚トークンを適応的にキャッシュ・再利用することにより,計算オーバーヘッドを低減する訓練不要な推論高速化手法であるVLA-Cacheを紹介する。
  論文  参考訳（メタデータ） (2025-02-04T09:48:14Z)
• PrefixKV: Adaptive Prefix KV Cache is What Vision Instruction-Following Models Need for Efficient Generation [97.41972925670508]
  大規模視覚言語モデル(LVLM)は、推論中に重要な計算とメモリオーバーヘッドを引き起こす。 ここでは、PrefixKVについて述べる。ここでは、Prefixは、元のシーケンスの位置ではなく、重要度に基づいて、上位ランクのKVを意味する。 本手法は他の手法と比較して最先端の性能を実現する。
  論文  参考訳（メタデータ） (2024-12-04T15:48:59Z)
• Efficient Inference of Vision Instruction-Following Models with Elastic Cache [76.44955111634545]
  我々は,命令追従型大規模視覚言語モデルの効率的なデプロイのための新しい戦略であるElastic Cacheを紹介する。 本稿では,冗長キャッシュを具現化する重要なキャッシュマージ戦略を提案する。 命令符号化では,キャッシュの重要性を評価するために周波数を利用する。 様々なLVLMの結果は、Elastic Cacheが効率を向上するだけでなく、言語生成における既存のプルーニングメソッドよりも優れていることを示している。
  論文  参考訳（メタデータ） (2024-07-25T15:29:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。