Fugu-MT 論文翻訳(概要): Neural Introspection Gating for Adaptive KV-Cache Reuse in Vision-Language-Action Models

論文の概要: Neural Introspection Gating for Adaptive KV-Cache Reuse in Vision-Language-Action Models

arxiv url: http://arxiv.org/abs/2608.10824v1
Date: Tue, 11 Aug 2026 11:53:10 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-12 19:14:46.032008
Title: Neural Introspection Gating for Adaptive KV-Cache Reuse in Vision-Language-Action Models
Title（参考訳）: 視覚・言語・アクションモデルにおける適応KVキャッシュ再利用のためのニューラルイントロスペクションゲーティング
Abstract要約: Gated VLA-Cacheは、ニューラルイントロスペクションによる視覚的類似性キャッシングを強化する。 OpenVLAとOpenVLA-OFTで4つのLIBEROベンチマークスイートを評価した。
参考スコア（独自算出の注目度）: 15.623091131522528
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Vision-Language-Action(VLA) models map camera images and language instructions directly to motor commands through a single autoregressive transformer. In real-time control, they still spend substantial compute recomputing key-value(KV) representations for visual tokens that barely change across neighboring frames. Recent work such as VLA-Cache reduces that cost by reusing KV states for visually static patches, but its policy relies only on observation-space heuristics and does not account for the model's own uncertainty. We propose Gated VLA-Cache, a lightweight, training-free extension that augments visual-similarity caching with neural introspection. The method monitors the logit margin between the top two predicted action tokens, a zero-cost confidence signal available during decoding. When the margin drops below a threshold, the cache is invalidated and a full recompute is triggered. Evaluated on four LIBERO benchmark suites with both OpenVLA and OpenVLA-OFT, Gated VLA-Cache improves reliability when blind caching hurts. On LIBERO-Goal and LIBERO-Long, it recovers over 100% of the lost accuracy while retaining 80% of the compute savings.
Abstract（参考訳）: VLA(Vision-Language-Action)モデルでは、カメライメージと言語命令を直接モーターコマンドにマッピングする。リアルタイム制御では、近隣のフレーム間でほとんど変化しない視覚トークンのキー値(KV)表現をかなり再計算する。 VLA-Cacheのような最近の研究は、視覚的に静的なパッチのためにKVステートを再利用することでコストを削減するが、そのポリシーは観測空間のヒューリスティックにのみ依存し、モデル自身の不確実性を考慮しない。ニューラルイントロスペクションによる視覚的類似性キャッシングを強化する軽量でトレーニング不要な拡張であるGated VLA-Cacheを提案する。この方法は、復号時に利用可能なゼロコスト信頼信号である上位2つの予測されたアクショントークン間のロジットマージンを監視する。マージンがしきい値以下になると、キャッシュが無効になり、完全な再計算がトリガーされる。 OpenVLAとOpenVLA-OFTで4つのLIBEROベンチマークスイートを評価すると、Gated VLA-Cacheはブラインドキャッシュが傷つくと信頼性が向上する。 LIBERO-GoalとLIBERO-Longでは、損失した精度の100%以上を回復し、計算節約の80%を維持している。

関連論文リスト

VisCache: Visual KV Cache Pruning for Efficient Vision Large Language Model Inference [17.932004205808486]
VisCacheは、トレーニングなしで大きめのtextbfVisual KV textbfCacheプルーニングを行うためのフレームワークである。 PruneKVは、Vision Large Language Modelsの注意力学に合わせて設計された、外科的KV圧縮アルゴリズムである。 VisCacheは、既存のベースラインを一貫して上回る。
論文参考訳（メタデータ） (2026-08-25T04:52:05Z)
DistillCache: KL-Guided Adaptive KV-Cache Eviction for Memory-Efficient LLM Inference [0.0]
トランスフォーマーベースの大規模言語モデル(LLM)は多くのタスクで高いパフォーマンスを達成するが、キーバリュー(KV)キャッシュはシーケンス長とともに線形に増大する。逐次決定問題としてKV-cache消去を定式化する強化学習フレームワークであるDistillCacheを提案する。
論文参考訳（メタデータ） (2026-08-09T19:33:43Z)
Back from the Future: Key-Value Cache Management by Counter-Causal Surprise [67.1056509495879]
近年,キーバリュー(KV)キャッシュ管理が重要な研究方向として注目されている。より最近のトークンからよく予測できる過去のトークンは冗長である,という洞察に動機づけられた,単純かつ効果的なKV消去スキームを提案する。我々は,他の最先端手法と比較して,競争力や性能向上を示す各種オープンソースLCMとベンチマークデータセットについて,我々の戦略を評価した。
論文参考訳（メタデータ） (2026-07-30T02:42:51Z)
Patch Policy: Efficient Embodied Control via Dense Visual Representations [52.199962246592285]
我々は,フルVLMの計算オーバーヘッドを伴わずに,事前訓練済みの高密度パッチトークンを直接消費するパッチポリシーを開発した。提案手法は,最先端のグローバルプール表現を用いた政策よりも40%の相対的な改善を実現している。微調整されたOpenVLA-OFTを18%上回り、パラメータの約0.7%を使用する。
論文参考訳（メタデータ） (2026-07-20T17:59:41Z)
TrustVLA: Mechanism-Guided Inference-Time Defense Against Vision-Language-Action Backdoors [54.12833308568015]
VLA(Vision-Language-Action)モデルは、エンドユーザが監査できないパイプラインを通じてデプロイされる。小さな視覚トリガーは、障害が観測可能である前に、長い水平ロボットポリシーをリダイレクトする。個別に提案した2つのVLA攻撃を通してこのギャップについて検討した。
論文参考訳（メタデータ） (2026-07-14T09:43:52Z)
Motion-Aware Caching for Efficient Autoregressive Video Generation [73.27762884730272]
MotionCacheは、ピクセルレベルのモーション特性の軽量プロキシとして、フレーム間の差異を利用する。 SkyReels-V2やMAGI-1のような最先端モデルの実験では、MotionCacheが大幅なスピードアップを実現している。
論文参考訳（メタデータ） (2026-05-03T05:49:27Z)
ForesightKV: Optimizing KV Cache Eviction for Reasoning Models by Learning Long-Term Contribution [84.41751286055909]
我々は、長文世代におけるどのKVペアを退避させるかを予測する訓練ベースのKVキャッシュ消去フレームワークを開発した。我々は、マルコフ決定過程としてキャッシュ消去を定式化し、GRPOアルゴリズムを適用し、低エントロピートークンにおける言語モデリング損失の増加を緩和する。
論文参考訳（メタデータ） (2026-02-03T07:16:51Z)
PackCache: A Training-Free Acceleration Method for Unified Autoregressive Video Generation via Compact KV-Cache [61.57938553036056]
トレーニング不要なKVキャッシュ管理手法であるPackCacheを導入し,KVキャッシュを3つの協調機構でコンパクト化する。効率の面では、PackCacheは48フレームの長いシーケンスで1.7-2.2倍のエンドツーエンド生成を高速化する。
論文参考訳（メタデータ） (2026-01-07T19:51:06Z)
VLCache: Computing 2% Vision Tokens and Reusing 98% for Vision-Language Inference [32.33685370786451]
VLCacheは、KeyValue(KV)キャッシュとEncoderLang入力の両方を活用するキャッシュ再利用フレームワークである。 VLCacheはトークンの2-5%しか計算しておらず、1.2x-16x TTFTの高速化を実現している。
論文参考訳（メタデータ） (2025-12-15T04:45:47Z)
dKV-Cache: The Cache for Diffusion Language Models [53.85291644298835]
Diffusion Language Models (DLMs) は自己回帰型言語モデルにとって有望な競合と見なされている。本稿では,DLMの復調過程に対するKVキャッシュ機構,遅延KVキャッシュを提案する。我々のアプローチは、異なるトークンが拡散過程を通して異なる表現力学を持つという観察によって動機付けられている。
論文参考訳（メタデータ） (2025-05-21T17:32:10Z)
VLA-Cache: Efficient Vision-Language-Action Manipulation via Adaptive Token Caching [23.52474883720957]
VLA(Vision-Language-Action)モデルは、視覚知覚と言語命令から直接のアクション生成を可能にする強力なマルチモーダル推論能力を示している。本稿では,フレーム間の静的な視覚トークンを適応的にキャッシュ・再利用することにより,計算オーバーヘッドを低減する訓練不要な推論高速化手法であるVLA-Cacheを紹介する。
論文参考訳（メタデータ） (2025-02-04T09:48:14Z)
VL-Cache: Sparsity and Modality-Aware KV Cache Compression for Vision-Language Model Inference Acceleration [7.463830743649754]
VLM(Vision-Language Models)は、多目的なタスクセットにまたがる印象的なパフォーマンスを実証している。キーバリュー(KV)キャッシュは、画像やビデオなどの長い視覚的コンテキストをエンコードする。既存のKVキャッシュ圧縮手法は大規模言語モデル(LLM)に有効である VLM推論の高速化に適した新しいKVキャッシュ圧縮レシピを提案する。
論文参考訳（メタデータ） (2024-10-29T20:04:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。