論文の概要: TRIAGE: Efficient Vision-Language-Action Inference Needs Both Reuse and Pruning

• arxiv url: http://arxiv.org/abs/2610.34519v1
• Date: Sun, 25 Oct 2026 19:22:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.628128
• Title: TRIAGE: Efficient Vision-Language-Action Inference Needs Both Reuse and Pruning
• Title（参考訳）: TRIAGE: 効率的なビジョンランゲージ-アクション推論は再利用とプルーニングの両方を必要とする
• Abstract要約: トレーニング不要のアクセラレータは、ビジュアルトークンのサブセットのみを再計算し、残りをスキップする。 アクションを完全な再計算に近づけるオプションはトークンのドリフトに依存するかを示す。 本稿では,ドリフトがしきい値以下であり,古い値ではない場合に,キャッシュが有効なと判断するTRIAGEを提案する。
• 参考スコア（独自算出の注目度）: 18.940546329184574
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision-language-action (VLA) models are increasingly used for robot manipulation because they map camera images and a language instruction directly to actions. Robots that cannot be tethered to a workstation, such as mobile manipulators and humanoids, must run them on onboard embedded boards, where the prefill latency of the language backbone grows with the hundreds of visual tokens processed at every control step. To meet real-time limits, training-free accelerators recompute only a subset of the visual tokens and skip the rest, either by pruning them or by reusing their cached key-value (KV) states. The two options save nearly the same computation, yet existing methods apply only one of them to every skipped token. Through a token-level diagnostic, we show that which option keeps the action closer to full recomputation depends on the token's drift, the change in its shallow-layer value since its cache was computed. On both backbones tested, reusing tokens below a drift threshold was no worse than pruning them, whereas beyond it, reuse yields up to 4.4x the action error of pruning; the same diagnostic calibrates this threshold per backbone. Building on this finding, we propose TRIAGE, which deems a cache valid when its drift is below this threshold and it is not too old. TRIAGE recomputes a fixed budget of tokens, prioritizing important tokens with invalid caches, reuses every other token with a valid cache, and prunes the rest; prune-only and reuse-only methods are the two extremes of this partition. Because the budget fixes the number of recomputed tokens, it directly sets the prefill latency. On LIBERO and SimplerEnv, TRIAGE stays within 3 pp of full recomputation in average success rate while cutting prefill latency on a Jetson AGX Orin by up to 48%, and with only 7% of visual tokens recomputed, it beats the strongest baseline by 24.4 pp on LIBERO-Object.
• Abstract（参考訳）: 視覚言語アクション(VLA)モデルは、カメライメージと言語命令を直接アクションにマップするため、ロボット操作にますます使用される。 移動マニピュレータやヒューマノイドなどのワークステーションに接続できないロボットは、各制御ステップで処理される数百のビジュアルトークンによって、言語バックボーンのプレフィルレイテンシが増大する、組み込みボード上でそれらを実行しなければならない。 リアルタイムの制限を満たすために、トレーニング不要のアクセラレータは、視覚トークンのサブセットのみを再計算し、残りをスキップする。 2つのオプションは、ほぼ同じ計算を保存しますが、既存のメソッドは、スキップされたトークン毎にその1つだけを適用します。 トークンレベルの診断を通じて、どのオプションがアクションを完全な再計算に近づけるかは、トークンのドリフト、キャッシュが計算されて以来の浅層値の変化に依存することを示す。 両方のバックボーンの試験では、ドリフトしきい値以下のトークンの再利用は、プルーニングするよりも悪くはないが、それ以外は、プルーニングのアクションエラーの4.4倍の再利用が得られ、同じ診断ではバックボーンごとにこのしきい値が校正される。 この発見に基づいて,このしきい値以下でキャッシュを有効とみなすTRIAGEを提案する。 TRIAGEはトークンの固定された予算を再計算し、重要なトークンを無効なキャッシュで優先順位付けし、有効なキャッシュで他のトークンを再利用し、残りをプルークする。 予算が再計算されたトークンの数を修正するため、プリフィル遅延を直接設定する。 LIBEROとSimplerEnvでは、TRIAGEは平均成功率で3pp以内に留まり、Jetson AGX Orinのプリフィル遅延を最大48%削減している。

関連論文リスト

• TokenGate: Adapting LLMs for Fast and Memory-Efficient Prefill with Learned Token Pruning [55.18459469601808]
  TokenGateは、学習可能なトークンプルーニングを可能にするために、既存のトレーニングモデルを拡張する小さなコンポーネントである。 トークンプルーニングのための非微分不可能なトップK演算子にも拘わらず、エンドツーエンドの学習を可能にするため、トークン付き注目を導入する。 様々なタスクにおいて、TokenGateは1.4$-11.3times$高速タイムツーファーストトークン(TTFT)と1.5$-3.4times$低ピークメモリを実現している。
  論文  参考訳（メタデータ） (2026-10-19T17:15:53Z)
• GlitchPatch: Repairing Glitch Tokens in Frozen Language Models via Local Retokenization [52.5302018047534]
  グリッチトークンは異常な語彙のエントリであり、大きな言語モデルが一貫性のない出力を生成する可能性がある。 GlitchPatchは,局所的再トークン化に基づくフリーズ言語モデルの修復フレームワークである。 6つのトークンライザファミリーにまたがる10モデルの実験では、GlitchPatchの平均固定率は85.10%であり、最強のベースラインを14.37ポイント上回っている。
  論文  参考訳（メタデータ） (2026-10-03T09:44:13Z)
• Token-Disentangled Latent Test-Time Scaling for Vision-Language Reasoning [76.50676105904442]
  遅延テストタイムスケーリングは、推論中に隠れた状態を精錬することで推論を改善する。 既存のメソッドは通常、編集可能な潜在トークンすべてに単一のスカラー報酬を適用する。 Token-Disentangled Latent Test-Time Scalingは、潜在精錬トークンを認識できる推論時間フレームワークである。
  論文  参考訳（メタデータ） (2026-09-28T14:10:01Z)
• Trading Depth for Time in Recurrent Transformers [61.2977190038771]
  リカレント・トランスフォーマーは時間的繰り返しによって計算深度を増大させる。 追加の計算は、より時間的なステップやより深い物理深度に費やされているか? 本稿では,復号化時に語彙単位のバックボーンフォワードパスを保持するLRT(Latent Recurrent Transformer)を用いて,この問題を考察する。
  論文  参考訳（メタデータ） (2026-09-18T10:34:51Z)
• Block-based Symmetric Pruning and Fusion for Efficient Vision Transformers [11.916258576313776]
  Vision Transformer (ViT) は様々な視覚タスクで印象的な結果を得た。 近年の方法は、重要でないトークンをプルーニングすることで、ViTの$O(n2)$複雑さを減らすことを目的としている。 効率的なViTのための新しいbfブロックベースのシンメトリプルーニングとフュージョンを提案する。
  論文  参考訳（メタデータ） (2025-07-16T10:48:56Z)
• Prune Spatio-temporal Tokens by Semantic-aware Temporal Accumulation [89.88214896713846]
  STAスコアは、時間的冗長性と意味的重要性の2つの重要な要因を考慮に入れている。 市販のビデオトランスフォーマーとビデオウィンにSTAモジュールを適用する。 結果: Kinetics-400 と something-Something V2 は 30% のオーバーシェルフ削減を実現し,0.2% の精度低下を実現した。
  論文  参考訳（メタデータ） (2023-08-08T19:38:15Z)
• Revisiting Token Pruning for Object Detection and Instance Segmentation [25.3324628669201]
  オブジェクトとインスタンスのセグメンテーションの推論を高速化するトークンプルーニングについて検討する。 従来のトークンプルーニング法と比較して,ボックス・マスクともに1.5mAPから0.3mAPに低下した。
  論文  参考訳（メタデータ） (2023-06-12T11:55:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。