論文の概要: WAM-Cache: Staleness-Bounded KV Reuse for Efficient World Action Models
- arxiv url: http://arxiv.org/abs/2610.11401v1
- Date: Thu, 08 Oct 2026 07:33:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.862743
- Title: WAM-Cache: Staleness-Bounded KV Reuse for Efficient World Action Models
- Title(参考訳): WAMキャッシュ: 効率的な世界行動モデルのための静的境界KV再利用
- Abstract要約: World Action Models(WAM)は、事前訓練された拡散変換器(DiT)からの表現にアクションエキスパートを条件付けることで、汎用的なロボット操作を可能にする
We present WAM-Cache, a training-free framework that keeps layerwise key-value representations across chunks and recomputes only a sparse refreshs of tokens。
Fast-WAMでは、WAM-CacheがビデオDiTプリフィルFLOPをRoboTwin 2.0、LIBERO、および実世界の実験で32-42%削減する。
- 参考スコア(独自算出の注目度): 26.646358158046482
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: World Action Models (WAMs) enable generalist robot manipulation by conditioning an action expert on representations from a pretrained video Diffusion Transformer (DiT). In closed-loop control, the video DiT runs at every chunk to encode the current observation into layerwise key-value (KV) pairs that the action expert queries. This prefill dominates the per-chunk computational cost, yet existing training-free accelerations leave it fully dense. We present WAM-Cache, a training-free framework that retains layerwise key-value representations across chunks and recomputes only a sparse refresh set of tokens. Crucially, we find that the intuitive heuristic of refreshing visually drifted tokens plateaus far below the dense baseline, even with an oracle predicting ground-truth KV drift. Downstream action accuracy is instead governed by where the action expert attends, not by what moved. WAM-Cache therefore selects the refresh set by uniting the action expert's cross-attention with visual latent surprise, complemented by a strict age bound that suppresses compounding error. On Fast-WAM, WAM-Cache cuts video DiT prefill FLOPs by 32-42% across RoboTwin 2.0, LIBERO, and real-world experiments, while staying within 0.7-1.8 percentage points of the dense policy in simulation and 2.5 points on a real robot.
- Abstract(参考訳): World Action Models (WAM) は、事前訓練されたビデオ拡散変換器(DiT)の表現にアクションエキスパートを条件付けることで、汎用的なロボット操作を可能にする。
クローズドループ制御では、ビデオDiTが各チャンクで実行され、アクションエキスパートがクエリした現在の観測結果を階層的にキー-値(KV)ペアにエンコードする。
このプリフィルは、チャンク毎の計算コストを支配しているが、既存のトレーニング不要の加速は、完全に密集している。
We present WAM-Cache, a training-free framework that keeps layerwise key-value representations across chunks and recomputes only a sparse refreshs of tokens。
重要なことに、KVドリフトを予測したオラクルでさえも、高密度のベースラインよりはるかに下方にある、視覚的に漂流したトークンをリフレッシュするという直感的なヒューリスティックが見つかる。
ダウンストリームアクションの精度は、代わりにアクションエキスパートが参加する場所によって管理される。
したがって、WAM-Cacheはアクションエキスパートのクロスアテンションと視覚的潜在サプライズを結びつけることでリフレッシュセットを選択する。
Fast-WAMでは、WAM-CacheがビデオDiTプリフィルFLOPをRoboTwin 2.0、LIBERO、および実世界の実験で32-42%削減する。
関連論文リスト
- FBFM: A Training-Free Asynchronous Feedback Mechanism for Flow-Matching in World-Action Models Execution [50.18922379062543]
フィードバックフローマッチング(Feedback Flow Matching, FBFM)は、アクティブに生成されたチャンク内で再接地を行うトレーニング不要な推論機構である。
トレーニング不要であるため、このメカニズムは予期せぬ事象に対する応答性を改善し、長時間の作業におけるドリフトを抑制する。
我々は,FBFMを第2世代WAMと第2世代WAMの両方で評価した。
論文 参考訳(メタデータ) (2026-07-31T10:11:09Z) - Patch Policy: Efficient Embodied Control via Dense Visual Representations [52.199962246592285]
我々は,フルVLMの計算オーバーヘッドを伴わずに,事前訓練済みの高密度パッチトークンを直接消費するパッチポリシーを開発した。
提案手法は,最先端のグローバルプール表現を用いた政策よりも40%の相対的な改善を実現している。
微調整されたOpenVLA-OFTを18%上回り、パラメータの約0.7%を使用する。
論文 参考訳(メタデータ) (2026-07-20T17:59:41Z) - KAM-WM: Kinematic Affordance Maps from Latent World Models for Robot Manipulation [12.364119683882015]
KAM-WMは,凍結遅延ビデオワールドモデルから粗い方向の相互作用キューを抽出するフレームワークである。
LIBEROとRoboTwin2.0全体で、KAM-WMは平均で90.6%の成功、65.7%、22.4%の成功となっている。
論文 参考訳(メタデータ) (2026-07-06T04:17:15Z) - Physical Autoregressive Model for Robotic Manipulation without Action Pretraining [65.8971623698511]
我々は、自己回帰ビデオ生成モデルを構築し、物理自己回帰モデル(PAR)を提案する。
PARは、アクション事前トレーニングを必要とせず、物理力学を理解するために、ビデオ事前トレーニングに埋め込まれた世界の知識を活用する。
ManiSkillベンチマークの実験は、PARがPushCubeタスクで100%の成功率を達成したことを示している。
論文 参考訳(メタデータ) (2025-08-13T13:54:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。