論文の概要: Complementary Future Token Pruning for World Action Models
- arxiv url: http://arxiv.org/abs/2610.19957v1
- Date: Wed, 14 Oct 2026 10:39:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.105028
- Title: Complementary Future Token Pruning for World Action Models
- Title(参考訳): 世界行動モデルのための補足的未来のトーケンプルーニング
- Abstract要約: CF-Pruneは、事前訓練されたWAMにおいて、将来のフレームトークンを刈り取るためのトレーニング不要のフレームワークである。
将来の視覚予測はアクション生成をサポートし、高忠実度ビデオ合成に必要なすべての視覚的詳細を保存する必要はない。
RoboLab、RoboCasa、および実世界の操作タスクに関する実験は、一貫した推論スピードアップを示している。
- 参考スコア(独自算出の注目度): 28.619064871030975
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: World action models (WAMs) jointly predict future visual states and robot actions, but processing dense future-frame tokens incurs substantial inference latency. We propose CF-Prune, a training-free framework for pruning future-frame tokens in pretrained WAMs. Our key insight is that future visual predictions support action generation and therefore need not preserve every visual detail required for high-fidelity video synthesis. CF-Prune combines instruction and action attention to identify task-relevant tokens during the initial denoising forward pass, even when future-frame and action representations remain highly noisy. An entropy-based phase identification mechanism further retains dense computation during precision phases to mitigate pruning-induced performance degradation. Experiments on RoboLab, RoboCasa, and real-world manipulation tasks demonstrate consistent inference speedups. At a 35% pruning ratio, CF-Prune achieves average speedups of 1.19-1.27x while improving task success rates. At a 50% pruning ratio, it achieves 1.29-1.33x average speedups on both simulation benchmarks, with overall success rates within 1.0 percentage point of the baseline.
- Abstract(参考訳): 世界アクションモデル(WAM)は、将来の視覚状態とロボットアクションを共同で予測するが、密度の高い将来のフレームトークンを処理すると、相当な推論遅延が発生する。
CF-Pruneは、事前訓練されたWAMにおいて、将来のフレームトークンを刈り取るためのトレーニング不要のフレームワークである。
我々の重要な洞察は、将来の視覚的予測はアクション生成をサポートし、したがって高忠実度ビデオ合成に必要なすべての視覚的詳細を保存する必要はないということである。
CF-Pruneは命令とアクションアテンションを組み合わせることで、将来のフレームやアクション表現が騒々しいままであっても、最初のデニーグフォワードパス中にタスク関連トークンを識別する。
エントロピーに基づく位相同定機構は、プルーニングによる性能劣化を軽減するために、精密な位相中の密度計算を更に保持する。
RoboLab、RoboCasa、および実世界の操作タスクに関する実験は、一貫した推論スピードアップを示している。
CF-Pruneは35%のプルーニング比で平均1.19-1.27倍のスピードアップを達成し、タスクの成功率も向上した。
50%のプルーニング比で、両方のベンチマークベンチマークで平均1.29-1.33倍のスピードアップを達成し、全体の成功率はベースラインの1.0ポイント以内である。
関連論文リスト
- Sparse-WAM: Accelerating World Action Models via Action-Guided Sparse Imagination [23.46985924773128]
ワールドアクションモデル(WAM)は、事前訓練されたビデオモデルを利用して、将来の視覚状態とアクションを共同で予測することで、ロボット制御の一般化を改善する。
従来の方法では、ビデオ拡散モデルにおけるノイズ発生コストを低減するために、視覚的忠実度を優先するトークンプルーニングによってこの問題に対処する。
本稿では,WAM推論を高速化するために,将来のフレームトークンを選択的に処理するアクション誘導スパースイマジネーションのためのトレーニングフリーフレームワークであるSparse-WAMを提案する。
論文 参考訳(メタデータ) (2026-09-30T05:02:47Z) - Latent Action as Intention Enables Efficient Future Imagination for World Action Models [20.031922437200524]
提案するアーキテクチャ**LAWA**は,コンパクトな潜伏動作を将来の意図の操作的表現として利用するWAMアーキテクチャである。
RoboCasaでは、LAWAは数ショットと全データ設定で65.6%と80.8%という最先端の平均的な成功率を達成した。
また、一致したJoint-WAMモデルの性能レベルも保持し、42.9%の遅延時間を必要とする。
論文 参考訳(メタデータ) (2026-08-25T17:59:03Z) - WARP-RM: A Warp-Augmented Relative Progress Reward Model for Data Curation [16.464426150252255]
本稿では,密集度,符号付き相対進行度を学習するための完全自己教師付きアルゴリズムであるWARP(Warp-Augmented Relative Progress)を提案する。
WARPは、実演の時間ワープ拡張によりフレームごとの進捗目標を生成し、WARP-RMをトレーニングし、入力フレーム間の正規化経過時間を予測する。
次に,これらのスカラー報酬推定値を利用したWARP-BCを導入する。
論文 参考訳(メタデータ) (2026-06-26T17:58:06Z) - Next Forcing: Causal World Modeling with Multi-Chunk Prediction [65.05727210375643]
Next Forcingは、因果世界モデリングのためのマルチチャンク予測フレームワークである。
トレーニングの高速化、精度の向上、推論の高速化を実現している。
5kのトレーニングステップでLingBot-VAよりも93.1%向上し、2.3倍高速収束を実現している。
論文 参考訳(メタデータ) (2026-06-09T17:59:22Z) - EAST: Early Action Prediction Sampling Strategy with Token Masking [0.0]
EASTは、モデルが不完全な観測を推論できるシンプルで効率的なフレームワークである。
私たちの重要な貢献は、観察されたビデオフレームと観測されていないビデオフレームを分離する時間ステップをサンプリングするランダム化トレーニング戦略です。
観測と将来の両方の表現に関する共同学習はパフォーマンスを大幅に向上させ、エンコーダのみのモデルが優れていることを許す。
論文 参考訳(メタデータ) (2026-04-20T14:57:01Z) - A1: A Fully Transparent Open-Source, Adaptive and Efficient Truncated Vision-Language-Action Model [112.9420001646428]
VLA(Vision-Language-Action)モデルは、オープンワールドロボット操作の強力なパラダイムとして登場したが、実際の展開はコストに制約されることが多い。
我々は、低コストで高スループットな推論のために設計された、完全にオープンソースで透明なVLAフレームワークであるA1を提示する。
A1は最先端の成功率を達成すると同時に、推論コストを大幅に削減する。
論文 参考訳(メタデータ) (2026-04-07T10:18:40Z) - Prune Redundancy, Preserve Essence: Vision Token Compression in VLMs via Synergistic Importance-Diversity [54.95089105944234]
視覚言語モデル(VLM)は、過剰な視覚トークンの生成によって引き起こされる計算の非効率性に直面する。
2段階パイプラインを特徴とする訓練不要なSynergistic Importance-DiversityアプローチPruneSIDを提案する。
LLaVA-NeXTでは11.1%のトークン保持率で96.3%の精度、極端な圧縮速度(5.6%)で92.8%の精度を実現した。
論文 参考訳(メタデータ) (2026-03-10T10:31:58Z) - CronusVLA: Towards Efficient and Robust Manipulation via Multi-Frame Vision-Language-Action Modeling [84.51372201195132]
CronusVLAは、単一フレームのVLAモデルをマルチフレームパラダイムに拡張する統合フレームワークである。
CronusVLAは70.9%の成功率で先進的な性能と優れた堅牢性を達成する。
これらの結果は、より強力で堅牢な実世界展開のためのVLAモデルにおける効率的なマルチフレーム適応の可能性を強調している。
論文 参考訳(メタデータ) (2025-06-24T17:30:27Z) - Prune Spatio-temporal Tokens by Semantic-aware Temporal Accumulation [89.88214896713846]
STAスコアは、時間的冗長性と意味的重要性の2つの重要な要因を考慮に入れている。
市販のビデオトランスフォーマーとビデオウィンにSTAモジュールを適用する。
結果: Kinetics-400 と something-Something V2 は 30% のオーバーシェルフ削減を実現し,0.2% の精度低下を実現した。
論文 参考訳(メタデータ) (2023-08-08T19:38:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。