論文の概要: DeltaWAM: Change-Centric Visual Foresight via Delta Tokens for an Efficient World-Action Model
- arxiv url: http://arxiv.org/abs/2609.33177v1
- Date: Sun, 27 Sep 2026 03:55:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 02:31:09.656081
- Title: DeltaWAM: Change-Centric Visual Foresight via Delta Tokens for an Efficient World-Action Model
- Title(参考訳): DeltaWAM: 効率的なワールド・アクション・モデルのためのDelta Tokensによる変更中心の視覚的展望
- Abstract要約: World-Action Models (WAMs) はロボット操作の視覚的見通しを提供するが、ピクセル空間モデルは将来のシーン全体を再現する。
我々は、コンパクトなデルタトークンを将来の予測単位とする変更中心のWAMであるDeltaWAMを紹介する。
DeltaWAMは、大規模ビデオで事前訓練された潜在世界モデルであるDeltaWorld上に構築されており、将来のフレーム毎に1つのデルタトークンを自動回帰的に予測する。
- 参考スコア(独自算出の注目度): 19.141357190009845
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: World-Action Models (WAMs) offer visual foresight for robotic manipulation, but pixel-space models repeatedly reconstruct entire future scenes, incurring high computational cost and spatio-temporal redundancy. In physical manipulation, consecutive frames often share most of their visual context; the changes between them are what an action policy needs to anticipate. We introduce DeltaWAM, a change-centric WAM that makes a compact delta token the unit of future prediction. Each token is a single vector encoding changes between consecutive dense DINO feature maps. DeltaWAM builds on DeltaWorld, a latent world model pretrained on large-scale videos, to autoregressively predict one delta token per future frame. A flow-matching action expert then conditions on the predicted transitions and current DINO features, which serve as spatial anchors, to generate action chunks. Trained for 256 GPU hours on two H100 GPUs, DeltaWAM has 0.725B parameters and achieves 92.8% average success on LIBERO. It also shows robust generalization under procedural perturbations on LIBERO-Pro. Inference takes 142.1 ms per action chunk with 3.86 GB peak memory.
- Abstract(参考訳): World-Action Models (WAMs) は、ロボット操作の視覚的見通しを提供するが、ピクセル空間モデルは、高い計算コストと時空間冗長性をもたらすことによって、将来のシーン全体を再現する。
物理的な操作では、連続したフレームは視覚的文脈の大部分を共有し、それらの間の変化はアクションポリシーが予測するべきものである。
我々は、コンパクトなデルタトークンを将来の予測単位とする変更中心のWAMであるDeltaWAMを紹介する。
各トークンは、連続した高密度DINO特徴写像間の変化を符号化する単一のベクトルである。
DeltaWAMは、大規模ビデオで事前訓練された潜在世界モデルであるDeltaWorld上に構築されており、将来のフレーム毎に1つのデルタトークンを自動回帰的に予測する。
フローマッチングアクションエキスパートは、予測された遷移と、空間アンカーとして機能する現在のDINOの特徴を条件として、アクションチャンクを生成する。
2つのH100 GPU上で256GPU時間にトレーニングされたDeltaWAMは、0.725Bパラメータを持ち、LIBEROの平均的な成功率は92.8%である。
また、LIBERO-Pro上の手続き的摂動の下での堅牢な一般化を示す。
推論は1アクションチャンクあたり142.1ミリ秒、ピークメモリは3.86GBである。
関連論文リスト
- DeltaWAM: Delta World Action Models for Bimanual Manipulation [61.57435324858005]
ワールドアクションモデル(WAM)は、事前訓練されたビデオジェネレータから、視覚力学とアクションを共同でモデル化することによって、視覚と動きの先行をロボット制御に転送する。
本稿では,高密度アンカー,スパースデルタ,アクションストリームを用いて,視覚的デルタとアクションを共同で予測するDeltaWAMを提案する。
RoboTwinでは、SDMを使用したDeltaWAMは、Fast-WAMの平均的な成功を81.3%から85.4%に改善し、ビジュアルランダム化の下で75.8%から83.9%に改善した。
論文 参考訳(メタデータ) (2026-09-23T21:45:16Z) - RepWAM: World Action Modeling with Representation Visual-Action Tokenizers [120.87642891397853]
RepWAMは表現中心の世界アクションモデルであり、視覚アクショントークン化器をベースとしている。
我々は、視覚的な入力を協調した視覚的および潜在的なアクショントークンにマッピングする表現的アクショントークンーを訓練する。
次に、将来的な視覚状態と、それらを言語命令で接続する潜在アクションを共同でモデル化するように、WAMを事前訓練する。
論文 参考訳(メタデータ) (2026-06-11T17:59:43Z) - A Frame is Worth One Token: Efficient Generative World Modeling with Delta Tokens [40.71386517238762]
DeltaTokは、連続するフレーム間の特徴差を1つの"デルタ"トークンにエンコードするトークンである。
また,これらのトークンをベースとした生成的世界モデルであるDeltaWorldを紹介し,多種多様な未来を効率的に生成する。
論文 参考訳(メタデータ) (2026-04-06T17:55:05Z) - Delta-Triplane Transformers as Occupancy World Models [57.16979927973973]
Occupancy World Models (OWMs) は、知的運動計画を支援するために、環境の3次元ボキセル化表現を通して将来のシーンを予測することを目的としている。
本稿では,自律運転のための新しい4DOWMであるDelta-Triplane Transformers (DTT)を提案する。
DTTは1.44$times$ speedup (26 FPS)を最先端に提供し、平均IoUを30.85に改善し、平均絶対計画誤差を1.0mに下げる。
論文 参考訳(メタデータ) (2025-03-10T13:50:23Z) - BitDelta: Your Fine-Tune May Only Be Worth One Bit [57.558376557639555]
大規模言語モデル(LLM)は通常、大規模なインターネットスケールデータセットの事前トレーニングと、下流タスクの微調整という2つのフェーズでトレーニングされる。
我々は,このデルタを1ビットまで量子化する簡単な手法BitDeltaを導入し,性能を損なうことなく実現した。
複数の1ビットデルタを伴う1つの高精度ベースモデルを使用することで、BitDeltaはGPUメモリの要求を劇的に10倍に削減する。
論文 参考訳(メタデータ) (2024-02-15T18:50:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。