論文の概要: WorldToken: Time-First Sequence Modeling for Robotic Imitation Learning
- arxiv url: http://arxiv.org/abs/2608.22591v1
- Date: Sun, 23 Aug 2026 20:56:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.797598
- Title: WorldToken: Time-First Sequence Modeling for Robotic Imitation Learning
- Title(参考訳): WorldToken:ロボット模倣学習のための時系列モデリング
- Abstract要約: マルチビュー画像やプロプレセプション,タスクコンディショニングを,各ポリシータイムステップ内で1つのワールドトークンに融合する,時間優先のポリシーインスタンス化であるWorldTokenを紹介する。
23のRoboCasaタスクでは、85.3Mパラメータポリシーがスクラッチから訓練され、1タスクあたり2,900回のデモで59.45%の平均閉ループ成功を達成した。
- 参考スコア(独自算出の注目度): 26.68132700015599
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Robot policies receive heterogeneous observations at each decision step, yet sequence models differ in how they organize these inputs over time. We introduce WorldToken, a time-first policy instantiation that fuses multiview images, proprioception, and task conditioning within each policy timestep into one world token. A causal temporal Transformer models the resulting world-token sequence, and a diffusion action head generates action chunks. On 23 RoboCasa tasks, an 85.3M-parameter policy trained from scratch apart from a frozen pretrained CLIP text encoder achieves 59.45% mean closed-loop success using 2,900 generated demonstrations per task. A complete factorial sweep over five dataset sizes, five model sizes, and two training seeds shows consistent gains from additional target-domain data and diminishing returns beyond moderate model size. Under same-checkpoint history truncation, reducing visible history to one or two policy timesteps lowers closed-loop success for all 50 RoboCasa policies. On RMBench Blocks Ranking, reducing visible history from 146 to 8 seconds lowers evaluator success from 95% to 28%, while an exploratory extended rollout sustains the reference swap sequence for over 850 seconds. These results establish the empirical feasibility of the complete WorldToken instantiation and characterize its data-scaling and temporal-context behavior under the tested recipes. They do not establish superiority over alternative sequence organizations or isolate which components of the complete implementation drive the observed performance.
- Abstract(参考訳): ロボットポリシーは、各決定ステップで不均一な観察を受けるが、シーケンスモデルは、これらの入力を時間とともにどのように整理するかが異なる。
マルチビュー画像やプロプレセプション,タスクコンディショニングを,各ポリシータイムステップ内で1つのワールドトークンに融合する,時間優先のポリシーインスタンス化であるWorldTokenを紹介する。
因果時間変換器は結果のワールドトーケンシーケンスをモデル化し、拡散作用ヘッドはアクションチャンクを生成する。
23のRoboCasaタスクでは、凍結事前訓練されたCLIPテキストエンコーダからスクラッチから訓練された85.3Mパラメータポリシーが、タスクあたり2,900個の生成されたデモを使用して59.45%の平均クローズループ成功を達成した。
5つのデータセットサイズ、5つのモデルサイズ、2つのトレーニングシードを含む完全なファクタースリープは、追加のターゲットドメインデータから一貫したゲインを示し、適度なモデルサイズを超えてリターンを減少させる。
同じチェックポイント履歴の切り離しの下で、可視的履歴を1つまたは2つのポリシータイムステップに減らし、50のRoboCasaポリシーのクローズループ成功を下げる。
RMBench Blocks Rankingでは、可視履歴を146秒から8秒に短縮すると、評価器の成功率は95%から28%に低下する。
これらの結果は、完全なWorldTokenインスタンス化の実証的実現可能性を確立し、テストされたレシピの下でのデータスケーリングと時間コンテキストの振る舞いを特徴付ける。
彼らは、代替のシーケンス組織よりも優位性を確立したり、完全な実装のどのコンポーネントが観察されたパフォーマンスを駆動するかを分離したりしない。
関連論文リスト
- ForeTime-VLA: Causal Future-Token Distillation from a World Action Model for Conveyor-Belt Manipulation [6.874305530359895]
本稿では,凍ったFast-WAMをベースとした教師から,未来を意識した行動等価表現を蒸留する高密度pi0.5ポリシーであるForeTime-VLAを紹介する。
オンラインでは、8フレームの履歴エンコーダが操作フェーズと正規化された時間-遷移とともにこのターゲットを予測する。
テストMAEは0.134119から0.130593 (2.63%)に減少し、ペアリングブートストラップ95%CI:0.82-4.48%の改善、テストL2は2.46-2.93%の遅延コストで3.02%減少する。
論文 参考訳(メタデータ) (2026-08-21T04:40:41Z) - RynnValue: Scaling Robotic Value Foundation Models with Temporal Distance [84.26294415726723]
汎用報酬モデルが、ロボット学習のスケーリングのボトルネックになりつつある。
ロボット操作のためのオープンソースのバリューファンデーションモデルであるRynnValueを紹介した。
RynnValueは7000時間以上、好みやプログレッシブアノテーションなしで約3Mの命令条件付きクリップにスケールする。
論文 参考訳(メタデータ) (2026-08-10T17:09:37Z) - WARP-RM: A Warp-Augmented Relative Progress Reward Model for Data Curation [16.464426150252255]
本稿では,密集度,符号付き相対進行度を学習するための完全自己教師付きアルゴリズムであるWARP(Warp-Augmented Relative Progress)を提案する。
WARPは、実演の時間ワープ拡張によりフレームごとの進捗目標を生成し、WARP-RMをトレーニングし、入力フレーム間の正規化経過時間を予測する。
次に,これらのスカラー報酬推定値を利用したWARP-BCを導入する。
論文 参考訳(メタデータ) (2026-06-26T17:58:06Z) - Mem-World: Memory-Augmented Action-Conditioned World Models for Persistent Robot Manipulation [55.42006264038458]
アクション条件付き世界モデルは、ロボット学習の有望なパラダイムとして登場した。
Mem-Worldはメモリ拡張されたマルチビューアクション条件の世界モデルである。
W-VMemは4次元手首ビュー中心のサーベイルインデクシングメモリで、歴史的観測を時間的に変化する表面要素に固定する。
論文 参考訳(メタデータ) (2026-06-17T11:42:00Z) - TapSampling: Inference-Time Sampling with a Task-Progress-Understanding Verifier for Robotic Manipulation [61.35569005726248]
既存の具体的制御研究は、トレーニングデータとモデルサイズをスケールすることで、顕著なパフォーマンス向上を示す。
拡散や自己回帰モデルのような非決定論的生成モデルは、エンボディドコントロールの分野で広く採用されている。
推測時間サンプリングのためのプラグイン・アンド・プレイフレームワークである textbfTapSampling を提案する。
論文 参考訳(メタデータ) (2026-05-25T08:03:31Z) - CrossVLA: Cross-Paradigm Post-Training and Inference Optimization for Vision-Language-Action Models [7.489020109808801]
われわれは,クロスパラダイム・ビジョン・ランゲージ・アクション(VLA)のポストトレーニングに関する実証的研究であるCrossVLAを報告する。
i) 確率フローODE統合なしでDPOを連続動作バックボーンで操作できる代理フローマッチングログ確率推定器、(ii) VLA DPOのパラメータ係数層としてのLoRAとDoRAの頭と頭の比較、(iii) ノイズループを示す推論時間解剖学は、サンプル_actions遅延の78.6%、プレフィックス-K/Vキャッシングのラを支配している。
論文 参考訳(メタデータ) (2026-05-21T01:02:41Z) - Identifiable Token Correspondence for World Models [13.514849821598832]
Identible Token Correspondence (ITC) は、トークンベースのトランスフォーマー世界モデルのステップであり、構造化代入問題として次のフレーム予測を定式化する。
Craftax-classicベンチマークでは,ITCが72.5%,35.6%のリターンを達成した。
論文 参考訳(メタデータ) (2026-05-15T05:58:58Z) - Scaling Test-Time Compute for Agentic Coding [126.72747643609274]
本稿では,ロールアウト軌跡のコンパクトな表現に基づくエージェントコーディングのためのテスト時間スケーリングフレームワークを提案する。
当社のフレームワークは,各ロールアウトを,その健全な仮説,進捗,障害モードを保存する構造的な要約に変換する。
提案手法は,SWE-Bench Verified および Terminal-Bench v2.0 におけるフロンティア符号化エージェントの性能を一貫して改善する。
論文 参考訳(メタデータ) (2026-04-16T17:39:33Z) - Quantizing Space and Time: Fusing Time Series and Images for Earth Observation [4.012968772806928]
本稿では,時系列と単一タイムスタンプ画像のマルチモーダル融合のためのタスク非依存フレームワークを提案する。
本手法は時系列量子化のための決定論的および学習戦略を探索する。
我々のモデルは衛星画像から一貫した地球温度分布を生成する。
論文 参考訳(メタデータ) (2025-10-27T08:38:52Z) - RHYTHM: Reasoning with Hierarchical Temporal Tokenization for Human Mobility [9.200793414310182]
RHYTHM(Reasoning with Hierarchical Temporal Tokenization for Human Mobility)を導入した。
汎用予測器や推論器として,大規模言語モデル (LLM) を用いる。
RHYTHMは総合的な精度が2.4%、週末に5.0%、トレーニング時間が24.6%減少している。
論文 参考訳(メタデータ) (2025-09-27T04:55:56Z) - Time Is a Feature: Exploiting Temporal Dynamics in Diffusion Language Models [57.474294329887236]
拡散大言語モデル (dLLMs) は反復的 denoising を通じてテキストを生成する。
現在のデコード戦略は、最終的な出力に有利なリッチな中間予測を捨てている。
時間的整合性を利用する2つの相補的手法を導入する。
論文 参考訳(メタデータ) (2025-08-12T17:59:57Z) - Bidirectional Decoding: Improving Action Chunking via Guided Test-Time Sampling [51.38330727868982]
動作チャンキングが学習者と実証者の間の分岐にどのように影響するかを示す。
動作チャンキングをクローズドループ適応でブリッジするテスト時間推論アルゴリズムである双方向デコーディング(BID)を提案する。
提案手法は、7つのシミュレーションベンチマークと2つの実世界のタスクにまたがって、最先端の2つの生成ポリシーの性能を向上させる。
論文 参考訳(メタデータ) (2024-08-30T15:39:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。