論文の概要: Training Vision-Language-Action Models with Dense Embodied Chain-of-Thought Supervision
- arxiv url: http://arxiv.org/abs/2606.30552v2
- Date: Wed, 01 Jul 2026 17:07:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 15:15:53.069798
- Title: Training Vision-Language-Action Models with Dense Embodied Chain-of-Thought Supervision
- Title(参考訳): 密閉型チェーン・オブ・サート・スーパービジョンを用いたビジョン・ランゲージ・アクションモデルの訓練
- Abstract要約: 視覚言語アクション(VLA)モデルにおける異体間移動は依然として困難である。
ZR-0は260億のパラメーター-エンドツーエンドのVLAモデルであり、密なエンボディード・チェーン・オブ・レーソン(ECoT)の監督を用いて、クロスボディーメント表現を整列させる。
- 参考スコア(独自算出の注目度): 26.793499191581315
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Cross-embodiment transfer in vision-language-action (VLA) models remains challenging because low-level state and action spaces differ fundamentally across robot platforms. We observe that the high-level cognitive process underlying manipulation, including scene perception, object identification, task planning, and sub-task decomposition, is largely shared across embodiments. Based on this observation, we present ZR-0, a 2.6 billion parameter end-to-end VLA model that uses dense Embodied Chain-of-Thought (ECoT) supervision to align cross-embodiment representations within the vision-language model (VLM). ZR-0 adopts a dual-stream architecture: a pre-trained VLM (System 2) generates structured ECoT reasoning during training, while a Diffusion Transformer-based action expert (System 1) produces continuous action chunks via flow matching. The two components are coupled through cross-attention, with an attention mask that restricts the action expert to input prompt features only, enabling ECoT generation to be entirely skipped at inference without any performance loss. ZR-0 is pre-trained on ProcCorpus-60M, a large-scale dataset comprising approximately 60 million frames (approximately 1,000 hours) from over 400K trajectories, with dense ECoT annotations covering 96.8% of all frames. We evaluate ZR-0 on three simulation benchmarks spanning single-arm (LIBERO), bimanual (RoboTwin 2.0), and humanoid (RoboCasa GR-1 Tabletop) embodiments, as well as real-world experiments on the xArm platform, demonstrating strong performance across all settings. Code and model checkpoints are available at https://github.com/RUCKBReasoning/ZR-0.
- Abstract(参考訳): 低レベル状態と動作空間がロボットプラットフォーム間で根本的に異なるため、視覚言語アクション(VLA)モデルにおける異体間移動は依然として困難である。
シーン認識,物体識別,タスク計画,サブタスク分解などの操作を基礎とする高レベルの認知プロセスが,実施形態間で大きく共有されていることを観察する。
本研究は,260億のパラメーター-エンドツーエンドVLAモデルであるZR-0について,高密度なEmbodied Chain-of-Thought (ECoT) の監督を用いて,視覚言語モデル(VLM)内での相互身体表現の整合性を示す。
事前訓練されたVLM(System 2)はトレーニング中に構造化されたECoT推論を生成し、Diffusion Transformerベースのアクションエキスパート(System 1)はフローマッチングを介して連続的なアクションチャンクを生成する。
この2つのコンポーネントは、クロスアテンションを介して結合され、アクションエキスパートがプロンプトのみを入力することを制限したアテンションマスクにより、ECoT生成をパフォーマンス損失なく推論時に完全にスキップすることができる。
ZR-0は400K以上の軌道から約6000万フレーム(約1000時間)の大規模なデータセットであるProcCorpus-60Mで事前訓練されており、ECoTアノテーションは全フレームの96.8%をカバーしている。
我々は,シングルアーム (LIBERO) とバイマンシャル (RoboTwin 2.0) とヒューマノイド (RoboCasa GR-1 Tabletop) を対象とする3つのシミュレーションベンチマークにおいて,ZR-0の評価を行った。
コードとモデルチェックポイントはhttps://github.com/RUCKBReasoning/ZR-0.comで公開されている。
関連論文リスト
- LM-X: Explainable Action Modeling with Progress, Event, and Uncertainty Prediction for Generalist Robot Manipulation [28.431160101245837]
一般視覚-言語行動(VLA)政策は、主に短期水平行動予測を通じて長期水平行動を学ぶ。
我々は,解剖学的対応を主張することなく,タスク,イベント,運動の規模にわたって予測を整理するLM-Xを紹介する。
論文 参考訳(メタデータ) (2026-08-26T13:05:29Z) - G0.5: One Autoregressive Stream for Robot Reasoning and Action [43.43377463558725]
本稿では,1つの変圧器デコーダが1つの目的の下で推論とアクショントークンを出力する,事前訓練された自己回帰VLAであるG0.5を紹介する。
推論とアクションは1組の重みを共有しているため、事前訓練されたVLMの能力は物理的な振る舞いへと引き継がれる。
G0.5は7つの独立した体制で最先端のモデルを上回っている。
論文 参考訳(メタデータ) (2026-08-12T07:26:47Z) - StellaVLA: In-Context Structured Demonstration for Generalizable Vision-Language-Action Models [37.45050514108603]
本稿では,検索した1つのデモを条件付けして,テスト時に適応するフレームワークであるStellaVLAを紹介する。
自動オフラインパイプラインは、各生の軌跡を、例えばタスクプラン、サブゴール記述、言語化された3Dモーションなどの構造化されたデモに変換する。
並列な二重訓練設計は、この推論を共同行動および言語目的を通じて内部化し、推論はアクションエキスパートのみを使用する。
論文 参考訳(メタデータ) (2026-08-12T05:30:53Z) - GEAR-VLA: Learning Geometry-Aware Action Representations for Generalizable Robotic Manipulation [49.16739604572808]
VLA(Vision-Language-Action)モデルは、強力なベンチマークパフォーマンスを実現するが、目に見えないオブジェクトによる現実世界のデプロイに苦労する。
これは、統合幾何認識の操作表現が欠如していることに起因していると我々は主張する。
一般化可能なロボット操作のための統合幾何認識行動表現を学習するためのVLAフレームワークであるGEAR-VLAを提案する。
論文 参考訳(メタデータ) (2026-06-07T09:23:16Z) - RotVLA: Rotational Latent Action for Vision-Language-Action Model [54.22746299071677]
本稿では,連続的な回転潜在動作表現に基づくVLAフレームワークであるRotVLAを紹介する。
潜在作用はSO(n) の元としてモデル化され、連続性、構成性、および実世界の作用力学と整合した構造的幾何学を提供する。
RotVLAはVLMバックボーンとフローマッチングアクションヘッドで構成される。
論文 参考訳(メタデータ) (2026-05-13T11:58:02Z) - RLDX-1 Technical Report [74.70437517338186]
マルチストリーム動作変換器(Multi-Stream Action Transformer:MSAT)上に構築したデクスタス操作のための汎用ロボットポリシーRTDX-1を紹介する。
経験的評価により、RLDX-1は最新のフロンティア・ビジョン・ランゲージ・アクションモデルよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2026-05-05T01:40:15Z) - Not All Features Are Created Equal: A Mechanistic Study of Vision-Language-Action Models [2.5338045371474816]
VLA(Vision-Language-Action)モデルは、単一のアーキテクチャにおける知覚、言語、運動制御を組み合わせたモデルである。
394,000回以上のロールアウトエピソードにまたがる80M--7Bパラメータに,アクティベーションインジェクション,スパースオートエンコーダ,線形プローブを適用した。
論文 参考訳(メタデータ) (2026-03-19T17:59:55Z) - From Passive Observer to Active Critic: Reinforcement Learning Elicits Process Reasoning for Robotic Manipulation [32.41847293364159]
PRIMO R1はビデオMLLMをアクティブな「批判」に変換する7Bフレームワーク
我々は、結果に基づく強化学習を活用して、進捗推定のための明示的な連鎖生成をインセンティブ化する。
67.0%の精度でRoboFailベンチマークの最先端のパフォーマンスを確立し、OpenAI o1のようなクローズドソースモデルを6.2%上回った。
論文 参考訳(メタデータ) (2026-03-16T17:53:28Z) - Universal Pose Pretraining for Generalizable Vision-Language-Action Policies [83.39008378156647]
既存のVision-Language-Action(VLA)モデルは、しばしば機能崩壊と訓練効率の低下に悩まされる。
本稿では,VLAトレーニングを3次元空間前駆体抽出のための事前学習フェーズに分離する,分離されたパラダイムであるPose-VLAを提案する。
我々のフレームワークは2段階の事前学習パイプラインに従い、ポーズと動きのアライメントによる基本的な空間接地を確立する。
論文 参考訳(メタデータ) (2026-02-23T11:00:08Z) - Detect Anything via Next Point Prediction [51.55967987350882]
Rex-Omniは最先端の物体認識性能を実現する3BスケールのMLLMである。
COCOやLVISのようなベンチマークでは、Rex-Omniは回帰ベースのモデルに匹敵するパフォーマンスを得る。
論文 参考訳(メタデータ) (2025-10-14T17:59:54Z) - DexVLG: Dexterous Vision-Language-Grasp Model at Scale [59.5613919093295]
ヒトのような器用な手のための大型モデルを用いた機能的握りの研究はほとんどない。
DexVLGは、言語命令に整合したDexterousグリップポーズ予測のための大型ビジョン言語-Graspモデルである。
シミュレーションでは、174,000個のオブジェクトのセマンティックな部分にマッピングされた1億1千万個のデキスタスなグリップポーズを、詳細な部分レベルのキャプションと組み合わせて生成する。
論文 参考訳(メタデータ) (2025-07-03T16:05:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。