論文の概要: RoboAlign-R1: Distilled Multimodal Reward Alignment for Robot Video World Models
- arxiv url: http://arxiv.org/abs/2605.03821v1
- Date: Tue, 05 May 2026 14:49:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-06 19:35:43.980812
- Title: RoboAlign-R1: Distilled Multimodal Reward Alignment for Robot Video World Models
- Title(参考訳): RoboAlign-R1:ロボットビデオワールドモデルのための蒸留マルチモーダルリワードアライメント
- Authors: Hao Wu, Yuqi Li, Yuan Gao, Fan Xu, Fan Zhang, Kun Wang, Penghao Zhao, Qiufeng Wang, Yizhou Zhao, Weiyan Wang, Yingli Tian, Xian Wu, Xiaomeng Huang,
- Abstract要約: 本稿では,ロボットビデオワールドモデルのための報酬整合後トレーニングと安定化長軸推論を組み合わせたフレームワークであるRoboAlign-R1を提案する。
その結果,報酬整合型ポストトレーニングと安定型ロングホライゾンデコードにより,タスク整合性,物理リアリズム,ロングホライゾン予測品質が改善された。
- 参考スコア(独自算出の注目度): 39.60337316193729
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing robot video world models are typically trained with low-level objectives such as reconstruction and perceptual similarity, which are poorly aligned with the capabilities that matter most for robot decision making, including instruction following, manipulation success, and physical plausibility. They also suffer from error accumulation in long-horizon autoregressive prediction. We present RoboAlign-R1, a framework that combines reward-aligned post-training with stabilized long-horizon inference for robot video world models. We construct RobotWorldBench, a benchmark of 10,000 annotated video-instruction pairs collected from four robot data sources, and train a multimodal teacher judge, RoboAlign-Judge, to provide fine-grained six-dimensional evaluation of generated videos. We then distill the teacher into a lightweight student reward model for efficient reinforcement-learning-based post-training. To reduce long-horizon rollout drift, we further introduce Sliding Window Re-encoding (SWR), a training-free inference strategy that periodically refreshes the generation context. Under our in-domain evaluation protocol, RoboAlign-R1 improves the aggregate six-dimension score by 10.1% over the strongest baseline, including gains of 7.5% on Manipulation Accuracy and 4.6% on Instruction Following; these ranking improvements are further supported by an external VLM-based cross-check and a blinded human study. Meanwhile, SWR improves long-horizon prediction quality with only about 1% additional latency, yielding a 2.8% gain in SSIM and a 9.8% reduction in LPIPS. Together, these results show that reward-aligned post-training and stabilized long-horizon decoding improve task consistency, physical realism, and long-horizon prediction quality in robot video world models.
- Abstract(参考訳): 既存のロボットビデオワールドモデルは、通常、再構築や知覚的類似性のような低レベルな目標で訓練される。
彼らはまた、長期の自己回帰予測においてエラーの蓄積に悩まされる。
本稿では,ロボットビデオワールドモデルのための報酬整合後トレーニングと安定長軸推論を組み合わせたフレームワークであるRoboAlign-R1を提案する。
我々は、4つのロボットデータソースから収集された1万のアノテーション付きビデオインストラクションペアのベンチマークであるRobotWorldBenchを構築し、マルチモーダルの教師であるRoboAlign-Judgeを訓練し、生成されたビデオの詳細な6次元評価を提供する。
次に,教師を軽量な学生報酬モデルに蒸留し,強化学習による学習後学習を効率化する。
長時間のロールアウトドリフトを低減するため,スライディングウィンドウ再符号化(SWR)も導入する。
ドメイン内評価プロトコルの下では、RoboAlign-R1は、操作精度の7.5%、インストラクションフォローの4.6%を含む最強ベースラインの合計6次元スコアを10.1%改善します。
一方、SWRは長軸予測の品質を約1%追加のレイテンシで改善し、SSIMは2.8%、LPIPSは9.8%向上した。
これらの結果から,ロボットビデオワールドモデルにおける課題整合性,身体的リアリズム,長期予測品質の向上が期待できる。
関連論文リスト
- Persistent Robot World Models: Stabilizing Multi-Step Rollouts via Reinforcement Learning [18.397872306430006]
アクションコンディショニングされたロボットワールドモデルは、ロボットアクションシーケンスが与えられた操作されたシーンの将来のビデオフレームを生成する。
これらのモデルは、短時間の予測に最適化され、自動回帰的にデプロイされたときに分解される。
我々は,自己回帰的なロールアウトで世界モデルを訓練する強化学習スキームを導入する。
論文 参考訳(メタデータ) (2026-03-26T17:36:08Z) - GigaWorld-Policy: An Efficient Action-Centered World--Action Model [50.107640832046464]
GigaWorld-Policyはアクション中心のWAMで、2Dピクセルアクションのダイナミクスを学習し、オプションのビデオ生成で効率的なアクションデコーディングを可能にする。
実世界のロボットプラットフォームでの実験結果によると、GigaWorld-Policyは主要なWAMベースラインであるMotusの9倍高速で動作する。
論文 参考訳(メタデータ) (2026-03-18T00:52:02Z) - DiT4DiT: Jointly Modeling Video Dynamics and Actions for Generalizable Robot Control [16.562259973551786]
本稿では,ビデオ拡散変換器とアクション拡散変換器を結合したエンドツーエンドのビデオ・アクション・モデルであるDiT4DiTを紹介する。
DiT4DiTは、再構成後のフレームに頼る代わりに、ビデオ生成プロセスから中間的なデノイング機能を抽出する。
これは最先端の結果を達成し、LIBEROでは98.6%、RoboCasa GR1では50.8%という平均的な成功率に達した。
論文 参考訳(メタデータ) (2026-03-11T06:03:53Z) - Robometer: Scaling General-Purpose Robotic Reward Models via Trajectory Comparisons [69.87766750714945]
汎用ロボット報酬モデルは通常、専門家によるデモンストレーションから絶対的なタスク進捗を予測するために訓練される。
本稿では、軌道内進行監視と軌道間優先監視を組み合わせたスケーラブルな報酬モデリングフレームワークRobometerを紹介する。
ロビオメーターは、専門家データに報酬等級を固定するフレームレベルのプログレス・ロスと、グローバルな順序制約を課す軌跡比較優先損失という2つの目的で訓練されている。
論文 参考訳(メタデータ) (2026-03-02T17:38:58Z) - Xiaomi-Robotics-0: An Open-Sourced Vision-Language-Action Model with Real-Time Execution [32.93468341343403]
我々は、高速かつスムーズなリアルタイム実行のために最適化された高度な視覚言語アクション(VLA)モデルであるXiaomi-Robotics-0を紹介する。
Xiaomi-Robotics-0は、大規模なクロス・エボディメント・ロボット軌道と視覚言語データに事前訓練された。
我々はXiaomi-Robotics-0をシミュレーションベンチマークで広範囲に評価し、正確で巧妙なバイマニュアル操作を必要とする2つの挑戦的な実ロボットタスクについて検討した。
論文 参考訳(メタデータ) (2026-02-13T07:30:43Z) - RoboReward: General-Purpose Vision-Language Reward Models for Robotics [124.34685604054312]
視覚言語モデル(VLM)は、自動報酬モデルとして期待されているが、実際のロボットタスクにおけるそれらの効果は理解されていない。
大規模な実ロボットコーパス上に構築されたロボティクス報酬データセットとベンチマークであるRoboRewardを導入することで、このギャップを埋めることを目指している。
論文 参考訳(メタデータ) (2026-01-02T12:47:34Z) - ReinforceGen: Hybrid Skill Policies with Automated Data Generation and Reinforcement Learning [32.137320056371784]
ReinforceGenはタスクの分解、データ生成、模倣学習、モーションプランニングを組み合わせたシステムである。
全タスクで80%の成功率に達し、最も高いリセット範囲設定でビジュモータ制御を行う。
追加のアブレーション研究は、我々の微調整アプローチが平均性能の89%向上に寄与していることを示している。
論文 参考訳(メタデータ) (2025-12-18T18:32:39Z) - Robot Learning with Sensorimotor Pre-training [98.7755895548928]
ロボット工学のための自己教師型感覚運動器事前学習手法を提案する。
我々のモデルはRTTと呼ばれ、センサモレータトークンのシーケンスで動作するトランスフォーマーである。
感覚運動の事前学習は、ゼロからトレーニングを一貫して上回り、優れたスケーリング特性を持ち、さまざまなタスク、環境、ロボット間での移動を可能にしている。
論文 参考訳(メタデータ) (2023-06-16T17:58:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。