論文の概要: Stubborn: A Streamlined and Unified Reinforcement Learning Framework for Robust Motion Tracking and Fall Recovery for Humanoids
- arxiv url: http://arxiv.org/abs/2606.12814v1
- Date: Thu, 11 Jun 2026 02:13:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-12 15:55:27.539201
- Title: Stubborn: A Streamlined and Unified Reinforcement Learning Framework for Robust Motion Tracking and Fall Recovery for Humanoids
- Title(参考訳): Stubborn:ロバストなモーショントラッキングとヒューマノイドのフォールリカバリのための一貫した強化学習フレームワーク
- Authors: Xiao Ren, Yuhui Yang, Zongbiao Weng, Zhijie Liu, He Kong,
- Abstract要約: 本研究では,頑健なヒューマノイド運動追跡と転倒回復を実現するために,合理化・統一された強化学習フレームワークであるStubbornを提案する。
具体的には、Stubbornは非対称なアクター・クライブアーキテクチャを使用しており、3つの主要なコンポーネントで構成されている。
実世界のデモについては、https://aislab-sustech.io/Stubborn/を参照してください。
- 参考スコア(独自算出の注目度): 9.395015640853973
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent reinforcement learning approaches have shown great promise in improving humanoid motion tracking performance and achieving fall recovery under disturbances. However, most existing works treat motion tracking and fall recovery as different tasks and require multi-stage training with specialized recovery rewards and/or separate recovery policies. Moreover, existing reinforcement learning-based methods often terminate training episodes immediately after severe tracking failures, limiting recovery-oriented exploration in unstable or fallen states. To address the above issues, we propose Stubborn, a streamlined and unified reinforcement learning framework to achieve robust humanoid motion tracking and fall recovery. Specifically, Stubborn uses an asymmetric Actor-Critic architecture and consists of three major components. First, a yaw-aligned tracking representation is adopted to reduce sensitivity to global drift and heading disturbances while preserving gravity-related balance information. Second, we introduce a Bernoulli-based probabilistic termination mechanism that enables the policy to encourage exploration of fall-recovery behaviors under varying failure modes. Third, we propose a probabilistic termination and tracking-error-driven strategy that dynamically reshapes the sampling distribution based on tracking performance, increasing the training efficiency for difficult motion segments and unstable states. Extensive comparisons with SOTA methods and ablation studies show that Stubborn achieved competitive performance, and the proposed probabilistic termination mechanism and adaptive sampling strategy contributed to the performance and robustness gains. For real-world demonstrations, please refer to https://aislab-sustech.github.io/Stubborn/.
- Abstract(参考訳): 近年の強化学習手法は、ヒューマノイド運動追跡性能の向上と、障害時の転倒回復の実現に大きな可能性を示唆している。
しかし、既存の作業の多くは、モーショントラッキングとフォールリカバリを異なるタスクとして扱い、特別なリカバリ報酬と/または別個のリカバリポリシーを備えたマルチステージトレーニングを必要としている。
さらに、既存の強化学習に基づく手法では、深刻な追跡障害の直後にトレーニングエピソードを終了することが多く、不安定な状態や倒れた状態の回復指向の探索を制限している。
以上の課題に対処するため,頑健なヒューマノイド運動追跡と転倒回復を実現するために,合理化・統合された強化学習フレームワークであるStubbornを提案する。
具体的には、Stubbornは非対称なアクター・クライブアーキテクチャを使用しており、3つの主要なコンポーネントで構成されている。
まず、重力関連バランス情報を保持しつつ、大域的ドリフト及び方向障害に対する感度を低減するためにヨーアライントラッキング表現を採用する。
第2に,ベルヌーイを基盤とした確率的終了機構を導入し,様々な障害モード下での転倒回復行動の探索を促進する。
第3に,追従性能に基づいてサンプリング分布を動的に再評価し,困難な動作セグメントや不安定な状態に対するトレーニング効率を向上する確率論的終了と追跡エラー駆動型戦略を提案する。
SOTA法とアブレーション法との比較により,Stubbornは競争性能を達成し,提案した確率的終了機構と適応的サンプリング戦略が性能向上とロバスト性向上に寄与した。
実世界のデモについては、https://aislab-sustech.github.io/Stubborn/を参照してください。
関連論文リスト
- HERO: Hindsight-Enhanced Reflection from Environment Observations for Agentic Self-Distillation [50.53459634301361]
HEROは、次の環境観測を局所的に整列したフィードバックとして利用する、後向きの自己蒸留フレームワークである。
HEROはタスク成功を改善し、環境フィードバックのみの自己蒸留とGRPOに対する不要なターンを減らす。
論文 参考訳(メタデータ) (2026-06-10T01:35:34Z) - MARCH: Model-Assisted Reinforcement Learning for the Perceptive Control of Humanoids over Sparse Footholds [2.3940819037450987]
両視点を3段階に組み合わせたモデル支援強化学習(RL)フレームワークを提案する。
このモデル支援手法により, 物理的に座屈した移動が生成され, 試料効率が向上することを示す。
両足の足場を横方向の制約で移動させるユニツリーG1ヒューマノイドロボットの展開を実演した。
論文 参考訳(メタデータ) (2026-06-09T01:21:26Z) - PROWL: Prioritized Regret-Driven Optimization for World Model Learning [20.10187986360715]
我々は,拡散に基づく世界モデルの高次軌道を公開するための政策を訓練する,KL制約の逆行カリキュラムを導入する。
提案手法をMineRLフレームワークで実装し, 既設のアウト・オブ・ディストリビューション・トラジェクトリで評価する。
論文 参考訳(メタデータ) (2026-05-11T14:24:19Z) - How Far Can Unsupervised RLVR Scale LLM Training? [57.44753418846446]
検証可能な報酬を伴う教師なし強化学習(URLVR)は、監督ボトルネックを越えてLLMトレーニングをスケールするための経路を提供する。
最近の研究は、モデル固有の信号を活用し、期待できる早期の利得を示しているが、その可能性と限界は未だ不明である。
我々は、URLVRメソッドを報酬源に基づく固有対外部に分類し、統一された理論的枠組みを確立する。
論文 参考訳(メタデータ) (2026-03-09T17:38:11Z) - Embedding Classical Balance Control Principles in Reinforcement Learning for Humanoid Recovery [1.0883174135300417]
人間は転倒や回復不能な障害状態に対して脆弱であり、非構造化環境での実用性を制限する。
古典的バランス指標を埋め込むことにより、この制限に対処する統一的なRLポリシーを提案する。
このポリシーは、ランダム化された初期ポーズと記述されていないフォール設定で93.4%のリカバリ率を達成する。
論文 参考訳(メタデータ) (2026-03-09T17:02:30Z) - TopoCurate:Modeling Interaction Topology for Tool-Use Agent Training [53.93696896939915]
訓練用ツール使用エージェントは一般的に、パスレート選択されたタスクに対して、軌道変更の成功と強化学習(RL)に依存している。
TopoCurateは,同一タスクから多段階的なロールアウトを統一的な意味的商トポロジに投影する対話型フレームワークである。
TopoCurateは最先端のベースラインに対して4.2%(SFT)と6.9%(RL)という一貫したゲインを達成している。
論文 参考訳(メタデータ) (2026-03-02T10:38:54Z) - Sycophancy Mitigation Through Reinforcement Learning with Uncertainty-Aware Adaptive Reasoning Trajectories [58.988535279557546]
適応推論トラジェクトリを用いたtextbf sycophancy Mitigation を提案する。
SMARTは,分布外の入力に対して強い性能を維持しながら,サイコファンティクスの挙動を著しく低下させることを示した。
論文 参考訳(メタデータ) (2025-09-20T17:09:14Z) - Learning to Recover: Dynamic Reward Shaping with Wheel-Leg Coordination for Fallen Robots [10.712715061996194]
本稿では,エピソードベースの動的リワードシェーピングとカリキュラム学習を統合した学習フレームワークを提案する。
相乗的ホイールレッグ調整は関節トルクの消費を15.8%、26.2%減少させることを示した。
論文 参考訳(メタデータ) (2025-06-05T18:58:12Z) - Social NCE: Contrastive Learning of Socially-aware Motion
Representations [87.82126838588279]
実験結果から, 提案手法は最近の軌道予測, 行動クローニング, 強化学習アルゴリズムの衝突速度を劇的に低減することがわかった。
本手法は,ニューラルネットワークの設計に関する仮定をほとんど示さないため,神経運動モデルのロバスト性を促進する汎用的手法として使用できる。
論文 参考訳(メタデータ) (2020-12-21T22:25:06Z) - Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。
我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
論文 参考訳(メタデータ) (2020-10-26T04:44:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。