論文の概要: MPBRS: Multi-Potential-Based Reward Shaping for Unified Reward Configuration in Humanoid Locomotion
- arxiv url: http://arxiv.org/abs/2610.30334v1
- Date: Wed, 21 Oct 2026 18:52:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.107944
- Title: MPBRS: Multi-Potential-Based Reward Shaping for Unified Reward Configuration in Humanoid Locomotion
- Title(参考訳): MPBRS:Humanoid Locomotionにおける統一リワード構成のための多電位リワードシェーピング
- Abstract要約: ヒューマノイド移動のためのマルチPBRSについて検討し、統一報酬構成を提案する。
そして、9つのヒューマノイドロボットに対して、同じ報酬構造と重みを評価し、ロボット固有のメタデータのみを必要とする。
実験の結果,MPBRSは標準的な形状に比べて,より一貫性のあるスケーリング動作を提供し,ロボット間のチューニング感度を低減し,最適方針を変更することなくチューニングが容易であることがわかった。
- 参考スコア(独自算出の注目度): 1.1998741848947327
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Designing and tuning reward functions remains one of the main challenges in building effective reinforcement learning (RL) pipelines for humanoid locomotion. While shaping rewards can accelerate learning, naively formulated terms often conflict with the desired behavior, overfit to a specific robot, or become unstable under small weight changes. Potential-Based Reward Shaping (PBRS) offers an alternative solution: shaping the reward via differences of a potential function to guide exploration without changing the optimal policy. In this paper, we study Multi-PBRS for humanoid locomotion and propose a unified reward configuration. We then evaluate the same reward structure and weights across nine humanoid robots, requiring only robot-specific metadata (joint/link mappings and default poses) rather than per-robot reward redesign. Our experiments show that, compared to standard shaping, MPBRS provides more consistent scaling behavior and reduced tuning sensitivity across robots, making it easier to tune without altering the optimal policy.
- Abstract(参考訳): 報酬関数の設計とチューニングは、ヒューマノイド移動のための効果的な強化学習(RL)パイプラインを構築する上で大きな課題の1つである。
報酬を形作ることは学習を加速させるが、ナイーティブな定式化用語は望ましい行動と矛盾することが多く、特定のロボットに過度に適合するか、小さな重量変化で不安定になる。
PBRS(Posion-Based Reward Shaping)は、最適ポリシーを変更することなく探索をガイドするポテンシャル関数の違いによって報酬を形作る方法である。
本稿では,ヒューマノイド移動のためのマルチPBRSについて検討し,統一的な報酬構成を提案する。
次に、9つのヒューマノイドロボットに対して同じ報酬構造と重みを評価し、ロボットごとの報酬を再設計するのではなく、ロボット固有のメタデータ(ジョイント/リンクマッピングとデフォルトポーズ)のみを必要とする。
実験の結果,MPBRSは標準的な形状に比べて,より一貫性のあるスケーリング動作を提供し,ロボット間のチューニング感度を低減し,最適方針を変更することなくチューニングが容易であることがわかった。
関連論文リスト
- GLAMDRING: Gait Learning And Morphology co-Design via Reinforcement LearnING of CPGs [8.650966395033198]
GLAMDRINGは、移動作業に最適なロボットを合成するフレームワークである。
対象とする設計目標に対して、実現可能な設計をランク付けします。
我々は強化学習によって少数の政策を訓練する。
論文 参考訳(メタデータ) (2026-09-16T21:37:32Z) - CHIP: Adaptive Compliance for Humanoid Control through Hindsight Perturbation [70.5382178207975]
hIsight Perturbation (CHIP)は、制御可能なエンドエフェクタ剛性を実現するプラグイン・アンド・プレイモジュールである。
CHIPの実装は簡単で、データ拡張も追加の報酬チューニングも必要ありません。
そこで本研究では,CHIPでトレーニングした汎用モーショントラッキングコントローラが,多種多様な操作タスクを実行できることを示す。
論文 参考訳(メタデータ) (2025-12-16T18:56:04Z) - Reinforcement Learning for Versatile, Dynamic, and Robust Bipedal Locomotion Control [106.32794844077534]
本稿では,二足歩行ロボットのための動的移動制御系を構築するために,深層強化学習を用いた研究について述べる。
本研究では、周期歩行やランニングから周期ジャンプや立位に至るまで、様々な動的二足歩行技術に使用できる汎用的な制御ソリューションを開発する。
この研究は、二足歩行ロボットの俊敏性の限界を、現実世界での広範な実験を通じて押し上げる。
論文 参考訳(メタデータ) (2024-01-30T10:48:43Z) - REBEL: Reward Regularization-Based Approach for Robotic Reinforcement Learning from Human Feedback [61.54791065013767]
報酬関数と人間の嗜好の相違は、現実世界で破滅的な結果をもたらす可能性がある。
近年の手法は、人間の嗜好から報酬関数を学習することで、不適応を緩和することを目的としている。
本稿では,ロボットRLHFフレームワークにおける報酬正規化の新たな概念を提案する。
論文 参考訳(メタデータ) (2023-12-22T04:56:37Z) - Benchmarking Potential Based Rewards for Learning Humanoid Locomotion [10.406358397515838]
十分に設計されたシェーピング報酬は、学習を著しく速くする可能性がある。
理論的には、PBRS(英語版)は最適政策に影響を与えることなく学習プロセスを導くのに役立つ。
本稿では,ヒューマノイドロボットのPBRSによる標準形状のベンチマークを行う。
論文 参考訳(メタデータ) (2023-07-19T17:12:28Z) - Human-Robot Skill Transfer with Enhanced Compliance via Dynamic Movement
Primitives [1.7901837062462316]
本研究では,動的運動プリミティブ(Dynamic Movement Primitives)フレームワークにおいて,人間の実演から動的特徴を抽出し,パラメータを自動チューニングする体系的手法を提案する。
本手法は,LfDとRLの両方に追従するロボット軌道を再現するために,人間の動的特徴を抽出するための実際のロボット装置に実装した。
論文 参考訳(メタデータ) (2023-04-12T08:48:28Z) - Variational Meta Reinforcement Learning for Social Robotics [15.754961709819938]
社会ロボティクスは依然として多くの課題に直面している。
1つのボトルネックは、社会規範が環境に強く依存するため、ロボットの振る舞いを頻繁に適応させることである。
本研究ではメタ強化学習(meta-RL)を潜在的ソリューションとして検討する。
論文 参考訳(メタデータ) (2022-06-07T12:08:59Z) - REvolveR: Continuous Evolutionary Models for Robot-to-robot Policy
Transfer [57.045140028275036]
本研究では,運動学や形態学など,異なるパラメータを持つ2つの異なるロボット間でポリシーを伝達する問題を考察する。
模倣学習手法を含む動作や状態遷移の分布を一致させることで、新しいポリシーを訓練する既存のアプローチは、最適な動作や/または状態分布が異なるロボットでミスマッチしているために失敗する。
本稿では,物理シミュレータに実装されたロボット政策伝達に連続的進化モデルを用いることで,$RevolveR$という新しい手法を提案する。
論文 参考訳(メタデータ) (2022-02-10T18:50:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。