論文の概要: Hierarchical Reinforcement Learning for Collision-Free Locomotion of an Underactuated Biped
- arxiv url: http://arxiv.org/abs/2610.05855v1
- Date: Mon, 05 Oct 2026 06:17:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 03:44:28.171155
- Title: Hierarchical Reinforcement Learning for Collision-Free Locomotion of an Underactuated Biped
- Title(参考訳): 不安定二足歩行の無衝突移動のための階層的強化学習
- Abstract要約: 二足歩行ロボットは、バランスを乱さずに障害物を避けるために経路を逸脱することはできない。
本稿では,ハイレベル(HL)政策がロボットのポーズ,36レイキャスト近接測定,移動障害物状態,後退水平目標を観測する階層型強化学習フレームワークを提案する。
- 参考スコア(独自算出の注目度): 1.2235232779643492
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A bipedal robot cannot deviate from its path to avoid an obstacle without disturbing its balance, and this coupling is most severe on underactuated platforms such as the biped considered here, which has four actuated joints per leg and no hip or ankle roll. This paper presents a Hierarchical Reinforcement Learning (HRL) framework in which a High-Level (HL) policy observes the robot pose, 36 raycast proximity measurements, moving-obstacle states, and a receding-horizon local goal, and outputs a body-velocity command $(v_x, v_y, ω_{yaw})$ every ten control steps, while a velocity-conditioned Low-Level (LL) policy tracks each command through PD-controlled joint targets. Both policies are trained jointly with Soft Actor-Critic (SAC). Because the converged gait is task-agnostic, it is frozen and driven by classical planners over the same command interface, yielding three controlled baselines: SAC+A*, SAC+RRT*, and SAC+APF. Across 100 evaluation trials per method in randomized PyBullet environments, the proposed method reaches the goal in 98.0% of static and 88.0% of dynamic trials, against at most 78.0% and 68.0% for the planner hybrids, with path lengths within 4% of the A* reference, and ablations confirm that each observation channel and reward term contributes materially to this performance.
- Abstract(参考訳): 二足歩行ロボットは、バランスを損なうことなく障害物を避けるための経路から逸脱することはできず、この結合は、ここで考慮された二足歩行のような不活性化プラットフォームにおいて最も深刻である。
本稿では,高レベル(HL)政策がロボットの姿勢,36個のレイキャスト近接測定,移動障害物状態,及び後退水平局所目標を観測し,身体速度コマンド$(v_x, v_y, ω_{yaw})を10ステップ毎に出力し,速度条件付き低レベル(LL)政策がPD制御された関節目標を介して各コマンドをトラックする階層型強化学習(HRL)フレームワークを提案する。
どちらの政策もソフト・アクター・クリティカル(Soft Actor-Critic, SAC)と共同で訓練されている。
収束した歩数はタスクに依存しないため、同じコマンドインターフェース上の古典的なプランナーによってフリーズされ、SAC+A*、SAC+RRT*、SAC+APFの3つの制御されたベースラインが生成される。
ランダム化したPyBullet環境における100件の手法評価試験において,提案手法は静的な98.0%,動的な試験88.0%,プランナーハイブリッドの78.0%,68.0%,A*参照の4%以内の経路長に対して目標に達した。
関連論文リスト
- DexPolicy: Scheduled Exploration for Trajectory-Guided Dexterous Manipulation [59.77542456468077]
器用な操作のための強化学習(RL)は、指と物体の接触を発見し、その物体を正確に制御する必要がある。
我々のベースラインPPOは、5Mステップ後に最初の動作ノイズの近くで終了し、探索スケールの明示的な制御を動機付けます。
PPO, 批判のないGRPO継続, フローフリーなPPOの3つのポリシー最適化設定について検討した。
論文 参考訳(メタデータ) (2026-09-30T04:19:47Z) - SAGE: Safety-Aligned Gradient Enforcement for Human--Robot Collaboration [29.310843492767106]
ロボットの決定は解釈可能で監査可能であるべきであり、実行された行動は安全性の制約を満たす必要がある。
両ミスマッチに対処するため,安全対応型勾配法(SAGE)を提案する。
論文 参考訳(メタデータ) (2026-09-17T22:30:30Z) - GE-Act 2.0: Pretraining and Scaling a World-Action Model for Robotic Manipulation [63.853929983870955]
本稿では,ジェニー・エンスペクタ法 2.0 (GE-Act 2.0) について紹介する。
制御指向オートエンコーダ(CoAE)、ワンステップビジュアルプランナー(SVP)、逆ダイナミクスモデル(IDM)を組み合わせている。
それらのコンポーネントは、知識に整合した選択最適化(KASO)で共同で訓練され、記録された行動に適合していると判断された予測された未来のみを選択することで、ミスマッチした監視を減らす。
論文 参考訳(メタデータ) (2026-09-04T17:16:48Z) - GigaBrain-WBC-0.5: A Behavior World Model for Robust Whole-Body Control with Environment Interaction [68.67772166423812]
ヒューマノイド全身制御のための行動世界モデル(BWM)であるGigaBrain-WBC-0.5を提案する。
純粋にリアクティブなトラッカーではなく、因果トランスフォーマーをトレーニングして、次のアクション、次の状態、次の潜伏動作コマンドに対する分布を共同で予測します。
自動地形アノテーションパイプラインは、再ターゲティングされた動きから完全な3D接触形状を復元し、既存の動きデータセットのスケールでの地形アノテートを可能にする。
論文 参考訳(メタデータ) (2026-08-18T18:21:36Z) - LAPF: LLM-Agent-Based Path Finder Using the UAVScenes Dataset [8.27333944529512]
本稿では,都市規模屋外環境における自律型UAVナビゲーションのためのLLM-Agent-Based Path Finder (LAPF) フレームワークを提案する。
LAPFは認識、記憶、計画、行動モジュールをクローズドループ認知アーキテクチャに統合することでLLM支援ナビゲーションを拡張している。
LAPFは512.83mと506.37mの平均経路長を、497.33mの直線最適化と比較する。
論文 参考訳(メタデータ) (2026-08-15T11:28:21Z) - CockpitHAT: Dependency-Graph-Driven Hierarchical Attribution for Embodied Multi-Agent Cockpits [3.9502278152528625]
LLMマルチエージェントシステムは、タスクレベルの精度が高いプロセスレベルの障害を隠蔽する、正確性崩壊に悩まされる。
我々は、位置対応ウィンドウをDAGの依存性依存閾値に置き換える階層的属性フレームワークであるCockpitHATを紹介する。
CockpitBenchは、212の注釈付き障害トレースのベンチマークで、対話、車両状態、環境重大度、メモリチャネルにまたがる。
論文 参考訳(メタデータ) (2026-08-03T07:13:00Z) - Discrete Action Space as a Prerequisite for GRPO Convergence in Small-Model Continuous Control [0.0]
グループ相対ポリシー最適化は、シミュレートされた四重項連続制御タスクのための小さな言語モデルを微調整することができる。
このベンチマークでは、25Hzの4乗子速度制御のためのQwen-0.5BのバニラGRPO微調整が、自明なゼロ作用に崩壊する。
Crazyflie 2.1 ダイナミックスを用いた高忠実度シミュレーションは、ホバー領域のトレーニングと分配のギャップを表面化する。
論文 参考訳(メタデータ) (2026-07-07T17:14:19Z) - Global Prior Meets Local Consistency: Dual-Memory Augmented Vision-Language-Action Model for Efficient Robotic Manipulation [95.89924101984566]
GPM(Global Prior Memory)とLCM(Local Consistency Memory)を備えたデュアルメモリVLAフレームワークOptimusVLAを紹介する。
GPMはガウスノイズを意味論的に類似した軌道から取得したタスクレベルの先行値に置き換える。
LCMは、時間的コヒーレンスと軌道の滑らかさを強制する学習された一貫性制約を注入する。
論文 参考訳(メタデータ) (2026-02-22T15:39:34Z) - TRYLOCK: Defense-in-Depth Against LLM Jailbreaks via Layered Preference and Representation Engineering [0.0]
提案するTRYLOCKは,推論スタックをまたいだ4つのメカニズムを組み合わせた,最初のディフェンス・イン・ディースアーキテクチャである。
Mistral-7B-Instructが249プロンプト攻撃セットに対して評価された場合、TRYLOCKは88.0%の相対的なASR減少を達成する。
論文 参考訳(メタデータ) (2026-01-06T03:02:20Z) - On GRPO Collapse in Search-R1: The Lazy Likelihood-Displacement Death Spiral [59.14787085809595]
この障害を引き起こす中核的なメカニズムとしてLazy Likelihood Displacement(LLD)を同定する。
LDDは早期に出現し、自己強化性LDDデススパイラル(LDD Death Spiral)を引き起こす。
本稿では,GRPO のための軽量な確率保存正則化 LLDS を提案する。
論文 参考訳(メタデータ) (2025-12-03T19:41:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。