論文の概要: Enhancing Deep Reinforcement Learning for Robotic Motion Planning via Task Decomposition
- arxiv url: http://arxiv.org/abs/2610.35494v2
- Date: Thu, 29 Oct 2026 12:40:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-30 22:39:27.504635
- Title: Enhancing Deep Reinforcement Learning for Robotic Motion Planning via Task Decomposition
- Title(参考訳): タスク分割によるロボット運動計画のための深層強化学習の強化
- Abstract要約: 障害物を意識したロボット操作は、深い強化学習ポリシーをゼロからトレーニングする場合、かなりの相互作用データを必要とする可能性がある。
本研究では,第1階層の批判伝達とステージド報酬の再設計を組み合わせたタスク分解フレームワークについて検討する。
障害物のない、単一障害物のPyBullet環境でのPush、Pick-and-Place、Slideをカバーする実験。
- 参考スコア(独自算出の注目度): 1.9398100621147465
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Obstacle-aware robotic manipulation can require substantial interaction data when deep reinforcement learning policies are trained from scratch. We study a task decomposition framework combining first-layer critic transfer with staged reward redesign (RR) on a Truncated Quantile Critics (TQC) backbone. Transfer reuses an input representation across tasks, while RR supplies intermediate feedback for Pick-and-Place. Experiments cover Push, Pick-and-Place, and Slide in obstacle-free and single-obstacle PyBullet environments, with three random seeds per setting. On obstacle-aware Push, transfer achieves $0.83\pm0.05$ success against $0.77\pm0.06$ for TQC. On obstacle-aware Slide, it achieves $0.95\pm0.02$ against $0.84\pm0.06$ for SAC, the strongest baseline in that setting. These are gains of $6$ and $11$ percentage points, respectively. RR reduces the target-training steps needed for obstacle-free Pick-and-Place from roughly $0.75$M to $0.20$M. Transfer benefits depend on the route: obstacle-aware Pick-and-Place shows a lower mean than training from scratch. A selected simulated trajectory is executed open-loop on a Franka Emika FR3 as a feasibility demonstration. The study characterizes when a lightweight combination of established transfer and reward-design components helps learning.
- Abstract(参考訳): 障害物を意識したロボット操作は、深い強化学習ポリシーをゼロからトレーニングする場合、かなりの相互作用データを必要とする可能性がある。
本稿では,TQC(Trncated Quantile Critics)バックボーン上で,第1層批判伝達とステージド報酬再設計(RR)を組み合わせたタスク分解フレームワークについて検討する。
Transferはタスク間の入力表現を再利用し、RRはPick-and-Placeの中間フィードバックを提供する。
実験では、Push、Pick-and-Place、Slideを障害物のない、単一障害物のPyBullet環境でカバーし、1セットあたり3つのランダムなシードを持つ。
障害対応プッシュでは、TQCに対して0.77\pm0.06ドルに対して転送が0.83\pm0.05ドルの成功を達成する。
障害物対応のSlideでは、SACでは0.95\pm0.02$、SACでは0.84\pm0.06$となる。
これらはそれぞれ6ドルと11ドルだ。
RRは障害物のないPick-and-Placeに必要な目標訓練ステップを、約0.75$Mから0.20$Mに削減する。
伝達の利点は経路によって異なり、障害物を認識したPick-and-Placeは、スクラッチからのトレーニングよりも低い平均値を示している。
フランカエミカFR3上で、選択された模擬軌道をオープンループで実行し、実現可能性を示す。
この研究は、確立されたトランスファーと報酬設計コンポーネントの軽量な組み合わせが学習に役立ったときの特徴である。
関連論文リスト
- TACIT-Switch: Cost-Aware Model Escalation for LLM Agents from Censored Supervision [2.681967953218225]
より小さな言語モデルバックボーンを持つエージェントは永続的な障害モードにドリフトできるが、より大きなバックボーンを持つエージェントは一般的により信頼性が高いがよりコストがかかる。
この信頼性の高いトレードオフは、より大きなバックボーンを持つエージェントをいつ呼び出すかを決定するルーティングメソッドを動機付けます。
提案手法であるTACIT-SWITCHは,蓄積された軌跡の証拠から永久的ハンドオフポリシーを学習する。
論文 参考訳(メタデータ) (2026-08-28T04:33:11Z) - Semantic Risk-Aware Heuristic Planning for Robotic Navigation in Dynamic Environments: An LLM-Inspired Approach [0.0]
大言語モデル(LLM)の推論原理を古典的なロボット経路計画に統合することは、急速に発展する研究の方向性を表している。
本研究では,LLMにインスパイアされたコスト関数を符号化したSRAH(Semantic Risk-Aware Heuristic)プランナを提案する。
この結果から,軽量でLCMにインスパイアされたプランナーでも,自律型ロボットナビゲーションの安全性とロバスト性を高めることが示唆された。
論文 参考訳(メタデータ) (2026-05-04T17:38:12Z) - T$^2$PO: Uncertainty-Guided Exploration Control for Stable Multi-Turn Agentic Reinforcement Learning [47.366245851156215]
Token- and Turn-level Policy Optimization (T$2$PO)は、きめ細かいレベルで探索を明示的に制御する不確実性対応のフレームワークである。
WebShop, ALFWorld, Search QAなど,様々な環境でT$2$POを評価した。
論文 参考訳(メタデータ) (2026-05-04T03:15:56Z) - A1: A Fully Transparent Open-Source, Adaptive and Efficient Truncated Vision-Language-Action Model [112.9420001646428]
VLA(Vision-Language-Action)モデルは、オープンワールドロボット操作の強力なパラダイムとして登場したが、実際の展開はコストに制約されることが多い。
我々は、低コストで高スループットな推論のために設計された、完全にオープンソースで透明なVLAフレームワークであるA1を提示する。
A1は最先端の成功率を達成すると同時に、推論コストを大幅に削減する。
論文 参考訳(メタデータ) (2026-04-07T10:18:40Z) - ARM: Advantage Reward Modeling for Long-Horizon Manipulation [7.739778332184609]
本稿では,絶対的な進歩から相対的な優位性を推定するフレームワークを提案する。
我々は,高いアノテータの整合性を確保しつつ,人間の認知的オーバーヘッドを低減し,費用対効果の高い三状態ラベリング戦略を導入する。
提案手法は,従来のVLAベースラインよりも安定性とデータ効率が向上し,政策訓練中にほぼゼロに近い介入を施した長軸タオルフォールディング作業において,99.4%の成功率を達成した。
論文 参考訳(メタデータ) (2026-04-03T13:45:59Z) - R-Stitch: Dynamic Trajectory Stitching for Efficient Reasoning [80.104336426172]
CoT(Chain-of- Thought)は、大規模言語モデルの問題解決能力を高める。
CoTは長い自己回帰軌道のためにかなりの推論コストを発生させる。
トレーニング不要なハイブリッドデコーディングフレームワークであるR-Stitchを紹介する。
論文 参考訳(メタデータ) (2025-07-23T08:14:36Z) - Reinforcement Learning with Foundation Priors: Let the Embodied Agent Efficiently Learn on Its Own [59.11934130045106]
我々は、政策、価値、成功-回帰基盤モデルからのガイダンスとフィードバックを活用するために、RLFP(Reinforcement Learning with Foundation Priors)を提案する。
本フレームワークでは,自動報酬関数を用いてより効率的にエージェントを探索できるファウンデーション誘導型アクター・クリティカル(FAC)アルゴリズムを導入する。
本手法は,実ロボットとシミュレーションの両方において,様々な操作タスクにおいて顕著な性能を実現する。
論文 参考訳(メタデータ) (2023-10-04T07:56:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。