論文の概要: An Empirical Study of Reinforcement Learning for Keypoint Positioning of Deformable Linear Objects
- arxiv url: http://arxiv.org/abs/2611.07261v1
- Date: Thu, 05 Nov 2026 00:27:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.475768
- Title: An Empirical Study of Reinforcement Learning for Keypoint Positioning of Deformable Linear Objects
- Title(参考訳): 変形可能な線形物体のキーポイント位置決めのための強化学習に関する実証的研究
- Abstract要約: 本研究は、片端移植DLOの平面操作のための強化学習に関する研究である。
GPU並列の MuJoCo Playground スタックは,CPU ベースの代替よりも高速な収束と一貫した性能を実現する。
- 参考スコア(独自算出の注目度): 11.949831400406149
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deformable linear object (DLO) manipulation is challenging because high-dimensional configurations, nonlinear contact dynamics, and diverse material and geometric properties produce a broad range of object responses that are both difficult to model and data-intensive to learn. This work studies reinforcement learning for planar manipulation of a one-end-grasped DLO, focusing on training efficiency, observation design, robustness, and zero-shot sim-to-real transfer. We compare three Proximal Policy Optimization training stacks and find that the GPU-parallel MuJoCo Playground stack enables faster convergence and more consistent performance than CPU-based alternatives under the same wall-clock budget. Relative keypoint observations and an asymmetric actor-critic formulation further improve learning efficiency. Policies trained with observation noise, delay, domain randomization, and disturbances achieve simulation success rates of 96.4% for single-point tracking, 98.0% for disturbance recovery, and 88.8% for two-point tracking. Using markerless RGB-D keypoint estimation, the policies transfer without real-world fine-tuning, succeeding in 9/10, 10/10, and 8/10 physical trials, respectively.
- Abstract(参考訳): 変形可能な線形オブジェクト(DLO)の操作は、高次元構成、非線形接触ダイナミクス、多種多様な材料と幾何学的性質が、モデル化が困難かつデータ集約的な幅広いオブジェクト応答を生成するため、困難である。
本研究は, 訓練効率, 観察設計, 頑健性, ゼロショット sim-to-real トランスファーに着目し, 片端グラフトDLOの平面操作のための強化学習について検討する。
また,GPU並列の MuJoCo Playground スタックは,同じウォールクロック予算下での CPU ベースの代替よりも高速に収束し,より一貫したパフォーマンスを実現する。
相対的キーポイント観測と非対称アクター・クリティック定式化は学習効率をさらに向上させる。
観測ノイズ、遅延、ドメインのランダム化、外乱で訓練された政策は、単一点追跡で96.4%、外乱回復で98.0%、二点追跡で88.8%のシミュレーション成功率を達成した。
マーカーのないRGB-Dキーポイント推定を用いて、実際の微調整なしでポリシーを転送し、それぞれ9/10、10/10、および8/10の物理トライアルで成功する。
関連論文リスト
- Trust-Calibrated VLA Policy Post-Training with Evolving Imagination [60.998903003181006]
既存の改善パラダイムは信頼性と効率性の緊張を露呈する。
本稿では,モデル進化強化学習(MERL, Model-Evolving Reinforcement Learning)を提案する。
摂動型LIBERO-PROタスクでは、MERLは平均79.7%の成功を達成し、マッチしたモデルフリー制御よりも10.9%の高閾値学習速度を向上し、同じプロトコール外部ベースラインを上回っている。
論文 参考訳(メタデータ) (2026-10-12T10:08:28Z) - Holistic Data Scheduler for LLM Pre-training via Multi-Objective Reinforcement Learning [7.431998098521794]
我々は,新しいオンラインデータミキシングフレームワークであるHolistic Data Scheduler (HDS)を紹介した。
HDSは、連続的な制御空間における強化学習問題として、データスケジューリングの課題を定式化している。
品質に対するデータ駆動報酬、ドメイン間の影響を捉えた損失駆動報酬、重量ノルムに基づくモデル駆動報酬を統合する。
論文 参考訳(メタデータ) (2026-06-23T04:32:46Z) - Rewarding the Scientific Process: Process-Level Reward Modeling for Agentic Data Analysis [68.28714988482703]
プロセス・リワード・モデル(PRM)は、LLM(Large Language Models)の推論能力を増強することに成功した。
本稿では,一般ドメインのPRMがデータ分析エージェントの監督に苦慮していることを示す。
本稿では,新しい環境対応生成プロセス報酬モデルであるDataPRMを紹介する。
論文 参考訳(メタデータ) (2026-04-27T09:00:30Z) - Opening the Sim-to-Real Door for Humanoid Pixel-to-Action Policy Transfer [59.02729900344616]
GPUを加速したフォトリアリスティックなシミュレーションは、ロボット学習のためのスケーラブルなデータ生成パスを開いた。
視覚に基づくヒューマノイドロコ操作のための教師-学生-ブートストラップ学習フレームワークを開発した。
これは、純粋なRGB知覚を用いた多様な調音ロコ操作が可能な初めてのヒューマノイド・シム・トゥ・リアル政策である。
論文 参考訳(メタデータ) (2025-11-30T20:07:13Z) - Human-in-the-loop Online Rejection Sampling for Robotic Manipulation [55.99788088622936]
Hi-ORSは、オンライン微調整中に負の報酬を得たサンプルをフィルタリングすることで、値推定を安定化する。
Hi-ORSは、わずか1.5時間でコンタクトリッチな操作をマスターするためのpiベースのポリシーを微調整する。
論文 参考訳(メタデータ) (2025-10-30T11:53:08Z) - Learning Robust Satellite Attitude Dynamics with Physics-Informed Normalising Flow [2.7222301668137483]
宇宙機の姿勢力学の学習に物理インフォームドニューラルネットワークを組み込むことの利点について検討する。
バシリスクシミュレータで生成されたシミュレーションデータに基づいて複数のモデルを訓練する。
PINNベースのモデルは、制御精度とロバスト性の観点から、純粋にデータ駆動モデルよりも一貫して優れています。
論文 参考訳(メタデータ) (2025-08-11T10:50:49Z) - ColorDynamic: Generalizable, Scalable, Real-time, End-to-end Local Planner for Unstructured and Dynamic Environments [4.7206814223703475]
本研究では,ロボットのローカルプランニング問題に対処するColorDynamicフレームワークを提案する。
生センサデータを直接制御コマンドにマッピングする、エンドツーエンドのDeep Reinforcement Learning(DRL)の定式化が確立されている。
時間遷移からオンラインDRL学習を可能にする新しいネットワークであるTransqerが導入された。
論文 参考訳(メタデータ) (2025-02-27T09:01:11Z) - PolyFit: A Peg-in-hole Assembly Framework for Unseen Polygon Shapes via
Sim-to-real Adaptation [4.875369637162596]
PolyFitは5-DoFペグインホールアセンブリ用に設計された教師あり学習フレームワークである。
F/Tデータを正確な外因性ポーズ推定に利用し、ペグのポーズを調整して不一致を是正する。
穴内成功率は97.3%と96.3%で、シミュレーションでは目に見えない形状である。
論文 参考訳(メタデータ) (2023-12-05T06:28:33Z) - DTC: Deep Tracking Control [16.2850135844455]
本研究では,両世界の強靭性,フット配置精度,地形の一般化を両世界の利点と組み合わせたハイブリッド制御アーキテクチャを提案する。
深層ニューラルネットワークポリシは、最適化された足場を追跡することを目的として、シミュレーションでトレーニングされている。
モデルベースに比べて滑りやすい地盤や変形可能な地盤が存在する場合の強靭性を示す。
論文 参考訳(メタデータ) (2023-09-27T07:57:37Z) - Robust Learning with Progressive Data Expansion Against Spurious
Correlation [65.83104529677234]
本研究では,2層非線形畳み込みニューラルネットワークの学習過程について検討した。
分析の結果,不均衡なデータ群と学習容易なスプリアス特徴が学習過程におけるスプリアス特徴の優位性に繋がる可能性が示唆された。
本稿では,PDEと呼ばれる新たなトレーニングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-06-08T05:44:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。