論文の概要: Knowledge-Distilled End-to-End Reinforcement Learning for Smooth 6-DOF Thrust Control and Rapid Adaptation to Ocean Currents in Remotely Operated Vehicles
- arxiv url: http://arxiv.org/abs/2608.08598v1
- Date: Sun, 09 Aug 2026 09:23:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.878994
- Title: Knowledge-Distilled End-to-End Reinforcement Learning for Smooth 6-DOF Thrust Control and Rapid Adaptation to Ocean Currents in Remotely Operated Vehicles
- Title(参考訳): 遠隔操作車両におけるスムース6-DOFスラスト制御と海流の迅速適応のためのエンド・ツー・エンド強化学習
- Abstract要約: 本稿では, 2段階蒸留学習フレームワークを用いて, ほぼ最適戦略を学習するスラストラピッド・ラピッド・アダプティブ・アダプティブ・ポリシー・最適化(TSRCA-PPO)手法を提案する。
シミュレーションの結果,提案手法は従来型のP-PIDコントローラよりも一貫して優れていた。
- 参考スコア(独自算出の注目度): 16.40999985739862
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the continuous improvement of computational capabilities, end-to-end reinforcement learning has been rapidly developed for remotely operated vehicles control. Nevertheless, existing end-to-end reinforcement-learningbased methods still face challenges in achieving optimal control under oceancurrent disturbances. In particular, there remains a lack of a unified control framework that can simultaneously achieve low steady-state tracking error, rapid transient response, energy-efficient operation, and smooth controlforce outputs under disturbances. To address the issue, this paper proposes the thrust smoothness rapid current adaptation proximal policy optimization (TSRCA-PPO) method which learns a near-optimal strategy by a twostage distillation learning framework. The core innovations of this work lie in the reward-function design and the privileged multi-encoder architecture. Ablation studies validate the effectiveness of each module. Simulation results demonstrate that the proposed TSRCA-PPO method consistently outperforms the conventional cascaded P-PID controller across all evaluation metrics. Specifically, TSRCA-PPO reduces the steady-state position error, steady-state attitude error, settling time, energy index, and thrustsmoothness index to 42.7%, 76.5%, 10.6%, 93.5%, and 15.9% of the corresponding P-PID values, respectively.
- Abstract(参考訳): 計算能力の継続的な向上により、遠隔操作車両制御のためのエンドツーエンド強化学習が急速に開発されている。
それでも、既存のエンドツーエンドの強化学習手法は、海流障害下で最適な制御を達成する上で、依然として課題に直面している。
特に、低定常追従誤差、急激な過渡応答、エネルギー効率の操作、障害時のスムーズな制御出力を同時に達成できる統一的な制御フレームワークがない。
そこで本研究では, 2段階蒸留学習フレームワークを用いて, ほぼ最適戦略を学習するスラストスムーズネス・ラピッド電流適応型近位政策最適化法(TSRCA-PPO)を提案する。
この研究の核となる革新は、報酬関数設計と特権付きマルチエンコーダアーキテクチャである。
アブレーション研究は各モジュールの有効性を検証する。
シミュレーションの結果,提案手法は従来型のP-PIDコントローラよりも高い性能を示した。
具体的には、TSRCA-PPOは、定常位置誤差、定常姿勢誤差、沈降時間、エネルギー指数、推力平滑度指数を、対応するP-PID値の42.7%、76.5%、10.6%、93.5%、および15.9%に減少させる。
関連論文リスト
- Reinforcement Learning with Inner-loop Dynamics Estimator for Aerial Manipulation under Uncertainty [0.560928143828791]
本稿では,Reinforcement Learning (RL) と内部ループ力学推定器を組み合わせた階層型制御フレームワークを提案する。
本研究では, 各種ペイロード条件下でのハードウェア実験により, 3DoFマニピュレータを備えたカスタム四極子に対する提案手法の有効性を検証した。
論文 参考訳(メタデータ) (2026-06-15T12:16:01Z) - A Heuristic Approach for Performance Tuning in RL-based Quadrotor Control via Reward Design and Termination Conditions [14.576960188691215]
強化学習(Reinforcement Learning, RL)に基づく四角形制御ポリシは、乱雑な環境での高速ナビゲーションやドローンレースといったタスクにおいて、優れたパフォーマンスを実現している。
報奨設計と終了条件を用いて,RLに基づくクアドロータ制御におけるチューニング可能な性能を実現するための新しい手法を提案する。
論文 参考訳(メタデータ) (2026-05-18T22:40:30Z) - Drift is a Sampling Error: SNR-Aware Power Distributions for Long-Horizon Robotic Planning [6.615277432526784]
トレーニング不要な推論時間計算フレームワークであるCAPS(Context-Aware Power Sampling)を提案する。
CAPSはグローバルな軌道の確率を高め、モデルの条件付き生成軌道分布のルックアヘッド検索を可能にする。
RoboTwin、Simpler-WindowX、Libero-longベンチマークの実験では、CAPSは強力なベースラインよりも大幅に改善されている。
論文 参考訳(メタデータ) (2026-05-10T13:49:56Z) - Unifying Group-Relative and Self-Distillation Policy Optimization via Sample Routing [79.88256756334327]
自己蒸留政策最適化(SDPO)は、より密集したロジットレベルの監視を提供することによってこの問題に対処する。
サンプル制御ポリシー最適化(SRPO)を提案する。
SRPOは、試料をGRPOの報酬整合強化に向け、サンプルをSDPOの目標ロジットレベルの補正に向ける。
論文 参考訳(メタデータ) (2026-04-02T17:29:18Z) - Robust Spatiotemporal Motion Planning for Multi-Agent Autonomous Racing via Topological Gap Identification and Accelerated MPC [30.927534234540502]
現在の方法は、しばしば厳密なキネマティック制約を単純化または放棄する。
トポロジカル同定と高速化のためのMPCフレームワークを提案する。
連続的なシナリオでは、総操縦時間を51.6%削減する。
密集したボトルネックで81%を超える成功率を維持している。
論文 参考訳(メタデータ) (2026-03-10T04:55:30Z) - When Sensors Fail: Temporal Sequence Models for Robust PPO under Sensor Drift [64.37959940809633]
時間的持続的なセンサ故障下でのPPOのロバスト性について検討する。
トランスフォーマーを用いたシーケンスポリシーは, センサ数が少ない場合でも高いリターンを保ちながら, 堅牢性, RNN, SSMよりも大幅に優れていた。
論文 参考訳(メタデータ) (2026-03-04T22:21:54Z) - Constrained PSO Six-Parameter Fuzzy PID Tuning Method for Balanced Optimization of Depth Tracking Performance in Underwater Vehicles [0.0]
本稿ではファジィPIDコントローラをチューニングするための制約付き粒子群最適化(PSO)手法を提案する。
ファジィPIDシステムの全体的なチューニング強度と動的応答特性の相乗的最適化を実現する。
論文 参考訳(メタデータ) (2026-02-13T08:11:18Z) - HPTune: Hierarchical Proactive Tuning for Collision-Free Model Predictive Control [55.015741360766945]
本稿では,高速なチューニングと低速なチューニングを組み合わせた階層型プロアクティブチューニング(HPTune)フレームワークを提案する。
我々はHPTuneをドップラーLiDARと統合し、位置のみの測定とは別に障害物速度を提供し、運動予測を強化した。
安全でアジャイルな衝突回避戦略を定式化することにより,HPTuneは状況調整型動作計画を可能にする。
論文 参考訳(メタデータ) (2026-01-29T07:15:39Z) - Iterative Refinement of Flow Policies in Probability Space for Online Reinforcement Learning [56.47948583452555]
固定ステップのEulerスキームによるフローマッチング推論プロセスの離散化は,最適輸送から変化するJordan-Kinderlehrer-Otto原理と整合する,というキーインサイトに基づいて,SWFP(Stepwise Flow Policy)フレームワークを紹介した。
SWFPは、大域的な流れを、プロキシメート分布間の小さな漸進的な変換の列に分解する。
この分解は、小さな流れブロックのカスケードを介して事前訓練された流れを微調整する効率的なアルゴリズムを導き、大きな利点をもたらす。
論文 参考訳(メタデータ) (2025-10-17T07:43:51Z) - Growing Q-Networks: Solving Continuous Control Tasks with Adaptive Control Resolution [51.83951489847344]
ロボット工学の応用において、スムーズな制御信号はシステム摩耗とエネルギー効率を減らすために一般的に好まれる。
本研究では,離散的な動作空間を粗い状態から細かい制御分解能まで拡大することにより,この性能ギャップを埋めることを目的とする。
我々の研究は、値分解とアダプティブ・コントロール・リゾリューションが組み合わさることで、単純な批判のみのアルゴリズムが得られ、連続制御タスクにおいて驚くほど高い性能が得られることを示唆している。
論文 参考訳(メタデータ) (2024-04-05T17:58:37Z) - Confidence-Controlled Exploration: Efficient Sparse-Reward Policy Learning for Robot Navigation [72.24964965882783]
強化学習(RL)はロボットナビゲーションにおいて有望なアプローチであり、ロボットは試行錯誤を通じて学習することができる。
現実世界のロボットタスクは、しばしばまばらな報酬に悩まされ、非効率な探索と準最適政策に繋がる。
本稿では,RLに基づくロボットナビゲーションにおいて,報酬関数を変更せずにサンプル効率を向上させる新しい手法であるConfidence-Controlled Exploration (CCE)を紹介する。
論文 参考訳(メタデータ) (2023-06-09T18:45:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。