論文の概要: Power-Budgeted Underwater Vehicle Control via Constrained Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2606.25680v1
- Date: Wed, 24 Jun 2026 10:48:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 17:05:30.311778
- Title: Power-Budgeted Underwater Vehicle Control via Constrained Reinforcement Learning
- Title(参考訳): 拘束強化学習による水力発電制御
- Abstract要約: 水中車両は、推進が急速に枯渇する固定されたエネルギー予算から運用されるため、スラスターパワーを減らしながらタスクを完了し、ミッション範囲と持続性を直接的に拡張する制御装置である。
本稿では、PPO-ラグランジアンアルゴリズムを用いて、平均スラスタ電力が明示的な予算を受ける制約付きマルコフ決定過程として、エネルギー効率の高い水中制御を定式化する。
- 参考スコア(独自算出の注目度): 4.041365563021007
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Underwater vehicles operate from a fixed onboard energy budget that propulsion rapidly depletes, so a controller that completes its task while drawing less thruster power directly extends mission range and endurance. Reinforcement learning yields capable model-free controllers for station-keeping and trajectory tracking, but optimizing task accuracy alone drives the policy toward oscillatory, energy-wasting actuation. The established remedy subtracts an energy penalty from the reward, yet this sets the task-power trade-off through a single weight with no physical units: a target power level cannot be specified, the weight must be re-tuned for every vehicle and task, and a mismatched weight can even raise power. This paper instead formulates energy-efficient underwater control as a constrained Markov decision process in which average thruster power is subject to an explicit budget, solved with a PPO-Lagrangian algorithm. The power level is set by declaring a budget in physical units, and a single dual variable is updated online to meet it for each vehicle and task, without manual weight search. Across three vehicles and four tasks in the MarineGym simulator, the energy-constrained policy draws the least power in all twelve settings, reducing it by 14--65\% (up to 64.9\%) over a task-only baseline and below an energy-reward baseline everywhere, while remaining the smoothest in ten settings and preserving task accuracy except in one deliberately power-limited regime. Imposing energy as an explicit constraint thus offers a tuning-free route to energy-efficient underwater control that needs no per-vehicle, per-task weight search.
- Abstract(参考訳): 水中車両は、推進が急速に枯渇する固定されたエネルギー予算から運用されるため、スラスターパワーを減らしながらタスクを完了し、ミッション範囲と持続性を直接的に拡張する制御装置である。
強化学習は、ステーションキーピングと軌道追跡のためのモデルレスコントローラを出力するが、タスクの精度を最適化するだけで、振動やエネルギーを消費するアクチュエーターへのポリシーを駆動する。
確立された治療法は、報酬からエネルギーのペナルティを減じるが、これは、目標のパワーレベルを指定できず、全ての車両とタスクのために重みを調整しなければなりません。
本論文は,PPO-ラグランジアンアルゴリズムを用いて,平均スラスタ電力を明示的な予算で処理する制約付きマルコフ決定過程として,エネルギー効率の高い水中制御を定式化する。
パワーレベルは、物理的単位の予算を宣言して設定され、1つの二重変数がオンラインで更新され、手動の重量探索なしで各車両とタスクに適合する。
マリナーギムシミュレーターの3つの車両と4つのタスクで、エネルギー制約されたポリシーは12つの設定で最小の電力を引き出し、タスクのみのベースラインを14--65\%(最大64.9\%)減らし、エネルギーリワードベースラインを至る所で減らした。
したがって、明示的な制約としてエネルギーを注入することは、車両ごとの重量探索を必要としないエネルギー効率の高い水中制御へのチューニングのない経路を提供する。
関連論文リスト
- Learning to Exploit Passive Dynamics for Energy-Efficient Target Hopping of a Spring-Legged Quadcopter [6.592942321170304]
明示的なホッピング状態マシンや低レベルの姿勢PIDを使わずに4つのモーターを制御できるポリシーを提案する。
その報酬は、質量正規化された垂直エネルギー追跡のためのエネルギ・マニフォールド・シェイピングと、効率・シェイピングによる頂点状態アンカーを組み合わせたものである。
代表的なハードウェアでは、PPOベースの制御スタックにより、平均で測定された電力を30.7%削減した。
論文 参考訳(メタデータ) (2026-09-14T12:14:58Z) - Strouhal-Aware Model Predictive Control for Efficient Multi-Fin Flapping Locomotion [3.643400431800639]
我々は自律型水中車両のためのストローハル対応モデル予測制御(MPC)を開発した。
コントローラーは各フィンを最適なストローハル回廊内に保持し、コマンドフォースを正確に追跡する。
提案手法は, 到達不可能な逆モデルである0.4m/sの速度も許容する。
論文 参考訳(メタデータ) (2026-07-03T11:30:53Z) - Sim2Swim: Zero-Shot Velocity Control for Agile AUV Maneuvering in 3 Minutes [2.6511518230332753]
ホロノミック・自律型水中車両(AUV)は、翻訳的および回転的自由度(DOF)の両方において、アジャイル操作のハードウェア能力を有する
本報告では, 訓練期間をわずか3分で行うことにより, 経路追従とアジャイル6DOF操作を可能にする, 汎用ゼロショット・シム2リアル深部強化学習(DRL)速度制御器について述べる。
論文 参考訳(メタデータ) (2025-12-09T14:42:26Z) - Shielded Controller Units for RL with Operational Constraints Applied to Remote Microgrids [50.64533198075622]
強化学習(Reinforcement Learning, RL)は、不確実性の下で複雑なシステムにおける意思決定を最適化するための強力なフレームワークである。
本稿では,システムダイナミクスの事前知識を活用する体系的かつ解釈可能なアプローチであるシールド制御ユニット(SCU)を紹介する。
本研究では,厳密な運用要件を持つ遠隔マイクログリッド最適化タスクにおけるSCUの有効性を示す。
論文 参考訳(メタデータ) (2025-11-30T19:28:34Z) - Reducing base drag on road vehicles using pulsed jets optimized by hybrid genetic algorithms [0.0]
本稿では, ブラフボディーモデルの後縁に4つのパルスジェットを用いたアクティブフロー制御実験を, 78,300ドルで実施した。
モデルフリーの最適化手法は、非直感的で多面的アクチュエータ戦略を効果的に識別し、重大かつエネルギ的に効率的なドラッグリダクションを実現できる。
論文 参考訳(メタデータ) (2025-10-30T17:20:44Z) - Joint Resource Management for Energy-efficient UAV-assisted SWIPT-MEC: A Deep Reinforcement Learning Approach [50.52139512096988]
6G Internet of Things (IoT)ネットワークは、地上インフラストラクチャが利用できない遠隔地や災害シナリオにおいて、課題に直面している。
本稿では、指向性アンテナにより強化された新しい無人航空機(UAV)支援コンピューティングシステムを提案する。
論文 参考訳(メタデータ) (2025-05-06T06:46:19Z) - Toward 6-DOF Autonomous Underwater Vehicle Energy-Aware Position Control based on Deep Reinforcement Learning: Preliminary Results [0.0]
本稿では,Trncated Quantile Critics (TQC)アルゴリズムを用いてホロノミック6-DOF AUVを制御するためのDRLベースの新しいアプローチを提案する。
手動のチューニングを必要とせず、スラスタにコマンドを直接送る。
論文 参考訳(メタデータ) (2025-02-25T00:37:57Z) - A Safe Reinforcement Learning Algorithm for Supervisory Control of Power
Plants [7.1771300511732585]
モデルフリー強化学習(RL)は、制御タスクのための有望なソリューションとして登場した。
本稿では,監督制御のための近似ポリシ最適化に基づく確率制約付きRLアルゴリズムを提案する。
本手法は, 原子力プラント設計における負荷追従操作において, 違反距離と違反率の最小化を実現するものである。
論文 参考訳(メタデータ) (2024-01-23T17:52:49Z) - Real-Time Model-Free Deep Reinforcement Learning for Force Control of a
Series Elastic Actuator [56.11574814802912]
最先端のロボットアプリケーションは、歩行、揚力、操作などの複雑なタスクを達成するために、閉ループ力制御を備えた連続弾性アクチュエータ(SEAs)を使用する。
モデルフリーPID制御法はSEAの非線形性により不安定になりやすい。
深層強化学習は連続制御タスクに有効なモデルレス手法であることが証明されている。
論文 参考訳(メタデータ) (2023-04-11T00:51:47Z) - Controllable Dynamic Multi-Task Architectures [92.74372912009127]
本稿では,そのアーキテクチャと重みを動的に調整し,所望のタスク選択とリソース制約に適合させる制御可能なマルチタスクネットワークを提案する。
本稿では,タスク親和性と分岐正規化損失を利用した2つのハイパーネットの非交互トレーニングを提案し,入力の嗜好を取り入れ,適応重み付き木構造モデルを予測する。
論文 参考訳(メタデータ) (2022-03-28T17:56:40Z) - Enforcing Policy Feasibility Constraints through Differentiable
Projection for Energy Optimization [57.88118988775461]
本稿では,ニューラルポリシー内での凸操作制約を強制するために,PROF(Projected Feasibility)を提案する。
エネルギー効率の高い建築操作とインバータ制御の2つの応用についてPROFを実証する。
論文 参考訳(メタデータ) (2021-05-19T01:58:10Z) - ECO: Enabling Energy-Neutral IoT Devices through Runtime Allocation of
Harvested Energy [0.8774604259603302]
本稿では,エネルギー制約下での目標デバイスの有用性を最適化するランタイムベースのエネルギー配分フレームワークを提案する。
提案フレームワークは, 効率的な反復アルゴリズムを用いて, 初期エネルギー割り当てを1日の初めに計算する。
このフレームワークは、太陽と運動エネルギーの収穫モードと、4772の異なるユーザーからのアメリカンタイムユースサーベイデータを使用して評価します。
論文 参考訳(メタデータ) (2021-02-26T17:21:25Z) - Multi-Agent Meta-Reinforcement Learning for Self-Powered and Sustainable
Edge Computing Systems [87.4519172058185]
エッジコンピューティング機能を有するセルフパワー無線ネットワークの効率的なエネルギー分配機構について検討した。
定式化問題を解くために,新しいマルチエージェントメタ強化学習(MAMRL)フレームワークを提案する。
実験の結果、提案されたMAMRLモデルは、再生不可能なエネルギー使用量を最大11%削減し、エネルギーコストを22.4%削減できることが示された。
論文 参考訳(メタデータ) (2020-02-20T04:58:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。