論文の概要: Integrating Physics-Informed Neural Networks for Safe Reinforcement Learning in a 1-DoF Helicopter System
- arxiv url: http://arxiv.org/abs/2607.03125v1
- Date: Fri, 03 Jul 2026 09:14:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.526453
- Title: Integrating Physics-Informed Neural Networks for Safe Reinforcement Learning in a 1-DoF Helicopter System
- Title(参考訳): 1-DoFヘリコプタシステムにおける安全強化学習のための物理情報ニューラルネットワークの統合
- Abstract要約: 深層強化学習(DRL)は、産業用サイバー物理システムに強力な制御を提供する。
その“ブラックボックス”探索は、厳格なハードウェア安全性の限界を侵害するリスクがある。
近似ポリシー最適化関数に直接微分可能な物理モデルを組み込む。
- 参考スコア(独自算出の注目度): 0.4460583138505672
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Deep reinforcement learning (DRL) offers powerful control for industrial cyber-physical systems (ICPSs), but its "black-box" exploration risks violating strict hardware safety limits. Typically, these constraints are managed through complex reward shaping. In this work-in-progress paper, we embed a differentiable physics model directly into the proximal policy optimization (PPO) actor loss function. By simulating short-horizon future trajectories during training, the policy is penalized for anticipated safety violations independent of the task-reward signal. Evaluated on a simulated 1-degree-of-freedom helicopter testbed with strict pitch constraints, our physics-informed soft regularizations substantially reduce constraint violations while maintaining reliable target tracking.
- Abstract(参考訳): 深層強化学習(DRL)は、産業用サイバー物理システム(ICPS)の強力な制御を提供するが、その「ブラックボックス」探索は厳格なハードウェア安全性の限界を侵害するリスクがある。
通常、これらの制約は複雑な報酬形成によって管理される。
本稿では,PPOのアクター損失関数に直接微分可能な物理モデルを組み込む。
訓練中の短地将来の軌跡をシミュレートすることにより、タスク・リワード信号とは無関係に、予想される安全違反に対して、ポリシーが罰せられる。
厳密なピッチ制約のある模擬1自由度ヘリコプターを用いて評価した結果,物理インフォームドソフト正規化により,信頼性の高い目標追跡を維持しつつ,制約違反を大幅に低減できることがわかった。
関連論文リスト
- Safe Reinforcement Learning using Ideas from Model Predictive Control [0.40831821256838124]
強化学習は、データから直接制御ポリシーを合成することを可能にする。
永続的な課題は、アクティブな学習フェーズにおける厳格で厳しい安全性の制約を保証することです。
本稿では,深層強化学習の適応的かつ高性能な性質と,モデル予測制御の形式的安全性を保証する枠組みを提案する。
論文 参考訳(メタデータ) (2026-07-08T10:35:04Z) - World Engine: Towards the Era of Post-Training for Autonomous Driving [63.61277741443647]
実世界のログから高忠実度インタラクティブ環境を再構築する生成フレームワークであるWorld Engineを紹介する。
World Engineは、稀な安全クリティカルなシナリオにおける障害を大幅に削減し、事前トレーニングデータのみをスケールするよりもはるかに大きな利益をもたらす。
プロダクションスケールの自動運転システムにデプロイすると、結果として、シミュレートされた衝突を減らすことができる。
論文 参考訳(メタデータ) (2026-06-18T06:28:33Z) - Shield-Loco: Shielding Locomotion Policies with Predictive Safety Filtering [10.242244578585897]
大規模オフライン安全な学習は、すべてのエッジケースをカバーするには実用的ではない。
本稿では,RLポリシーに従属する名目接触位置をポストホックフィルタでフィルタする安全フィルタを提案する。
密集した散らばった環境下での四足ロボットのフィルタの有効性を検証する。
論文 参考訳(メタデータ) (2026-06-05T11:59:43Z) - Learning Reactive Dexterous Grasping via Hierarchical Task-Space RL Planning and Joint-Space QP Control [50.28263951510334]
本稿では,リアクティブなデクスタリーグルーピングのためのハイブリッド階層型制御フレームワークを提案する。
提案手法は,低レベル共同実行から高レベル空間意図を明示的に分離する。
我々は厳密なシミュレーションと現実のパイプラインを通して提案したフレームワークを広範囲に検証する。
論文 参考訳(メタデータ) (2026-05-05T04:49:38Z) - Dynamic-TD3: A Novel Algorithm for UAV Path Planning with Dynamic Obstacle Trajectory Prediction [21.408459244943597]
操作性を維持しながら厳格な制約を強制する物理的に強化されたフレームワークであるDynamic-TD3を提案する。
攻撃的な動的脅威を伴う実験では、衝突回避性能、エネルギー消費の低減、よりスムーズな飛行軌道が示される。
論文 参考訳(メタデータ) (2026-04-30T02:56:29Z) - Hierarchical Reinforcement Learning with Runtime Safety Shielding for Power Grid Operation [0.0]
本稿では,電力グリッド運用のための安全制約付き階層制御フレームワークを提案する。
高レベルの強化学習ポリシは抽象的な制御アクションを提案し、決定論的ランタイム安全シールドは安全でないアクションをフィルタリングする。
その結果, 平坦な強化学習政策はストレス下で脆弱であり, 安全性のみの手法は過度に保守的であることがわかった。
論文 参考訳(メタデータ) (2026-04-15T16:11:10Z) - Physics-Informed Reinforcement Learning of Spatial Density Velocity Potentials for Map-Free Racing [73.88859384645264]
Out-Of-Distribution (OOD) の様々なレーストラックへの一般化は、機械学習(ML)を用いて、エンドツーエンド制御のためのセンサデータと車両アクチュエーターの間の数学的関係を符号化する。
本稿では,非幾何学的,物理インフォームド報酬を用いた深度測定のスペクトル分布から非線形車両動特性をパラメータ化して,ニューラルネットワーク(ANN)による車両の時間最適・乗換レース制御を推定するDRL法を提案する。
このポリシーは、経験的なパセジカタイヤモデルに似たタイヤのダイナミックスで摩擦円を最大化することで、OODトラックの12%で人間のデモより優れています。
論文 参考訳(メタデータ) (2026-04-10T17:12:07Z) - FlashSAC: Fast and Stable Off-Policy Reinforcement Learning for High-Dimensional Robot Control [55.38832429564216]
強化学習(Reinforcement Learning, RL)は、専門家によるデモンストレーションが利用できない場合のロボット制御における中核的なアプローチである。
我々は,Soft Actor-Critic上に構築された高速で安定なオフポリチィRLアルゴリズムであるFlashSACを提案する。
10のシミュレータで60以上のタスクをこなし、FlashSACは最終的なパフォーマンスとトレーニング効率の両方において、PPOと強力なオフポリシーベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-04-06T09:03:41Z) - Learning Agile Quadrotor Flight in the Real World [24.272916786375365]
学習ベースのコントローラは、アジャイルの4倍体飛行で素晴らしいパフォーマンスを達成したが、一般的にはシミュレーションの大規模なトレーニングに依存している。
システム識別やオフラインのSim2Real転送を必要としない自己適応型フレームワークを提案する。
本稿では、適応時間スケーリング(ATS)を導入し、プラットフォーム物理限界を積極的に探求し、オンライン残差学習を用いて単純な名目モデルを強化する。
論文 参考訳(メタデータ) (2026-02-10T18:59:28Z) - Modular Control Architecture for Safe Marine Navigation: Reinforcement Learning and Predictive Safety Filters [0.0]
強化学習は複雑なシナリオに適応するためにますます使われていますが、安全性と安定性を保証するための標準フレームワークは欠如しています。
予測安全フィルタ(PSF)は、明示的な制約処理を伴わずに、学習ベースの制御における制約満足度を確保する、有望なソリューションを提供する。
この手法を海洋航法に適用し,シミュレーションされたCybership IIモデル上でRLとPSFを組み合わせた。
その結果, PSF が安全維持に有効であることは, RL エージェントの学習速度と性能を損なうことなく示され, PSF を使用せずに標準 RL エージェントに対して評価された。
論文 参考訳(メタデータ) (2023-12-04T12:37:54Z) - A Multiplicative Value Function for Safe and Efficient Reinforcement
Learning [131.96501469927733]
本稿では,安全評論家と報酬評論家からなる新しい乗法値関数を持つモデルフリーRLアルゴリズムを提案する。
安全評論家は、制約違反の確率を予測し、制限のないリターンのみを見積もる報酬批評家を割引する。
安全制約を付加した古典的RLベンチマークや、画像を用いたロボットナビゲーションタスク、生のライダースキャンを観察する4つの環境において、本手法の評価を行った。
論文 参考訳(メタデータ) (2023-03-07T18:29:15Z) - Learning Barrier Certificates: Towards Safe Reinforcement Learning with
Zero Training-time Violations [64.39401322671803]
本稿では、トレーニング時安全違反をゼロとした安全RLアルゴリズムの可能性について検討する。
本稿では、バリア証明書、動的モデル、ポリシーを反復的に学習する、CRABS(Co-trained Barrier Certificate for Safe RL)を提案する。
論文 参考訳(メタデータ) (2021-08-04T04:59:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。