論文の概要: HypEMBER: Hypernetwork-based Ensemble for Robust Policy Learning of Parametrized Dynamical Systems
- arxiv url: http://arxiv.org/abs/2607.19628v1
- Date: Tue, 21 Jul 2026 23:37:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-23 18:51:37.942637
- Title: HypEMBER: Hypernetwork-based Ensemble for Robust Policy Learning of Parametrized Dynamical Systems
- Title(参考訳): HypEMBER:並列化力学系のロバストポリシー学習のためのハイパーネットワークベースのアンサンブル
- Abstract要約: 本稿では,ハイパーネットワークとアンサンブル学習を組み合わせた新しいRLフレームワークHypEMBERを紹介する。
その結果、HypEMBERはトレーニングの安定性とサンプル効率を継続的に改善し、システム力学と可観測性の両方に影響を及ぼす不確実性に対して優れた堅牢性を実現している。
- 参考スコア(独自算出の注目度): 0.7099737083842057
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work we investigate reinforcement learning (RL) as a framework for the robust control of parametrized dynamical systems in presence of measurements and model uncertainties. High-dimensional state spaces, expensive numerical solvers, the partial knowledge of the governing equations, and the dependence on physical parameters that may be uncertain or difficult to estimate accurately, make the use of standard RL approaches computationally unfeasible. Indeed, lack of robustness and poor generalization across parameter variations are further amplified in presence of noisy or incomplete measurements, ultimately hampering control performance. To address these challenges, we introduce HypEMBER, a novel RL framework based on the combination of hypernetworks and ensemble learning. In the proposed approach, both the policy and value functions are represented through hypernetworks that generate the weights of the underlying models conditioned on the physical parameters of the system, thereby enabling parametric generalization across different dynamical regimes. In addition, an ensemble of policy and value approximators is employed to quantify epistemic uncertainty, leading to improved exploration strategies and enhanced robustness during and after training. The performance of the proposed framework is assessed on two representative parametrized control problems: (i) the one-dimensional Kuramoto-Sivashinsky equation and (ii) a particle-navigation task in a two-dimensional time-dependent gyre flow, focusing on robustness with respect to measurement noise and parameter misspecification. Numerical results demonstrate that HypEMBER consistently improves training stability and sample efficiency, while achieving superior robustness to uncertainties affecting both the system dynamics and the available observations, in comparison with state-of-the-art RL methods.
- Abstract(参考訳): 本研究では,パラメータ化力学系を計測・モデル不確実性の存在下で頑健に制御するための枠組みとして強化学習(RL)について検討する。
高次元状態空間、高価な数値解法、支配方程式の部分的知識、正確に見積もることの難しい物理パラメータへの依存は、標準RLアプローチを計算的に不可能にする。
実際、パラメータの変動に対する頑健さや一般化の欠如は、ノイズや不完全な測定の存在下でさらに増幅され、最終的には制御性能を阻害する。
これらの課題に対処するために,ハイパーネットワークとアンサンブル学習を組み合わせた新しいRLフレームワークHypEMBERを紹介する。
提案手法では,条件と値関数の両方をハイパーネットで表現し,システムの物理パラメータに条件付きモデルの重み付けを生成することにより,異なる力学系をまたいだパラメトリック一般化を実現する。
さらに、疫学的な不確実性を定量化するために、政策と価値の近似器のアンサンブルが使用され、調査戦略の改善と訓練前後の堅牢性の向上につながった。
提案フレームワークの性能は,2つの代表的なパラメータ化制御問題に基づいて評価される。
(i)一次元倉本・シヴァシンスキー方程式及び
(II)2次元時間依存性のジャイア流れにおける粒子ナビゲーションの課題は,計測ノイズやパラメータの誤特定に対するロバスト性に着目したものである。
実験結果から,HypEMBERはトレーニングの安定性とサンプル効率を常に向上し,システム力学と可観測性の両方に影響を及ぼす不確実性に対して,最先端のRL法と比較して優れたロバスト性を実現していることが示された。
関連論文リスト
- Physics-enhanced reinforcement learning for real-time optimal control of dynamical systems [0.3499870393443268]
強化学習 (Reinforcement Learning, RL) は非線形および複雑な力学系のフィードバック制御戦略として期待されている。
本研究では、新しい物理エンハンスメント強化学習(PEARL)パラダイムを用いて、RLと従来の動的システムの最適制御を橋渡しする。
論文 参考訳(メタデータ) (2026-07-17T17:56:05Z) - Model-Based Diffusion Sampling for Predictive Control in Offline Decision Making [48.998030470623384]
オフラインの意思決定は、さらなるインタラクションを伴わずに、固定データセットからの信頼性の高い振る舞いを必要とする。
i)タスク整列軌道を多様に生成するプランナー,(ii)システム力学との整合性を強制するダイナミクスモデル,(iii)タスク目標に整合した動作を選択するランサーモジュールからなる構成モデルに基づく拡散フレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-09T06:26:02Z) - Meta-learning Structure-Preserving Dynamics [6.088897644268474]
本稿では,潜在的に未知のシステムパラメータのコンパクトな潜在表現に対して,構造保存モデルを記述する変調に基づくメタラーニングフレームワークを提案する。
動的システムのパラメトリックファミリをまたいだスケーラブルで一般化可能な学習を可能にする。
論文 参考訳(メタデータ) (2025-08-15T04:30:27Z) - Beyond Static Models: Hypernetworks for Adaptive and Generalizable Forecasting in Complex Parametric Dynamical Systems [0.0]
補間ネットワーク学習のためのパラメトリックハイパーネットワーク(PHLieNet)について紹介する。
PHLieNetはパラメータ空間から非線形埋め込みへのグローバルマッピングと、推論埋め込みから動的伝播ネットワークの重みへのマッピングを同時に学習する。
観測よりもモデルの空間を補間することにより、PHLieNetはパラメータ化されたシステム挙動間のスムーズな遷移を促進する。
論文 参考訳(メタデータ) (2025-06-24T13:22:49Z) - Efficient Transformed Gaussian Process State-Space Models for Non-Stationary High-Dimensional Dynamical Systems [49.819436680336786]
本研究では,高次元非定常力学系のスケーラブルかつ柔軟なモデリングのための効率的な変換ガウス過程状態空間モデル(ETGPSSM)を提案する。
具体的には、ETGPSSMは、単一の共有GPと入力依存の正規化フローを統合し、複雑な非定常遷移ダイナミクスを捉える前に、表現的な暗黙のプロセスを生成する。
ETGPSSMは、計算効率と精度の観点から、既存のGPSSMとニューラルネットワークベースのSSMより優れています。
論文 参考訳(メタデータ) (2025-03-24T03:19:45Z) - Learning Controlled Stochastic Differential Equations [61.82896036131116]
本研究では,非一様拡散を伴う連続多次元非線形微分方程式のドリフト係数と拡散係数の両方を推定する新しい手法を提案する。
我々は、(L2)、(Linfty)の有限サンプル境界や、係数の正則性に適応する学習率を持つリスクメトリクスを含む、強力な理論的保証を提供する。
当社のメソッドはオープンソースPythonライブラリとして利用可能です。
論文 参考訳(メタデータ) (2024-11-04T11:09:58Z) - Improve Noise Tolerance of Robust Loss via Noise-Awareness [60.34670515595074]
本稿では,NARL-Adjuster(NARL-Adjuster for brevity)と呼ばれる,ハイパーパラメータ予測関数を適応的に学習するメタラーニング手法を提案する。
4つのSOTAロバストな損失関数を我々のアルゴリズムに統合し,提案手法の一般性および性能をノイズ耐性と性能の両面で検証した。
論文 参考訳(メタデータ) (2023-01-18T04:54:58Z) - Reduced order modeling of parametrized systems through autoencoders and
SINDy approach: continuation of periodic solutions [0.0]
本研究は,ROM構築と動的識別の低減を組み合わせたデータ駆動型非侵入型フレームワークを提案する。
提案手法は、非線形力学(SINDy)のパラメトリックスパース同定によるオートエンコーダニューラルネットワークを利用して、低次元力学モデルを構築する。
これらは、システムパラメータの関数として周期的定常応答の進化を追跡し、過渡位相の計算を避け、不安定性と分岐を検出することを目的としている。
論文 参考訳(メタデータ) (2022-11-13T01:57:18Z) - A Priori Denoising Strategies for Sparse Identification of Nonlinear
Dynamical Systems: A Comparative Study [68.8204255655161]
本研究では, 局所的およびグローバルな平滑化手法の性能と, 状態測定値の偏差について検討・比較する。
一般に,測度データセット全体を用いたグローバルな手法は,局所点の周辺に隣接するデータサブセットを用いる局所的手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-01-29T23:31:25Z) - DySMHO: Data-Driven Discovery of Governing Equations for Dynamical
Systems via Moving Horizon Optimization [77.34726150561087]
本稿では,スケーラブルな機械学習フレームワークである移動水平最適化(DySMHO)による動的システムの発見について紹介する。
DySMHOは、基底関数の大きな辞書から基礎となる支配方程式を逐次学習する。
標準非線形力学系の例は、DySMHOが規則を正確に回復できることを示すために用いられる。
論文 参考訳(メタデータ) (2021-07-30T20:35:03Z) - Heteroscedastic Bayesian Optimisation for Stochastic Model Predictive
Control [23.180330602334223]
モデル予測制御(MPC)は、複雑な物理システムの制御を含むアプリケーションで成功している。
制御器の動作のランダム性に起因した余分な課題を提示する,MPC のコンテキストにおける微調整 MPC 手法について検討する。
論文 参考訳(メタデータ) (2020-10-01T05:31:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。