論文の概要: Lyapunov-Based Dropout Deep Neural Network (Lb-DDNN) Controller
- arxiv url: http://arxiv.org/abs/2310.19938v1
- Date: Mon, 30 Oct 2023 18:54:08 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-01 18:05:07.087411
- Title: Lyapunov-Based Dropout Deep Neural Network (Lb-DDNN) Controller
- Title(参考訳): リアプノフに基づくDropout Deep Neural Network (Lb-DDNN) コントローラ
- Authors: Saiedeh Akbari, Emily J. Griffis, Omkar Sudhir Patil, Warren E. Dixon
- Abstract要約: ドロップアウト正規化(Dropout regularization)は、トレーニング中にノードをランダムにドロップして、オーバーフィッティングやコ適応といった問題を緩和するアプローチである。
追従誤差の収束を保証するため、非滑らかなリャプノフに基づく安定性解析を行う。
シミュレーションの結果、トラッキングエラーは38.32%改善され、関数近似エラーは53.67%改善され、制御労力は50.44%減少した。
- 参考スコア(独自算出の注目度): 2.4373900721120285
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep neural network (DNN)-based adaptive controllers can be used to
compensate for unstructured uncertainties in nonlinear dynamic systems.
However, DNNs are also very susceptible to overfitting and co-adaptation.
Dropout regularization is an approach where nodes are randomly dropped during
training to alleviate issues such as overfitting and co-adaptation. In this
paper, a dropout DNN-based adaptive controller is developed. The developed
dropout technique allows the deactivation of weights that are stochastically
selected for each individual layer within the DNN. Simultaneously, a
Lyapunov-based real-time weight adaptation law is introduced to update the
weights of all layers of the DNN for online unsupervised learning. A non-smooth
Lyapunov-based stability analysis is performed to ensure asymptotic convergence
of the tracking error. Simulation results of the developed dropout DNN-based
adaptive controller indicate a 38.32% improvement in the tracking error, a
53.67% improvement in the function approximation error, and 50.44% lower
control effort when compared to a baseline adaptive DNN-based controller
without dropout regularization.
- Abstract(参考訳): ディープニューラルネットワーク(DNN)ベースの適応コントローラは、非線形力学系における非構造的不確かさを補うために使用できる。
しかし、DNNは過度な適合と適応にも非常に敏感である。
ドロップアウト正規化(Dropout regularization)は、トレーニング中にノードをランダムにドロップして、オーバーフィッティングやコ適応といった問題を緩和するアプローチである。
本稿では,DNNベースの適応制御器を開発した。
開発したドロップアウト技術は,dnn内の各層ごとに確率的に選択される重みの非活性化を可能にする。
同時に、オンライン教師なし学習のためにdnnの全層の重み付けを更新するために、lyapunovベースのリアルタイム重み付け適応法が導入された。
追跡誤差の漸近収束を確実にするために、非スムースライプノフ系安定性解析を行う。
開発したドロップアウトDNNベースの適応コントローラのシミュレーション結果は、トラッキングエラーが38.32%改善し、関数近似エラーが53.67%改善し、ドロップアウト正規化のないベースライン適応DNNベースのコントローラと比較して50.44%低下したことを示している。
関連論文リスト
- Structured Deep Neural Network-Based Backstepping Trajectory Tracking Control for Lagrangian Systems [9.61674297336072]
提案したコントローラは、任意の互換性のあるニューラルネットワークパラメータに対してクローズループ安定性を確保することができる。
モデル近似誤差や外乱の存在下では、閉ループ安定性と追従制御性能が保証されることが示されている。
論文 参考訳(メタデータ) (2024-03-01T09:09:37Z) - Control-Theoretic Techniques for Online Adaptation of Deep Neural
Networks in Dynamical Systems [0.0]
ディープニューラルネットワーク(DNN)は現在、現代の人工知能、機械学習、データサイエンスの主要なツールである。
多くのアプリケーションでは、DNNは教師付き学習や強化学習を通じてオフラインでトレーニングされ、推論のためにオンラインにデプロイされる。
制御理論からDNNパラメータをオンラインで更新する手法を提案する。
論文 参考訳(メタデータ) (2024-02-01T16:51:11Z) - Achieving Constraints in Neural Networks: A Stochastic Augmented
Lagrangian Approach [49.1574468325115]
DNN(Deep Neural Networks)の正規化は、一般化性の向上とオーバーフィッティングの防止に不可欠である。
制約付き最適化問題としてトレーニングプロセスのフレーミングによるDNN正規化に対する新しいアプローチを提案する。
我々はAugmented Lagrangian (SAL) 法を用いて、より柔軟で効率的な正規化機構を実現する。
論文 参考訳(メタデータ) (2023-10-25T13:55:35Z) - Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳(メタデータ) (2023-03-03T08:17:47Z) - Adaptive Self-supervision Algorithms for Physics-informed Neural
Networks [59.822151945132525]
物理情報ニューラルネットワーク(PINN)は、損失関数のソフト制約として問題領域からの物理的知識を取り入れている。
これらのモデルの訓練性に及ぼす座標点の位置の影響について検討した。
モデルがより高い誤りを犯している領域に対して、より多くのコロケーションポイントを段階的に割り当てる適応的コロケーション方式を提案する。
論文 参考訳(メタデータ) (2022-07-08T18:17:06Z) - Enhanced physics-constrained deep neural networks for modeling vanadium
redox flow battery [62.997667081978825]
本稿では,物理制約付き深部ニューラルネットワーク(PCDNN)による高精度電圧予測手法を提案する。
ePCDNNは、電圧放電曲線のテール領域を含む電荷放電サイクルを通して、電圧応答を正確にキャプチャすることができる。
論文 参考訳(メタデータ) (2022-03-03T19:56:24Z) - FitAct: Error Resilient Deep Neural Networks via Fine-Grained
Post-Trainable Activation Functions [0.05249805590164901]
ディープニューラルネットワーク(DNN)は、パーソナルヘルスケアデバイスや自動運転車などの安全クリティカルなシステムにますます導入されている。
本稿では,DNNの微粒化後のアクティベーション機能を実装することで,DNNのエラーレジリエンスを高めるための低コストなアプローチであるFitActを提案する。
論文 参考訳(メタデータ) (2021-12-27T07:07:50Z) - Stochastic Deep Model Reference Adaptive Control [9.594432031144715]
本稿では,ディープニューラルネットワークを用いたモデル参照適応制御を提案する。
Deep Model Reference Adaptive Controlは、DNNモデルの出力層重みをリアルタイムに適応させるために、リアプノフ法を用いる。
データ駆動型教師付き学習アルゴリズムは、内部層パラメータの更新に使用される。
論文 参考訳(メタデータ) (2021-08-04T14:05:09Z) - Learning to Solve the AC-OPF using Sensitivity-Informed Deep Neural
Networks [52.32646357164739]
最適な電力フロー(ACOPF)のソリューションを解決するために、ディープニューラルネットワーク(DNN)を提案します。
提案されたSIDNNは、幅広いOPFスキームと互換性がある。
他のLearning-to-OPFスキームとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-03-27T00:45:23Z) - LocalDrop: A Hybrid Regularization for Deep Neural Networks [98.30782118441158]
本稿では,ローカルラデマチャー複雑性を用いたニューラルネットワークの正規化のための新しい手法であるLocalDropを提案する。
フルコネクテッドネットワーク(FCN)と畳み込みニューラルネットワーク(CNN)の両方のための新しい正規化機能は、ローカルラデマチャー複雑さの上限提案に基づいて開発されました。
論文 参考訳(メタデータ) (2021-03-01T03:10:11Z) - Self-Adaptive Physics-Informed Neural Networks using a Soft Attention Mechanism [1.6114012813668932]
非線形偏微分方程式(PDE)の数値解に対するディープニューラルネットワークの有望な応用として、物理情報ニューラルネットワーク(PINN)が登場した。
そこで本研究では,PINNを適応的にトレーニングする方法として,適応重みを完全にトレーニング可能とし,各トレーニングポイントに個別に適用する手法を提案する。
線形および非線形のベンチマーク問題による数値実験では、SA-PINNはL2エラーにおいて他の最先端のPINNアルゴリズムよりも優れていた。
論文 参考訳(メタデータ) (2020-09-07T04:07:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。