論文の概要: Sparse Bayesian Deep Learning for Dynamic System Identification
- arxiv url: http://arxiv.org/abs/2107.12910v1
- Date: Tue, 27 Jul 2021 16:09:48 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-28 14:26:38.485825
- Title: Sparse Bayesian Deep Learning for Dynamic System Identification
- Title(参考訳): 動的システム同定のためのスパースベイズ深層学習
- Authors: Hongpeng Zhou, Chahine Ibrahim, Wei Xing Zheng, Wei Pan
- Abstract要約: 本稿では,システム同定のためのディープニューラルネットワーク(DNN)の疎ベイズ処理を提案する。
提案されたベイズ的アプローチは、限界確率/モデル証拠近似による課題を緩和する原則的な方法を提供する。
提案手法の有効性を線形および非線形システム同定ベンチマークで示す。
- 参考スコア(独自算出の注目度): 14.040914364617418
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: This paper proposes a sparse Bayesian treatment of deep neural networks
(DNNs) for system identification. Although DNNs show impressive approximation
ability in various fields, several challenges still exist for system
identification problems. First, DNNs are known to be too complex that they can
easily overfit the training data. Second, the selection of the input regressors
for system identification is nontrivial. Third, uncertainty quantification of
the model parameters and predictions are necessary. The proposed Bayesian
approach offers a principled way to alleviate the above challenges by marginal
likelihood/model evidence approximation and structured group sparsity-inducing
priors construction. The identification algorithm is derived as an iterative
regularized optimization procedure that can be solved as efficiently as
training typical DNNs. Furthermore, a practical calculation approach based on
the Monte-Carlo integration method is derived to quantify the uncertainty of
the parameters and predictions. The effectiveness of the proposed Bayesian
approach is demonstrated on several linear and nonlinear systems identification
benchmarks with achieving good and competitive simulation accuracy.
- Abstract(参考訳): 本稿では,システム同定のためのディープニューラルネットワーク(DNN)の疎ベイズ処理を提案する。
DNNは様々な分野において顕著な近似能力を示すが、システム識別問題にはいくつかの課題がある。
まず、DNNは複雑すぎることで知られており、トレーニングデータを簡単にオーバーフィットさせることができる。
第2に、システム識別のための入力レグレッシャの選択は自明である。
第3に,モデルパラメータの不確かさの定量化と予測が必要である。
提案するベイズ的アプローチは、限界可能性/モデル証拠近似と構造化群スパーシティ誘導優先構成による上記の課題を緩和するための原理的な方法を提供する。
同定アルゴリズムは、典型的なdnnの訓練と同じくらい効率的に解くことができる反復正規化最適化手順として導出される。
さらに,モンテカルロ積分法に基づく実用的な計算手法を導出し,パラメータの不確かさと予測を定量化する。
提案手法の有効性を線形および非線形システム同定ベンチマークを用いて実証し, 精度と性能を比較検討した。
関連論文リスト
- Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳(メタデータ) (2023-03-03T16:12:59Z) - Robust identification of non-autonomous dynamical systems using
stochastic dynamics models [0.0]
本稿では, 非線形・非線形非自律系における雑音・スパースデータからのシステム識別(ID)の問題について考察する。
隠れマルコフモデル学習のためのベイズ式から導かれる目的関数を提案し,解析する。
提案手法は,システムIDに適合するスムーズさと本質的な正規化を改善したことを示す。
論文 参考訳(メタデータ) (2022-12-20T16:36:23Z) - MARS: Meta-Learning as Score Matching in the Function Space [79.73213540203389]
本稿では,一連の関連するデータセットから帰納バイアスを抽出する手法を提案する。
機能的ベイズニューラルネットワーク推論を用いて、前者をプロセスとみなし、関数空間で推論を行う。
本手法は,データ生成プロセスのスコア関数をメタラーニングすることにより,複雑な事前知識をシームレスに獲得し,表現することができる。
論文 参考訳(メタデータ) (2022-10-24T15:14:26Z) - Deep Learning Aided Laplace Based Bayesian Inference for Epidemiological
Systems [2.596903831934905]
本稿では,Laplace をベースとしたベイズ推定と ANN アーキテクチャを併用して ODE 軌道の近似を求めるハイブリッド手法を提案する。
本手法の有効性を,非分析的ソリューションを用いた疫学システム,Susceptible-Infectious-Demoved (SIR) モデルを用いて実証した。
論文 参考訳(メタデータ) (2022-10-17T09:02:41Z) - An Accelerated Doubly Stochastic Gradient Method with Faster Explicit
Model Identification [97.28167655721766]
本稿では、分散正規化損失最小化問題に対する2倍加速勾配降下法(ADSGD)を提案する。
まず、ADSGDが線形収束率を達成でき、全体的な計算複雑性を低減できることを示す。
論文 参考訳(メタデータ) (2022-08-11T22:27:22Z) - Large-Scale Sequential Learning for Recommender and Engineering Systems [91.3755431537592]
本稿では,現在の状況に適応してパーソナライズされたランキングを提供する自動アルゴリズムの設計に焦点を当てる。
前者はSAROSと呼ばれる新しいアルゴリズムを提案し,インタラクションの順序を学習するためのフィードバックの種類を考慮に入れている。
提案手法は, 電力網の故障検出に対する初期アプローチと比較して, 統計的に有意な結果を示す。
論文 参考訳(メタデータ) (2022-05-13T21:09:41Z) - System identification using Bayesian neural networks with nonparametric
noise models [0.0]
離散時間非線形ランダムダイナミクス系におけるシステム同定のための非パラメトリックアプローチを提案する。
後部推論用ギブスサンプリング器を提案し, シミュレーションおよび実時間時系列でその有効性を示した。
論文 参考訳(メタデータ) (2021-04-25T09:49:50Z) - Learning Regularization Parameters of Inverse Problems via Deep Neural
Networks [0.0]
ネットワークが観察データから正規化パラメータへのマッピングを近似するように訓練される、教師付き学習アプローチを検討する。
本稿では,多種多様な正規化関数,フォワードモデル,ノイズモデルについて考察する。
ネットワークが取得する正規化パラメータは、より効率的に計算でき、より正確なソリューションにもつながります。
論文 参考訳(メタデータ) (2021-04-14T02:38:38Z) - Multivariate Deep Evidential Regression [77.34726150561087]
不確実性を認識するニューラルネットワークによる新しいアプローチは、従来の決定論的手法よりも有望である。
本稿では,レグレッションベースニューラルネットワークからアレータ性およびてんかん性不確かさを抽出する手法を提案する。
論文 参考訳(メタデータ) (2021-04-13T12:20:18Z) - A Meta-Learning Approach to the Optimal Power Flow Problem Under
Topology Reconfigurations [69.73803123972297]
メタラーニング(MTL)アプローチを用いて訓練されたDNNベースのOPF予測器を提案する。
開発したOPF予測器はベンチマークIEEEバスシステムを用いてシミュレーションにより検証される。
論文 参考訳(メタデータ) (2020-12-21T17:39:51Z) - Variational Nonlinear System Identification [0.8793721044482611]
本稿では,非線形状態空間モデルに対するパラメータ推定について検討する。
我々は,最大確率推定に深いつながりを持つ原理的手法である変分推論(vi)アプローチを採用する。
このviアプローチは最終的に、決定論的で扱いやすく、標準最適化ツールを使って解決できる最適化問題の解としてモデルの推定を提供する。
論文 参考訳(メタデータ) (2020-12-08T05:43:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。