論文の概要: Initialization Approach for Nonlinear State-Space Identification via the
Subspace Encoder Approach
- arxiv url: http://arxiv.org/abs/2304.02119v2
- Date: Thu, 6 Apr 2023 21:57:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-10 14:26:55.699952
- Title: Initialization Approach for Nonlinear State-Space Identification via the
Subspace Encoder Approach
- Title(参考訳): 部分空間エンコーダ法による非線形状態空間同定の初期化手法
- Authors: Rishi Ramkannan, Gerben I. Beintema, Roland T\'oth, Maarten Schoukens
- Abstract要約: SUBNETは入力出力データから非線形状態空間モデルを特定するために開発された。
状態エンコーダ関数を導入し、過去の入力出力データから現在の状態を再構築する。
本稿では,Best Linear Approximation (BLA) を用いた部分空間エンコーダ手法の初期化に焦点を当てる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The SUBNET neural network architecture has been developed to identify
nonlinear state-space models from input-output data. To achieve this, it
combines the rolled-out nonlinear state-space equations and a state encoder
function, both parameterised as neural networks The encoder function is
introduced to reconstruct the current state from past input-output data. Hence,
it enables the forward simulation of the rolled-out state-space model. While
this approach has shown to provide high-accuracy and consistent model
estimation, its convergence can be significantly improved by efficient
initialization of the training process. This paper focuses on such an
initialisation of the subspace encoder approach using the Best Linear
Approximation (BLA). Using the BLA provided state-space matrices and its
associated reconstructability map, both the state-transition part of the
network and the encoder are initialized. The performance of the improved
initialisation scheme is evaluated on a Wiener-Hammerstein simulation example
and a benchmark dataset. The results show that for a weakly nonlinear system,
the proposed initialisation based on the linear reconstructability map results
in a faster convergence and a better model quality.
- Abstract(参考訳): subnetニューラルネットワークアーキテクチャは、入出力データから非線形状態空間モデルを識別するために開発された。
これを実現するために、ロールアウトされた非線形状態空間方程式と、ニューラルネットワークとしてパラメータ化された状態エンコーダ関数を組み合わせたエンコーダ関数を導入し、過去の入力出力データから現在の状態を再構築する。
これにより、ロールアウト状態空間モデルの前方シミュレーションが可能になる。
このアプローチは高精度で一貫したモデル推定を提供することを示したが、トレーニングプロセスの効率的な初期化により、その収束性を著しく改善することができる。
本稿では,Best Linear Approximation (BLA) を用いた部分空間エンコーダ手法の初期化について述べる。
BLAが提供する状態空間行列とその関連再構成可能性マップを用いて、ネットワークの状態遷移部とエンコーダの両方を初期化する。
改良初期化スキームの性能は、wiener-hammersteinシミュレーションの例とベンチマークデータセットで評価される。
その結果, 弱非線形系では, 線形再構成可能性マップに基づく初期化がより高速に収束し, より良いモデル品質が得られることがわかった。
関連論文リスト
- The Convex Landscape of Neural Networks: Characterizing Global Optima
and Stationary Points via Lasso Models [75.33431791218302]
ディープニューラルネットワーク(DNN)モデルは、プログラミング目的に使用される。
本稿では,凸型神経回復モデルについて検討する。
定常的非次元目的物はすべて,グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
また, 静止非次元目的物はすべて, グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
論文 参考訳(メタデータ) (2023-12-19T23:04:56Z) - Predicting the Initial Conditions of the Universe using a Deterministic
Neural Network [10.158552381785078]
宇宙の現在の状態に繋がる初期条件を見つけることは、初期条件の難解な入力空間を探索することを伴うため、難しい。
深層学習は,N体シミュレーションの線形入力とシミュレーションからの最終的な非線形出力のマッピングを直接学習することにより,N体シミュレーションの代用として登場した。
本研究では, 逆写像の学習に決定論的畳み込みニューラルネットワークを応用し, 広い範囲にわたる線形変位場を正確に復元することを示す。
論文 参考訳(メタデータ) (2023-03-23T06:04:36Z) - Learning Large-scale Neural Fields via Context Pruned Meta-Learning [60.93679437452872]
本稿では,大規模ニューラルネットワーク学習のための最適化に基づくメタラーニング手法を提案する。
メタテスト時間における勾配再スケーリングは、非常に高品質なニューラルネットワークの学習を可能にすることを示す。
我々のフレームワークは、モデルに依存しない、直感的で、実装が容易であり、幅広い信号に対する大幅な再構成改善を示す。
論文 参考訳(メタデータ) (2023-02-01T17:32:16Z) - Learning Reduced Nonlinear State-Space Models: an Output-Error Based
Canonical Approach [8.029702645528412]
非線形挙動を持つ動的システムのモデリングにおけるディープラーニングの有効性について検討する。
3つの非線形系を同定する能力を示す。
シミュレーションで生成したテストデータと,無人航空機飛行計測の現実的データセットを用いて,オープンループ予測の評価を行った。
論文 参考訳(メタデータ) (2022-04-19T06:33:23Z) - Deep Equilibrium Assisted Block Sparse Coding of Inter-dependent
Signals: Application to Hyperspectral Imaging [71.57324258813675]
相互依存信号のデータセットは、列が強い依存を示す行列として定義される。
ニューラルネットワークは、事前に構造として機能し、基礎となる信号相互依存性を明らかにするために使用される。
ディープ・アンローリングとディープ・平衡に基づくアルゴリズムが開発され、高度に解釈可能で簡潔なディープ・ラーニング・ベース・アーキテクチャを形成する。
論文 参考訳(メタデータ) (2022-03-29T21:00:39Z) - Integrating Recurrent Neural Networks with Data Assimilation for
Scalable Data-Driven State Estimation [0.0]
データ同化(DA)は機械学習と統合され、完全にデータ駆動のオンライン状態推定を実行する。
リカレントニューラルネットワーク(RNN)は、数値天気予報(NWP)においてDAサイクルの重要なコンポーネントを置き換えるために代理モデルとして実装される
これらのRNNがDAメソッドを使用して、ターゲットシステムの観測で隠れた/保存状態を直接更新する方法について示す。
論文 参考訳(メタデータ) (2021-09-25T03:56:53Z) - Data-driven Weight Initialization with Sylvester Solvers [72.11163104763071]
本稿では,ディープニューラルネットワークのパラメータを初期化するためのデータ駆動方式を提案する。
提案手法は,特にショットや微調整の設定において有効であることを示す。
論文 参考訳(メタデータ) (2021-05-02T07:33:16Z) - Improved Initialization of State-Space Artificial Neural Networks [0.0]
ブラックボックスの非線形状態空間モデルの同定は、状態方程式と出力方程式の柔軟な表現を必要とする。
本稿では,リカレントニューラルネットワークとして表現される非線形状態空間モデルに対する改良手法を提案する。
論文 参考訳(メタデータ) (2021-03-26T15:16:08Z) - Nonlinear state-space identification using deep encoder networks [0.0]
本稿では,データセットを独立したセクションに分割することで,シミュレーション損失を近似する手法を提案する。
主な貢献は、各セクションの開始時に初期状態を推定するためのエンコーダ関数の導入である。
論文 参考訳(メタデータ) (2020-12-14T16:49:06Z) - MetaSDF: Meta-learning Signed Distance Functions [85.81290552559817]
ニューラルな暗示表現で形状を一般化することは、各関数空間上の学習先行値に比例する。
形状空間の学習をメタラーニング問題として定式化し、勾配に基づくメタラーニングアルゴリズムを利用してこの課題を解決する。
論文 参考訳(メタデータ) (2020-06-17T05:14:53Z) - MSE-Optimal Neural Network Initialization via Layer Fusion [68.72356718879428]
ディープニューラルネットワークは、さまざまな分類と推論タスクに対して最先端のパフォーマンスを達成する。
グラデーションと非進化性の組み合わせは、学習を新しい問題の影響を受けやすいものにする。
確率変数を用いて学習した深層ネットワークの近傍層を融合する手法を提案する。
論文 参考訳(メタデータ) (2020-01-28T18:25:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。