論文の概要: Nonlinear system identification with regularized Tensor Network
B-splines
- arxiv url: http://arxiv.org/abs/2003.07594v1
- Date: Tue, 17 Mar 2020 09:22:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-22 22:10:28.939787
- Title: Nonlinear system identification with regularized Tensor Network
B-splines
- Title(参考訳): 正則化テンソルネットワークbスプラインを用いた非線形システム同定
- Authors: Ridvan Karagoz, Kim Batselier
- Abstract要約: The TNBS-NARX model is confirmed by the identified of the cascaded Watertank benchmark regular system。
標準的なデスクトップコンピュータ上で16次元のBスプライン面を4秒で識別しながら、最先端の性能を実現する。
- 参考スコア(独自算出の注目度): 2.817412580574242
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This article introduces the Tensor Network B-spline model for the regularized
identification of nonlinear systems using a nonlinear autoregressive exogenous
(NARX) approach. Tensor network theory is used to alleviate the curse of
dimensionality of multivariate B-splines by representing the high-dimensional
weight tensor as a low-rank approximation. An iterative algorithm based on the
alternating linear scheme is developed to directly estimate the low-rank tensor
network approximation, removing the need to ever explicitly construct the
exponentially large weight tensor. This reduces the computational and storage
complexity significantly, allowing the identification of NARX systems with a
large number of inputs and lags. The proposed algorithm is numerically stable,
robust to noise, guaranteed to monotonically converge, and allows the
straightforward incorporation of regularization. The TNBS-NARX model is
validated through the identification of the cascaded watertank benchmark
nonlinear system, on which it achieves state-of-the-art performance while
identifying a 16-dimensional B-spline surface in 4 seconds on a standard
desktop computer. An open-source MATLAB implementation is available on GitHub.
- Abstract(参考訳): 本稿では非線形自己回帰外因性(NARX)アプローチを用いて非線形システムの正規化同定のためのTensor Network B-splineモデルを紹介する。
テンソルネットワーク理論は、高次元の重みテンソルを低階近似として表現することにより、多変量B-スプラインの次元性の呪いを軽減するために用いられる。
低ランクテンソルネットワーク近似を直接推定するために交互線形スキームに基づく反復アルゴリズムを開発し、指数関数的に大きいテンソルを明示的に構築する必要をなくした。
これにより計算とストレージの複雑さが大幅に減少し、大量の入力とラグを持つ NARX システムの識別が可能となる。
提案するアルゴリズムは数値的に安定であり、雑音に頑健であり、単調収束を保証し、正則化の直接的編入を可能にする。
TNBS-NARXモデルは、標準的なデスクトップコンピュータ上で16次元のB-スプライン面を4秒で識別しながら、最先端の性能を達成できるカスケードウォータータンクベンチマーク非線形システムの同定によって検証される。
オープンソースのMATLAB実装がGitHubで公開されている。
関連論文リスト
- Matrix Completion via Nonsmooth Regularization of Fully Connected Neural Networks [7.349727826230864]
ディープニューラルネットワークのような非線形推定器を使うことで、性能の向上が達成できることが示されている。
本稿では,標準中間表現の観点から,FCNNモデルの正規化によるオーバーフィット制御を行う。
本シミュレーションは,既存の線形および非線形アルゴリズムと比較して,提案アルゴリズムの優位性を示す。
論文 参考訳(メタデータ) (2024-03-15T12:00:37Z) - An L-BFGS-B approach for linear and nonlinear system identification under $\ell_1$- and group-Lasso regularization [0.0]
線形および非線形離散時間状態空間モデルを同定するための非常に効率的な数値計算法を提案する。
提案手法のPython実装は、jax-sysidパッケージで利用可能である。
論文 参考訳(メタデータ) (2024-03-06T16:17:34Z) - Optimization Guarantees of Unfolded ISTA and ADMM Networks With Smooth
Soft-Thresholding [57.71603937699949]
我々は,学習エポックの数の増加とともに,ほぼゼロに近いトレーニング損失を達成するための最適化保証について検討した。
トレーニングサンプル数に対する閾値は,ネットワーク幅の増加とともに増加することを示す。
論文 参考訳(メタデータ) (2023-09-12T13:03:47Z) - Low-rank extended Kalman filtering for online learning of neural
networks from streaming data [71.97861600347959]
非定常データストリームから非線形関数のパラメータを推定するための効率的なオンライン近似ベイズ推定アルゴリズムを提案する。
この方法は拡張カルマンフィルタ (EKF) に基づいているが、新しい低ランク+斜角行列分解法を用いている。
変分推論に基づく手法とは対照的に,本手法は完全に決定論的であり,ステップサイズチューニングを必要としない。
論文 参考訳(メタデータ) (2023-05-31T03:48:49Z) - Online Weak-form Sparse Identification of Partial Differential Equations [0.5156484100374058]
本稿では非線形力学アルゴリズム(WSINDy)の弱形式スパース同定に基づく偏微分方程式(PDE)の同定のためのオンラインアルゴリズムを提案する。
この手法のコアは、候補PDEの弱い形状の離散化と、スパース回帰問題に対するオンライン近位勾配降下法を組み合わせたものである。
論文 参考訳(メタデータ) (2022-03-08T10:11:09Z) - Training Recurrent Neural Networks by Sequential Least Squares and the
Alternating Direction Method of Multipliers [0.20305676256390928]
本稿では、最適隠れネットワークパラメータを決定するために凸と2倍の差分損失と正規化項を用いることを提案する。
逐次最小二乗と交互方向乗算器を組み合わせる。
このアルゴリズムの性能は非線形システム同定ベンチマークで検証される。
論文 参考訳(メタデータ) (2021-12-31T08:43:04Z) - Scaling Structured Inference with Randomization [64.18063627155128]
本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。
我々の手法は古典的DPベースの推論に広く適用できる。
また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-12-07T11:26:41Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳(メタデータ) (2021-09-10T07:01:15Z) - A novel Deep Neural Network architecture for non-linear system
identification [78.69776924618505]
非線形システム識別のための新しいDeep Neural Network (DNN)アーキテクチャを提案する。
メモリシステムにインスパイアされたインダクティブバイアス(アーキテクチャ)と正規化(損失関数)を導入する。
このアーキテクチャは、利用可能なデータのみに基づいて、自動的な複雑性の選択を可能にする。
論文 参考訳(メタデータ) (2021-06-06T10:06:07Z) - Identification of Probability weighted ARX models with arbitrary domains [75.91002178647165]
PieceWise Affineモデルは、ハイブリッドシステムの他のクラスに対する普遍近似、局所線型性、同値性を保証する。
本研究では,任意の領域を持つ固有入力モデル(NPWARX)を用いたPieceWise Auto Regressiveの同定に着目する。
このアーキテクチャは、機械学習の分野で開発されたMixture of Expertの概念に従って考案された。
論文 参考訳(メタデータ) (2020-09-29T12:50:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。