論文の概要: Nonconvex Linear System Identification with Minimal State Representation
- arxiv url: http://arxiv.org/abs/2504.18791v1
- Date: Sat, 26 Apr 2025 04:11:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-02 19:15:53.992055
- Title: Nonconvex Linear System Identification with Minimal State Representation
- Title(参考訳): 最小状態表現を用いた非凸線形システム同定
- Authors: Uday Kiran Reddy Tadipatri, Benjamin D. Haeffele, Joshua Agterberg, Ingvar Ziemann, René Vidal,
- Abstract要約: 低次線形系IDent (SysID) は、最小状態の観測値を持つ有限個の入力から線形力学系のパラメータを推定する問題に対処する。
- 参考スコア(独自算出の注目度): 34.203983563629144
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Low-order linear System IDentification (SysID) addresses the challenge of estimating the parameters of a linear dynamical system from finite samples of observations and control inputs with minimal state representation. Traditional approaches often utilize Hankel-rank minimization, which relies on convex relaxations that can require numerous, costly singular value decompositions (SVDs) to optimize. In this work, we propose two nonconvex reformulations to tackle low-order SysID (i) Burer-Monterio (BM) factorization of the Hankel matrix for efficient nuclear norm minimization, and (ii) optimizing directly over system parameters for real, diagonalizable systems with an atomic norm style decomposition. These reformulations circumvent the need for repeated heavy SVD computations, significantly improving computational efficiency. Moreover, we prove that optimizing directly over the system parameters yields lower statistical error rates, and lower sample complexities that do not scale linearly with trajectory length like in Hankel-nuclear norm minimization. Additionally, while our proposed formulations are nonconvex, we provide theoretical guarantees of achieving global optimality in polynomial time. Finally, we demonstrate algorithms that solve these nonconvex programs and validate our theoretical claims on synthetic data.
- Abstract(参考訳): 低次線形システム識別(SysID)は、有限個の観測と最小状態表現による制御入力から線形力学系のパラメータを推定する問題に対処する。
従来の手法ではハンケルランクの最小化がよく使われており、これは凸緩和に依存しており、最適化には多くの単値分解(SVD)が必要となる。
本稿では,低次SysIDに取り組むための2つの非凸修正法を提案する。
一 効率的な核ノルム最小化のためのハンケル行列のバーラ・モンテリオ(BM)分解及び
(II)原子ノルムスタイルの分解を伴う実対角化可能なシステムに対して,システムパラメータを直接最適化する。
これらの修正により、SVD計算の繰り返しの必要性が回避され、計算効率が大幅に向上した。
さらに, システムパラメータを直接最適化すると, 統計的誤差率が低下し, ハンケル核ノルムの最小化のように軌道長と線形にスケールしない試料複雑度が低下することが証明された。
さらに、提案する定式化は非凸であるが、多項式時間における大域的最適性を達成するための理論的保証を提供する。
最後に、これらの非凸プログラムを解くアルゴリズムを実証し、合成データに関する理論的主張を検証する。
関連論文リスト
- The Inductive Bias of Flatness Regularization for Deep Matrix
Factorization [58.851514333119255]
この研究は、ディープ線形ネットワークにおけるヘッセン解の最小トレースの帰納バイアスを理解するための第一歩となる。
測定値の標準等尺性(RIP)が1より大きいすべての深さについて、ヘッセンのトレースを最小化することは、対応する終端行列パラメータのシャッテン 1-ノルムを最小化するのとほぼ同値であることを示す。
論文 参考訳(メタデータ) (2023-06-22T23:14:57Z) - Direct Estimation of Parameters in ODE Models Using WENDy: Weak-form
Estimation of Nonlinear Dynamics [0.0]
ODE の非線形システムに対するモデルパラメータを推定する Weak-form Estimation of Dynamics (WENDy) 手法を提案する。
WENDyは正確な推定値を計算し、大きな(生物学的に関係のある)測定ノイズに対して堅牢である。
個体群生物学,神経科学,生化学の共通モデルにおいて,WENDyを用いてパラメータを推定することにより,高いロバスト性と計算効率を示す。
論文 参考訳(メタデータ) (2023-02-26T08:49:34Z) - System Identification via Nuclear Norm Regularization [44.9687872697492]
本稿では,ハンケル核ノルム正規化による低次線形系同定問題について検討する。
この正規化に関する新しい統計解析を提供し、非正規化常用最小二乗推定器(OLS)と慎重に対比する。
論文 参考訳(メタデータ) (2022-03-30T20:56:27Z) - Efficient learning of hidden state LTI state space models of unknown
order [0.7614628596146599]
隠れ状態線形時間不変量(LTI)状態空間システムのセットアップに伴う2つの関連する推定問題に対処する。
すなわち、システムのマルコフパラメータの有限数の推定と、システムの最小化の推定である。
どちらの問題に対しても、様々な推定誤差上限、$rank$リカバリ条件、サンプル複雑性推定という形で統計的保証を提供する。
論文 参考訳(メタデータ) (2022-02-03T14:59:13Z) - Unified Convergence Analysis for Adaptive Optimization with Moving Average Estimator [75.05106948314956]
1次モーメントに対する大きな運動量パラメータの増大は適応的スケーリングに十分であることを示す。
また,段階的に減少するステップサイズに応じて,段階的に運動量を増加させるための洞察を与える。
論文 参考訳(メタデータ) (2021-04-30T08:50:24Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Reduction of the Number of Variables in Parametric Constrained
Least-Squares Problems [0.20305676256390928]
本稿では,関連する最適化変数数を削減する手法を提案する。
本稿では, 非線形ベンチマークプロセスの数値実験および線形化MPC問題において, 提案手法の優れた性能を示す。
論文 参考訳(メタデータ) (2020-12-18T18:26:40Z) - A Scalable, Adaptive and Sound Nonconvex Regularizer for Low-rank Matrix
Completion [60.52730146391456]
そこで我々は,適応的かつ音質の高い"核フロベニウスノルム"と呼ばれる新しい非スケーラブルな低ランク正規化器を提案する。
特異値の計算をバイパスし、アルゴリズムによる高速な最適化を可能にする。
既存の行列学習手法では最速でありながら、最先端の回復性能が得られる。
論文 参考訳(メタデータ) (2020-08-14T18:47:58Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z) - Loss landscapes and optimization in over-parameterized non-linear
systems and neural networks [20.44438519046223]
広域ニューラルネットワークがPL$*$条件を満たすことを示し、(S)GD収束を大域最小値に説明する。
広域ニューラルネットワークがPL$*$条件を満たすことを示し、(S)GD収束を大域最小値に説明する。
論文 参考訳(メタデータ) (2020-02-29T17:18:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。