論文の概要: Structured model selection via $\ell_1-\ell_2$ optimization
- arxiv url: http://arxiv.org/abs/2305.17467v2
- Date: Tue, 30 May 2023 00:54:10 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-31 11:36:13.603058
- Title: Structured model selection via $\ell_1-\ell_2$ optimization
- Title(参考訳): $\ell_1-\ell_2$最適化による構造モデル選択
- Authors: Xiaofan Lu, Linan Zhang and Hongjin He
- Abstract要約: 構造化力学系を同定する学習手法を開発した。
候補関数の集合が有界系を成すとき、その回復は安定で有界であることを示す。
- 参考スコア(独自算出の注目度): 1.933681537640272
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automated model selection is an important application in science and
engineering. In this work, we develop a learning approach for identifying
structured dynamical systems from undersampled and noisy spatiotemporal data.
The learning is performed by a sparse least-squares fitting over a large set of
candidate functions via a nonconvex $\ell_1-\ell_2$ sparse optimization solved
by the alternating direction method of multipliers. Using a Bernstein-like
inequality with a coherence condition, we show that if the set of candidate
functions forms a structured random sampling matrix of a bounded orthogonal
system, the recovery is stable and the error is bounded. The learning approach
is validated on synthetic data generated by the viscous Burgers' equation and
two reaction-diffusion equations. The computational results demonstrate the
theoretical guarantees of success and the efficiency with respect to the
ambient dimension and the number of candidate functions.
- Abstract(参考訳): 自動モデル選択は科学と工学において重要な応用である。
本研究では,アンダーサンプルとノイズのある時空間データから構造化力学系を同定する学習手法を開発する。
非凸$\ell_1-\ell_2$スパース最適化を乗算器の交互方向法で解くことにより、多数の候補関数に対してスパース最小二乗法により学習を行う。
コヒーレンス条件を持つベルンシュタイン的不等式を用いて、候補関数の集合が有界直交系の構造化ランダムサンプリング行列を形成する場合、回復は安定であり、誤差は有界であることを示す。
学習アプローチは、粘性バーガース方程式と2つの反応拡散方程式によって生成された合成データに基づいて検証される。
計算結果は, 環境次元と候補関数数に関して, 成功の理論的保証と効率を示す。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Bisimulation Learning [55.859538562698496]
我々は、大きな、潜在的に無限の状態空間を持つ状態遷移系の有限バイシミュレートを計算する。
提案手法は,実際に行われている他の最先端ツールよりも高速な検証結果が得られる。
論文 参考訳(メタデータ) (2024-05-24T17:11:27Z) - Comparison of Single- and Multi- Objective Optimization Quality for
Evolutionary Equation Discovery [77.34726150561087]
進化的微分方程式の発見は、より優先順位の低い方程式を得るための道具であることが証明された。
提案した比較手法は、バーガーズ方程式、波動方程式、コルテヴェーグ・ド・ブリーズ方程式といった古典的なモデル例で示される。
論文 参考訳(メタデータ) (2023-06-29T15:37:19Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳(メタデータ) (2023-06-13T01:18:16Z) - Score-based Diffusion Models in Function Space [140.792362459734]
拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。
本稿では,関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)という,数学的に厳密なフレームワークを提案する。
データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
論文 参考訳(メタデータ) (2023-02-14T23:50:53Z) - WeakIdent: Weak formulation for Identifying Differential Equations using
Narrow-fit and Trimming [5.027714423258538]
弱い定式化を用いて微分方程式を復元する汎用的で堅牢な枠組みを提案する。
各空間レベルに対して、Subspace Pursuitは、大きな辞書から最初のサポートセットを見つけるために使用される。
提案手法は、係数の頑健な回復と、最大で100%のノイズ-信号比を処理できる顕著なデノナイジング効果を与える。
論文 参考訳(メタデータ) (2022-11-06T14:33:22Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - DiffPrune: Neural Network Pruning with Deterministic Approximate Binary
Gates and $L_0$ Regularization [0.0]
現代のニューラルネットワークアーキテクチャは通常、数百万のパラメータを持ち、有効性を著しく損なうことなく、大幅に刈り取ることができる。
この作品の貢献は2つある。
1つ目は、任意の実数値確率変数の決定論的かつ微分可能変換によって多変量ベルヌーイ確率変数を近似する方法である。
2つ目は、決定論的あるいは乗法的に計算され、正確なゼロ値を取る近似二進ゲートを持つ要素的パラメータによるモデル選択の方法である。
論文 参考訳(メタデータ) (2020-12-07T13:08:56Z) - A non-autonomous equation discovery method for time signal
classification [1.933681537640272]
非自律的力学方程式に基づいて時間信号を解析するフレームワークを開発する。
随伴法を用いて勾配を効率的に計算する方法を示す。
また,提案手法が位相像の形で解釈可能性をもたらすことを示す。
論文 参考訳(メタデータ) (2020-11-22T20:03:46Z) - Semi-analytic approximate stability selection for correlated data in
generalized linear models [3.42658286826597]
そこで本研究では,繰り返しのフィッティングを行なわずに安定選択を行うことのできる,新しい近似推論アルゴリズムを提案する。
このアルゴリズムは,情報理論の統計力学とベクトル近似メッセージパッシングの複製法に基づく。
数値実験により, このアルゴリズムは, 合成データと実世界のデータの両方に対して, 高速収束と高い近似精度を示すことを示した。
論文 参考訳(メタデータ) (2020-03-19T10:43:12Z) - Analysis of Bayesian Inference Algorithms by the Dynamical Functional
Approach [2.8021833233819486]
学生自明なシナリオにおいて,大ガウス潜在変数モデルを用いて近似推論のアルゴリズムを解析する。
完全データモデルマッチングの場合、レプリカ法から派生した静的順序パラメータの知識により、効率的なアルゴリズム更新が得られる。
論文 参考訳(メタデータ) (2020-01-14T17:22:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。