論文の概要: On the Convergence of the Dynamic Inner PCA Algorithm
- arxiv url: http://arxiv.org/abs/2003.05928v1
- Date: Thu, 12 Mar 2020 17:50:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-24 14:12:52.373839
- Title: On the Convergence of the Dynamic Inner PCA Algorithm
- Title(参考訳): 動的内部PCAアルゴリズムの収束性について
- Authors: Sungho Shin, Alex D. Smith, S. Joe Qin, Victor M. Zavala
- Abstract要約: DiPCAは時間依存データ解析のための強力な手法である。
これは座標分解アルゴリズムの特殊な変種であることを示す。
分解戦略のパフォーマンスを既成のそれと比較する。
- 参考スコア(独自算出の注目度): 5.9931120596636935
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Dynamic inner principal component analysis (DiPCA) is a powerful method for
the analysis of time-dependent multivariate data. DiPCA extracts dynamic latent
variables that capture the most dominant temporal trends by solving a
large-scale, dense, and nonconvex nonlinear program (NLP). A scalable
decomposition algorithm has been recently proposed in the literature to solve
these challenging NLPs. The decomposition algorithm performs well in practice
but its convergence properties are not well understood. In this work, we show
that this algorithm is a specialized variant of a coordinate maximization
algorithm. This observation allows us to explain why the decomposition
algorithm might work (or not) in practice and can guide improvements. We
compare the performance of the decomposition strategies with that of the
off-the-shelf solver Ipopt. The results show that decomposition is more
scalable and, surprisingly, delivers higher quality solutions.
- Abstract(参考訳): 動的内部主成分分析(DiPCA)は時間依存多変量解析のための強力な手法である。
DiPCAは、大規模で密度の高い非凸非線形プログラム(NLP)を解くことで、最も支配的な時間的傾向を捉える動的潜伏変数を抽出する。
近年,これらの難解なNLPを解決するために,スケーラブルな分解アルゴリズムが提案されている。
分解アルゴリズムは実際よく機能するが、その収束特性はよく分かっていない。
本研究では,このアルゴリズムが座標最大化アルゴリズムの特殊変形であることを示す。
この観察により、分解アルゴリズムが実際に機能する(あるいは機能しない)理由を説明し、改善を導くことができる。
我々は,分解戦略の性能とオフ・ザ・シェルフ・ソルバ・ipoの性能を比較した。
その結果,分解はよりスケーラブルで,驚くほど高品質なソリューションを提供することがわかった。
関連論文リスト
- Multi-body dynamic evolution sequence-assisted PSO for interval analysis [0.0]
本稿では,新しい間隔解析手法,すなわち多体動的進化系列支援PSOを提案する。
乱数列の代わりに動的進化列を導入することにより,探索空間をカバーする難易度HCLPSO面に対処する。
ケーススタディの結果,DES-PSOは間隔解析の計算速度を大幅に向上させることができることが示された。
論文 参考訳(メタデータ) (2024-09-21T10:17:27Z) - Recovering Linear Causal Models with Latent Variables via Cholesky
Factorization of Covariance Matrix [21.698480201955213]
観測データの共分散行列のコレスキー分解に基づくDAG構造復元アルゴリズムを提案する。
合成および実世界のデータセットでは、アルゴリズムは従来の手法よりも大幅に高速で、最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-11-01T17:27:49Z) - Linearization Algorithms for Fully Composite Optimization [61.20539085730636]
本稿では,完全合成最適化問題を凸コンパクト集合で解くための一階アルゴリズムについて検討する。
微分可能および非微分可能を別々に扱い、滑らかな部分のみを線形化することで目的の構造を利用する。
論文 参考訳(メタデータ) (2023-02-24T18:41:48Z) - Adaptive Stochastic Optimisation of Nonconvex Composite Objectives [2.1700203922407493]
一般化された複合ミラー降下アルゴリズムの一群を提案し,解析する。
適応的なステップサイズでは、提案アルゴリズムは問題の事前知識を必要とせずに収束する。
決定集合の低次元構造を高次元問題に活用する。
論文 参考訳(メタデータ) (2022-11-21T18:31:43Z) - Exploring the Algorithm-Dependent Generalization of AUPRC Optimization
with List Stability [107.65337427333064]
AUPRC(Area Under the Precision-Recall Curve)の最適化は、機械学習にとって重要な問題である。
本研究では, AUPRC最適化の単依存一般化における最初の試行について述べる。
3つの画像検索データセットの実験は、我々のフレームワークの有効性と健全性に言及する。
論文 参考訳(メタデータ) (2022-09-27T09:06:37Z) - Amortized Implicit Differentiation for Stochastic Bilevel Optimization [53.12363770169761]
決定論的条件と決定論的条件の両方において、二段階最適化問題を解決するアルゴリズムのクラスについて検討する。
厳密な勾配の推定を補正するために、ウォームスタート戦略を利用する。
このフレームワークを用いることで、これらのアルゴリズムは勾配の偏りのない推定値にアクセス可能な手法の計算複雑性と一致することを示す。
論文 参考訳(メタデータ) (2021-11-29T15:10:09Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳(メタデータ) (2021-06-09T08:05:36Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z) - Optimization of Graph Total Variation via Active-Set-based Combinatorial
Reconditioning [48.42916680063503]
本稿では,この問題クラスにおける近位アルゴリズムの適応型事前条件付け手法を提案する。
不活性エッジのネスト・フォレスト分解により局所収束速度が保証されることを示す。
この結果から,局所収束解析は近似アルゴリズムにおける可変指標選択の指針となることが示唆された。
論文 参考訳(メタデータ) (2020-02-27T16:33:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。