論文の概要: Do algorithms and barriers for sparse principal component analysis
extend to other structured settings?
- arxiv url: http://arxiv.org/abs/2307.13535v2
- Date: Sun, 31 Dec 2023 15:01:46 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-03 01:55:16.770216
- Title: Do algorithms and barriers for sparse principal component analysis
extend to other structured settings?
- Title(参考訳): スパース主成分分析のアルゴリズムと障壁は、他の構造化設定にも拡張できるか?
- Authors: Guanyi Wang, Mengqi Lou, Ashwin Pananjady
- Abstract要約: スパイクされたウィッシュアートモデルに基づく主成分分析問題について検討する。
問題インスタンスの幾何学に依存する基本的な限界を確立する。
自然射影パワー法は,解の統計的に最適に近い近傍に局所収束を示すことを示す。
- 参考スコア(独自算出の注目度): 9.339550283840769
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study a principal component analysis problem under the spiked Wishart
model in which the structure in the signal is captured by a class of
union-of-subspace models. This general class includes vanilla sparse PCA as
well as its variants with graph sparsity. With the goal of studying these
problems under a unified statistical and computational lens, we establish
fundamental limits that depend on the geometry of the problem instance, and
show that a natural projected power method exhibits local convergence to the
statistically near-optimal neighborhood of the solution. We complement these
results with end-to-end analyses of two important special cases given by path
and tree sparsity in a general basis, showing initialization methods and
matching evidence of computational hardness. Overall, our results indicate that
several of the phenomena observed for vanilla sparse PCA extend in a natural
fashion to its structured counterparts.
- Abstract(参考訳): 本研究では、信号の構造をサブスペースの和合モデルによって捉えたスパイクド・ウィッシュアートモデルに基づく主成分分析問題について検討する。
この一般的なクラスは、バニラスパースPCAと、グラフ空間の変動を含む。
これらの問題を統一的な統計・計算レンズで研究することを目的として,問題インスタンスの形状に依存する基本的な限界を定式化し,その解の統計的に最適に近い近傍に局所収束することを示す。
これらの結果は,パスとツリーの疎結合によって与えられる2つの重要な特殊ケースを概ねエンドツーエンドで解析し,初期化法と計算硬度の整合性を示す。
以上の結果から,バニラスパースPCAで観察される現象のいくつかは,自然にその構造に反するものであることが示唆された。
関連論文リスト
- Induced Covariance for Causal Discovery in Linear Sparse Structures [55.2480439325792]
因果モデルでは、観測データから変数間の因果関係を解き明かそうとしている。
本稿では,変数が線形に疎結合な関係を示す設定のための新しい因果探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-02T04:01:38Z) - Towards a mathematical understanding of learning from few examples with
nonlinear feature maps [68.8204255655161]
トレーニングセットがわずか数個のデータポイントから構成されるデータ分類の問題を考える。
我々は、AIモデルの特徴空間の幾何学、基礎となるデータ分布の構造、モデルの一般化能力との間の重要な関係を明らかにする。
論文 参考訳(メタデータ) (2022-11-07T14:52:58Z) - Manifold Alignment-Based Multi-Fidelity Reduced-Order Modeling Applied
to Structural Analysis [0.8808021343665321]
本研究は,最近開発されたパラメトリック,非貫入性,多次元縮小次モデリング法の高次元変位場および応力場への適用について述べる。
その結果、不整合格子を用いた構造シミュレーションから得られる出力、あるいは関連する異なる位相は、容易に単一の予測モデルに組み合わされることが示されている。
新しいマルチフィデリティ縮小次数モデルでは,単一フィデリティモデルと比較して計算コストが低い場合に,比較的高い予測精度が得られる。
論文 参考訳(メタデータ) (2022-06-14T15:28:21Z) - Amortized Inference for Causal Structure Learning [72.84105256353801]
因果構造を学習することは、通常、スコアまたは独立テストを使用して構造を評価することを伴う探索問題を引き起こす。
本研究では,観測・干渉データから因果構造を予測するため,変分推論モデルを訓練する。
我々のモデルは、実質的な分布シフトの下で頑健な一般化能力を示す。
論文 参考訳(メタデータ) (2022-05-25T17:37:08Z) - Reinforcement Learning from Partial Observation: Linear Function Approximation with Provable Sample Efficiency [111.83670279016599]
部分観察決定過程(POMDP)の無限観測および状態空間を用いた強化学習について検討した。
線形構造をもつPOMDPのクラスに対する部分可観測性と関数近似の最初の試みを行う。
論文 参考訳(メタデータ) (2022-04-20T21:15:38Z) - A Class of Geometric Structures in Transfer Learning: Minimax Bounds and
Optimality [5.2172436904905535]
我々はソースとターゲットドメインの幾何学的構造を転写学習に活用する。
提案手法は,中等度・高次元の両方で最先端の伝達学習法より優れる。
論文 参考訳(メタデータ) (2022-02-23T18:47:53Z) - Partial Counterfactual Identification from Observational and
Experimental Data [83.798237968683]
観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。
我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
論文 参考訳(メタデータ) (2021-10-12T02:21:30Z) - Causal Abstractions of Neural Networks [9.291492712301569]
本稿では,テキストの抽象の形式的理論に基づく新しい構造解析手法を提案する。
本稿では,Multiply Quantified Natural Language Inference (MQNLI) コーパスで学習したニューラルネットワークの解析に本手法を適用した。
論文 参考訳(メタデータ) (2021-06-06T01:07:43Z) - Causal Inference in Possibly Nonlinear Factor Models [2.0305676256390934]
そこで本研究では, ノイズ測定による治療効果モデルに対する一般的な因果推定法を開発した。
主ビルディングブロックは局所主部分空間近似であり、$K$-nearest 隣人マッチングと主成分分析を組み合わせたものである。
結果は、金融機関の株価リターンに政治的つながりが及ぼす影響を研究する実証的なアプリケーションで示される。
論文 参考訳(メタデータ) (2020-08-31T14:39:36Z) - Robust spectral clustering using LASSO regularization [0.0]
本稿では,ブロックモデルと密接な関係を持つ新しいランダムモデルを用いて,スペクトルクラスタリングの一種である1スペクトルクラスタリングを提案する。
その目標は、グラフの自然な構造を明らかにする1の最小化問題のスパース固有基底解を促進することである。
論文 参考訳(メタデータ) (2020-04-08T07:12:56Z) - Semiparametric Nonlinear Bipartite Graph Representation Learning with
Provable Guarantees [106.91654068632882]
半パラメトリック指数族分布におけるパラメータの統計的推定問題として、両部グラフを考察し、その表現学習問題を定式化する。
提案手法は, 地中真理付近で強い凸性を示すため, 勾配降下法が線形収束率を達成できることを示す。
我々の推定器は指数族内の任意のモデル誤特定に対して頑健であり、広範な実験で検証されている。
論文 参考訳(メタデータ) (2020-03-02T16:40:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。