論文の概要: Large Dimensional Independent Component Analysis: Statistical Optimality
and Computational Tractability
- arxiv url: http://arxiv.org/abs/2303.18156v1
- Date: Fri, 31 Mar 2023 15:46:30 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-03 13:27:45.367093
- Title: Large Dimensional Independent Component Analysis: Statistical Optimality
and Computational Tractability
- Title(参考訳): 大次元独立成分分析:統計的最適性と計算的トラクタビリティ
- Authors: Arnab Auddy and Ming Yuan
- Abstract要約: 独立成分分析(ICA)における最適統計性能と計算制約の影響について検討する。
最適サンプルの複雑性は次元において線形であることが示される。
我々は,最適サンプルの複雑性と最小収束率の両立が可能な計算抽出可能な推定値を開発する。
- 参考スコア(独自算出の注目度): 13.104413212606577
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we investigate the optimal statistical performance and the
impact of computational constraints for independent component analysis (ICA).
Our goal is twofold. On the one hand, we characterize the precise role of
dimensionality on sample complexity and statistical accuracy, and how
computational consideration may affect them. In particular, we show that the
optimal sample complexity is linear in dimensionality, and interestingly, the
commonly used sample kurtosis-based approaches are necessarily suboptimal.
However, the optimal sample complexity becomes quadratic, up to a logarithmic
factor, in the dimension if we restrict ourselves to estimates that can be
computed with low-degree polynomial algorithms. On the other hand, we develop
computationally tractable estimates that attain both the optimal sample
complexity and minimax optimal rates of convergence. We study the asymptotic
properties of the proposed estimates and establish their asymptotic normality
that can be readily used for statistical inferences. Our method is fairly easy
to implement and numerical experiments are presented to further demonstrate its
practical merits.
- Abstract(参考訳): 本稿では,独立成分分析(ICA)における最適統計性能と計算制約の影響について検討する。
私たちの目標は2倍です。
一方,サンプルの複雑さと統計的精度における次元の正確な役割と,それらにどう影響するかを特徴付ける。
特に, 最適標本複雑性は線形な次元であることを示し, 興味深いことに, クルトシスに基づく手法は必ずしも最適ではない。
しかし、最適サンプルの複雑性は、低次多項式アルゴリズムで計算できる推定値に制限された場合の次元において、対数係数まで2次になる。
一方,最適サンプル複雑性と最小収束率の両方を達成する計算可能な推定法を開発した。
提案した推定値の漸近特性について検討し, 統計的推測に容易に利用できる漸近正規性を確立する。
本手法は実装が比較的容易であり,その実用性を示す数値実験を行う。
関連論文リスト
- Statistical Inference in Tensor Completion: Optimal Uncertainty Quantification and Statistical-to-Computational Gaps [7.174572371800217]
本稿では,不完全かつノイズの多い観測を用いて,テンソル線形形式を統計的に推定する簡易かつ効率的な手法を提案する。
これは、信頼区間の構築、ヘテロスケダティックおよびサブ指数雑音下での推論、同時テストなど、様々な統計的推論タスクに適している。
論文 参考訳(メタデータ) (2024-10-15T03:09:52Z) - Probabilistic Iterative Hard Thresholding for Sparse Learning [2.5782973781085383]
本稿では,基本性制約を用いた予測目標最適化問題の解法を提案する。
基礎となるプロセスの収束を証明し、2つの機械学習問題における性能を実証する。
論文 参考訳(メタデータ) (2024-09-02T18:14:45Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳(メタデータ) (2023-06-13T01:18:16Z) - Generative modeling of time-dependent densities via optimal transport
and projection pursuit [3.069335774032178]
本稿では,時間的モデリングのための一般的なディープラーニングアルゴリズムの代替として,安価に提案する。
我々の手法は最先端の解法と比較して非常に競争力がある。
論文 参考訳(メタデータ) (2023-04-19T13:50:13Z) - Representation Learning with Multi-Step Inverse Kinematics: An Efficient
and Optimal Approach to Rich-Observation RL [106.82295532402335]
既存の強化学習アルゴリズムは、計算的難易度、強い統計的仮定、最適なサンプルの複雑さに悩まされている。
所望の精度レベルに対して、レート最適サンプル複雑性を実現するための、最初の計算効率の良いアルゴリズムを提供する。
我々のアルゴリズムMusIKは、多段階の逆運動学に基づく表現学習と体系的な探索を組み合わせる。
論文 参考訳(メタデータ) (2023-04-12T14:51:47Z) - Statistical Efficiency of Score Matching: The View from Isoperimetry [96.65637602827942]
本研究では, スコアマッチングの統計的効率と推定される分布の等尺性との間に, 密接な関係を示す。
これらの結果はサンプル状態と有限状態の両方で定式化する。
論文 参考訳(メタデータ) (2022-10-03T06:09:01Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Stochastic Approximation for Online Tensorial Independent Component
Analysis [98.34292831923335]
独立成分分析(ICA)は統計機械学習や信号処理において一般的な次元削減ツールである。
本稿では,各独立成分を推定する副産物オンライン時系列アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-28T18:52:37Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳(メタデータ) (2020-05-22T22:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。