論文の概要: On the Identifiability of Sparse ICA without Assuming Non-Gaussianity
- arxiv url: http://arxiv.org/abs/2408.10353v1
- Date: Mon, 19 Aug 2024 18:51:42 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-21 17:53:16.124158
- Title: On the Identifiability of Sparse ICA without Assuming Non-Gaussianity
- Title(参考訳): 非ガウス性を考慮したスパースICAの同定可能性について
- Authors: Ignavier Ng, Yujia Zheng, Xinshuai Dong, Kun Zhang,
- Abstract要約: 我々は、情報源の分布にさらなる前提条件を課すことなく、二階統計に依存する識別可能性理論を開発する。
本稿では,2次統計量と空間制約に基づく2つの推定手法を提案する。
- 参考スコア(独自算出の注目度): 20.333908367541895
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Independent component analysis (ICA) is a fundamental statistical tool used to reveal hidden generative processes from observed data. However, traditional ICA approaches struggle with the rotational invariance inherent in Gaussian distributions, often necessitating the assumption of non-Gaussianity in the underlying sources. This may limit their applicability in broader contexts. To accommodate Gaussian sources, we develop an identifiability theory that relies on second-order statistics without imposing further preconditions on the distribution of sources, by introducing novel assumptions on the connective structure from sources to observed variables. Different from recent work that focuses on potentially restrictive connective structures, our proposed assumption of structural variability is both considerably less restrictive and provably necessary. Furthermore, we propose two estimation methods based on second-order statistics and sparsity constraint. Experimental results are provided to validate our identifiability theory and estimation methods.
- Abstract(参考訳): 独立成分分析(ICA)は観測データから隠れた生成過程を明らかにするための基本的な統計ツールである。
しかし、従来のICAアプローチはガウス分布に固有の回転不変性に苦慮し、基礎となる情報源において非ガウス性(英語版)の仮定を必要とすることが多い。
これにより、より広い文脈での適用性が制限される可能性がある。
ガウス的情報源に対応するために、情報源から観測変数への連結構造に関する新しい仮定を導入することにより、情報源の分布にさらなる前提条件を課すことなく、2階統計に依存する識別可能性理論を開発する。
潜在的に制限的連結構造に焦点を当てた最近の研究と異なり、構造的変動性の仮定は、かなり制限的かつ証明的に必要である。
さらに,2次統計量と空間制約量に基づく2つの推定手法を提案する。
同定可能性理論と推定法を検証する実験結果が得られた。
関連論文リスト
- Distributionally robust risk evaluation with an isotonic constraint [20.74502777102024]
分布的に堅牢な学習は、不確実な分布の集合内で最悪のケースの統計性能を制御することを目的としている。
本稿では,未知のターゲット分布が推定値と異なる方法に関する事前情報を組み込んだDRLの形状制約手法を提案する。
合成データと実データの両方に関する実証研究は、提案した形状制約手法の精度の向上を実証している。
論文 参考訳(メタデータ) (2024-07-09T13:56:34Z) - Generalizing Nonlinear ICA Beyond Structural Sparsity [15.450470872782082]
非線形ICAの識別性は追加の仮定なしでは不可能であることが知られている。
近年の進歩は、構造スパーシティとして知られる観測変数への接続構造に関する条件を提案している。
フレキシブルなグルーピング構造であっても,適切な識別性が得られることを示す。
論文 参考訳(メタデータ) (2023-11-01T21:36:15Z) - Large-Sample Properties of Non-Stationary Source Separation for Gaussian
Signals [2.2557806157585834]
我々は,非定常音源分離の一般的な方法である NSS-JD に対する大サンプル理論を開発した。
標準平方根率における非混合推定器の整合性とガウス分布への収束性は保たれることを示す。
シミュレーション実験は、理論結果の検証と、ブロック長が分離に与える影響を調べるために用いられる。
論文 参考訳(メタデータ) (2022-09-21T08:13:20Z) - Excess risk analysis for epistemic uncertainty with application to
variational inference [110.4676591819618]
我々は、未知の分布からデータが生成される頻繁なセッティングにおいて、新しいEU分析を提示する。
一般化能力と、予測分布の分散やエントロピーなど、広く使用されているEUの測定値との関係を示す。
本研究では,PAC-ベイジアン理論に基づく予測とEU評価性能を直接制御する新しい変分推論を提案する。
論文 参考訳(メタデータ) (2022-06-02T12:12:24Z) - Non-Linear Spectral Dimensionality Reduction Under Uncertainty [107.01839211235583]
我々は、不確実性情報を活用し、いくつかの従来のアプローチを直接拡張する、NGEUと呼ばれる新しい次元削減フレームワークを提案する。
提案したNGEUの定式化は,大域的な閉形式解を示し,Radecherの複雑性に基づいて,基礎となる不確実性がフレームワークの一般化能力に理論的にどのように影響するかを分析する。
論文 参考訳(メタデータ) (2022-02-09T19:01:33Z) - Causality and Generalizability: Identifiability and Learning Methods [0.0]
この論文は、因果効果の推定、因果構造学習、および分布的に堅牢な予測方法に関する研究領域に寄与する。
本稿では,データ依存平均二乗予測誤差正規化を用いた機器変数設定における線形・非線形因果関係推定器について述べる。
本稿では,介入誘起分布に関する分布ロバスト性に関する一般的な枠組みを提案する。
論文 参考訳(メタデータ) (2021-10-04T13:12:11Z) - Discovering Latent Causal Variables via Mechanism Sparsity: A New
Principle for Nonlinear ICA [81.4991350761909]
ICA(Independent component analysis)は、この目的を定式化し、実用的な応用のための推定手順を提供する手法の集合を指す。
潜伏変数は、潜伏機構をスパースに正則化すれば、置換まで復元可能であることを示す。
論文 参考訳(メタデータ) (2021-07-21T14:22:14Z) - The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。
本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
論文 参考訳(メタデータ) (2020-12-05T17:30:35Z) - Latent Causal Invariant Model [128.7508609492542]
現在の教師付き学習は、データ適合プロセス中に急激な相関を学習することができる。
因果予測を求める潜在因果不変モデル(LaCIM)を提案する。
論文 参考訳(メタデータ) (2020-11-04T10:00:27Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。