論文の概要: On the Identifiability of Nonlinear ICA: Sparsity and Beyond
- arxiv url: http://arxiv.org/abs/2206.07751v5
- Date: Mon, 26 Feb 2024 04:10:37 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-27 19:45:54.171321
- Title: On the Identifiability of Nonlinear ICA: Sparsity and Beyond
- Title(参考訳): 非線形ICAの識別可能性について:スパーシリティと超越性
- Authors: Yujia Zheng, Ignavier Ng, Kun Zhang
- Abstract要約: 自明な不確定点を特定できる非線形ICAモデルをいかにして特定させるかは、教師なし学習における長年の問題である。
最近のブレークスルーは、いくつかの補助変数が与えられた条件付き独立としてソースの標準独立仮定を再構成する。
このような制約の特定のインスタンス化の下では、独立潜水源はそれらの非線形混合から置換まで同定できることを示す。
- 参考スコア(独自算出の注目度): 20.644375143901488
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Nonlinear independent component analysis (ICA) aims to recover the underlying
independent latent sources from their observable nonlinear mixtures. How to
make the nonlinear ICA model identifiable up to certain trivial indeterminacies
is a long-standing problem in unsupervised learning. Recent breakthroughs
reformulate the standard independence assumption of sources as conditional
independence given some auxiliary variables (e.g., class labels and/or
domain/time indexes) as weak supervision or inductive bias. However, nonlinear
ICA with unconditional priors cannot benefit from such developments. We explore
an alternative path and consider only assumptions on the mixing process, such
as Structural Sparsity. We show that under specific instantiations of such
constraints, the independent latent sources can be identified from their
nonlinear mixtures up to a permutation and a component-wise transformation,
thus achieving nontrivial identifiability of nonlinear ICA without auxiliary
variables. We provide estimation methods and validate the theoretical results
experimentally. The results on image data suggest that our conditions may hold
in a number of practical data generating processes.
- Abstract(参考訳): 非線形独立成分分析(ICA)は、観測可能な非線形混合物から基礎となる独立潜伏源を回収することを目的としている。
非線形icaモデルを特定の自明な不確定性まで識別する方法は、教師なし学習における長年の問題である。
最近のブレークスルーは、補助変数(例えばクラスラベルやドメイン/時間インデックス)が弱い監督や帰納バイアスとして与えられる条件付き独立性としてソースの標準的な独立性仮定を再構成している。
しかし、非条件事前を持つ非線形ICAはそのような発展の恩恵を受けることができない。
我々は、代替経路を探究し、構造空間のような混合過程の仮定のみを考える。
このような制約の特定のインスタンス化の下では、独立潜水源は置換や成分変換まで非線形混合から同定でき、補助変数のない非線形ICAの非自明な識別性を実現することができる。
評価法と理論結果の検証を実験的に行う。
画像データの結果から,我々の条件は多くの実用的データ生成プロセスに保持される可能性が示唆された。
関連論文リスト
- Identifiable Feature Learning for Spatial Data with Nonlinear ICA [18.480534062833673]
本稿では,高次元依存構造を持つデータに自然に適用する潜在成分を用いた新しい非線形ICAフレームワークを提案する。
特に、計算効率を誘導する前に、ディープニューラルネットワークミキシング関数とTPの組み合わせを扱うための変分法を拡張する新しい学習アルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-11-28T15:00:11Z) - Generalizing Nonlinear ICA Beyond Structural Sparsity [15.450470872782082]
非線形ICAの識別性は追加の仮定なしでは不可能であることが知られている。
近年の進歩は、構造スパーシティとして知られる観測変数への接続構造に関する条件を提案している。
フレキシブルなグルーピング構造であっても,適切な識別性が得られることを示す。
論文 参考訳(メタデータ) (2023-11-01T21:36:15Z) - Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - Learning Linear Causal Representations from Interventions under General
Nonlinear Mixing [52.66151568785088]
介入対象にアクセスできることなく、未知の単一ノード介入を考慮し、強い識別可能性を示す。
これは、ディープニューラルネットワークの埋め込みに対する非ペアの介入による因果識別性の最初の例である。
論文 参考訳(メタデータ) (2023-06-04T02:32:12Z) - Discovering Latent Causal Variables via Mechanism Sparsity: A New
Principle for Nonlinear ICA [81.4991350761909]
ICA(Independent component analysis)は、この目的を定式化し、実用的な応用のための推定手順を提供する手法の集合を指す。
潜伏変数は、潜伏機構をスパースに正則化すれば、置換まで復元可能であることを示す。
論文 参考訳(メタデータ) (2021-07-21T14:22:14Z) - Independent mechanism analysis, a new concept? [3.2548794659022393]
Identifiabilityは、通常観察される変数が生成プロセスに含まれる設定で回復することができる。
我々は,非線形ブラインド音源分離における非識別性問題の多くを回避できるという理論的,実証的な証拠を提供する。
論文 参考訳(メタデータ) (2021-06-09T16:45:00Z) - Nonlinear Independent Component Analysis for Continuous-Time Signals [85.59763606620938]
このプロセスの混合物の観察から多次元音源過程を復元する古典的問題を考察する。
このリカバリは、この混合物が十分に微分可能で可逆な関数によって与えられる場合、多くの一般的なプロセスのモデル(座標の順序と単調スケーリングまで)に対して可能であることを示す。
論文 参考訳(メタデータ) (2021-02-04T20:28:44Z) - Disentangling Observed Causal Effects from Latent Confounders using
Method of Moments [67.27068846108047]
我々は、軽度の仮定の下で、識別性と学習可能性に関する保証を提供する。
我々は,線形制約付き結合テンソル分解に基づく効率的なアルゴリズムを開発し,スケーラブルで保証可能な解を得る。
論文 参考訳(メタデータ) (2021-01-17T07:48:45Z) - WICA: nonlinear weighted ICA [72.02008296553318]
独立成分分析(ICA)は、データのコンポーネントが独立している座標系を見つけることを目的としている。
我々は、WICAと呼ばれる新しい非線形ICAモデルを構築し、他のアルゴリズムよりも優れた、より安定した結果を得る。
論文 参考訳(メタデータ) (2020-01-13T10:38:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。