論文の概要: Generalizing Nonlinear ICA Beyond Structural Sparsity
- arxiv url: http://arxiv.org/abs/2311.00866v1
- Date: Wed, 1 Nov 2023 21:36:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-03 15:28:17.409233
- Title: Generalizing Nonlinear ICA Beyond Structural Sparsity
- Title(参考訳): 構造空間を超えた非線形ICAの一般化
- Authors: Yujia Zheng, Kun Zhang
- Abstract要約: 非線形ICAの識別性は追加の仮定なしでは不可能であることが知られている。
近年の進歩は、構造スパーシティとして知られる観測変数への接続構造に関する条件を提案している。
フレキシブルなグルーピング構造であっても,適切な識別性が得られることを示す。
- 参考スコア(独自算出の注目度): 15.450470872782082
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Nonlinear independent component analysis (ICA) aims to uncover the true
latent sources from their observable nonlinear mixtures. Despite its
significance, the identifiability of nonlinear ICA is known to be impossible
without additional assumptions. Recent advances have proposed conditions on the
connective structure from sources to observed variables, known as Structural
Sparsity, to achieve identifiability in an unsupervised manner. However, the
sparsity constraint may not hold universally for all sources in practice.
Furthermore, the assumptions of bijectivity of the mixing process and
independence among all sources, which arise from the setting of ICA, may also
be violated in many real-world scenarios. To address these limitations and
generalize nonlinear ICA, we propose a set of new identifiability results in
the general settings of undercompleteness, partial sparsity and source
dependence, and flexible grouping structures. Specifically, we prove
identifiability when there are more observed variables than sources
(undercomplete), and when certain sparsity and/or source independence
assumptions are not met for some changing sources. Moreover, we show that even
in cases with flexible grouping structures (e.g., part of the sources can be
divided into irreducible independent groups with various sizes), appropriate
identifiability results can also be established. Theoretical claims are
supported empirically on both synthetic and real-world datasets.
- Abstract(参考訳): 非線形独立成分分析(ICA)は、観測可能な非線形混合物から真の潜伏源を明らかにすることを目的としている。
その重要性にもかかわらず、非線形ICAの識別性は追加の仮定なしでは不可能であることが知られている。
最近の進歩は、教師なしの方法で識別可能性を達成するために、ソースから観測変数への接続構造に関する条件を提案している。
しかし、空間的制約は実際にはすべての情報源に対して普遍的に成り立たない。
さらに、混合過程の単射性とicaの設定から生じるすべてのソース間の独立性の仮定は、多くの現実世界のシナリオでも破られる可能性がある。
これらの制約に対処し、非線形ICAを一般化するために、不完全性、部分空間性、ソース依存性、フレキシブルグルーピング構造といった一般的な設定における新しい識別可能性のセットを提案する。
具体的には、ソース(アンダーコンプリート)よりも多くの観測変数が存在する場合と、特定のスパース性および/またはソース独立性仮定が一部の変更ソースで満たされていない場合の識別可能性を証明する。
また,フレキシブルなグループ構造(例えば,ソースの一部が様々な大きさの既約独立群に分けられる)の場合であっても,適切な識別可能性の確立が可能であることを示す。
理論的な主張は、合成データと実世界のデータセットの両方で実証的にサポートされている。
関連論文リスト
- Detecting and Identifying Selection Structure in Sequential Data [53.24493902162797]
我々は,音楽のシーケンスなどの実践的な状況において,潜在目的に基づくデータポイントの選択的包摂が一般的である,と論じる。
選択構造はパラメトリックな仮定や介入実験なしで識別可能であることを示す。
また、他の種類の依存関係と同様に、選択構造を検知し、識別するための証明可能な正当性アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-06-29T20:56:34Z) - Nonparametric Identifiability of Causal Representations from Unknown
Interventions [63.1354734978244]
本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。
我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
論文 参考訳(メタデータ) (2023-06-01T10:51:58Z) - Experimental full network nonlocality with independent sources and
strict locality constraints [59.541438315564854]
ネットワークの非局所性は、標準的なベルのシナリオとは大きく異なる現象を引き起こす。
本研究では, 情報源依存性, 局所性, 測定依存性の抜け穴が閉じているネットワークにおいて, 完全なネットワーク非局所性を実験的に観察する。
非完全ネットワーク非局所相関を5つ以上の標準偏差で特徴付ける既知の不等式に反する実験を行った。
論文 参考訳(メタデータ) (2023-02-05T20:03:58Z) - On the Identifiability of Nonlinear ICA: Sparsity and Beyond [20.644375143901488]
自明な不確定点を特定できる非線形ICAモデルをいかにして特定させるかは、教師なし学習における長年の問題である。
最近のブレークスルーは、いくつかの補助変数が与えられた条件付き独立としてソースの標準独立仮定を再構成する。
このような制約の特定のインスタンス化の下では、独立潜水源はそれらの非線形混合から置換まで同定できることを示す。
論文 参考訳(メタデータ) (2022-06-15T18:24:22Z) - On Finite-Sample Identifiability of Contrastive Learning-Based Nonlinear
Independent Component Analysis [11.012445089716016]
この研究は GCL ベースの nICA の有限サンプル識別可能性解析を行う。
本フレームワークは, GCL損失関数の特性, 統計解析, 数値微分を加味したものである。
論文 参考訳(メタデータ) (2022-06-14T04:59:08Z) - Non-Linear Spectral Dimensionality Reduction Under Uncertainty [107.01839211235583]
我々は、不確実性情報を活用し、いくつかの従来のアプローチを直接拡張する、NGEUと呼ばれる新しい次元削減フレームワークを提案する。
提案したNGEUの定式化は,大域的な閉形式解を示し,Radecherの複雑性に基づいて,基礎となる不確実性がフレームワークの一般化能力に理論的にどのように影響するかを分析する。
論文 参考訳(メタデータ) (2022-02-09T19:01:33Z) - Causal Discovery in Linear Structural Causal Models with Deterministic
Relations [27.06618125828978]
我々は因果発見の課題と観察データに焦点をあてる。
因果構造の特異な識別に必要かつ十分な条件のセットを導出する。
論文 参考訳(メタデータ) (2021-10-30T21:32:42Z) - Discovering Latent Causal Variables via Mechanism Sparsity: A New
Principle for Nonlinear ICA [81.4991350761909]
ICA(Independent component analysis)は、この目的を定式化し、実用的な応用のための推定手順を提供する手法の集合を指す。
潜伏変数は、潜伏機構をスパースに正則化すれば、置換まで復元可能であることを示す。
論文 参考訳(メタデータ) (2021-07-21T14:22:14Z) - Independent mechanism analysis, a new concept? [3.2548794659022393]
Identifiabilityは、通常観察される変数が生成プロセスに含まれる設定で回復することができる。
我々は,非線形ブラインド音源分離における非識別性問題の多くを回避できるという理論的,実証的な証拠を提供する。
論文 参考訳(メタデータ) (2021-06-09T16:45:00Z) - Nonlinear Invariant Risk Minimization: A Causal Approach [5.63479133344366]
非線形環境下での分布外一般化を可能にする学習パラダイムを提案する。
我々は、非常に単純な変換までデータ表現の識別性を示す。
合成データと実世界のデータセットの両方に関する広範な実験は、我々のアプローチが様々なベースラインメソッドを大きく上回っていることを示している。
論文 参考訳(メタデータ) (2021-02-24T15:38:41Z) - Disentangling Observed Causal Effects from Latent Confounders using
Method of Moments [67.27068846108047]
我々は、軽度の仮定の下で、識別性と学習可能性に関する保証を提供する。
我々は,線形制約付き結合テンソル分解に基づく効率的なアルゴリズムを開発し,スケーラブルで保証可能な解を得る。
論文 参考訳(メタデータ) (2021-01-17T07:48:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。