Fugu-MT 論文翻訳(概要): Provable Subspace Identification Under Post-Nonlinear Mixtures

論文の概要: Provable Subspace Identification Under Post-Nonlinear Mixtures

arxiv url: http://arxiv.org/abs/2210.07532v1
Date: Fri, 14 Oct 2022 05:26:40 GMT
ステータス: 処理完了
システム内更新日: 2022-10-17 15:58:37.677404
Title: Provable Subspace Identification Under Post-Nonlinear Mixtures
Title（参考訳）: 非線型混合下における確率的部分空間同定
Authors: Qi Lyu and Xiao Fu
Abstract要約: 非自明な混合学習は、線形または非線形に混合された潜在成分を盲目的に識別することを目的としている。この研究は、慎重に設計された基準の下で、基礎となる混合系に付随するヌル空間が未知の非線形性の識別と除去を保証するのに十分であることを示している。
参考スコア（独自算出の注目度）: 11.012445089716016
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Unsupervised mixture learning (UML) aims at identifying linearly or nonlinearly mixed latent components in a blind manner. UML is known to be challenging: Even learning linear mixtures requires highly nontrivial analytical tools, e.g., independent component analysis or nonnegative matrix factorization. In this work, the post-nonlinear (PNL) mixture model -- where unknown element-wise nonlinear functions are imposed onto a linear mixture -- is revisited. The PNL model is widely employed in different fields ranging from brain signal classification, speech separation, remote sensing, to causal discovery. To identify and remove the unknown nonlinear functions, existing works often assume different properties on the latent components (e.g., statistical independence or probability-simplex structures). This work shows that under a carefully designed UML criterion, the existence of a nontrivial null space associated with the underlying mixing system suffices to guarantee identification/removal of the unknown nonlinearity. Compared to prior works, our finding largely relaxes the conditions of attaining PNL identifiability, and thus may benefit applications where no strong structural information on the latent components is known. A finite-sample analysis is offered to characterize the performance of the proposed approach under realistic settings. To implement the proposed learning criterion, a block coordinate descent algorithm is proposed. A series of numerical experiments corroborate our theoretical claims.
Abstract（参考訳）: unsupervised mixture learning(uml)の目的は、線形または非線形に混合した潜在成分を盲目的に識別することである。線形混合を学習しても、独立成分分析や非負行列分解といった非常に非自明な分析ツールが必要である。本研究では、未知の要素方向非線形関数を線形混合に課すポスト非線形(pnl)混合モデルを再検討する。 PNLモデルは、脳信号の分類、音声分離、リモートセンシング、因果発見など、様々な分野で広く利用されている。未知の非線形関数を同定して取り除くために、既存の研究はしばしば潜在成分(統計的独立性や確率-単純構造など)に異なる性質を仮定する。この研究は、慎重に設計されたUML基準の下で、基礎となる混合系に付随する非自明なヌル空間の存在は、未知の非線形性の識別/除去を保証するのに十分であることを示している。先行研究と比較して,本研究はpnl識別性を達成する条件をほとんど緩和するので,潜在成分に関する強固な構造情報がない場合に有用であると考えられる。実環境下での提案手法の性能を特徴付けるために有限サンプル解析が提案されている。提案する学習基準を実装するために,ブロック座標降下アルゴリズムを提案する。一連の数値実験は我々の理論的な主張と一致している。

関連論文リスト

Learning Linear Causal Representations from Interventions under General Nonlinear Mixing [52.66151568785088]
介入対象にアクセスできることなく、未知の単一ノード介入を考慮し、強い識別可能性を示す。これは、ディープニューラルネットワークの埋め込みに対する非ペアの介入による因果識別性の最初の例である。
論文参考訳（メタデータ） (2023-06-04T02:32:12Z)
Identifiability and Asymptotics in Learning Homogeneous Linear ODE Systems from Discrete Observations [114.17826109037048]
通常の微分方程式(ODE)は、機械学習において最近多くの注目を集めている。理論的な側面、例えば、統計的推定の識別可能性と特性は、いまだに不明である。本稿では,1つの軌道からサンプリングされた等間隔の誤差のない観測結果から,同次線形ODE系の同定可能性について十分な条件を導出する。
論文参考訳（メタデータ） (2022-10-12T06:46:38Z)
Function Classes for Identifiable Nonlinear Independent Component Analysis [10.828616610785524]
潜在変数モデル(LVM)の教師なし学習は機械学習のデータ表現に広く用いられている。最近の研究は、そのようなモデルの関数クラスを制約することは、識別可能性を促進することを示唆している。これらの変換のサブクラスである共形写像が同定可能であることを証明し、新しい理論的結果を与える。
論文参考訳（メタデータ） (2022-08-12T17:58:31Z)
On the Identifiability of Nonlinear ICA: Sparsity and Beyond [20.644375143901488]
自明な不確定点を特定できる非線形ICAモデルをいかにして特定させるかは、教師なし学習における長年の問題である。最近のブレークスルーは、いくつかの補助変数が与えられた条件付き独立としてソースの標準独立仮定を再構成する。このような制約の特定のインスタンス化の下では、独立潜水源はそれらの非線形混合から置換まで同定できることを示す。
論文参考訳（メタデータ） (2022-06-15T18:24:22Z)
On Finite-Sample Identifiability of Contrastive Learning-Based Nonlinear Independent Component Analysis [11.012445089716016]
この研究は GCL ベースの nICA の有限サンプル識別可能性解析を行う。本フレームワークは, GCL損失関数の特性, 統計解析, 数値微分を加味したものである。
論文参考訳（メタデータ） (2022-06-14T04:59:08Z)
Understanding the Role of Nonlinearity in Training Dynamics of Contrastive Learning [37.27098255569438]
本研究では,1層および2層非線形ネットワーク上でのコントラスト学習(CL)の学習力学における非線形性の役割について検討する。非線形性の存在は1層設定においても多くの局所最適性をもたらすことを示す。グローバルレベルパターンの観点から識別可能な局所パターンを優先的に学習する。
論文参考訳（メタデータ） (2022-06-02T23:52:35Z)
Exploring Linear Feature Disentanglement For Neural Networks [63.20827189693117]
Sigmoid、ReLU、Tanhなどの非線形活性化関数は、ニューラルネットワーク(NN)において大きな成功を収めた。サンプルの複雑な非線形特性のため、これらの活性化関数の目的は、元の特徴空間から線形分離可能な特徴空間へサンプルを投影することである。この現象は、現在の典型的なNNにおいて、すべての特徴がすべての非線形関数によって変換される必要があるかどうかを探求することに興味をそそる。
論文参考訳（メタデータ） (2022-03-22T13:09:17Z)
Adaptive neighborhood Metric learning [184.95321334661898]
適応的近傍距離距離学習(ANML)という新しい距離距離距離距離距離距離学習アルゴリズムを提案する。 ANMLは線形埋め込みと深層埋め込みの両方を学ぶのに使うことができる。本手法で提案するemphlog-exp平均関数は,深層学習手法をレビューするための新たな視点を与える。
論文参考訳（メタデータ） (2022-01-20T17:26:37Z)
Identifiability-Guaranteed Simplex-Structured Post-Nonlinear Mixture Learning via Autoencoder [9.769870656657522]
この研究は、非線形に混合された潜伏成分を教師なしの方法で解き放つ問題に焦点を当てる。潜伏成分は確率単純度内に存在すると仮定され、未知の非線形混合系によって変換される。この問題は、非線形ハイパースペクトルアンミックス、画像埋め込み、非線形クラスタリングなど、信号およびデータ分析における様々な応用を見出す。
論文参考訳（メタデータ） (2021-06-16T18:20:58Z)
Identification of Probability weighted ARX models with arbitrary domains [75.91002178647165]
PieceWise Affineモデルは、ハイブリッドシステムの他のクラスに対する普遍近似、局所線型性、同値性を保証する。本研究では,任意の領域を持つ固有入力モデル(NPWARX)を用いたPieceWise Auto Regressiveの同定に着目する。このアーキテクチャは、機械学習の分野で開発されたMixture of Expertの概念に従って考案された。
論文参考訳（メタデータ） (2020-09-29T12:50:33Z)
WICA: nonlinear weighted ICA [72.02008296553318]
独立成分分析(ICA)は、データのコンポーネントが独立している座標系を見つけることを目的としている。我々は、WICAと呼ばれる新しい非線形ICAモデルを構築し、他のアルゴリズムよりも優れた、より安定した結果を得る。
論文参考訳（メタデータ） (2020-01-13T10:38:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。