論文の概要: Function Classes for Identifiable Nonlinear Independent Component Analysis

• arxiv url: http://arxiv.org/abs/2208.06406v1
• Date: Fri, 12 Aug 2022 17:58:31 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-15 13:07:47.351482
• Title: Function Classes for Identifiable Nonlinear Independent Component Analysis
• Title（参考訳）: 非線形独立成分分析のための関数クラス
• Authors: Simon Buchholz, Michel Besserve, Bernhard Sch\"olkopf
• Abstract要約: 潜在変数モデル(LVM)の教師なし学習は機械学習のデータ表現に広く用いられている。 最近の研究は、そのようなモデルの関数クラスを制約することは、識別可能性を促進することを示唆している。 これらの変換のサブクラスである共形写像が同定可能であることを証明し、新しい理論的結果を与える。
• 参考スコア（独自算出の注目度）: 10.828616610785524
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Unsupervised learning of latent variable models (LVMs) is widely used to represent data in machine learning. When such models reflect the ground truth factors and the mechanisms mapping them to observations, there is reason to expect that they allow generalization in downstream tasks. It is however well known that such identifiability guaranties are typically not achievable without putting constraints on the model class. This is notably the case for nonlinear Independent Component Analysis, in which the LVM maps statistically independent variables to observations via a deterministic nonlinear function. Several families of spurious solutions fitting perfectly the data, but that do not correspond to the ground truth factors can be constructed in generic settings. However, recent work suggests that constraining the function class of such models may promote identifiability. Specifically, function classes with constraints on their partial derivatives, gathered in the Jacobian matrix, have been proposed, such as orthogonal coordinate transformations (OCT), which impose orthogonality of the Jacobian columns. In the present work, we prove that a subclass of these transformations, conformal maps, is identifiable and provide novel theoretical results suggesting that OCTs have properties that prevent families of spurious solutions to spoil identifiability in a generic setting.
• Abstract（参考訳）: 潜在変数モデル(LVM)の教師なし学習は機械学習のデータ表現に広く用いられている。 このようなモデルが基底的真理因子とそれを観測にマッピングするメカニズムを反映している場合、下流タスクの一般化を許容する理由がある。 しかし、そのような識別可能性保証が一般にモデルクラスに制約を加えることなく達成できないことはよく知られている。 特に非線形独立成分分析では、LVMは統計的に独立な変数を決定論的非線形関数を通して観測にマッピングする。 完全なデータに適合するスプリアス解のいくつかのファミリーは、基礎的真理因子に対応していないが、汎用的な設定で構成することができる。 しかし、近年の研究は、そのようなモデルの関数クラスを制約することは、識別可能性を促進することを示唆している。 具体的には、ジャコビアン行列(英語版)(Jacobian matrix)に集められた部分微分に制約のある函数クラスが提案されており、例えば、ジャコビアン列の直交性を課す直交座標変換(OCT)がある。 本研究は,これらの変換のサブクラスである共形写像が同定可能であることを証明し,OCTが一般の環境での識別性を損なう突発解の族を阻止する性質を持つことを示す新しい理論的結果を提供する。

関連論文リスト

• Induced Covariance for Causal Discovery in Linear Sparse Structures [55.2480439325792]
  因果モデルでは、観測データから変数間の因果関係を解き明かそうとしている。 本稿では,変数が線形に疎結合な関係を示す設定のための新しい因果探索アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-02T04:01:38Z)
• Representation Disentaglement via Regularization by Causal Identification [3.9160947065896803]
  本稿では,不整合表現学習における基礎となるデータ生成過程の仮定を記述するために,因果コライダー構造モデルを提案する。 そこで本研究では,大規模生成モデルの挙動を因果同定によって課される絡み合った制約に整合させるモジュール型正規化エンジンReIを提案する。
  論文  参考訳（メタデータ） (2023-02-28T23:18:54Z)
• Identifiability of latent-variable and structural-equation models: from linear to nonlinear [2.159277717031637]
  因子分析において、(最近)変数の非ガウス性は識別可能性をもたらすことが示されている。 最近では、そのようなモデルの一般の非非線形バージョンでさえ、どのように見積もることができるかが示されている。
  論文  参考訳（メタデータ） (2023-02-06T10:21:21Z)
• Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
  本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。 この問題は楕円分布のペナルティ化された最大推定値として表される。 楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
  論文  参考訳（メタデータ） (2022-10-21T13:19:45Z)
• Learning from few examples with nonlinear feature maps [68.8204255655161]
  我々はこの現象を探求し、AIモデルの特徴空間の次元性、データ分散の非退化、モデルの一般化能力の間の重要な関係を明らかにする。 本分析の主な推力は、元のデータを高次元および無限次元空間にマッピングする非線形特徴変換が結果のモデル一般化能力に与える影響である。
  論文  参考訳（メタデータ） (2022-03-31T10:36:50Z)
• Discovering Latent Causal Variables via Mechanism Sparsity: A New Principle for Nonlinear ICA [81.4991350761909]
  ICA(Independent component analysis)は、この目的を定式化し、実用的な応用のための推定手順を提供する手法の集合を指す。 潜伏変数は、潜伏機構をスパースに正則化すれば、置換まで復元可能であることを示す。
  論文  参考訳（メタデータ） (2021-07-21T14:22:14Z)
• I Don't Need $\mathbf{u}$: Identifiable Non-Linear ICA Without Side Information [13.936583337756883]
  本稿では,非線形ICAモデルの同定のための新しいアプローチを提案する。 特に、潜在空間でクラスタリングを行う生成モデルに焦点を当てる。
  論文  参考訳（メタデータ） (2021-06-09T17:22:08Z)
• Hessian Eigenspectra of More Realistic Nonlinear Models [73.31363313577941]
  私たちは、非線形モデルの広いファミリーのためのヘッセン固有スペクトルの言語的特徴付けを行います。 我々の分析は、より複雑な機械学習モデルで観察される多くの顕著な特徴の起源を特定するために一歩前進する。
  論文  参考訳（メタデータ） (2021-03-02T06:59:52Z)
• Nonlinear Invariant Risk Minimization: A Causal Approach [5.63479133344366]
  非線形環境下での分布外一般化を可能にする学習パラダイムを提案する。 我々は、非常に単純な変換までデータ表現の識別性を示す。 合成データと実世界のデータセットの両方に関する広範な実験は、我々のアプローチが様々なベースラインメソッドを大きく上回っていることを示している。
  論文  参考訳（メタデータ） (2021-02-24T15:38:41Z)
• ICE-BeeM: Identifiable Conditional Energy-Based Deep Models Based on Nonlinear ICA [11.919315372249802]
  確率モデルの同定可能性理論を考察する。 我々は,独立に修飾されたコンポーネント分析の枠組みにおけるコンポーネントの推定に,我々のモデルを利用できることを示す。
  論文  参考訳（メタデータ） (2020-02-26T14:43:30Z)
• Invariant Feature Coding using Tensor Product Representation [75.62232699377877]
  我々は,群不変特徴ベクトルが線形分類器を学習する際に十分な識別情報を含んでいることを証明した。 主成分分析やk平均クラスタリングにおいて,グループアクションを明示的に考慮する新たな特徴モデルを提案する。
  論文  参考訳（メタデータ） (2019-06-05T07:15:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。