論文の概要: Disentangling Identifiable Features from Noisy Data with Structured Nonlinear ICA

• arxiv url: http://arxiv.org/abs/2106.09620v1
• Date: Thu, 17 Jun 2021 15:56:57 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-18 20:11:53.416514
• Title: Disentangling Identifiable Features from Noisy Data with Structured Nonlinear ICA
• Title（参考訳）: 構造非線形ICAを用いた雑音データからの識別可能特徴の特定
• Authors: Hermanni H\"alv\"a, Sylvain Le Corff, Luc Leh\'ericy, Jonathan So, Yongjie Zhu, Elisabeth Gassiat, Aapo Hyvarinen
• Abstract要約: 我々は、SNICA(Structured Independent Component Analysis)と呼ばれる原則的絡み合いのための新しい一般化可能なフレームワークを導入する。 我々の貢献は、非常に広い階層構造モデルに対する深層生成モデルの識別可能性理論を拡張することである。 我々は,未知分布の雑音の存在下でも,このフレームワークの識別可能性が維持可能であるという主要な結果を確立する。
• 参考スコア（独自算出の注目度）: 4.340954888479091
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce a new general identifiable framework for principled disentanglement referred to as Structured Nonlinear Independent Component Analysis (SNICA). Our contribution is to extend the identifiability theory of deep generative models for a very broad class of structured models. While previous works have shown identifiability for specific classes of time-series models, our theorems extend this to more general temporal structures as well as to models with more complex structures such as spatial dependencies. In particular, we establish the major result that identifiability for this framework holds even in the presence of noise of unknown distribution. The SNICA setting therefore subsumes all the existing nonlinear ICA models for time-series and also allows for new much richer identifiable models. Finally, as an example of our framework's flexibility, we introduce the first nonlinear ICA model for time-series that combines the following very useful properties: it accounts for both nonstationarity and autocorrelation in a fully unsupervised setting; performs dimensionality reduction; models hidden states; and enables principled estimation and inference by variational maximum-likelihood.
• Abstract（参考訳）: 本稿では, SNICA (Structured Nondependent Component Analysis) と呼ばれる, 原理的非絡み合いのための新しい一般化可能なフレームワークを提案する。 我々の貢献は、非常に広い階層構造モデルに対する深層生成モデルの識別可能性理論を拡張することである。 これまでの研究では、時系列モデルの特定のクラスに対する識別可能性を示してきたが、この定理はより一般的な時間構造だけでなく、空間的依存のようなより複雑な構造を持つモデルにも拡張されている。 特に,未知分布の雑音が存在する場合でも,この枠組みの識別性が保持されるという大きな結果が得られた。 したがって、SNICA設定は、時系列の既存の非線形ICAモデルを全て仮定し、さらによりリッチな識別可能なモデルを可能にする。 最後に、我々のフレームワークの柔軟性の例として、非定常性と自己相関の両方を完全に教師なしの環境で考慮し、次元削減を行い、隠蔽状態のモデル化を行い、変動最大化による原理的推定と推論を可能にする、非常に有用な特性を組み合わせた最初の非線形ICAモデルを導入する。

関連論文リスト

• Latent Space Energy-based Neural ODEs [73.01344439786524]
  本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。 マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。 発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
  論文  参考訳（メタデータ） (2024-09-05T18:14:22Z)
• Understanding the differences in Foundation Models: Attention, State Space Models, and Recurrent Neural Networks [50.29356570858905]
  本稿では,これらすべてのアーキテクチャの共通表現に関する原則的な調査を可能にする動的システムフレームワーク(DSF)について紹介する。 ソフトマックスアテンションと他のモデルクラスとの原理的比較を行い、ソフトマックスアテンションを近似できる理論条件について議論する。 このことは、DSFが将来のより効率的でスケーラブルな基盤モデルの体系的な開発を導く可能性を示している。
  論文  参考訳（メタデータ） (2024-05-24T17:19:57Z)
• Indeterminacy in Latent Variable Models: Characterization and Strong Identifiability [3.959606869996233]
  潜在変数モデルの不確定性を解析するための理論的枠組みを構築する。 次に、強く識別可能な潜在変数モデルを特定する方法について検討する。
  論文  参考訳（メタデータ） (2022-06-02T00:01:27Z)
• On generative models as the basis for digital twins [0.0]
  デジタルツインや構造鏡の基礎として、生成モデルのためのフレームワークが提案されている。 この提案は、決定論的モデルは、ほとんどの構造モデリングアプリケーションに存在する不確実性を説明できないという前提に基づいている。
  論文  参考訳（メタデータ） (2022-03-08T20:34:56Z)
• Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
  トレーニングセットとその構造が長期予測の品質に与える影響を考察する。 トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2021-12-15T20:09:20Z)
• Closed-form Continuous-Depth Models [99.40335716948101]
  連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。 我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
  論文  参考訳（メタデータ） (2021-06-25T22:08:51Z)
• I Don't Need $\mathbf{u}$: Identifiable Non-Linear ICA Without Side Information [13.936583337756883]
  本稿では,非線形ICAモデルの同定のための新しいアプローチを提案する。 特に、潜在空間でクラスタリングを行う生成モデルに焦点を当てる。
  論文  参考訳（メタデータ） (2021-06-09T17:22:08Z)
• Hessian Eigenspectra of More Realistic Nonlinear Models [73.31363313577941]
  私たちは、非線形モデルの広いファミリーのためのヘッセン固有スペクトルの言語的特徴付けを行います。 我々の分析は、より複雑な機械学習モデルで観察される多くの顕著な特徴の起源を特定するために一歩前進する。
  論文  参考訳（メタデータ） (2021-03-02T06:59:52Z)
• Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder [59.69303945834122]
  Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。 我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。 合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
  論文  参考訳（メタデータ） (2021-02-02T06:15:15Z)
• Hidden Markov Nonlinear ICA: Unsupervised Learning from Nonstationary Time Series [0.0]
  非線形独立成分分析と隠れマルコフモデルを組み合わせる方法について述べる。 ニューラルネットワークのような一般の混合非線形性に対するモデルの有効性を実証する。 我々は、教師なし、より効率的で、基礎となる時間力学をモデル化できる新しい非線形ICAフレームワークを実現する。
  論文  参考訳（メタデータ） (2020-06-22T10:01:15Z)
• ICE-BeeM: Identifiable Conditional Energy-Based Deep Models Based on Nonlinear ICA [11.919315372249802]
  確率モデルの同定可能性理論を考察する。 我々は,独立に修飾されたコンポーネント分析の枠組みにおけるコンポーネントの推定に,我々のモデルを利用できることを示す。
  論文  参考訳（メタデータ） (2020-02-26T14:43:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。