論文の概要: Robustness of Nonlinear Representation Learning

• arxiv url: http://arxiv.org/abs/2503.15355v1
• Date: Wed, 19 Mar 2025 15:57:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-20 15:25:41.205091
• Title: Robustness of Nonlinear Representation Learning
• Title（参考訳）: 非線形表現学習のロバスト性
• Authors: Simon Buchholz, Bernhard Schölkopf,
• Abstract要約: 本研究では,教師なし表現学習の問題を,わずかに不特定な環境で研究する。 混合は線形変換と小さな誤差で識別可能であることを示す。 これらの結果は、実世界のデータに対する教師なし表現学習における識別可能性向上へのステップである。
• 参考スコア（独自算出の注目度）: 60.15898117103069
• License:
• Abstract: We study the problem of unsupervised representation learning in slightly misspecified settings, and thus formalize the study of robustness of nonlinear representation learning. We focus on the case where the mixing is close to a local isometry in a suitable distance and show based on existing rigidity results that the mixing can be identified up to linear transformations and small errors. In a second step, we investigate Independent Component Analysis (ICA) with observations generated according to $x=f(s)=As+h(s)$ where $A$ is an invertible mixing matrix and $h$ a small perturbation. We show that we can approximately recover the matrix $A$ and the independent components. Together, these two results show approximate identifiability of nonlinear ICA with almost isometric mixing functions. Those results are a step towards identifiability results for unsupervised representation learning for real-world data that do not follow restrictive model classes.
• Abstract（参考訳）: 本研究では, 教師なし表現学習の問題を, わずかに不特定な環境で研究し, 非線形表現学習の頑健性の研究を形式化する。 混合が適切な距離で局所等尺線に近い場合に着目し、既存の剛性結果に基づいて、混合が線形変換や小さな誤差に比例して識別可能であることを示す。 2番目のステップでは、$x=f(s)=As+h(s)$で観測された独立成分分析(ICA)を調査し、$A$は可逆混合行列であり、$h$は小さな摂動である。 行列$A$と独立成分をおよそ復元できることが示される。 これら2つの結果は、ほぼ等尺混合関数を持つ非線形ICAの近似的識別性を示す。 これらの結果は,制約付きモデルクラスに従わない実世界のデータに対する教師なし表現学習における識別可能性向上へのステップである。

関連論文リスト

• Adversarial Dependence Minimization [78.36795688238155]
  この研究は、線形対のデコリレーションを超越した依存最小化のための微分可能でスケーラブルなアルゴリズムを提供する。 我々は,PCAを非線形デコリレーションに拡張し,画像分類法の一般化を改良し,自己教師あり表現学習における次元的崩壊を防止する3つのアプリケーションでその実用性を実証する。
  論文  参考訳（メタデータ） (2025-02-05T14:43:40Z)
• Understanding Self-Supervised Learning via Gaussian Mixture Models [19.51336063093898]
  本研究では,ガウス混合モデルにおける自己教師付き学習を自然な文脈で分析する。 ガウスアンが等方的でない場合でも、バニラコントラスト学習が最適の下次元部分空間を見つけることができることを示す。 この設定では、対照的な学習が漁師最適部分空間のサブセットを学習し、学習した表現から全てのノイズを効果的に除去することを示す。
  論文  参考訳（メタデータ） (2024-11-05T21:43:05Z)
• On Characterizing and Mitigating Imbalances in Multi-Instance Partial Label Learning [57.18649648182171]
  我々は、MI-PLLの文脈において、これまで研究されていない問題に対処するためのコントリビューションを行っている。 最小限の仮定をしながら、クラス固有のMI-PLLのリスク境界を導出する。 我々の理論は、$sigma$が学習の不均衡に大きな影響を及ぼすというユニークな現象を明らかにしている。
  論文  参考訳（メタデータ） (2024-07-13T20:56:34Z)
• Understanding Multimodal Contrastive Learning and Incorporating Unpaired Data [19.72282903349282]
  マルチモーダル・コントラッシブ・ラーニング(MMCL)における非線形損失関数の一般クラスを示す。 MMCLの特徴学習能力は,各モダリティに適用される一助的コントラスト学習能力よりも優れていることを示す。 追加の未ペアデータにアクセスできる場合、追加の未ペアデータを含む新たなMMCL損失を提案する。
  論文  参考訳（メタデータ） (2023-02-13T10:11:05Z)
• Provable Subspace Identification Under Post-Nonlinear Mixtures [11.012445089716016]
  非自明な混合学習は、線形または非線形に混合された潜在成分を盲目的に識別することを目的としている。 この研究は、慎重に設計された基準の下で、基礎となる混合系に付随するヌル空間が未知の非線形性の識別と除去を保証するのに十分であることを示している。
  論文  参考訳（メタデータ） (2022-10-14T05:26:40Z)
• Functional Nonlinear Learning [0.0]
  低次元特徴空間における多変量関数データを表現する機能非線形学習法(FunNoL)を提案する。 本研究では,FunNoLがデータ間隔によらず,良好な曲線分類と再構成を提供することを示す。
  論文  参考訳（メタデータ） (2022-06-22T23:47:45Z)
• Near-optimal Offline and Streaming Algorithms for Learning Non-Linear Dynamical Systems [45.17023170054112]
  X_t+1 = phi(A* X_t) + eta_t$, where $eta_t$ is unbiased noise and $phi : mathbbR to mathbbR$ is a known link function that certain em expansivity properties。
  論文  参考訳（メタデータ） (2021-05-24T22:14:26Z)
• A Sober Look at the Unsupervised Learning of Disentangled Representations and their Evaluation [63.042651834453544]
  モデルとデータの両方に帰納的バイアスを伴わずに,非教師なしの非教師付き表現学習は不可能であることを示す。 異なる手法は、対応する損失によって「強化」された特性を効果的に強制するが、よく見分けられたモデルは監督なしでは特定できないように見える。 以上の結果から,遠絡学習における今後の研究は,帰納的バイアスと(単純に)監督の役割を明確化すべきであることが示唆された。
  論文  参考訳（メタデータ） (2020-10-27T10:17:15Z)
• Learning Mixtures of Low-Rank Models [89.39877968115833]
  低ランクモデルの計算混合を学習する問題について検討する。 ほぼ最適サンプルを用いて未知の行列を復元することが保証されるアルゴリズムを開発する。 さらに,提案アルゴリズムはランダムノイズに対して確実に安定である。
  論文  参考訳（メタデータ） (2020-09-23T17:53:48Z)
• Semiparametric Nonlinear Bipartite Graph Representation Learning with Provable Guarantees [106.91654068632882]
  半パラメトリック指数族分布におけるパラメータの統計的推定問題として、両部グラフを考察し、その表現学習問題を定式化する。 提案手法は, 地中真理付近で強い凸性を示すため, 勾配降下法が線形収束率を達成できることを示す。 我々の推定器は指数族内の任意のモデル誤特定に対して頑健であり、広範な実験で検証されている。
  論文  参考訳（メタデータ） (2020-03-02T16:40:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。