論文の概要: Nonlinear Multiple Response Regression and Learning of Latent Spaces

• arxiv url: http://arxiv.org/abs/2503.21608v1
• Date: Thu, 27 Mar 2025 15:28:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-28 12:54:30.164899
• Title: Nonlinear Multiple Response Regression and Learning of Latent Spaces
• Title（参考訳）: 非線形多重応答回帰と潜在空間の学習
• Authors: Ye Tian, Sanyou Wu, Long Feng,
• Abstract要約: 教師なし設定と教師なし設定の両方で潜在空間を学習できる統一手法を提案する。 ブラックボックス」として動作する他のニューラルネットワーク手法とは異なり、我々のアプローチはより良い解釈可能性を提供するだけでなく、計算の複雑さも減少させる。
• 参考スコア（独自算出の注目度）: 2.6113259186042876
• License:
• Abstract: Identifying low-dimensional latent structures within high-dimensional data has long been a central topic in the machine learning community, driven by the need for data compression, storage, transmission, and deeper data understanding. Traditional methods, such as principal component analysis (PCA) and autoencoders (AE), operate in an unsupervised manner, ignoring label information even when it is available. In this work, we introduce a unified method capable of learning latent spaces in both unsupervised and supervised settings. We formulate the problem as a nonlinear multiple-response regression within an index model context. By applying the generalized Stein's lemma, the latent space can be estimated without knowing the nonlinear link functions. Our method can be viewed as a nonlinear generalization of PCA. Moreover, unlike AE and other neural network methods that operate as "black boxes", our approach not only offers better interpretability but also reduces computational complexity while providing strong theoretical guarantees. Comprehensive numerical experiments and real data analyses demonstrate the superior performance of our method.
• Abstract（参考訳）: 高次元データ内の低次元の潜在構造を特定することは、データ圧縮、ストレージ、送信、より深いデータ理解の必要性によって、機械学習コミュニティにおいて長年にわたって中心的な話題となっている。 プリンシパルコンポーネント分析(PCA)やオートエンコーダ(AE)といった従来の手法は教師なしの方法で動作し、利用可能であってもラベル情報を無視する。 本研究では,教師なし設定と教師なし設定の両方において潜在空間を学習できる統一手法を提案する。 指数モデルコンテキスト内での非線形多重応答回帰として問題を定式化する。 一般化されたシュタインの補題を適用することで、非線形リンク関数を知らずに潜在空間を推定できる。 本手法はPCAの非線形一般化とみなすことができる。 さらに、"ブラックボックス"として動作するAEや他のニューラルネットワークメソッドとは異なり、我々のアプローチは、より良い解釈可能性を提供するだけでなく、強力な理論的保証を提供しながら、計算の複雑さを低減する。 総合的な数値実験と実データ解析は,本手法の優れた性能を示すものである。

関連論文リスト

• Adversarial Dependence Minimization [78.36795688238155]
  この研究は、線形対のデコリレーションを超越した依存最小化のための微分可能でスケーラブルなアルゴリズムを提供する。 我々は,PCAを非線形デコリレーションに拡張し,画像分類法の一般化を改良し,自己教師あり表現学習における次元的崩壊を防止する3つのアプリケーションでその実用性を実証する。
  論文  参考訳（メタデータ） (2025-02-05T14:43:40Z)
• Neural Network Approximation for Pessimistic Offline Reinforcement Learning [17.756108291816908]
  一般ニューラルネットワーク近似を用いた悲観的オフラインRLの非漸近的推定誤差を提案する。 その結果, 推定誤差は2つの部分から構成されることがわかった。第1は, 部分的に制御可能な集束率でサンプルサイズに所望の速度で0に収束し, 第2は残留制約が厳密であれば無視可能である。
  論文  参考訳（メタデータ） (2023-12-19T05:17:27Z)
• Identifiable Feature Learning for Spatial Data with Nonlinear ICA [18.480534062833673]
  本稿では,高次元依存構造を持つデータに自然に適用する潜在成分を用いた新しい非線形ICAフレームワークを提案する。 特に、計算効率を誘導する前に、ディープニューラルネットワークミキシング関数とTPの組み合わせを扱うための変分法を拡張する新しい学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-11-28T15:00:11Z)
• Unsupervised Anomaly Detection via Nonlinear Manifold Learning [0.0]
  異常は、残りのデータから著しく逸脱するサンプルであり、その検出は機械学習モデルを構築する上で大きな役割を果たす。 非線形多様体学習に基づく頑健で効率的かつ解釈可能な手法を導入し,教師なし設定における異常を検出する。
  論文  参考訳（メタデータ） (2023-06-15T18:48:10Z)
• Learning Linear Causal Representations from Interventions under General Nonlinear Mixing [52.66151568785088]
  介入対象にアクセスできることなく、未知の単一ノード介入を考慮し、強い識別可能性を示す。 これは、ディープニューラルネットワークの埋め込みに対する非ペアの介入による因果識別性の最初の例である。
  論文  参考訳（メタデータ） (2023-06-04T02:32:12Z)
• What Can We Learn from Unlearnable Datasets? [107.12337511216228]
  学習不可能なデータセットは、ディープニューラルネットワークの一般化を防ぐことによって、データのプライバシを保護する可能性がある。 学習不可能なデータセットでトレーニングされたニューラルネットワークは、一般化には役に立たない単純なルールであるショートカットのみを学ぶと広く信じられている。 これとは対照的に,ネットワークは高いテスト性能を期待できる有用な特徴を実際に学習することができ,画像保護が保証されていないことを示唆している。
  論文  参考訳（メタデータ） (2023-05-30T17:41:35Z)
• On the application of generative adversarial networks for nonlinear modal analysis [0.0]
  非線形モーダル解析を行うための機械学習手法を提案する。 このスキームは、潜在モーダル空間から自然な座標空間への1対1の写像を定義することに重点を置いている。 このマッピングは、最近開発されたサイクル一貫性のある生成的敵ネットワーク(cycle-GAN)とニューラルネットワークのアセンブリを使用して達成される。
  論文  参考訳（メタデータ） (2022-03-02T16:46:41Z)
• Learning Fast Approximations of Sparse Nonlinear Regression [50.00693981886832]
  本研究では,Threshold Learned Iterative Shrinkage Algorithming (NLISTA)を導入することでギャップを埋める。 合成データを用いた実験は理論結果と相関し,その手法が最先端の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2020-10-26T11:31:08Z)
• Nonlinear ISA with Auxiliary Variables for Learning Speech Representations [51.9516685516144]
  補助変数の存在下では非線型独立部分空間解析(ISA)の理論的枠組みを導入する。 部分空間が独立な教師なし音声表現を学習するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-07-25T14:53:09Z)
• Linear Tensor Projection Revealing Nonlinearity [0.294944680995069]
  次元の減少は高次元データの学習に有効な方法である。 本稿では,元データ情報を可能な限り多く保持しつつ,予測精度を最大化する部分空間を探索する手法を提案する。
  論文  参考訳（メタデータ） (2020-07-08T06:10:39Z)
• Learning Stochastic Behaviour from Aggregate Data [52.012857267317784]
  集約データから非線形ダイナミクスを学習することは、各個人の完全な軌道が利用できないため、難しい問題である。 本稿では,Fokker Planck Equation (FPE) の弱い形式を用いて,サンプル形式のデータの密度変化を記述する手法を提案する。 このようなサンプルベースのフレームワークでは、偏微分方程式(PDE)FPEを明示的に解くことなく、集約データから非線形ダイナミクスを学習することができる。
  論文  参考訳（メタデータ） (2020-02-10T03:20:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。