論文の概要: A Variational Manifold Embedding Framework for Nonlinear Dimensionality Reduction
- arxiv url: http://arxiv.org/abs/2511.22128v1
- Date: Thu, 27 Nov 2025 05:42:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-01 19:47:55.411585
- Title: A Variational Manifold Embedding Framework for Nonlinear Dimensionality Reduction
- Title(参考訳): 非線形次元化のための変分マニフォールド埋め込みフレームワーク
- Authors: John J. Vastola, Samuel J. Gershman, Kanaka Rajan,
- Abstract要約: 主成分分析のような次元減少アルゴリズムは、機械学習と神経科学のワークホースである。
PCAの変数は単純で解釈可能であるが、非線形データ多様体構造を捉えるのに十分な柔軟性はない。
最適多様体埋め込み問題に対する解として次元削減アルゴリズムを応用した変分フレームワークを提案する。
- 参考スコア(独自算出の注目度): 8.844699137494105
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dimensionality reduction algorithms like principal component analysis (PCA) are workhorses of machine learning and neuroscience, but each has well-known limitations. Variants of PCA are simple and interpretable, but not flexible enough to capture nonlinear data manifold structure. More flexible approaches have other problems: autoencoders are generally difficult to interpret, and graph-embedding-based methods can produce pathological distortions in manifold geometry. Motivated by these shortcomings, we propose a variational framework that casts dimensionality reduction algorithms as solutions to an optimal manifold embedding problem. By construction, this framework permits nonlinear embeddings, allowing its solutions to be more flexible than PCA. Moreover, the variational nature of the framework has useful consequences for interpretability: each solution satisfies a set of partial differential equations, and can be shown to reflect symmetries of the embedding objective. We discuss these features in detail and show that solutions can be analytically characterized in some cases. Interestingly, one special case exactly recovers PCA.
- Abstract(参考訳): 主成分分析(PCA)のような次元減少アルゴリズムは、機械学習と神経科学のワークホースであるが、それぞれによく知られた制限がある。
PCAの変数は単純で解釈可能であるが、非線形データ多様体構造を捉えるのに十分な柔軟性はない。
より柔軟なアプローチには他にも問題がある: オートエンコーダは一般的に解釈が困難であり、グラフ埋め込みに基づく手法は多様体幾何学における病理学的歪みを生じさせる。
これらの欠点に触発されて、最適多様体埋め込み問題の解として次元減少アルゴリズムをキャストする変分フレームワークを提案する。
構築により、このフレームワークは非線形埋め込みを許容し、その解はPCAよりも柔軟になる。
それぞれの解は偏微分方程式の集合を満たすものであり、埋め込み対象の対称性を反映するように示せる。
これらの特徴を詳細に議論し、いくつかのケースで解が解析的に特徴付けられることを示す。
興味深いことに、1つの特別なケースがPCAを正確に回復する。
関連論文リスト
- Adversarial Dependence Minimization [78.36795688238155]
この研究は、線形対のデコリレーションを超越した依存最小化のための微分可能でスケーラブルなアルゴリズムを提供する。
我々は,PCAを非線形デコリレーションに拡張し,画像分類法の一般化を改良し,自己教師あり表現学習における次元的崩壊を防止する3つのアプリケーションでその実用性を実証する。
論文 参考訳(メタデータ) (2025-02-05T14:43:40Z) - A Variational Bayesian Inference Theory of Elasticity and Its Mixed Probabilistic Finite Element Method for Inverse Deformation Solutions in Any Dimension [3.9900555221077396]
弾性ひずみエネルギーはベイズ推論ネットワークの先行として用いられる。
提案手法は, 強い不連続性や破壊を伴う連続変形写像を逆予測できる。
論文 参考訳(メタデータ) (2024-10-10T04:35:18Z) - A graph convolutional autoencoder approach to model order reduction for
parametrized PDEs [0.8192907805418583]
本稿では,グラフ畳み込みオートエンコーダ(GCA-ROM)に基づく非線形モデルオーダー削減のためのフレームワークを提案する。
我々は、GNNを利用して、圧縮された多様体を符号化し、パラメタライズされたPDEの高速な評価を可能にする、非侵襲的でデータ駆動の非線形還元手法を開発した。
論文 参考訳(メタデータ) (2023-05-15T12:01:22Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳(メタデータ) (2023-01-28T01:50:42Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Sparse Polynomial Optimization: Theory and Practice [5.27013884159732]
本書は、この課題に重要な科学的意味を持って取り組むためのいくつかの取り組みを提示している。
これは計算複雑性の観点からうまくスケールする代替の最適化スキームを提供する。
制約のない問題や制約のない問題に対して、緩和の疎開的階層を提示する。
論文 参考訳(メタデータ) (2022-08-23T18:56:05Z) - Hessian Eigenspectra of More Realistic Nonlinear Models [73.31363313577941]
私たちは、非線形モデルの広いファミリーのためのヘッセン固有スペクトルの言語的特徴付けを行います。
我々の分析は、より複雑な機械学習モデルで観察される多くの顕著な特徴の起源を特定するために一歩前進する。
論文 参考訳(メタデータ) (2021-03-02T06:59:52Z) - Differentiable Causal Discovery from Interventional Data [141.41931444927184]
本稿では、介入データを活用可能なニューラルネットワークに基づく理論的基盤化手法を提案する。
提案手法は,様々な環境下での美術品の状態と良好に比較できることを示す。
論文 参考訳(メタデータ) (2020-07-03T15:19:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。