論文の概要: Dimensionality Reduction as Probabilistic Inference

• arxiv url: http://arxiv.org/abs/2304.07658v1
• Date: Sat, 15 Apr 2023 23:48:59 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-18 17:55:39.052118
• Title: Dimensionality Reduction as Probabilistic Inference
• Title（参考訳）: 確率的推論としての次元減少
• Authors: Aditya Ravuri, Francisco Vargas, Vidhi Lalchand, Neil D. Lawrence
• Abstract要約: 次元性低減(DR)アルゴリズムは、高次元データを低次元表現に圧縮し、データの重要な特徴を保存する。 本稿では,多種多様な古典DRアルゴリズムを確率的推論アルゴリズムとして解釈するProbDR変分フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 10.714603218784175
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Dimensionality reduction (DR) algorithms compress high-dimensional data into a lower dimensional representation while preserving important features of the data. DR is a critical step in many analysis pipelines as it enables visualisation, noise reduction and efficient downstream processing of the data. In this work, we introduce the ProbDR variational framework, which interprets a wide range of classical DR algorithms as probabilistic inference algorithms in this framework. ProbDR encompasses PCA, CMDS, LLE, LE, MVU, diffusion maps, kPCA, Isomap, (t-)SNE, and UMAP. In our framework, a low-dimensional latent variable is used to construct a covariance, precision, or a graph Laplacian matrix, which can be used as part of a generative model for the data. Inference is done by optimizing an evidence lower bound. We demonstrate the internal consistency of our framework and show that it enables the use of probabilistic programming languages (PPLs) for DR. Additionally, we illustrate that the framework facilitates reasoning about unseen data and argue that our generative models approximate Gaussian processes (GPs) on manifolds. By providing a unified view of DR, our framework facilitates communication, reasoning about uncertainties, model composition, and extensions, particularly when domain knowledge is present.
• Abstract（参考訳）: 次元性低減(DR)アルゴリズムは、高次元データを低次元表現に圧縮し、データの重要な特徴を保存する。 DRは、データの可視化、ノイズ低減、効率的な下流処理を可能にするため、多くの分析パイプラインにおいて重要なステップである。 本稿では,このフレームワークの確率的推論アルゴリズムとして,幅広い古典的drアルゴリズムを解釈するprobdr変分フレームワークを提案する。 ProbDRはPCA、CMDS、LE、LE、MVU、拡散マップ、kPCA、Isomap、(t-)SNE、UMAPを含む。 このフレームワークでは,データの生成モデルの一部として使用できる共分散,精度,グラフラプラシアン行列を構成するために,低次元潜在変数が用いられる。 推論は証拠を下限に最適化することで行われる。 本稿では,DR に確率型プログラミング言語 (PPL) を適用可能であることを示すとともに,不明瞭なデータに対する推論を容易にするとともに,生成モデルが多様体上のガウス過程 (GP) に近似していることを示す。 DRの統一的なビューを提供することで、コミュニケーション、不確実性、モデル構成、拡張、特にドメイン知識が存在する場合の推論を容易にする。

関連論文リスト

• Out-of-Core Dimensionality Reduction for Large Data via Out-of-Sample Extensions [8.368145000145594]
  次元性低減(DR)は、高次元データセットの可視化のための確立されたアプローチである。 本稿では,大規模なデータセット上でDRを実行するために,サンプル外拡張方式を提案する。 5つの共通DRアルゴリズムのプロジェクション品質の評価を行う。
  論文  参考訳（メタデータ） (2024-08-07T23:30:53Z)
• Distributional Reduction: Unifying Dimensionality Reduction and Clustering with Gromov-Wasserstein [56.62376364594194]
  教師なし学習は、潜在的に大きな高次元データセットの基盤構造を捉えることを目的としている。 本研究では、最適輸送のレンズの下でこれらのアプローチを再検討し、Gromov-Wasserstein問題と関係を示す。 これにより、分散還元と呼ばれる新しい一般的なフレームワークが公開され、DRとクラスタリングを特別なケースとして回復し、単一の最適化問題内でそれらに共同で対処することができる。
  論文  参考訳（メタデータ） (2024-02-03T19:00:19Z)
• Directed Cyclic Graph for Causal Discovery from Multivariate Functional Data [15.26007975367927]
  因果構造学習のための機能線形構造方程式モデルを提案する。 解釈可能性を高めるために,本モデルは低次元因果埋め込み空間を含む。 提案モデルが標準仮定の下で因果的同定可能であることを示す。
  論文  参考訳（メタデータ） (2023-10-31T15:19:24Z)
• Simultaneous Dimensionality Reduction: A Data Efficient Approach for Multimodal Representations Learning [0.0]
  次元性還元(DR):独立次元性還元(IDR)と同時次元性還元(SDR)の2つの主要クラスを探索する。 IDRでは、各モダリティは独立に圧縮され、可能な限り各モダリティに多くのばらつきを保持するよう努力する。 SDRでは、モダリティを同時に圧縮して、削減された記述間の共変を最大化し、個々の変動がどれだけ保存されているかに注意を払わない。
  論文  参考訳（メタデータ） (2023-10-05T04:26:24Z)
• Feature Learning for Dimensionality Reduction toward Maximal Extraction of Hidden Patterns [25.558967594684056]
  高次元データの視覚解析において,DRは重要な役割を担っている。 本稿では,非線形DRに最適化されたデータ投影セットを生成するための特徴学習フレームワークFEALMを提案する。 得られたDR結果の比較と各DR結果の解釈を支援するインタラクティブな可視化手法を開発した。
  論文  参考訳（メタデータ） (2022-06-28T11:18:19Z)
• Design of Compressed Sensing Systems via Density-Evolution Framework for Structure Recovery in Graphical Models [10.667885727418705]
  観測データからベイズネットワークの構造を学習することはNP-Hard問題であることが示されている。 圧縮線形測定システムを最適化するための新しい密度進化に基づくフレームワークを提案する。 GBNの構造は実際に圧縮された測定結果から復元可能であることを示す。
  論文  参考訳（メタデータ） (2022-03-17T22:16:38Z)
• BCDAG: An R package for Bayesian structure and Causal learning of Gaussian DAGs [77.34726150561087]
  観測データから因果関係の発見と因果関係を推定するためのRパッケージを提案する。 我々の実装は、観測回数とともに効率的にスケールし、DAGが十分にスパースであるたびに、データセット内の変数の数を削減します。 次に、実際のデータセットとシミュレーションデータセットの両方で、主な機能とアルゴリズムを説明します。
  論文  参考訳（メタデータ） (2022-01-28T09:30:32Z)
• Scaling Structured Inference with Randomization [64.18063627155128]
  本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。 我々の手法は古典的DPベースの推論に広く適用できる。 また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
  論文  参考訳（メタデータ） (2021-12-07T11:26:41Z)
• BCD Nets: Scalable Variational Approaches for Bayesian Causal Discovery [97.79015388276483]
  構造方程式モデル(SEM)は、有向非巡回グラフ(DAG)を介して表される因果関係を推論する効果的な枠組みである。 近年の進歩により、観測データからDAGの有効最大点推定が可能となった。 線形ガウス SEM を特徴付ける DAG 上の分布を推定するための変分フレームワークである BCD Nets を提案する。
  論文  参考訳（メタデータ） (2021-12-06T03:35:21Z)
• Manifold Topology Divergence: a Framework for Comparing Data Manifolds [109.0784952256104]
  本研究では,深部生成モデルの評価を目的としたデータ多様体の比較フレームワークを開発する。 クロスバーコードに基づき,manifold Topology Divergence score(MTop-Divergence)を導入する。 MTop-Divergenceは,様々なモードドロップ,モード内崩壊,モード発明,画像乱れを正確に検出する。
  論文  参考訳（メタデータ） (2021-06-08T00:30:43Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。