論文の概要: Towards One Model for Classical Dimensionality Reduction: A Probabilistic Perspective on UMAP and t-SNE

• arxiv url: http://arxiv.org/abs/2405.17412v3
• Date: Thu, 06 Mar 2025 16:22:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-07 17:59:00.382417
• Title: Towards One Model for Classical Dimensionality Reduction: A Probabilistic Perspective on UMAP and t-SNE
• Title（参考訳）: 古典的次元化の一モデルに向けて:UMAPとt-SNEの確率論的視点
• Authors: Aditya Ravuri, Neil D. Lawrence,
• Abstract要約: 本稿では,Wishart分布を用いたグラフラプラシアン(データ精度行列の推定値)について述べる。 同様の次元削減手法を研究できるツールを紹介した。
• 参考スコア（独自算出の注目度）: 8.121681696358717
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper shows that dimensionality reduction methods such as UMAP and t-SNE, can be approximately recast as MAP inference methods corresponding to a model introduced in ProbDR, that describes the graph Laplacian (an estimate of the data precision matrix) using a Wishart distribution, with a mean given by a non-linear covariance function evaluated on the latents. This interpretation offers deeper theoretical and semantic insights into such algorithms, by showing that variances corresponding to these covariances are low (potentially misspecified), and forging a connection to Gaussian process latent variable models by showing that well-known kernels can be used to describe covariances implied by graph Laplacians. We also introduce tools with which similar dimensionality reduction methods can be studied.
• Abstract（参考訳）: 本稿では,UMAP や t-SNE などの次元減少法を,Wishart 分布を用いたグラフラプラシアン (データ精度行列の推定値) を記述する ProbDR で導入されたモデルに対応するMAP推論法として,非線形共分散関数で評価された平均値を用いて,ほぼ再キャスト可能であることを示す。 この解釈は、これらの共分散に対応する分散が低い(潜在的に誤った)ことを示し、よく知られたカーネルがグラフラプラシアンによって入力された共分散を記述するのに使えることを示し、ガウス過程潜在変数モデルへの接続を鍛えることによって、そのようなアルゴリズムに関するより深い理論的および意味的な洞察を与える。 また、同様の次元削減法を研究できるツールについても紹介する。

関連論文リスト

• Inflationary Flows: Calibrated Bayesian Inference with Diffusion-Based Models [0.0]
  本稿では,拡散モデルを用いてベイズ推定を行う方法を示す。 本稿では,新しいノイズスケジュールを用いて,標準的なDBMトレーニングを通じてそのようなマップを学習する方法を示す。 その結果は、低次元の潜在空間上で一意に定義される非常に表現性の高い生成モデルのクラスである。
  論文  参考訳（メタデータ） (2024-07-11T19:58:19Z)
• Improving Probabilistic Diffusion Models With Optimal Diagonal Covariance Matching [27.2761325416843]
  本稿では,最近提案された共分散モーメントマッチング手法を活用し,対角的共分散を学習するための新しい手法を提案する。 提案手法は, 一般的な拡散モデルのサンプリング効率, リコール率, 可能性を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2024-06-16T05:47:12Z)
• Diffusion models for probabilistic programming [56.47577824219207]
  拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
  論文  参考訳（メタデータ） (2023-11-01T12:17:05Z)
• Generalizing Backpropagation for Gradient-Based Interpretability [103.2998254573497]
  モデルの勾配は、半環を用いたより一般的な定式化の特別な場合であることを示す。 この観測により、バックプロパゲーションアルゴリズムを一般化し、他の解釈可能な統計を効率的に計算することができる。
  論文  参考訳（メタデータ） (2023-07-06T15:19:53Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
  本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。 この問題は楕円分布のペナルティ化された最大推定値として表される。 楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
  論文  参考訳（メタデータ） (2022-10-21T13:19:45Z)
• A Provably Efficient Model-Free Posterior Sampling Method for Episodic Reinforcement Learning [50.910152564914405]
  強化学習のための既存の後方サンプリング手法は、モデルベースであるか、線形MDPを超える最悪の理論的保証がないかによって制限される。 本稿では,理論的保証を伴うより一般的な補足的強化学習問題に適用可能な,後部サンプリングのモデルフリーな新しい定式化を提案する。
  論文  参考訳（メタデータ） (2022-08-23T12:21:01Z)
• Planning with Diffusion for Flexible Behavior Synthesis [125.24438991142573]
  我々は、できるだけ多くの軌道最適化パイプラインをモデリング問題に折り畳むことがどう見えるか検討する。 我々の技術的アプローチの核心は、軌道を反復的にデノベーションすることで計画する拡散確率モデルにある。
  論文  参考訳（メタデータ） (2022-05-20T07:02:03Z)
• Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
  データから解釈可能な等価性を発見する方法について検討する。 具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。 また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
  論文  参考訳（メタデータ） (2022-04-07T17:59:19Z)
• A Probabilistic Graph Coupling View of Dimension Reduction [5.35952718937799]
  クロスエントロピーを用いた隠れグラフの結合に基づく統一統計フレームワークを提案する。 既存のペアワイズ類似性DR法は,グラフの事前選択に際し,我々のフレームワークから検索可能であることを示す。 我々のモデルはこの問題に対処するために活用され拡張され、新しいリンクはラプラシア固有写像とPCAで描画される。
  論文  参考訳（メタデータ） (2022-01-31T08:21:55Z)
• Improving Metric Dimensionality Reduction with Distributed Topology [68.8204255655161]
  DIPOLEは、局所的、計量的項と大域的、位相的項の両方で損失関数を最小化し、初期埋め込みを補正する次元推論後処理ステップである。 DIPOLEは、UMAP、t-SNE、Isomapといった一般的な手法よりも多くの一般的なデータセットで優れています。
  論文  参考訳（メタデータ） (2021-06-14T17:19:44Z)
• MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood Inference from Sampled Trajectories [61.3299263929289]
  シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。 あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。 モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
  論文  参考訳（メタデータ） (2021-06-03T12:59:16Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)
• Estimating Model Uncertainty of Neural Networks in Sparse Information Form [39.553268191681376]
  ディープニューラルネットワーク(DNN)におけるモデル不確実性のスパース表現について述べる。 我々の研究の重要な洞察は、情報行列はそのスペクトルにおいてスパースである傾向があることである。 DNNにおけるモデル不確実性を表すために,情報形式が適用可能であることを示す。
  論文  参考訳（メタデータ） (2020-06-20T18:09:59Z)
• Reinforcement Learning as Iterative and Amortised Inference [62.997667081978825]
  我々は、この制御を推論フレームワークとして使用し、償却および反復推論に基づく新しい分類スキームを概説する。 この観点から、比較的探索されていないアルゴリズム設計空間の一部を特定できることを示す。
  論文  参考訳（メタデータ） (2020-06-13T16:10:03Z)
• Fitting Laplacian Regularized Stratified Gaussian Models [0.0]
  データから複数の関連するゼロ平均ガウス分布を共同推定する問題を考察する。 本稿では,大規模な問題にスケールする分散手法を提案するとともに,金融,レーダ信号処理,天気予報などの手法の有効性について述べる。
  論文  参考訳（メタデータ） (2020-05-04T18:00:59Z)
• Bidirectional Generative Modeling Using Adversarial Gradient Estimation [15.270525239234072]
  異なる発散が勾配評価の点で類似したアルゴリズムを誘導することを示す。 本稿では,原則付き$f$-divergenceに基づく生成モデリング手法の一般的なレシピを提案する。
  論文  参考訳（メタデータ） (2020-02-21T07:28:56Z)
• Differential Similarity in Higher Dimensional Spaces: Theory and Applications [0.0]
  本研究では,幾何モデルと確率モデルを組み合わせたクラスタリングと符号化のアルゴリズムを開発した。 本研究では,2つの実世界の実例に適用することにより,解法と推定手法の評価を行う。
  論文  参考訳（メタデータ） (2019-02-10T20:30:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。