論文の概要: Quasi Monte Carlo methods enable extremely low-dimensional deep generative models

• arxiv url: http://arxiv.org/abs/2601.18676v1
• Date: Mon, 26 Jan 2026 16:51:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-27 15:23:08.94755
• Title: Quasi Monte Carlo methods enable extremely low-dimensional deep generative models
• Title（参考訳）: 準モンテカルロ法による極低次元深部生成モデルの実現
• Authors: Miles Martinez, Alex H. Williams,
• Abstract要約: 本稿では,準モンテカルロ潜在変数モデル(QLVM)を紹介する。 QLVMは、高次元データセットの極端に低次元で解釈可能な埋め込みを見つけるのに特化している。
• 参考スコア（独自算出の注目度）: 5.092946226487682
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper introduces quasi-Monte Carlo latent variable models (QLVMs): a class of deep generative models that are specialized for finding extremely low-dimensional and interpretable embeddings of high-dimensional datasets. Unlike standard approaches, which rely on a learned encoder and variational lower bounds, QLVMs directly approximate the marginal likelihood by randomized quasi-Monte Carlo integration. While this brute force approach has drawbacks in higher-dimensional spaces, we find that it excels in fitting one, two, and three dimensional deep latent variable models. Empirical results on a range of datasets show that QLVMs consistently outperform conventional variational autoencoders (VAEs) and importance weighted autoencoders (IWAEs) with matched latent dimensionality. The resulting embeddings enable transparent visualization and post hoc analyses such as nonparametric density estimation, clustering, and geodesic path computation, which are nontrivial to validate in higher-dimensional spaces. While our approach is compute-intensive and struggles to generate fine-scale details in complex datasets, it offers a compelling solution for applications prioritizing interpretability and latent space analysis.
• Abstract（参考訳）: 本稿では,高次元データセットの極端に低次元かつ解釈可能な埋め込みを見つけることに特化した深層生成モデルのクラスである,準モンテカルロ潜在変数モデル(QLVM)を紹介する。 学習エンコーダと変分下界に依存する標準的なアプローチとは異なり、QLVMはランダム化された準モンテカルロ積分により、マージンの確率を直接近似する。 このブルート力のアプローチは高次元空間に欠点があるが、1, 2, 3次元の深い潜伏変数モデルに適合する点が優れている。 実験結果から、QLVMは従来の変分オートエンコーダ(VAE)と重み付きオートエンコーダ(IWAE)を、一致した潜在次元で一貫して上回っていることが示された。 この埋め込みにより、非パラメトリック密度推定、クラスタリング、測地線経路計算などの透過的な可視化とポストホック解析が可能となり、高次元空間での検証は容易ではない。 私たちのアプローチは計算集約的であり、複雑なデータセットの詳細な詳細を生成するのに苦労していますが、解釈可能性と潜時空間分析を優先するアプリケーションには魅力的なソリューションを提供します。

関連論文リスト

• Pushing the Limits of Large Language Model Quantization via the Linearity Theorem [71.3332971315821]
  本稿では,階層的$ell$再構成誤差と量子化によるモデルパープレキシティ増加との直接的な関係を確立する「線形定理」を提案する。 この知見は,(1)アダマール回転とHIGGSと呼ばれるMSE最適格子を用いた単純なデータフリーLCM量子化法,(2)非一様層ごとの量子化レベルを求める問題に対する最適解の2つの新しい応用を可能にする。
  論文  参考訳（メタデータ） (2024-11-26T15:35:44Z)
• Hyperboloid GPLVM for Discovering Continuous Hierarchies via Nonparametric Estimation [41.13597666007784]
  次元性低減(DR)は複雑な高次元データの有用な表現を提供する。 最近のDR法は、階層データの忠実な低次元表現を導出する双曲幾何学に焦点を当てている。 本稿では,非パラメトリック推定による暗黙的な連続性を持つ高次元階層データを埋め込むためのhGP-LVMを提案する。
  論文  参考訳（メタデータ） (2024-10-22T05:07:30Z)
• Variational Learning of Gaussian Process Latent Variable Models through Stochastic Gradient Annealed Importance Sampling [22.256068524699472]
  本研究では,これらの問題に対処するために,Annealed Importance Smpling (AIS)アプローチを提案する。 シークエンシャルモンテカルロサンプリング器とVIの強度を組み合わせることで、より広い範囲の後方分布を探索し、徐々にターゲット分布に接近する。 実験結果から,本手法はより厳密な変動境界,高い対数類似度,より堅牢な収束率で最先端の手法より優れていることが示された。
  論文  参考訳（メタデータ） (2024-08-13T08:09:05Z)
• Uncertainty Quantification in Large Language Models Through Convex Hull Analysis [0.36832029288386137]
  本研究では凸船体解析を用いた不確実性定量化のための新しい幾何学的手法を提案する。 提案手法は, 応答埋め込みの空間特性を利用して, モデル出力の分散と可変性を計測する。
  論文  参考訳（メタデータ） (2024-06-28T07:47:34Z)
• Data-free Weight Compress and Denoise for Large Language Models [96.68582094536032]
  パラメータ行列を圧縮する手法として,データフリーなジョイントランクk近似を提案する。 キャリブレーションデータなしで、元の性能の93.43%を維持しながら80%のパラメータのモデルプルーニングを実現する。
  論文  参考訳（メタデータ） (2024-02-26T05:51:47Z)
• Distributional Reduction: Unifying Dimensionality Reduction and Clustering with Gromov-Wasserstein [56.62376364594194]
  教師なし学習は、潜在的に大きな高次元データセットの基盤構造を捉えることを目的としている。 本研究では、最適輸送のレンズの下でこれらのアプローチを再検討し、Gromov-Wasserstein問題と関係を示す。 これにより、分散還元と呼ばれる新しい一般的なフレームワークが公開され、DRとクラスタリングを特別なケースとして回復し、単一の最適化問題内でそれらに共同で対処することができる。
  論文  参考訳（メタデータ） (2024-02-03T19:00:19Z)
• RGM: A Robust Generalizable Matching Model [49.60975442871967]
  RGM(Robust Generalist Matching)と呼ばれる疎密マッチングのための深部モデルを提案する。 合成トレーニングサンプルと実世界のシナリオのギャップを狭めるために、我々は、疎対応基盤真理を持つ新しい大規模データセットを構築した。 さまざまな密集したスパースなデータセットを混ぜ合わせることができ、トレーニングの多様性を大幅に改善しています。
  論文  参考訳（メタデータ） (2023-10-18T07:30:08Z)
• VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
  深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。 ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。 本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-04-03T13:13:19Z)
• Laplacian-based Cluster-Contractive t-SNE for High Dimensional Data Visualization [20.43471678277403]
  本稿では t-SNE に基づく新しいグラフベース次元削減手法 LaptSNE を提案する。 具体的には、LaptSNEはグラフラプラシアンの固有値情報を利用して、低次元埋め込みにおけるポテンシャルクラスタを縮小する。 ラプラシアン合成目的による最適化を考える際には、より広い関心を持つであろう勾配を解析的に計算する方法を示す。
  論文  参考訳（メタデータ） (2022-07-25T14:10:24Z)
• Generalized Matrix Factorization: efficient algorithms for fitting generalized linear latent variable models to large data arrays [62.997667081978825]
  一般化線形潜在変数モデル(GLLVM)は、そのような因子モデルを非ガウス応答に一般化する。 GLLVMのモデルパラメータを推定する現在のアルゴリズムは、集約的な計算を必要とし、大規模なデータセットにスケールしない。 本稿では,GLLVMを高次元データセットに適用するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-06T04:28:19Z)
• Unsupervised Discretization by Two-dimensional MDL-based Histogram [0.0]
  教師なしの離散化は多くの知識発見タスクにおいて重要なステップである。 本稿では,2次元データのより柔軟な分割を可能にする表現型モデルクラスを提案する。 本稿では,各次元を交互に分割し,隣接する領域をマージするPALMというアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-02T19:19:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。