論文の概要: Hyperspherical Variational Autoencoders Using Efficient Spherical Cauchy Distribution
- arxiv url: http://arxiv.org/abs/2506.21278v1
- Date: Thu, 26 Jun 2025 14:01:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-27 19:53:10.113667
- Title: Hyperspherical Variational Autoencoders Using Efficient Spherical Cauchy Distribution
- Title（参考訳）: 高能率球面コーシー分布を用いた超球形変分オートエンコーダ
- Authors: Lukas Sablica, Kurt Hornik,
- Abstract要約: 球状コーシー(spCauchy)潜伏分布を用いた新しい変分オートエンコーダ(VAE)アーキテクチャを提案する。
従来のガウス空間や広く使われているフォン・ミセス=フィッシャー分布とは異なり、spCauchy はより自然な潜在変数の超球面表現を提供する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a novel variational autoencoder (VAE) architecture that employs a spherical Cauchy (spCauchy) latent distribution. Unlike traditional Gaussian latent spaces or the widely used von Mises-Fisher (vMF) distribution, spCauchy provides a more natural hyperspherical representation of latent variables, better capturing directional data while maintaining flexibility. Its heavy-tailed nature prevents over-regularization, ensuring efficient latent space utilization while offering a more expressive representation. Additionally, spCauchy circumvents the numerical instabilities inherent to vMF, which arise from computing normalization constants involving Bessel functions. Instead, it enables a fully differentiable and efficient reparameterization trick via M\"obius transformations, allowing for stable and scalable training. The KL divergence can be computed through a rapidly converging power series, eliminating concerns of underflow or overflow associated with evaluation of ratios of hypergeometric functions. These properties make spCauchy a compelling alternative for VAEs, offering both theoretical advantages and practical efficiency in high-dimensional generative modeling.
- Abstract（参考訳）: 球状コーシー(spCauchy)潜伏分布を用いた新しい変分オートエンコーダ(VAE)アーキテクチャを提案する。
従来のガウスのラテント空間や広く使われているvon Mises-Fisher(vMF)分布とは異なり、spCauchyはラテント変数のより自然な超球面表現を提供し、柔軟性を維持しながら方向データをよりよくキャプチャする。
その重い尾を持つ性質は過剰な正規化を防ぎ、より表現力のある表現を提供しながら効率的な潜在空間の利用を保証する。
さらにspCauchyは、ベッセル関数を含む正規化定数の計算から生じる、vMFに固有の数値的不安定性を回避している。
代わりに、M\"obius変換を通じて、完全に微分可能で効率的な再パラメータ化のトリックを可能にし、安定的でスケーラブルなトレーニングを可能にします。
KLの発散は、急激な収束力系列を通じて計算でき、超幾何関数の比率評価に伴う下フローやオーバーフローの懸念を取り除くことができる。
これらの性質により、spCauchyはVAEの魅力的な代替品となり、高次元生成モデルにおける理論的優位性と実用的効率の両方を提供する。
関連論文リスト
- Beyond Diagonal Covariance: Flexible Posterior VAEs via Free-Form Injective Flows [7.655073661577189]
変分オートエンコーダ(VAE)は、解釈可能な潜在空間の学習、不確実性の定量化、下流生成タスクのデータ圧縮に広く用いられている強力な生成モデルである。
本稿では,最近導入されたフリーフォームインジェクティブフロー (FIF) の正規化変種を,高度に柔軟で暗黙的に定義された後部を特徴とするVAEと解釈できることを示す。
論文 参考訳（メタデータ） (2025-06-02T10:36:27Z) - Variance-Reducing Couplings for Random Features [57.73648780299374]
ランダム機能(RF)は、機械学習においてカーネルメソッドをスケールアップする一般的なテクニックである。
ユークリッド空間と離散入力空間の両方で定義されるRFを改善するための結合を求める。
パラダイムとしての分散還元の利点と限界について、驚くほどの結論に達した。
論文 参考訳（メタデータ） (2024-05-26T12:25:09Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳（メタデータ） (2022-02-23T06:11:49Z) - Pseudo-Spherical Contrastive Divergence [119.28384561517292]
エネルギーベースモデルの最大学習確率を一般化するために,擬球面コントラスト分散(PS-CD)を提案する。
PS-CDは難解な分割関数を避け、学習目的の一般化されたファミリーを提供する。
論文 参考訳（メタデータ） (2021-11-01T09:17:15Z) - Training Deep Energy-Based Models with f-Divergence Minimization [113.97274898282343]
深部エネルギーベースモデル(EBM)は分布パラメトリゼーションにおいて非常に柔軟であるが、計算的に困難である。
所望のf偏差を用いてEMMを訓練するための、f-EBMと呼ばれる一般的な変分フレームワークを提案する。
実験の結果,F-EBMは対照的なばらつきよりも優れており,KL以外のf-divergencesを用いたEBMの訓練の利点も示された。
論文 参考訳（メタデータ） (2020-03-06T23:11:13Z) - Gaussianization Flows [113.79542218282282]
そこで本研究では,サンプル生成における効率のよい繰り返しと効率のよい逆変換を両立できる新しい型正規化フローモデルを提案する。
この保証された表現性のため、サンプル生成の効率を損なうことなく、マルチモーダルなターゲット分布をキャプチャできる。
論文 参考訳（メタデータ） (2020-03-04T08:15:06Z) - Stochastic Normalizing Flows [52.92110730286403]
微分方程式(SDE)を用いた最大推定と変分推論のための正規化フロー(VI)を導入する。
粗い経路の理論を用いて、基礎となるブラウン運動は潜在変数として扱われ、近似され、神経SDEの効率的な訓練を可能にする。
これらのSDEは、与えられたデータセットの基盤となる分布からサンプリングする効率的なチェーンを構築するために使用することができる。
論文 参考訳（メタデータ） (2020-02-21T20:47:55Z) - Misspecification-robust likelihood-free inference in high dimensions [13.934999364767918]
本稿では,ベイズ最適化に基づく近似離散関数の確率的手法による拡張を提案する。
提案手法は,高次元パラメータ空間に対する計算スケーラビリティを,各パラメータの別個の取得関数と相違点を用いて達成する。
本手法は,100次元空間における標準例による計算効率のよい推論を成功させ,既存のモジュール化ABC法と比較した。
論文 参考訳（メタデータ） (2020-02-21T16:06:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。