論文の概要: The Power Spherical distribution

• arxiv url: http://arxiv.org/abs/2006.04437v2
• Date: Mon, 15 Jun 2020 10:42:27 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-24 00:32:30.087908
• Title: The Power Spherical distribution
• Title（参考訳）: パワー球面分布
• Authors: Nicola De Cao, Wilker Aziz
• Abstract要約: パワー球面分布は、主な欠点に対処しながら、von Mises-Fisher (vMF) 分布の重要な側面を保持する。 数値実験により,パワー球面分布の安定性を実証し,さらにMNISTで訓練された変分オートエンコーダに適用する。
• 参考スコア（独自算出の注目度）: 27.20633592977323
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: There is a growing interest in probabilistic models defined in hyper-spherical spaces, be it to accommodate observed data or latent structure. The von Mises-Fisher (vMF) distribution, often regarded as the Normal distribution on the hyper-sphere, is a standard modeling choice: it is an exponential family and thus enjoys important statistical results, for example, known Kullback-Leibler (KL) divergence from other vMF distributions. Sampling from a vMF distribution, however, requires a rejection sampling procedure which besides being slow poses difficulties in the context of stochastic backpropagation via the reparameterization trick. Moreover, this procedure is numerically unstable for certain vMFs, e.g., those with high concentration and/or in high dimensions. We propose a novel distribution, the Power Spherical distribution, which retains some of the important aspects of the vMF (e.g., support on the hyper-sphere, symmetry about its mean direction parameter, known KL from other vMF distributions) while addressing its main drawbacks (i.e., scalability and numerical stability). We demonstrate the stability of Power Spherical distributions with a numerical experiment and further apply it to a variational auto-encoder trained on MNIST. Code at: https://github.com/nicola-decao/power_spherical
• Abstract（参考訳）: 観測されたデータや潜在構造に対応するため、超球面空間で定義される確率モデルへの関心が高まっている。 von Mises-Fisher (vMF) 分布は、しばしば超球面上の正規分布と見なされるが、標準的なモデリング選択であり、指数族であり、KL(Kulback-Leibler) と他の vMF 分布との分岐など、重要な統計結果をもたらす。 しかし、vmf分布からのサンプリングには、再パラメータ化トリックによる確率的バックプロパゲーションの文脈において、遅いステップの他に、拒絶サンプリング手順が必要である。 さらに、この手順は、例えば高濃度および/または高次元の特定の vMF に対して数値的に不安定である。 我々は,vmf の重要な側面(例えば,超球面のサポート,その平均方向パラメータに関する対称性,他の vmf 分布からkl が知られている)を保ちつつ,その主な欠点(スケーラビリティと数値安定性)に対処する新しい分布,パワー球面分布を提案する。 数値実験により,パワー球面分布の安定性を実証し,さらにMNISTで訓練された変分オートエンコーダに適用する。 コード・アット: https://github.com/nicola-decao/power_spherical

関連論文リスト

• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Hessian-Informed Flow Matching [4.542719108171107]
  Hessian-Informed Flow Matchingは、エネルギー関数のHessianを条件流に統合する新しいアプローチである。 この積分により、HI-FMは局所曲率と異方性共分散構造を考慮できる。 MNIST と Lennard-Jones 粒子のデータセットに関する実証的な評価は、HI-FM が試験サンプルの可能性を改善していることを示している。
  論文  参考訳（メタデータ） (2024-10-15T09:34:52Z)
• Differentiable Annealed Importance Sampling Minimizes The Symmetrized Kullback-Leibler Divergence Between Initial and Target Distribution [10.067421338825545]
  DAIS は初期分布と目標分布の対称性を持つ Kullback-Leibler の分散を最小化することを示す。 DAISは、その初期分布が難解なターゲット分布に適合するパラメトリックであるため、変分推論(VI)の形式と見なすことができる。
  論文  参考訳（メタデータ） (2024-05-23T17:55:09Z)
• Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian Mixture Models [59.331993845831946]
  拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。 本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
  論文  参考訳（メタデータ） (2024-03-03T23:15:48Z)
• Quantifying quantum chaos through microcanonical distributions of entanglement [0.0]
  量子カオス」システムの特徴的な特徴は、固有スペクトルと固有状態がランダム行列理論(RMT)によって記述された普遍統計的性質を示すことである。 我々は、Kulback-Leibler分散を用いた量子カオスの定量的な測定基準を導入し、中間スペクトル固有状態のエンタングルメントエントロピー(EE)のマイクロカノニカル分布と、純粋なランダム状態(適切な制約を伴う)によって生成された参照RTT分布を比較した。 局所的に構成されたフロケ乱数回路と多体ハミルトニアンの正準族、混合場イジングモデル(MFIM)でこの測定値を研究する。
  論文  参考訳（メタデータ） (2023-05-19T18:00:05Z)
• Reliable amortized variational inference with physics-based latent distribution correction [0.4588028371034407]
  ニューラルネットワークは、既存のモデルとデータのペアの後方分布を近似するように訓練される。 このアプローチの精度は、高忠実度トレーニングデータの可用性に依存する。 補正ステップは, ソース実験数の変化, ノイズ分散, 先行分布の変化に対して, 償却された変分推論の頑健さを向上することを示す。
  論文  参考訳（メタデータ） (2022-07-24T02:38:54Z)
• Flexible Amortized Variational Inference in qBOLD MRI [56.4324135502282]
  データから酸素抽出率(OEF)と脱酸素血液量(DBV)をより明瞭に決定する。 既存の推論手法では、DBVを過大評価しながら非常にノイズの多い、過小評価されたEFマップが得られる傾向にある。 本研究は, OEFとDBVの可算分布を推定できる確率論的機械学習手法について述べる。
  論文  参考訳（メタデータ） (2022-03-11T10:47:16Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• AI Giving Back to Statistics? Discovery of the Coordinate System of Univariate Distributions by Beta Variational Autoencoder [0.0]
  本稿では、単変量経験分布を分類し、累積分布関数(CDF)の入力に基づいて2次元の潜伏空間で表現するためのニューラルネットワークのトレーニング経験について論じる。 潜在2次元座標系上の表現は、CDFの形状、基礎となる理論分布とそのパラメータの分類確率、情報エントロピー、歪みなど、重要な分布特性を乱す実世界のデータの付加メタデータと見なすことができる。
  論文  参考訳（メタデータ） (2020-04-06T14:11:13Z)
• Training Deep Energy-Based Models with f-Divergence Minimization [113.97274898282343]
  深部エネルギーベースモデル(EBM)は分布パラメトリゼーションにおいて非常に柔軟であるが、計算的に困難である。 所望のf偏差を用いてEMMを訓練するための、f-EBMと呼ばれる一般的な変分フレームワークを提案する。 実験の結果,F-EBMは対照的なばらつきよりも優れており,KL以外のf-divergencesを用いたEBMの訓練の利点も示された。
  論文  参考訳（メタデータ） (2020-03-06T23:11:13Z)
• Distributionally Robust Bayesian Quadrature Optimization [60.383252534861136]
  確率分布が未知な分布の不確実性の下でBQOについて検討する。 標準的なBQOアプローチは、固定されたサンプル集合が与えられたときの真の期待目標のモンテカルロ推定を最大化する。 この目的のために,新しい後方サンプリングに基づくアルゴリズム,すなわち分布的に堅牢なBQO(DRBQO)を提案する。
  論文  参考訳（メタデータ） (2020-01-19T12:00:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。