論文の概要: A solution for the mean parametrization of the von Mises-Fisher distribution
- arxiv url: http://arxiv.org/abs/2404.07358v1
- Date: Wed, 10 Apr 2024 21:28:54 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-12 15:38:10.637587
- Title: A solution for the mean parametrization of the von Mises-Fisher distribution
- Title(参考訳): von Mises-Fisher分布の平均パラメトリゼーションの解
- Authors: Marcel Nonnenmacher, Maneesh Sahani,
- Abstract要約: フォン・ミーゼス・フィッシャー分布の正規化関数はその平均パラメータの観点からは閉形式では利用できないことを示す。
微分方程式の解に対する閉形式近似を提供する。
本稿では,Bregman Clustering を用いた von Mises-Fisher 分布の混合によるトピックモデリングへの応用について述べる。
- 参考スコア(独自算出の注目度): 11.486989134315424
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The von Mises-Fisher distribution as an exponential family can be expressed in terms of either its natural or its mean parameters. Unfortunately, however, the normalization function for the distribution in terms of its mean parameters is not available in closed form, limiting the practicality of the mean parametrization and complicating maximum-likelihood estimation more generally. We derive a second-order ordinary differential equation, the solution to which yields the mean-parameter normalizer along with its first two derivatives, as well as the variance function of the family. We also provide closed-form approximations to the solution of the differential equation. This allows rapid evaluation of both densities and natural parameters in terms of mean parameters. We show applications to topic modeling with mixtures of von Mises-Fisher distributions using Bregman Clustering.
- Abstract(参考訳): 指数族としてのvon Mises-Fisher分布は、その自然なパラメータまたはその平均パラメータのどちらかで表すことができる。
しかし、不運なことに、平均パラメーターの分布の正規化関数は閉形式では利用できず、平均パラメトリゼーションの実用性を制限し、より一般に最大類似度推定を複雑化する。
2階の常微分方程式を導出し、その解は平均パラメータ正規化子をその最初の2つの微分とともに生成し、ファミリーの分散関数を導出する。
また、微分方程式の解に対する閉形式近似も提供する。
これにより、平均パラメータの観点から、密度と自然パラメータの両方を迅速に評価できる。
本稿では,Bregman Clustering を用いた von Mises-Fisher 分布の混合によるトピックモデリングへの応用について述べる。
関連論文リスト
- Total Uncertainty Quantification in Inverse PDE Solutions Obtained with Reduced-Order Deep Learning Surrogate Models [50.90868087591973]
機械学習サロゲートモデルを用いて得られた逆PDE解の総不確かさを近似したベイズ近似法を提案する。
非線型拡散方程式に対する反復的アンサンブルスムーズおよび深層アンサンブル法との比較により,提案手法を検証した。
論文 参考訳(メタデータ) (2024-08-20T19:06:02Z) - Estimating the normal-inverse-Wishart distribution [0.6216023343793144]
NIWファミリーにおける平均パラメータから自然パラメータへ変換する収束手順について述べる。
これは、期待伝搬にNIWベースファミリを使用する場合に必要である。
論文 参考訳(メタデータ) (2024-05-25T06:39:39Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - Data-Driven Influence Functions for Optimization-Based Causal Inference [105.5385525290466]
統計的汎関数に対するガトー微分を有限差分法で近似する構成的アルゴリズムについて検討する。
本研究では,確率分布を事前知識がないが,データから推定する必要がある場合について検討する。
論文 参考訳(メタデータ) (2022-08-29T16:16:22Z) - Amortized backward variational inference in nonlinear state-space models [0.0]
変分推論を用いた一般状態空間モデルにおける状態推定の問題点を考察する。
仮定を混合することにより、加法的状態汎関数の期待の変動近似が、観測数において最も直線的に増加する誤差を誘導することを初めて確立した。
論文 参考訳(メタデータ) (2022-06-01T08:35:54Z) - Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
データから解釈可能な等価性を発見する方法について検討する。
具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。
また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
論文 参考訳(メタデータ) (2022-04-07T17:59:19Z) - Leveraging Global Parameters for Flow-based Neural Posterior Estimation [90.21090932619695]
実験観測に基づくモデルのパラメータを推定することは、科学的方法の中心である。
特に困難な設定は、モデルが強く不確定であるとき、すなわち、パラメータの異なるセットが同一の観測をもたらすときである。
本稿では,グローバルパラメータを共有する観測の補助的セットによって伝達される付加情報を利用して,その不確定性を破る手法を提案する。
論文 参考訳(メタデータ) (2021-02-12T12:23:13Z) - Variational State and Parameter Estimation [0.8049701904919515]
本稿では,非線形状態空間モデルにおけるベイズ状態とモデルパラメータの計算問題について考察する。
変化的アプローチは、望ましい、難解な分布を近似する仮定密度を提供するために使用される。
提案手法は2つの数値例で,最先端のハミルトニアンモンテカルロと比較した。
論文 参考訳(メタデータ) (2020-12-14T05:35:29Z) - Flexible mean field variational inference using mixtures of
non-overlapping exponential families [6.599344783327053]
標準平均場変動推論を用いることで、疎性誘導前のモデルに対して妥当な結果が得られないことを示す。
拡散指数族と 0 の点質量の任意の混合が指数族を形成することを示す。
論文 参考訳(メタデータ) (2020-10-14T01:46:56Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。
我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。
また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
論文 参考訳(メタデータ) (2020-02-16T09:01:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。