論文の概要: A note on the unique properties of the Kullback--Leibler divergence for sampling via gradient flows
- arxiv url: http://arxiv.org/abs/2507.04330v1
- Date: Sun, 06 Jul 2025 10:34:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-08 15:46:35.123174
- Title: A note on the unique properties of the Kullback--Leibler divergence for sampling via gradient flows
- Title(参考訳): Kullback-Leibler分散の特異性に関する一考察-勾配流によるサンプリング
- Authors: Francesca Romana Crucinio,
- Abstract要約: 確率分布$pi$からサンプリングする問題を考察する。
クルバック・リーブラー分岐がブレグマン分岐群における唯一の分岐であることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of sampling from a probability distribution $\pi$. It is well known that this can be written as an optimisation problem over the space of probability distribution in which we aim to minimise a divergence from $\pi$. and The optimisation problem is normally solved through gradient flows in the space of probability distribution with an appropriate metric. We show that the Kullback--Leibler divergence is the only divergence in the family of Bregman divergences whose gradient flow w.r.t. many popular metrics does not require knowledge of the normalising constant of $\pi$.
- Abstract(参考訳): 確率分布$\pi$からサンプリングする問題を考察する。
これは確率分布の空間上の最適化問題として記述でき、ここでは$\pi$ の発散を最小化することを目指す。
そして、最適化問題は、通常、適切な計量で確率分布の空間の勾配流によって解決される。
カルバック・リーブラー発散は、勾配流 w.r.t. のブレーグマン発散族における唯一の発散であり、多くの一般的な測度は、正規化定数$\pi$の知識を必要としない。
関連論文リスト
- Sequential Monte Carlo approximations of Wasserstein--Fisher--Rao gradient flows [0.0]
我々は、Kulback--Leibler分散の最小解であるいくつかの偏微分方程式を、$pi$から考える。
そこで我々は,Wasserstein-Fisher--Rao Flow of the Kullback--Leibler divergenceを近似する新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-06-06T09:24:46Z) - A Connection Between Learning to Reject and Bhattacharyya Divergences [57.942664964198286]
インプットとラベルの両面で共同理想分布を学習することを検討する。
我々は、拒絶と統計的相違の閾値付けを関連づける。
一般に、バタチャリアの発散による拒絶は、Chowのルールよりも攻撃的でないことが分かる。
論文 参考訳(メタデータ) (2025-05-08T14:18:42Z) - Statistical and Geometrical properties of regularized Kernel Kullback-Leibler divergence [7.273481485032721]
Bach [2022] が導入したカーネル共分散作用素によるクルバック・リーブラ発散の統計的および幾何学的性質について検討する。
密度比を含む古典的なクルバック・リーブラー(KL)の発散とは異なり、KKLは再現可能なカーネルヒルベルト空間(RKHS)における共分散作用素(埋め込み)による確率分布を比較する。
この斬新な発散は、確率分布と最大平均誤差のようなカーネル埋め込みメトリクスの間の標準のクルバック・リーバーと平行だが異なる側面を共有する。
論文 参考訳(メタデータ) (2024-08-29T14:01:30Z) - Riemannian stochastic optimization methods avoid strict saddle points [68.80251170757647]
研究中のポリシーは、確率 1 の厳密なサドル点/部分多様体を避けていることを示す。
この結果は、アルゴリズムの極限状態が局所最小値にしかならないことを示すため、重要な正当性チェックを提供する。
論文 参考訳(メタデータ) (2023-11-04T11:12:24Z) - A Dimensionality Reduction Method for Finding Least Favorable Priors
with a Focus on Bregman Divergence [108.28566246421742]
そこで本研究では,次元に明示的な有界な有限次元設定に最適化を移動させることができる次元削減法を開発した。
この問題を進展させるため、比較的大きな損失関数、すなわちブレグマンの発散によって引き起こされるベイズ的リスクに限定する。
論文 参考訳(メタデータ) (2022-02-23T16:22:28Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z) - Variational Refinement for Importance Sampling Using the Forward
Kullback-Leibler Divergence [77.06203118175335]
変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。
重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。
近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
論文 参考訳(メタデータ) (2021-06-30T11:00:24Z) - On the Robustness to Misspecification of $\alpha$-Posteriors and Their
Variational Approximations [12.52149409594807]
$alpha$-posteriorとその変分近似は、確率を下げ、変分近似エラーを導入することで標準後部推論を歪ませる。
このような歪みが適切に調整されると、潜在的なパラメトリックモデルの誤仕様がある場合、Kulback-Leibler (KL) の真の分散が、おそらく実現不可能な、後方分布が減少することを示した。
論文 参考訳(メタデータ) (2021-04-16T19:11:53Z) - Integrable Nonparametric Flows [5.9774834479750805]
本稿では,無限小変化のみを仮定した無限小正規化フローを確率分布に再構成する手法を提案する。
これは、フローの正規化という従来のタスクを逆転させる。
量子モンテカルロ問題と機械学習の潜在的な応用について論じる。
論文 参考訳(メタデータ) (2020-12-03T16:19:52Z) - Distributionally Robust Bayesian Quadrature Optimization [60.383252534861136]
確率分布が未知な分布の不確実性の下でBQOについて検討する。
標準的なBQOアプローチは、固定されたサンプル集合が与えられたときの真の期待目標のモンテカルロ推定を最大化する。
この目的のために,新しい後方サンプリングに基づくアルゴリズム,すなわち分布的に堅牢なBQO(DRBQO)を提案する。
論文 参考訳(メタデータ) (2020-01-19T12:00:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。