論文の概要: Schoenberg-Rao distances: Entropy-based and geometry-aware statistical
Hilbert distances
- arxiv url: http://arxiv.org/abs/2002.08345v2
- Date: Tue, 28 Apr 2020 13:19:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-30 13:17:51.670330
- Title: Schoenberg-Rao distances: Entropy-based and geometry-aware statistical
Hilbert distances
- Title(参考訳): Schoenberg-Rao 距離:エントロピーに基づく幾何対応統計ヒルベルト距離
- Authors: Ga\"etan Hadjeres and Frank Nielsen
- Abstract要約: 我々は、シェーンベルク-ラオ距離(Schoenberg-Rao distances)と呼ばれる統計ヒルベルト距離のクラスを研究する。
ガウス分布の混合物間の新しい閉形式距離を導出する。
提案手法はワッサーシュタイン距離の代替として実用的であり,その効率性は幅広い機械学習タスクで説明できる。
- 参考スコア(独自算出の注目度): 12.729120803225065
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Distances between probability distributions that take into account the
geometry of their sample space,like the Wasserstein or the Maximum Mean
Discrepancy (MMD) distances have received a lot of attention in machine
learning as they can, for instance, be used to compare probability
distributions with disjoint supports. In this paper, we study a class of
statistical Hilbert distances that we term the Schoenberg-Rao distances, a
generalization of the MMD that allows one to consider a broader class of
kernels, namely the conditionally negative semi-definite kernels. In
particular, we introduce a principled way to construct such kernels and derive
novel closed-form distances between mixtures of Gaussian distributions. These
distances, derived from the concave Rao's quadratic entropy, enjoy nice
theoretical properties and possess interpretable hyperparameters which can be
tuned for specific applications. Our method constitutes a practical alternative
to Wasserstein distances and we illustrate its efficiency on a broad range of
machine learning tasks such as density estimation, generative modeling and
mixture simplification.
- Abstract(参考訳): Wasserstein や Maximum Mean Discrepancy (MMD) のようなサンプル空間の幾何学を考慮に入れた確率分布間の距離は、例えば、確率分布と解離サポートを比較するために、機械学習において多くの注目を集めている。
本稿では、Schoenberg-Rao 距離と呼ばれる統計ヒルベルト距離のクラスについて検討する。これは、より広い種類のカーネル、すなわち条件付き負の半定値カーネルを考えることができるMDDの一般化である。
特に、そのようなカーネルを構築するための原則的手法を導入し、ガウス分布の混合物間の新しい閉形式距離を導出する。
これらの距離は、円錐ラオの二次エントロピーから導かれるもので、よい理論的性質を持ち、特定の用途に調整できる解釈可能なハイパーパラメータを持つ。
本手法は,wasserstein距離の実用的代替法であり,密度推定,生成モデリング,混合単純化といった幅広い機械学習タスクにおいてその効率性を示す。
関連論文リスト
- Weighted Riesz Particles [0.0]
対象分布を、パラメータの無限次元空間が多くの決定論的部分多様体からなる写像と考える。
我々は、Rieszと呼ばれる点の性質を研究し、それをシーケンシャルMCMCに埋め込む。
低い評価で高い受け入れ率が得られることが分かりました。
論文 参考訳(メタデータ) (2023-12-01T14:36:46Z) - Scaling Riemannian Diffusion Models [68.52820280448991]
非自明な多様体上の高次元タスクにスケールできることを示す。
我々は、$SU(n)$格子上のQCD密度と高次元超球面上の対照的に学習された埋め込みをモデル化する。
論文 参考訳(メタデータ) (2023-10-30T21:27:53Z) - Optimal Transport for Kernel Gaussian Mixture Models [1.631115063641726]
最適な物質輸送からワッサーシュタインの距離は強力な数学的ツールである。
核ヒルベルト空間における2つのガウス混合間の距離を計算するためのワッサーシュタイン型計量を提案する。
論文 参考訳(メタデータ) (2023-10-28T04:31:49Z) - Targeted Separation and Convergence with Kernel Discrepancies [66.48817218787006]
カーネルベースの不一致測度は、(i)ターゲットPを他の確率測度から分離するか、(ii)Pへの弱収束を制御する必要がある。
本稿では, (i) と (ii) を保証するのに十分な,必要な新しい条件を導出する。
可分距離空間上のMDDに対して、ボヒナー埋め込み可測度を分離するカーネルを特徴づけ、すべての測度を非有界カーネルと分離するための単純な条件を導入する。
論文 参考訳(メタデータ) (2022-09-26T16:41:16Z) - Cycle Consistent Probability Divergences Across Different Spaces [38.43511529063335]
確率分布の相違は、統計的推測と機械学習の核心にある。
本研究は, 異方性, 異方性, 異方性, 異なる空間上の分布をマッチングするための, アンバランスなモンジュ最適輸送定式化を提案する。
論文 参考訳(メタデータ) (2021-11-22T16:35:58Z) - Density Ratio Estimation via Infinitesimal Classification [85.08255198145304]
そこで我々は, DRE-inftyを提案する。 DRE-inftyは, 密度比推定(DRE)を, より簡単なサブプロブレムに還元する手法である。
モンテカルロ法にインスパイアされ、中間ブリッジ分布の無限連続体を介して2つの分布の間を滑らかに補間する。
提案手法は,複雑な高次元データセット上での相互情報推定やエネルギーベースモデリングなどの下流タスクにおいて良好に動作することを示す。
論文 参考訳(メタデータ) (2021-11-22T06:26:29Z) - A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。
カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。
有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
論文 参考訳(メタデータ) (2021-06-18T08:33:45Z) - Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。
本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文 参考訳(メタデータ) (2020-12-09T20:19:32Z) - Probing symmetries of quantum many-body systems through gap ratio
statistics [0.0]
我々は、ギャップ比分布 P(r) の研究を離散対称性が存在する場合に拡張する。
我々は、量子時計モデルや正準鎖から周期駆動スピンシステムまで、多体物理学の幅広い応用について述べる。
論文 参考訳(メタデータ) (2020-08-25T17:11:40Z) - Generalized Sliced Distances for Probability Distributions [47.543990188697734]
我々は、一般化スライス確率測定(GSPM)と呼ばれる、幅広い確率測定値の族を紹介する。
GSPMは一般化されたラドン変換に根付いており、ユニークな幾何学的解釈を持つ。
GSPMに基づく勾配流を生成モデル応用に適用し、軽度な仮定の下では、勾配流が大域的最適に収束することを示す。
論文 参考訳(メタデータ) (2020-02-28T04:18:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。