論文の概要: A Note on Optimizing Distributions using Kernel Mean Embeddings

• arxiv url: http://arxiv.org/abs/2106.09994v1
• Date: Fri, 18 Jun 2021 08:33:45 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-21 14:20:09.903365
• Title: A Note on Optimizing Distributions using Kernel Mean Embeddings
• Title（参考訳）: カーネル平均埋め込みを用いた分布最適化の一考察
• Authors: Boris Muzellec, Francis Bach, Alessandro Rudi
• Abstract要約: カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。 カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。 有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
• 参考スコア（独自算出の注目度）: 94.96262888797257
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Kernel mean embeddings are a popular tool that consists in representing probability measures by their infinite-dimensional mean embeddings in a reproducing kernel Hilbert space. When the kernel is characteristic, mean embeddings can be used to define a distance between probability measures, known as the maximum mean discrepancy (MMD). A well-known advantage of mean embeddings and MMD is their low computational cost and low sample complexity. However, kernel mean embeddings have had limited applications to problems that consist in optimizing distributions, due to the difficulty of characterizing which Hilbert space vectors correspond to a probability distribution. In this note, we propose to leverage the kernel sums-of-squares parameterization of positive functions of Marteau-Ferey et al. [2020] to fit distributions in the MMD geometry. First, we show that when the kernel is characteristic, distributions with a kernel sum-of-squares density are dense. Then, we provide algorithms to optimize such distributions in the finite-sample setting, which we illustrate in a density fitting numerical experiment.
• Abstract（参考訳）: カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を再生核ヒルベルト空間に表現する一般的なツールである。 カーネルが特徴的である場合、平均埋め込みは、最大平均不一致(MMD)と呼ばれる確率測度間の距離を定義するために用いられる。 平均埋め込みとMDDの利点は、計算コストが低く、サンプルの複雑さが低いことである。 しかし、ヒルベルト空間ベクトルが確率分布に対応するような特徴付けの難しさから、カーネルの平均埋め込みは分布を最適化する問題に限定的に応用されている。 本稿では Marteau-Ferey et al の正の関数の2乗和のパラメタライゼーションを活用することを提案する。 MMD幾何学における分布に適合する[2020]。 まず、カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。 次に, 有限サンプル設定におけるそのような分布を最適化するアルゴリズムを提案し, 密度適合数値実験で示す。

関連論文リスト

• Learning to Embed Distributions via Maximum Kernel Entropy [0.0]
  固有データは、確率分布の集合からのサンプルと見なすことができる。 カーネルメソッドは、これらの分布を分類する学習の自然なアプローチとして現れてきた。 データ依存分散カーネルの教師なし学習のための新しい目的を提案する。
  論文  参考訳（メタデータ） (2024-08-01T13:34:19Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Gaussian Processes on Distributions based on Regularized Optimal Transport [2.905751301655124]
  最適正則輸送の双対定式化に基づく確率測度空間上の新しいカーネルを提案する。 この構成がヒルベルトノルムを用いて有効なカーネルを得ることを可能にすることを証明している。 このカーネルに基づくガウス過程の挙動に関する理論的保証を提供する。
  論文  参考訳（メタデータ） (2022-10-12T20:30:23Z)
• Targeted Separation and Convergence with Kernel Discrepancies [61.973643031360254]
  カーネルベースの不一致測度は、(i)ターゲットPを他の確率測度から分離するか、(ii)Pへの弱収束を制御する必要がある。 本稿では, (i) と (ii) を保証するのに十分な,必要な新しい条件を導出する。 可分距離空間上のMDDに対して、ボヒナー埋め込み可測度を分離するカーネルを特徴づけ、すべての測度を非有界カーネルと分離するための単純な条件を導入する。
  論文  参考訳（メタデータ） (2022-09-26T16:41:16Z)
• Optimal Scaling for Locally Balanced Proposals in Discrete Spaces [65.14092237705476]
  離散空間におけるMetropolis-Hastings (M-H) アルゴリズムの効率は、対象分布に依存しない受容率によって特徴づけられることを示す。 最適受容率の知識は、連続空間におけるステップサイズ制御と直接的に類似して、離散空間における提案分布の近傍サイズを自動的に調整することを可能にする。
  論文  参考訳（メタデータ） (2022-09-16T22:09:53Z)
• Keep it Tighter -- A Story on Analytical Mean Embeddings [0.6445605125467574]
  カーネル技術は、データサイエンスにおいて最も人気があり柔軟なアプローチの一つである。 平均埋め込みは、最大平均不一致(MMD)と呼ばれる分岐測度をもたらす。 本稿では,基礎となる分布の1つの平均埋め込みが解析的に利用可能である場合のMDD推定の問題に焦点をあてる。
  論文  参考訳（メタデータ） (2021-10-15T21:29:27Z)
• Density-Based Clustering with Kernel Diffusion [59.4179549482505]
  単位$d$次元ユークリッド球のインジケータ関数に対応するナイーブ密度は、密度に基づくクラスタリングアルゴリズムで一般的に使用される。 局所分布特性と滑らかさの異なるデータに適応する新しいカーネル拡散密度関数を提案する。
  論文  参考訳（メタデータ） (2021-10-11T09:00:33Z)
• Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
  カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。 我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
  論文  参考訳（メタデータ） (2021-09-24T14:48:20Z)
• Riemannian Gaussian distributions, random matrix ensembles and diffusion kernels [0.0]
  対称空間のランダム行列型における確率密度関数の限界値を計算する方法を示す。 また、確率密度関数が、リー群のワイルチャンバーにおける非交差過程を記述するカルリン・マクグレガー型の拡散核の特別な場合であることを示す。
  論文  参考訳（メタデータ） (2020-11-27T11:41:29Z)
• Schoenberg-Rao distances: Entropy-based and geometry-aware statistical Hilbert distances [12.729120803225065]
  我々は、シェーンベルク-ラオ距離(Schoenberg-Rao distances)と呼ばれる統計ヒルベルト距離のクラスを研究する。 ガウス分布の混合物間の新しい閉形式距離を導出する。 提案手法はワッサーシュタイン距離の代替として実用的であり,その効率性は幅広い機械学習タスクで説明できる。
  論文  参考訳（メタデータ） (2020-02-19T18:48:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。