論文の概要: Controlling Moments with Kernel Stein Discrepancies
- arxiv url: http://arxiv.org/abs/2211.05408v1
- Date: Thu, 10 Nov 2022 08:24:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-11 14:46:46.688592
- Title: Controlling Moments with Kernel Stein Discrepancies
- Title(参考訳): カーネルステインの相違によるモーメントの制御
- Authors: Heishiro Kanagawa and Arthur Gretton and Lester Mackey
- Abstract要約: kernel Stein discrepancy (KSD) は確率分布の偏差を定量化するために提案された。
本稿では拡散核Stein差分(DKSD)の収束制御特性について検討する。
我々は、DKSDが擬リプシッツ関数のクラスによって定義される積分確率計量を制御することを証明した。
- 参考スコア(独自算出の注目度): 38.100278830216226
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Quantifying the deviation of a probability distribution is challenging when
the target distribution is defined by a density with an intractable normalizing
constant. The kernel Stein discrepancy (KSD) was proposed to address this
problem and has been applied to various tasks including diagnosing approximate
MCMC samplers and goodness-of-fit testing for unnormalized statistical models.
This article investigates a convergence control property of the diffusion
kernel Stein discrepancy (DKSD), an instance of the KSD proposed by Barp et al.
(2019). We extend the result of Gorham and Mackey (2017), which showed that the
KSD controls the bounded-Lipschitz metric, to functions of polynomial growth.
Specifically, we prove that the DKSD controls the integral probability metric
defined by a class of pseudo-Lipschitz functions, a polynomial generalization
of Lipschitz functions. We also provide practical sufficient conditions on the
reproducing kernel for the stated property to hold. In particular, we show that
the DKSD detects non-convergence in moments with an appropriate kernel.
- Abstract(参考訳): 確率分布の偏差の定量化は、目標分布が難解な正規化定数を持つ密度で定義されるときに困難である。
カーネルのStein差分法(KSD)はこの問題に対処するために提案され、近似MCMCサンプルの診断や非正規化統計モデルの適合性テストなど様々なタスクに応用されている。
本稿では,barp et al. (2019) が提案した ksd の例である拡散核 stein discrepancy (dksd) の収束制御特性について検討する。
我々は、Gorham and Mackey (2017) の結果を拡張し、KSD が有界リプシッツ計量を多項式成長の関数に制御することを示した。
具体的には、dksdが疑似リプシッツ関数のクラス、リプシッツ関数の多項式一般化によって定義される積分確率計量を制御することを証明する。
また、保持すべき特性の再生カーネルについて、実用上十分な条件を提供する。
特に、dksdは適切なカーネルを持つモーメントにおける非収束を検出する。
関連論文リスト
- Ancilla quantum measurements on interacting chains: Sensitivity of
entanglement dynamics to the type and concentration of detectors [51.08863224378874]
量子多体格子系における密度と絡み合いエントロピーのダイナミクスについて検討する。
その結果、密度密度(スピン言語ではS_z s_z$-型)結合の場合、測定誘起エンタングルメント遷移の臨界値$M_c$は$rho_a$に敏感に依存することがわかった。
M$ の結合強度に対する絡み合いの依存性は強い非単調であり、M$ の結合位相の再入射を示す。
論文 参考訳(メタデータ) (2023-11-21T21:41:11Z) - Breaking the Heavy-Tailed Noise Barrier in Stochastic Optimization
Problems [61.002740957716156]
構造密度の重み付き雑音によるクリップ最適化問題を考察する。
勾配が有限の順序モーメントを持つとき、$mathcalO(K-(alpha - 1)/alpha)$よりも高速な収束率が得られることを示す。
得られた推定値が無視可能なバイアスと制御可能な分散を持つことを示す。
論文 参考訳(メタデータ) (2023-11-07T17:39:17Z) - Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative
Models [49.81937966106691]
我々は拡散モデルのデータ生成過程を理解するための非漸近理論のスイートを開発する。
従来の研究とは対照的に,本理論は基本的だが多目的な非漸近的アプローチに基づいて開発されている。
論文 参考訳(メタデータ) (2023-06-15T16:30:08Z) - Using Perturbation to Improve Goodness-of-Fit Tests based on Kernelized
Stein Discrepancy [3.78967502155084]
Kernelized Stein discrepancy (KSD) は、良質なテストで広く使われているスコアベースの不一致である。
我々は、KSD試験が、ターゲットと代替分布が同一の分離モードを持つが混合比が異なる場合、低出力に悩まされることを理論的かつ実証的に示す。
論文 参考訳(メタデータ) (2023-04-28T11:13:18Z) - Targeted Separation and Convergence with Kernel Discrepancies [66.48817218787006]
カーネルベースの不一致測度は、(i)ターゲットPを他の確率測度から分離するか、(ii)Pへの弱収束を制御する必要がある。
本稿では, (i) と (ii) を保証するのに十分な,必要な新しい条件を導出する。
可分距離空間上のMDDに対して、ボヒナー埋め込み可測度を分離するカーネルを特徴づけ、すべての測度を非有界カーネルと分離するための単純な条件を導入する。
論文 参考訳(メタデータ) (2022-09-26T16:41:16Z) - DR-DSGD: A Distributionally Robust Decentralized Learning Algorithm over
Graphs [54.08445874064361]
本稿では,分散環境下での正規化された分散ロバストな学習問題を解くことを提案する。
Kullback-Liebler正規化関数をロバストなmin-max最適化問題に追加することにより、学習問題を修正されたロバストな問題に還元することができる。
提案アルゴリズムは, 最低分布検定精度を最大10%向上できることを示す。
論文 参考訳(メタデータ) (2022-08-29T18:01:42Z) - KSD Aggregated Goodness-of-fit Test [38.45086141837479]
我々は、異なるカーネルで複数のテストを集約するKSDAggと呼ばれるテストを構築する戦略を導入する。
我々は、KSDAggのパワーに関する漸近的でない保証を提供する。
KSDAggは、他の最先端のKSDベースの適合性試験方法よりも優れていることがわかった。
論文 参考訳(メタデータ) (2022-02-02T00:33:09Z) - Limit Distribution Theory for the Smooth 1-Wasserstein Distance with
Applications [18.618590805279187]
スムーズな1-ワッサーシュタイン距離 (SWD) $W_1sigma$ は経験的近似における次元の呪いを軽減する手段として最近提案された。
この研究は、高次元の極限分布結果を含むSWDの詳細な統計的研究を行う。
論文 参考訳(メタデータ) (2021-07-28T17:02:24Z) - Kernel Stein Discrepancy Descent [16.47373844775953]
Kernel Stein Discrepancy (KSD) は近年注目されている。
我々は、目標確率分布を$mathbbRd$上で近似するために、ワッサーシュタイン勾配流の特性について検討する。
これにより、直接実装可能な決定論的スコアベースのメソッドが、$pi$、KSD Descentからサンプリングされる。
論文 参考訳(メタデータ) (2021-05-20T19:05:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。