論文の概要: Controlling Moments with Kernel Stein Discrepancies

• arxiv url: http://arxiv.org/abs/2211.05408v1
• Date: Thu, 10 Nov 2022 08:24:52 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-11 14:46:46.688592
• Title: Controlling Moments with Kernel Stein Discrepancies
• Title（参考訳）: カーネルステインの相違によるモーメントの制御
• Authors: Heishiro Kanagawa and Arthur Gretton and Lester Mackey
• Abstract要約: kernel Stein discrepancy (KSD) は確率分布の偏差を定量化するために提案された。 本稿では拡散核Stein差分(DKSD)の収束制御特性について検討する。 我々は、DKSDが擬リプシッツ関数のクラスによって定義される積分確率計量を制御することを証明した。
• 参考スコア（独自算出の注目度）: 38.100278830216226
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Quantifying the deviation of a probability distribution is challenging when the target distribution is defined by a density with an intractable normalizing constant. The kernel Stein discrepancy (KSD) was proposed to address this problem and has been applied to various tasks including diagnosing approximate MCMC samplers and goodness-of-fit testing for unnormalized statistical models. This article investigates a convergence control property of the diffusion kernel Stein discrepancy (DKSD), an instance of the KSD proposed by Barp et al. (2019). We extend the result of Gorham and Mackey (2017), which showed that the KSD controls the bounded-Lipschitz metric, to functions of polynomial growth. Specifically, we prove that the DKSD controls the integral probability metric defined by a class of pseudo-Lipschitz functions, a polynomial generalization of Lipschitz functions. We also provide practical sufficient conditions on the reproducing kernel for the stated property to hold. In particular, we show that the DKSD detects non-convergence in moments with an appropriate kernel.
• Abstract（参考訳）: 確率分布の偏差の定量化は、目標分布が難解な正規化定数を持つ密度で定義されるときに困難である。 カーネルのStein差分法(KSD)はこの問題に対処するために提案され、近似MCMCサンプルの診断や非正規化統計モデルの適合性テストなど様々なタスクに応用されている。 本稿では,barp et al. (2019) が提案した ksd の例である拡散核 stein discrepancy (dksd) の収束制御特性について検討する。 我々は、Gorham and Mackey (2017) の結果を拡張し、KSD が有界リプシッツ計量を多項式成長の関数に制御することを示した。 具体的には、dksdが疑似リプシッツ関数のクラス、リプシッツ関数の多項式一般化によって定義される積分確率計量を制御することを証明する。 また、保持すべき特性の再生カーネルについて、実用上十分な条件を提供する。 特に、dksdは適切なカーネルを持つモーメントにおける非収束を検出する。

関連論文リスト

• Convergence Rate Analysis of LION [54.28350823319057]
  LION は、勾配カルシュ=クーン=T (sqrtdK-)$で測定された $cal(sqrtdK-)$ の反復を収束する。 従来のSGDと比較して,LIONは損失が小さく,性能も高いことを示す。
  論文  参考訳（メタデータ） (2024-11-12T11:30:53Z)
• Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
  連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。 本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。 我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
  論文  参考訳（メタデータ） (2024-10-03T09:07:13Z)
• Minimax Optimal Goodness-of-Fit Testing with Kernel Stein Discrepancy [13.429541377715298]
  我々は、カーネル化されたStein discrepancy (KSD) を用いた一般領域における適合性試験の極小最適性について検討する。 KSDフレームワークは、優れたテストのための柔軟なアプローチを提供し、強い分散仮定を避けます。 未知のパラメータに適応することで、対数係数まで最小限の最適性を達成できる適応テストを導入する。
  論文  参考訳（メタデータ） (2024-04-12T07:06:12Z)
• Breaking the Heavy-Tailed Noise Barrier in Stochastic Optimization Problems [56.86067111855056]
  構造密度の重み付き雑音によるクリップ最適化問題を考察する。 勾配が有限の順序モーメントを持つとき、$mathcalO(K-(alpha - 1)/alpha)$よりも高速な収束率が得られることを示す。 得られた推定値が無視可能なバイアスと制御可能な分散を持つことを示す。
  論文  参考訳（メタデータ） (2023-11-07T17:39:17Z)
• KL Convergence Guarantees for Score diffusion models under minimal data assumptions [9.618473763561418]
  注目すべき課題は、包括的な定量的結果の欠如という形で続いている。 この記事では、Ornstein-Uhlenbeck半群とその運動論的対応から生じる一定のステップサイズを持つスコア拡散モデルに焦点を当てる。
  論文  参考訳（メタデータ） (2023-08-23T16:31:08Z)
• Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative Models [49.81937966106691]
  我々は拡散モデルのデータ生成過程を理解するための非漸近理論のスイートを開発する。 従来の研究とは対照的に,本理論は基本的だが多目的な非漸近的アプローチに基づいて開発されている。
  論文  参考訳（メタデータ） (2023-06-15T16:30:08Z)
• Using Perturbation to Improve Goodness-of-Fit Tests based on Kernelized Stein Discrepancy [3.78967502155084]
  Kernelized Stein discrepancy (KSD) は、良質なテストで広く使われているスコアベースの不一致である。 我々は、KSD試験が、ターゲットと代替分布が同一の分離モードを持つが混合比が異なる場合、低出力に悩まされることを理論的かつ実証的に示す。
  論文  参考訳（メタデータ） (2023-04-28T11:13:18Z)
• Targeted Separation and Convergence with Kernel Discrepancies [61.973643031360254]
  カーネルベースの不一致測度は、(i)ターゲットPを他の確率測度から分離するか、(ii)Pへの弱収束を制御する必要がある。 本稿では, (i) と (ii) を保証するのに十分な,必要な新しい条件を導出する。 可分距離空間上のMDDに対して、ボヒナー埋め込み可測度を分離するカーネルを特徴づけ、すべての測度を非有界カーネルと分離するための単純な条件を導入する。
  論文  参考訳（メタデータ） (2022-09-26T16:41:16Z)
• KSD Aggregated Goodness-of-fit Test [38.45086141837479]
  我々は、異なるカーネルで複数のテストを集約するKSDAggと呼ばれるテストを構築する戦略を導入する。 我々は、KSDAggのパワーに関する漸近的でない保証を提供する。 KSDAggは、他の最先端のKSDベースの適合性試験方法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2022-02-02T00:33:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。