論文の概要: Controlling Moments with Kernel Stein Discrepancies

• arxiv url: http://arxiv.org/abs/2211.05408v4
• Date: Tue, 25 Jun 2024 15:16:17 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-26 23:29:11.778836
• Title: Controlling Moments with Kernel Stein Discrepancies
• Title（参考訳）: カーネルステインの相違によるモーメントの制御
• Authors: Heishiro Kanagawa, Alessandro Barp, Arthur Gretton, Lester Mackey,
• Abstract要約: Kernel Steindisrepancies (KSD) は分布近似の品質を測定する。 まず、弱収束制御に使用される標準KSDがモーメント収束制御に失敗することを示す。 次に、代替拡散KSDがモーメントと弱収束の両方を制御できる十分な条件を提供する。
• 参考スコア（独自算出の注目度）: 74.82363458321939
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Kernel Stein discrepancies (KSDs) measure the quality of a distributional approximation and can be computed even when the target density has an intractable normalizing constant. Notable applications include the diagnosis of approximate MCMC samplers and goodness-of-fit tests for unnormalized statistical models. The present work analyzes the convergence control properties of KSDs. We first show that standard KSDs used for weak convergence control fail to control moment convergence. To address this limitation, we next provide sufficient conditions under which alternative diffusion KSDs control both moment and weak convergence. As an immediate consequence we develop, for each $q > 0$, the first KSDs known to exactly characterize $q$-Wasserstein convergence.
• Abstract（参考訳）: カーネルスタイン差分法(KSD)は分布近似の質を測定し、ターゲット密度が難解な正規化定数を持つ場合でも計算できる。 注目すべき応用としては、近似MCMCサンプルの診断や、正規化されていない統計モデルに対する良質な試験がある。 本研究は,KSDの収束制御特性を解析する。 まず、弱収束制御に使用される標準KSDがモーメント収束制御に失敗することを示す。 この制限に対処するために、次に、代替拡散KSDがモーメントと弱収束の両方を制御する十分な条件を提供する。 即ち、$q > 0$ に対して、$q$-ワッサーシュタイン収束を正確に特徴付けることが知られている最初の KSD を開発する。

関連論文リスト

• Minimax Optimal Goodness-of-Fit Testing with Kernel Stein Discrepancy [13.429541377715298]
  我々は、カーネル化されたStein discrepancy (KSD) を用いた一般領域における適合性試験の極小最適性について検討する。 KSDフレームワークは、優れたテストのための柔軟なアプローチを提供し、強い分散仮定を避けます。 未知のパラメータに適応することで、対数係数まで最小限の最適性を達成できる適応テストを導入する。
  論文  参考訳（メタデータ） (2024-04-12T07:06:12Z)
• Breaking the Heavy-Tailed Noise Barrier in Stochastic Optimization Problems [56.86067111855056]
  構造密度の重み付き雑音によるクリップ最適化問題を考察する。 勾配が有限の順序モーメントを持つとき、$mathcalO(K-(alpha - 1)/alpha)$よりも高速な収束率が得られることを示す。 得られた推定値が無視可能なバイアスと制御可能な分散を持つことを示す。
  論文  参考訳（メタデータ） (2023-11-07T17:39:17Z)
• Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative Models [49.81937966106691]
  我々は拡散モデルのデータ生成過程を理解するための非漸近理論のスイートを開発する。 従来の研究とは対照的に,本理論は基本的だが多目的な非漸近的アプローチに基づいて開発されている。
  論文  参考訳（メタデータ） (2023-06-15T16:30:08Z)
• Using Perturbation to Improve Goodness-of-Fit Tests based on Kernelized Stein Discrepancy [3.78967502155084]
  Kernelized Stein discrepancy (KSD) は、良質なテストで広く使われているスコアベースの不一致である。 我々は、KSD試験が、ターゲットと代替分布が同一の分離モードを持つが混合比が異なる場合、低出力に悩まされることを理論的かつ実証的に示す。
  論文  参考訳（メタデータ） (2023-04-28T11:13:18Z)
• Targeted Separation and Convergence with Kernel Discrepancies [66.48817218787006]
  カーネルベースの不一致測度は、(i)ターゲットPを他の確率測度から分離するか、(ii)Pへの弱収束を制御する必要がある。 本稿では, (i) と (ii) を保証するのに十分な,必要な新しい条件を導出する。 可分距離空間上のMDDに対して、ボヒナー埋め込み可測度を分離するカーネルを特徴づけ、すべての測度を非有界カーネルと分離するための単純な条件を導入する。
  論文  参考訳（メタデータ） (2022-09-26T16:41:16Z)
• DR-DSGD: A Distributionally Robust Decentralized Learning Algorithm over Graphs [54.08445874064361]
  本稿では,分散環境下での正規化された分散ロバストな学習問題を解くことを提案する。 Kullback-Liebler正規化関数をロバストなmin-max最適化問題に追加することにより、学習問題を修正されたロバストな問題に還元することができる。 提案アルゴリズムは, 最低分布検定精度を最大10%向上できることを示す。
  論文  参考訳（メタデータ） (2022-08-29T18:01:42Z)
• KSD Aggregated Goodness-of-fit Test [38.45086141837479]
  我々は、異なるカーネルで複数のテストを集約するKSDAggと呼ばれるテストを構築する戦略を導入する。 我々は、KSDAggのパワーに関する漸近的でない保証を提供する。 KSDAggは、他の最先端のKSDベースの適合性試験方法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2022-02-02T00:33:09Z)
• Stochastic Gradient Descent-Ascent and Consensus Optimization for Smooth Games: Convergence Analysis under Expected Co-coercivity [49.66890309455787]
  本稿では,SGDA と SCO の最終的な収束保証として,期待されるコヒーレンシティ条件を導入し,その利点を説明する。 定常的なステップサイズを用いた場合、両手法の線形収束性を解の近傍に証明する。 我々の収束保証は任意のサンプリングパラダイムの下で保たれ、ミニバッチの複雑さに関する洞察を与える。
  論文  参考訳（メタデータ） (2021-06-30T18:32:46Z)
• Kernel Stein Discrepancy Descent [16.47373844775953]
  Kernel Stein Discrepancy (KSD) は近年注目されている。 我々は、目標確率分布を$mathbbRd$上で近似するために、ワッサーシュタイン勾配流の特性について検討する。 これにより、直接実装可能な決定論的スコアベースのメソッドが、$pi$、KSD Descentからサンプリングされる。
  論文  参考訳（メタデータ） (2021-05-20T19:05:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。