論文の概要: Strong posterior contraction rates via Wasserstein dynamics
- arxiv url: http://arxiv.org/abs/2203.10754v3
- Date: Wed, 6 Sep 2023 08:32:03 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-07 20:27:27.064328
- Title: Strong posterior contraction rates via Wasserstein dynamics
- Title(参考訳): ワッサーシュタイン力学による強い後部収縮速度
- Authors: Emanuele Dolera, Stefano Favaro, Edoardo Mainini
- Abstract要約: ベイズ統計学において、後部収縮率(PCR)は、後部分布が真のモデルの任意の小さな近傍に集中する速度を定量化する。
我々は,関数のパラメータ空間上での強いノルム距離に関して,PCRに対する新しいアプローチを開発する。
- 参考スコア(独自算出の注目度): 8.479040075763892
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In Bayesian statistics, posterior contraction rates (PCRs) quantify the speed
at which the posterior distribution concentrates on arbitrarily small
neighborhoods of a true model, in a suitable way, as the sample size goes to
infinity. In this paper, we develop a new approach to PCRs, with respect to
strong norm distances on parameter spaces of functions. Critical to our
approach is the combination of a local Lipschitz-continuity for the posterior
distribution with a dynamic formulation of the Wasserstein distance, which
allows to set forth an interesting connection between PCRs and some classical
problems arising in mathematical analysis, probability and statistics, e.g.,
Laplace methods for approximating integrals, Sanov's large deviation principles
in the Wasserstein distance, rates of convergence of mean Glivenko-Cantelli
theorems, and estimates of weighted Poincar\'e-Wirtinger constants. We first
present a theorem on PCRs for a model in the regular infinite-dimensional
exponential family, which exploits sufficient statistics of the model, and then
extend such a theorem to a general dominated model. These results rely on the
development of novel techniques to evaluate Laplace integrals and weighted
Poincar\'e-Wirtinger constants in infinite-dimension, which are of independent
interest. The proposed approach is applied to the regular parametric model, the
multinomial model, the finite-dimensional and the infinite-dimensional
logistic-Gaussian model and the infinite-dimensional linear regression. In
general, our approach leads to optimal PCRs in finite-dimensional models,
whereas for infinite-dimensional models it is shown explicitly how the prior
distribution affect PCRs.
- Abstract(参考訳): ベイズ統計学において、後部収縮率(PCR)は、サンプルサイズが無限に近づくにつれて、後部分布が真のモデルの任意の小さな近傍に集中する速度を、適切な方法で定量化する。
本稿では,関数のパラメータ空間上での強いノルム距離に関して,PCRの新しいアプローチを開発する。
Critical to our approach is the combination of a local Lipschitz-continuity for the posterior distribution with a dynamic formulation of the Wasserstein distance, which allows to set forth an interesting connection between PCRs and some classical problems arising in mathematical analysis, probability and statistics, e.g., Laplace methods for approximating integrals, Sanov's large deviation principles in the Wasserstein distance, rates of convergence of mean Glivenko-Cantelli theorems, and estimates of weighted Poincar\'e-Wirtinger constants.
まず、正則無限次元指数族におけるモデルに対するPCR定理を提示し、モデルの十分な統計量を利用して、その定理を一般支配モデルに拡張する。
これらの結果は、無限次元におけるラプラス積分と重み付けポアンカル・ワイルティンガー定数を独立に評価する新しい手法の開発に依存している。
提案手法は,正規パラメトリックモデル,多項モデル,有限次元および無限次元ロジスティック・ガウスモデル,無限次元線形回帰モデルに適用できる。
一般に,本手法は有限次元モデルにおいて最適PCRに導かれるが,無限次元モデルでは先行分布がPCRに与える影響を明確に示す。
関連論文リスト
- Randomized Physics-Informed Machine Learning for Uncertainty
Quantification in High-Dimensional Inverse Problems [49.1574468325115]
本研究では,高次元逆問題における不確実性定量化のための物理インフォームド機械学習手法を提案する。
我々は解析的に、そして、ハミルトン・モンテカルロとの比較を通して、rPICKLE はベイズ則によって与えられる真の後続に収束することを示す。
論文 参考訳(メタデータ) (2023-12-11T07:33:16Z) - Weighted Riesz Particles [0.0]
対象分布を、パラメータの無限次元空間が多くの決定論的部分多様体からなる写像と考える。
我々は、Rieszと呼ばれる点の性質を研究し、それをシーケンシャルMCMCに埋め込む。
低い評価で高い受け入れ率が得られることが分かりました。
論文 参考訳(メタデータ) (2023-12-01T14:36:46Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - Physics-Informed Gaussian Process Regression Generalizes Linear PDE
Solvers [34.77134256690012]
線形偏微分方程式と呼ばれる力学モデルのクラスは、熱伝達、電磁気、波動伝播などの物理過程を記述するために用いられる。
離散化に基づく特殊数値法はPDEの解法として用いられる。
パラメータや測定の不確実性を無視することで、古典的なPDE解法は固有の近似誤差の一貫した推定を導出できない可能性がある。
論文 参考訳(メタデータ) (2022-12-23T17:02:59Z) - Designing Universal Causal Deep Learning Models: The Case of
Infinite-Dimensional Dynamical Systems from Stochastic Analysis [3.5450828190071655]
因果作用素(COs)は、現代の分析において中心的な役割を果たす。
COを近似できるディープラーニング(DL)モデルを設計するための標準的なフレームワークはまだ存在しない。
本稿では、DLモデル設計フレームワークを導入することにより、このオープンな問題に対する「幾何学的認識」ソリューションを提案する。
論文 参考訳(メタデータ) (2022-10-24T14:43:03Z) - Matching Normalizing Flows and Probability Paths on Manifolds [57.95251557443005]
連続正規化フロー (Continuous Normalizing Flows, CNFs) は、常微分方程式(ODE)を解くことによって、先行分布をモデル分布に変換する生成モデルである。
我々は,CNFが生成する確率密度パスと目標確率密度パスとの間に生じる新たな分岐系であるPPDを最小化して,CNFを訓練することを提案する。
PPDの最小化によって得られたCNFは、既存の低次元多様体のベンチマークにおいて、その可能性とサンプル品質が得られることを示す。
論文 参考訳(メタデータ) (2022-07-11T08:50:19Z) - Counting Phases and Faces Using Bayesian Thermodynamic Integration [77.34726150561087]
本稿では,2パラメータ統計力学系における熱力学関数と位相境界の再構成手法を提案する。
提案手法を用いて,IsingモデルとTASEPの分割関数と位相図を正確に再構成する。
論文 参考訳(メタデータ) (2022-05-18T17:11:23Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - Projected Statistical Methods for Distributional Data on the Real Line
with the Wasserstein Metric [0.0]
本研究では,実線上の確率分布のデータセットに関する統計解析を行うための,新規な予測手法を提案する。
特に主成分分析(PCA)と回帰に重点を置いています。
モデルのいくつかの理論的性質が研究され、一貫性が証明される。
論文 参考訳(メタデータ) (2021-01-22T10:24:49Z) - On Projection Robust Optimal Transport: Sample Complexity and Model
Misspecification [101.0377583883137]
射影ロバスト(PR)OTは、2つの測度の間のOTコストを最大化するために、射影可能な$k$次元部分空間を選択する。
私たちの最初の貢献は、PRワッサーシュタイン距離のいくつかの基本的な統計的性質を確立することである。
次に、部分空間を最適化するのではなく平均化することにより、PRW距離の代替として積分PRワッサーシュタイン距離(IPRW)を提案する。
論文 参考訳(メタデータ) (2020-06-22T14:35:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。