論文の概要: Strong posterior contraction rates via Wasserstein dynamics
- arxiv url: http://arxiv.org/abs/2203.10754v1
- Date: Mon, 21 Mar 2022 06:53:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-23 02:20:35.443492
- Title: Strong posterior contraction rates via Wasserstein dynamics
- Title(参考訳): ワッサーシュタイン力学による強い後部収縮速度
- Authors: Emanuele Dolera, Stefano Favaro, Edoardo Mainini
- Abstract要約: 有限次元(パラメトリック)および無限次元(非パラメトリック)ベイズモデルに対する後方収縮率(PCR)へのアプローチを開発する。
この結果のいくつかの応用は、正則パラメトリックモデル、多重項モデル、有限次元および無限次元ロジスティック・ガウスモデル、無限次元線形回帰に対して提示される。
- 参考スコア(独自算出の注目度): 4.866431869728018
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we develop a novel approach to posterior contractions rates
(PCRs), for both finite-dimensional (parametric) and infinite-dimensional
(nonparametric) Bayesian models. Critical to our approach is the combination of
an assumption of local Lipschitz-continuity for the posterior distribution with
a dynamic formulation of the Wasserstein distance, here referred to as
Wasserstein dynamics, which allows to set forth a connection between the
problem of establishing PCRs and some classical problems in mathematical
analysis, probability theory and mathematical statistics: Laplace methods for
approximating integrals, Sanov's large deviation principle under the
Wasserstein distance, rates of convergence of mean Glivenko-Cantelli theorems,
and estimates of weighted Poincar\'e-Wirtinger constants. Under dominated
Bayesian models, we present two main results: i) a theorem on PCRs for the
regular infinite-dimensional exponential family of statistical models; ii) a
theorem on PCRs for a general dominated statistical models. Some applications
of our results are presented for the regular parametric model, the multinomial
model, the finite-dimensional and the infinite-dimensional logistic-Gaussian
model and the infinite-dimensional linear regression. It turns out that our
approach leads to optimal PCRs in finite dimension, whereas in infinite
dimension it is shown explicitly how prior distributions affect the
corresponding PCRs. In general, with regards to infinite-dimensional Bayesian
models for density estimation, our approach to PCRs is the first to consider
strong norm distances on parameter spaces of functions, such as Sobolev-like
norms, as most of the literature deals with spaces of density functions endowed
with $\mathrm{L}^p$ norms or the Hellinger distance.
- Abstract(参考訳): 本稿では、有限次元(パラメトリック)および無限次元(非パラメトリック)ベイズモデルの両方に対して、後方収縮率(PCR)に対する新しいアプローチを開発する。
Critical to our approach is the combination of an assumption of local Lipschitz-continuity for the posterior distribution with a dynamic formulation of the Wasserstein distance, here referred to as Wasserstein dynamics, which allows to set forth a connection between the problem of establishing PCRs and some classical problems in mathematical analysis, probability theory and mathematical statistics: Laplace methods for approximating integrals, Sanov's large deviation principle under the Wasserstein distance, rates of convergence of mean Glivenko-Cantelli theorems, and estimates of weighted Poincar\'e-Wirtinger constants.
支配的ベイズモデルの下では、主な結果が2つあります。
一 統計モデルの正則無限次元指数関数族に対するpcrに関する定理
二 一般的な統計モデルに対するPCRに関する定理。
本研究の応用として,正規パラメトリックモデル,多項モデル,有限次元および無限次元ロジスティック・ガウスモデル,無限次元線形回帰モデルについて述べる。
本手法は, 有限次元における最適PCRに導かれるが, 無限次元においては, 先行分布が対応するPCRにどのように影響するかを明確に示す。
一般に、密度推定のための無限次元ベイズモデルに関して、我々のPCRへのアプローチは、ソボレフのようなノルムのような関数のパラメータ空間上の強いノルム距離を考える最初のものである。
関連論文リスト
- Randomized Physics-Informed Machine Learning for Uncertainty
Quantification in High-Dimensional Inverse Problems [49.1574468325115]
本研究では,高次元逆問題における不確実性定量化のための物理インフォームド機械学習手法を提案する。
我々は解析的に、そして、ハミルトン・モンテカルロとの比較を通して、rPICKLE はベイズ則によって与えられる真の後続に収束することを示す。
論文 参考訳(メタデータ) (2023-12-11T07:33:16Z) - Weighted Riesz Particles [0.0]
対象分布を、パラメータの無限次元空間が多くの決定論的部分多様体からなる写像と考える。
我々は、Rieszと呼ばれる点の性質を研究し、それをシーケンシャルMCMCに埋め込む。
低い評価で高い受け入れ率が得られることが分かりました。
論文 参考訳(メタデータ) (2023-12-01T14:36:46Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - Physics-Informed Gaussian Process Regression Generalizes Linear PDE
Solvers [34.77134256690012]
線形偏微分方程式と呼ばれる力学モデルのクラスは、熱伝達、電磁気、波動伝播などの物理過程を記述するために用いられる。
離散化に基づく特殊数値法はPDEの解法として用いられる。
パラメータや測定の不確実性を無視することで、古典的なPDE解法は固有の近似誤差の一貫した推定を導出できない可能性がある。
論文 参考訳(メタデータ) (2022-12-23T17:02:59Z) - Designing Universal Causal Deep Learning Models: The Case of
Infinite-Dimensional Dynamical Systems from Stochastic Analysis [3.5450828190071655]
因果作用素(COs)は、現代の分析において中心的な役割を果たす。
COを近似できるディープラーニング(DL)モデルを設計するための標準的なフレームワークはまだ存在しない。
本稿では、DLモデル設計フレームワークを導入することにより、このオープンな問題に対する「幾何学的認識」ソリューションを提案する。
論文 参考訳(メタデータ) (2022-10-24T14:43:03Z) - Matching Normalizing Flows and Probability Paths on Manifolds [57.95251557443005]
連続正規化フロー (Continuous Normalizing Flows, CNFs) は、常微分方程式(ODE)を解くことによって、先行分布をモデル分布に変換する生成モデルである。
我々は,CNFが生成する確率密度パスと目標確率密度パスとの間に生じる新たな分岐系であるPPDを最小化して,CNFを訓練することを提案する。
PPDの最小化によって得られたCNFは、既存の低次元多様体のベンチマークにおいて、その可能性とサンプル品質が得られることを示す。
論文 参考訳(メタデータ) (2022-07-11T08:50:19Z) - Counting Phases and Faces Using Bayesian Thermodynamic Integration [77.34726150561087]
本稿では,2パラメータ統計力学系における熱力学関数と位相境界の再構成手法を提案する。
提案手法を用いて,IsingモデルとTASEPの分割関数と位相図を正確に再構成する。
論文 参考訳(メタデータ) (2022-05-18T17:11:23Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - Projected Statistical Methods for Distributional Data on the Real Line
with the Wasserstein Metric [0.0]
本研究では,実線上の確率分布のデータセットに関する統計解析を行うための,新規な予測手法を提案する。
特に主成分分析(PCA)と回帰に重点を置いています。
モデルのいくつかの理論的性質が研究され、一貫性が証明される。
論文 参考訳(メタデータ) (2021-01-22T10:24:49Z) - On Projection Robust Optimal Transport: Sample Complexity and Model
Misspecification [101.0377583883137]
射影ロバスト(PR)OTは、2つの測度の間のOTコストを最大化するために、射影可能な$k$次元部分空間を選択する。
私たちの最初の貢献は、PRワッサーシュタイン距離のいくつかの基本的な統計的性質を確立することである。
次に、部分空間を最適化するのではなく平均化することにより、PRW距離の代替として積分PRワッサーシュタイン距離(IPRW)を提案する。
論文 参考訳(メタデータ) (2020-06-22T14:35:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。