論文の概要: Strong posterior contraction rates via Wasserstein dynamics
- arxiv url: http://arxiv.org/abs/2203.10754v1
- Date: Mon, 21 Mar 2022 06:53:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-23 02:20:35.443492
- Title: Strong posterior contraction rates via Wasserstein dynamics
- Title(参考訳): ワッサーシュタイン力学による強い後部収縮速度
- Authors: Emanuele Dolera, Stefano Favaro, Edoardo Mainini
- Abstract要約: 有限次元(パラメトリック)および無限次元(非パラメトリック)ベイズモデルに対する後方収縮率(PCR)へのアプローチを開発する。
この結果のいくつかの応用は、正則パラメトリックモデル、多重項モデル、有限次元および無限次元ロジスティック・ガウスモデル、無限次元線形回帰に対して提示される。
- 参考スコア(独自算出の注目度): 4.866431869728018
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we develop a novel approach to posterior contractions rates
(PCRs), for both finite-dimensional (parametric) and infinite-dimensional
(nonparametric) Bayesian models. Critical to our approach is the combination of
an assumption of local Lipschitz-continuity for the posterior distribution with
a dynamic formulation of the Wasserstein distance, here referred to as
Wasserstein dynamics, which allows to set forth a connection between the
problem of establishing PCRs and some classical problems in mathematical
analysis, probability theory and mathematical statistics: Laplace methods for
approximating integrals, Sanov's large deviation principle under the
Wasserstein distance, rates of convergence of mean Glivenko-Cantelli theorems,
and estimates of weighted Poincar\'e-Wirtinger constants. Under dominated
Bayesian models, we present two main results: i) a theorem on PCRs for the
regular infinite-dimensional exponential family of statistical models; ii) a
theorem on PCRs for a general dominated statistical models. Some applications
of our results are presented for the regular parametric model, the multinomial
model, the finite-dimensional and the infinite-dimensional logistic-Gaussian
model and the infinite-dimensional linear regression. It turns out that our
approach leads to optimal PCRs in finite dimension, whereas in infinite
dimension it is shown explicitly how prior distributions affect the
corresponding PCRs. In general, with regards to infinite-dimensional Bayesian
models for density estimation, our approach to PCRs is the first to consider
strong norm distances on parameter spaces of functions, such as Sobolev-like
norms, as most of the literature deals with spaces of density functions endowed
with $\mathrm{L}^p$ norms or the Hellinger distance.
- Abstract(参考訳): 本稿では、有限次元(パラメトリック)および無限次元(非パラメトリック)ベイズモデルの両方に対して、後方収縮率(PCR)に対する新しいアプローチを開発する。
Critical to our approach is the combination of an assumption of local Lipschitz-continuity for the posterior distribution with a dynamic formulation of the Wasserstein distance, here referred to as Wasserstein dynamics, which allows to set forth a connection between the problem of establishing PCRs and some classical problems in mathematical analysis, probability theory and mathematical statistics: Laplace methods for approximating integrals, Sanov's large deviation principle under the Wasserstein distance, rates of convergence of mean Glivenko-Cantelli theorems, and estimates of weighted Poincar\'e-Wirtinger constants.
支配的ベイズモデルの下では、主な結果が2つあります。
一 統計モデルの正則無限次元指数関数族に対するpcrに関する定理
二 一般的な統計モデルに対するPCRに関する定理。
本研究の応用として,正規パラメトリックモデル,多項モデル,有限次元および無限次元ロジスティック・ガウスモデル,無限次元線形回帰モデルについて述べる。
本手法は, 有限次元における最適PCRに導かれるが, 無限次元においては, 先行分布が対応するPCRにどのように影響するかを明確に示す。
一般に、密度推定のための無限次元ベイズモデルに関して、我々のPCRへのアプローチは、ソボレフのようなノルムのような関数のパラメータ空間上の強いノルム距離を考える最初のものである。
関連論文リスト
- Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。
後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Quasi-Bayes meets Vines [2.3124143670964448]
我々は、スクラーの定理を用いて、準ベイズ予想を高次元に拡張する別の方法を提案する。
提案した準ベイジアンVine (QB-Vine) は完全に非パラメトリックな密度推定器であることを示す。
論文 参考訳(メタデータ) (2024-06-18T16:31:02Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - Designing Universal Causal Deep Learning Models: The Case of
Infinite-Dimensional Dynamical Systems from Stochastic Analysis [3.5450828190071655]
因果作用素(COs)は、現代の分析において中心的な役割を果たす。
COを近似できるディープラーニング(DL)モデルを設計するための標準的なフレームワークはまだ存在しない。
本稿では、DLモデル設計フレームワークを導入することにより、このオープンな問題に対する「幾何学的認識」ソリューションを提案する。
論文 参考訳(メタデータ) (2022-10-24T14:43:03Z) - Counting Phases and Faces Using Bayesian Thermodynamic Integration [77.34726150561087]
本稿では,2パラメータ統計力学系における熱力学関数と位相境界の再構成手法を提案する。
提案手法を用いて,IsingモデルとTASEPの分割関数と位相図を正確に再構成する。
論文 参考訳(メタデータ) (2022-05-18T17:11:23Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - Scalable mixed-domain Gaussian process modeling and model reduction for longitudinal data [5.00301731167245]
混合領域共分散関数に対する基底関数近似スキームを導出する。
我々は,GPモデルの精度をランタイムのごく一部で正確に近似できることを示す。
また、より小さく、より解釈可能なモデルを得るためのスケーラブルなモデルリダクションワークフローを実証する。
論文 参考訳(メタデータ) (2021-11-03T04:47:37Z) - Projected Statistical Methods for Distributional Data on the Real Line
with the Wasserstein Metric [0.0]
本研究では,実線上の確率分布のデータセットに関する統計解析を行うための,新規な予測手法を提案する。
特に主成分分析(PCA)と回帰に重点を置いています。
モデルのいくつかの理論的性質が研究され、一貫性が証明される。
論文 参考訳(メタデータ) (2021-01-22T10:24:49Z) - On Projection Robust Optimal Transport: Sample Complexity and Model
Misspecification [101.0377583883137]
射影ロバスト(PR)OTは、2つの測度の間のOTコストを最大化するために、射影可能な$k$次元部分空間を選択する。
私たちの最初の貢献は、PRワッサーシュタイン距離のいくつかの基本的な統計的性質を確立することである。
次に、部分空間を最適化するのではなく平均化することにより、PRW距離の代替として積分PRワッサーシュタイン距離(IPRW)を提案する。
論文 参考訳(メタデータ) (2020-06-22T14:35:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。