論文の概要: Monte Carlo inference for semiparametric Bayesian regression
- arxiv url: http://arxiv.org/abs/2306.05498v1
- Date: Thu, 8 Jun 2023 18:42:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-12 15:44:54.850448
- Title: Monte Carlo inference for semiparametric Bayesian regression
- Title(参考訳): 半パラメトリックベイズ回帰に対するモンテカルロ推定
- Authors: Daniel R. Kowal, Bohan Wu
- Abstract要約: 本稿では、未知の変換とすべての回帰モデルパラメータの結合後部推論のための単純で汎用的で効率的な戦略を提案する。
これは(1)複数のモデルの不特定性を含む一般条件下での合同後続一貫性を提供し、(2)変換に対する効率的なモンテカルロ(マルコフ連鎖でないモンテカルロ)の推論と重要な特殊ケースに対する全てのパラメータを提供する。
- 参考スコア(独自算出の注目度): 3.6149823645180477
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Data transformations are essential for broad applicability of parametric
regression models. However, for Bayesian analysis, joint inference of the
transformation and model parameters typically involves restrictive parametric
transformations or nonparametric representations that are computationally
inefficient and cumbersome for implementation and theoretical analysis, which
limits their usability in practice. This paper introduces a simple, general,
and efficient strategy for joint posterior inference of an unknown
transformation and all regression model parameters. The proposed approach
directly targets the posterior distribution of the transformation by linking it
with the marginal distributions of the independent and dependent variables, and
then deploys a Bayesian nonparametric model via the Bayesian bootstrap.
Crucially, this approach delivers (1) joint posterior consistency under general
conditions, including multiple model misspecifications, and (2) efficient Monte
Carlo (not Markov chain Monte Carlo) inference for the transformation and all
parameters for important special cases. These tools apply across a variety of
data domains, including real-valued, integer-valued, compactly-supported, and
positive data. Simulation studies and an empirical application demonstrate the
effectiveness and efficiency of this strategy for semiparametric Bayesian
analysis with linear models, quantile regression, and Gaussian processes.
- Abstract(参考訳): データ変換はパラメトリック回帰モデルの幅広い適用性に不可欠である。
しかし、ベイズ解析では、変換とモデルパラメータの合同推論は通常、計算的に非効率で実装や理論解析に不都合な制限的なパラメトリック変換や非パラメトリック表現を伴い、実際は使用性を制限する。
本稿では、未知の変換とすべての回帰モデルパラメータの結合後部推論のための単純で汎用的で効率的な戦略を提案する。
提案手法は,独立変数および従属変数の限界分布と結合することにより,変換の後方分布を直接ターゲットとし,ベイズブートストラップを介してベイズ非パラメトリックモデルを展開する。
本手法は,(1)複数のモデル誤特定を含む一般的な条件下での協調的な後方整合性,(2)変換の効率的なモンテカルロ(マルコフ連鎖モンテカルロではない)推論,および重要な特別な場合のすべてのパラメータを提供する。
これらのツールは、実数値、整数値、コンパクトサポート、ポジティブデータを含む、さまざまなデータドメインにまたがって適用される。
シミュレーション研究と経験的応用は、線形モデル、量子回帰、ガウス過程を用いた半パラメトリックベイズ解析におけるこの戦略の有効性と効率を実証する。
関連論文リスト
- Fusion of Gaussian Processes Predictions with Monte Carlo Sampling [61.31380086717422]
科学と工学において、私たちはしばしば興味のある変数の正確な予測のために設計されたモデルで作業します。
これらのモデルが現実の近似であることを認識し、複数のモデルを同じデータに適用し、結果を統合することが望ましい。
論文 参考訳(メタデータ) (2024-03-03T04:21:21Z) - Online Variational Sequential Monte Carlo [56.16884466478886]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Conformal inference for regression on Riemannian Manifolds [49.7719149179179]
回帰シナリオの予測セットは、応答変数が$Y$で、多様体に存在し、Xで表される共変数がユークリッド空間にあるときに検討する。
我々は、多様体上のこれらの領域の経験的バージョンが、その集団に対するほぼ確実に収束していることを証明する。
論文 参考訳(メタデータ) (2023-10-12T10:56:25Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Communication-Efficient Distributed Quantile Regression with Optimal
Statistical Guarantees [2.064612766965483]
本稿では,分散量子レグレッションにおいて,厳密なスケーリング条件を伴わずに最適な推論を実現する方法の課題に対処する。
この問題は、ローカル(各データソース)とグローバルな目的関数に適用される二重平滑化アプローチによって解決される。
局所的および大域的滑らか化パラメータの微妙な組み合わせに依存するにもかかわらず、量子回帰モデルは完全にパラメトリックである。
論文 参考訳(メタデータ) (2021-10-25T17:09:59Z) - Nonparametric Functional Analysis of Generalized Linear Models Under
Nonlinear Constraints [0.0]
本稿では、一般化線形モデルのための新しい非パラメトリック方法論を紹介する。
これは二項回帰の強さとカテゴリーデータに対する潜在変数の定式化の強さを組み合わせたものである。
これは最近公開された方法論のパラメトリックバージョンを拡張し、一般化する。
論文 参考訳(メタデータ) (2021-10-11T04:49:59Z) - Convex Latent Effect Logit Model via Sparse and Low-rank Decomposition [2.1915057426589746]
本稿では,ロジスティック回帰モデル(logit)を学習するための凸パラメトリック凸パラメトリック定式化を提案する。
その人気にもかかわらず、個別の不均一性を学ぶための混合ロジットアプローチにはいくつかの欠点がある。
論文 参考訳(メタデータ) (2021-08-22T22:23:39Z) - Statistical Guarantees for Transformation Based Models with Applications
to Implicit Variational Inference [8.333191406788423]
非パラメトリック推論における非線形潜在変数モデル(NL-LVM)の使用に関する理論的正当性を提供する。
我々はNL-LVMを用いて、GP-IVIとみなす変分分布の暗黙の族を構築する。
私たちの知る限りでは、暗黙の変分推論の理論的保証を提供するための最初の研究である。
論文 参考訳(メタデータ) (2020-10-23T21:06:29Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Slice Sampling for General Completely Random Measures [74.24975039689893]
本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。
提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
論文 参考訳(メタデータ) (2020-06-24T17:53:53Z) - Maximum likelihood estimation and uncertainty quantification for
Gaussian process approximation of deterministic functions [10.319367855067476]
本稿は、ガウス過程の回帰の文脈において、ノイズのないデータセットを用いた最初の理論的分析の1つを提供する。
本稿では,スケールパラメータのみの最大推定がガウス過程モデルの不特定に対する顕著な適応をもたらすことを示す。
論文 参考訳(メタデータ) (2020-01-29T17:20:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。