論文の概要: Efficient expectation propagation for posterior approximation in
high-dimensional probit models
- arxiv url: http://arxiv.org/abs/2309.01619v1
- Date: Mon, 4 Sep 2023 14:07:19 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-06 18:21:37.602082
- Title: Efficient expectation propagation for posterior approximation in
high-dimensional probit models
- Title(参考訳): 高次元プロビットモデルにおける後方近似の効率的な期待伝播
- Authors: Augusto Fasano, Niccol\`o Anceschi, Beatrice Franzolini, Giovanni
Rebaudo
- Abstract要約: ベイジアンプロビット回帰における後部分布の予測伝搬(EP)近似に着目した。
拡張多変量スキュー正規分布における結果の活用方法を示し,EPルーチンの効率的な実装を導出する。
これにより、EPは、詳細なシミュレーション研究で示されているように、高次元設定に挑戦する上でも実現可能である。
- 参考スコア(独自算出の注目度): 1.433758865948252
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian binary regression is a prosperous area of research due to the
computational challenges encountered by currently available methods either for
high-dimensional settings or large datasets, or both. In the present work, we
focus on the expectation propagation (EP) approximation of the posterior
distribution in Bayesian probit regression under a multivariate Gaussian prior
distribution. Adapting more general derivations in Anceschi et al. (2023), we
show how to leverage results on the extended multivariate skew-normal
distribution to derive an efficient implementation of the EP routine having a
per-iteration cost that scales linearly in the number of covariates. This makes
EP computationally feasible also in challenging high-dimensional settings, as
shown in a detailed simulation study.
- Abstract(参考訳): ベイズ二元回帰は、高次元の設定や大規模データセット、あるいはその両方で現在利用可能な方法が直面する計算上の課題のために、活発な研究分野である。
本研究では,多変量ガウス事前分布の下でのベイズプロビット回帰における後方分布の予測伝搬(EP)近似に着目した。
Anceschi et al. (2023) のより一般的な導出に適応し、拡張多変量スキュー正規分布における結果を活用する方法を示し、共変量数で線形にスケールする共変量毎のコストを持つEPルーチンの効率的な実装を導出する。
これによりepは、詳細なシミュレーション研究で示されるように、高次元設定の挑戦でも計算可能となる。
関連論文リスト
- A non-asymptotic distributional theory of approximate message passing
for sparse and robust regression [20.830017611900832]
本稿では、近似メッセージパッシング(AMP)のための非漸近分布特性について述べる。
AMPは、高速な推定器と強力な理論機械の両方として有効であることを示す反復アルゴリズムのファミリーである。
論文 参考訳(メタデータ) (2024-01-08T14:34:35Z) - Expectation propagation for the smoothing distribution in dynamic probit [1.6114012813668932]
ガウス状態ダイナミクスを持つ動的プロビットモデルの滑らかな分布は、最近、統一スキュー正規族に属することが証明された。
このような分布の推論を行うための効率的なEPルーチンを導出する。
提案手法は,財務図解において,利用可能な近似アルゴリズムよりも精度が高くなることを示す。
論文 参考訳(メタデータ) (2023-09-04T14:49:45Z) - Variational Linearized Laplace Approximation for Bayesian Deep Learning [1.77513002450736]
変分スパースガウス過程(GP)を用いた線形ラプラス近似(LLA)の近似法を提案する。
本手法はGPの2つのRKHSに基づいており,元のDNNの出力予測平均として維持される。
提案手法は,Nystr"om近似に基づく加速LLA(ELLA)と,サンプル列最適化原理を用いた他のLA変種を比較した。
論文 参考訳(メタデータ) (2023-02-24T10:32:30Z) - Variational Laplace Autoencoders [53.08170674326728]
変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。
完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。
また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
論文 参考訳(メタデータ) (2022-11-30T18:59:27Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Efficient Semi-Implicit Variational Inference [65.07058307271329]
効率的でスケーラブルな半単純外挿 (SIVI) を提案する。
本手法はSIVIの証拠を低勾配値の厳密な推測にマッピングする。
論文 参考訳(メタデータ) (2021-01-15T11:39:09Z) - A maximum-entropy approach to off-policy evaluation in average-reward
MDPs [54.967872716145656]
この研究は、無限水平非カウントマルコフ決定過程(MDPs)における関数近似を伴うオフ・ポリティ・アセスメント(OPE)に焦点を当てる。
提案手法は,第1の有限サンプル OPE 誤差境界であり,既存の結果がエピソードおよびディスカウントケースを超えて拡張される。
この結果から,教師あり学習における最大エントロピー的アプローチを並列化して,十分な統計値を持つ指数関数型家族分布が得られた。
論文 参考訳(メタデータ) (2020-06-17T18:13:37Z) - Real-Time Regression with Dividing Local Gaussian Processes [62.01822866877782]
局所ガウス過程は、ガウス過程の回帰に基づく新しい、計算効率の良いモデリング手法である。
入力空間の反復的データ駆動分割により、実際にはトレーニングポイントの総数において、サブ線形計算複雑性が達成される。
実世界のデータセットに対する数値的な評価は、予測と更新の速度だけでなく、精度の点で他の最先端手法よりも有利であることを示している。
論文 参考訳(メタデータ) (2020-06-16T18:43:31Z) - High-dimensional macroeconomic forecasting using message passing
algorithms [0.0]
この仕様における推論は、係数の高次元ベクトルを縮小するベイジアン階層的先行法を用いて進行する。
一般化近似メッセージパッシング(GAMP)アルゴリズムはアルゴリズムの複雑さが低く、簡単に並列化可能である。
論文 参考訳(メタデータ) (2020-04-23T23:10:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。