論文の概要: A Class of Conjugate Priors for Multinomial Probit Models which Includes
the Multivariate Normal One
- arxiv url: http://arxiv.org/abs/2007.06944v2
- Date: Tue, 25 Jan 2022 11:56:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-10 15:27:01.866216
- Title: A Class of Conjugate Priors for Multinomial Probit Models which Includes
the Multivariate Normal One
- Title(参考訳): 多変量正規モデルを含む多項プロビットモデルのための共役事前のクラス
- Authors: Augusto Fasano and Daniele Durante
- Abstract要約: 統一スキュー正規分布(SUN)のクラス全体は、複数の多重項プロビットモデルに共役していることを示す。
後部推論と分類のための最先端の解法を改善する。
- 参考スコア(独自算出の注目度): 0.3553493344868413
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multinomial probit models are routinely-implemented representations for
learning how the class probabilities of categorical response data change with p
observed predictors. Although several frequentist methods have been developed
for estimation, inference and classification within such a class of models,
Bayesian inference is still lagging behind. This is due to the apparent absence
of a tractable class of conjugate priors, that may facilitate posterior
inference on the multinomial probit coefficients. Such an issue has motivated
increasing efforts toward the development of effective Markov chain Monte Carlo
methods, but state-of-the-art solutions still face severe computational
bottlenecks, especially in high dimensions. In this article, we show that the
entire class of unified skew-normal (SUN) distributions is conjugate to several
multinomial probit models. Leveraging this result and the SUN properties, we
improve upon state-of-the-art solutions for posterior inference and
classification both in terms of closed-form results for several functionals of
interest, and also by developing novel computational methods relying either on
independent and identically distributed samples from the exact posterior or on
scalable and accurate variational approximations based on blocked
partially-factorized representations. As illustrated in simulations and in a
gastrointestinal lesions application, the magnitude of the improvements
relative to current methods is particularly evident, in practice, when the
focus is on high-dimensional studies.
- Abstract(参考訳): 多項プロビットモデル(multinomial probit models)は、p観測予測器を用いたカテゴリ応答データの変化のクラス確率を学習するために、日常的に実装された表現である。
このようなモデルのクラス内での推測、推論、分類のためにいくつかの頻繁な手法が開発されているが、ベイズ推定はいまだ遅れている。
これは、多項プロビット係数の後方推定を容易にする共役前駆体の扱いやすいクラスが明らかに存在しないためである。
このような問題は、効果的なマルコフ連鎖モンテカルロ法の開発への取り組みの動機となっているが、最先端のソリューションは、特に高次元において深刻な計算ボトルネックに直面している。
本稿では,統一スキュー正規(sun)分布のクラス全体が複数の多項プロビットモデルと共役であることを示す。
この結果とsunの特性を活かし、後続推論と分類の最先端ソリューションを、いくつかの興味のある関数に対する閉形式結果の観点で改善するとともに、完全後段から独立かつ同一に分散したサンプルに依存する新しい計算手法や、ブロックされた部分分解表現に基づくスケーラブルで正確な変分近似法の開発によって改善した。
シミュレーションや消化管病変の応用で説明されているように、現在の方法に対する改善の規模は特に顕著であり、実際には高次元の研究に焦点が当てられている。
関連論文リスト
- Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳(メタデータ) (2023-09-02T01:27:53Z) - Bayesian Inference for the Multinomial Probit Model under Gaussian Prior
Distribution [0.0]
マルチノミカル・プロビット(mnp)モデルは分類データに対する基本的かつ広く適用された回帰モデルである。
Fasano and Durante (2022) は、統一スキュー正規分布のクラスが複数のmnpサンプリングモデルに共役であることを証明した。
結果は、ゼロ平均と独立ガウス事前の下での離散選択 mnp モデルという、一般的な特殊ケースに適応する。
論文 参考訳(メタデータ) (2022-06-01T19:10:41Z) - Posterior and Computational Uncertainty in Gaussian Processes [52.26904059556759]
ガウスのプロセスはデータセットのサイズとともに違法にスケールする。
多くの近似法が開発されており、必然的に近似誤差を導入している。
この余分な不確実性の原因は、計算が限られているため、近似後部を使用すると完全に無視される。
本研究では,観測された有限個のデータと有限個の計算量の両方から生じる組合せ不確実性を一貫した推定を行う手法の開発を行う。
論文 参考訳(メタデータ) (2022-05-30T22:16:25Z) - Optimal regularizations for data generation with probabilistic graphical
models [0.0]
経験的に、よく調和された正規化スキームは、推論されたモデルの品質を劇的に改善する。
生成的ペアワイドグラフィカルモデルの最大Aポストエリオーリ(MAP)推論におけるL2とL1の正規化について検討する。
論文 参考訳(メタデータ) (2021-12-02T14:45:16Z) - Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
まず確率分布をモデル化し,そのモデルからサンプリングする。
これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
論文 参考訳(メタデータ) (2021-10-20T12:25:22Z) - Scalable Cross Validation Losses for Gaussian Process Models [22.204619587725208]
線形および多クラス分類に適応するために,Polya-Gamma補助変数と変分推論を用いる。
提案手法は,高速トレーニングと優れた予測性能を実現する。
論文 参考訳(メタデータ) (2021-05-24T21:01:47Z) - Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。
本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。
次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
論文 参考訳(メタデータ) (2020-10-25T18:51:15Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-22T21:12:31Z) - Stacking for Non-mixing Bayesian Computations: The Curse and Blessing of
Multimodal Posteriors [8.11978827493967]
MCMCの並列実行, 変動型, モードベースの推論を用いて, できるだけ多くのモードをヒットさせる手法を提案する。
重み付き推論プロセスが真のデータを近似する例と理論的整合性を示す。
いくつかのモデルファミリで実践的な実装を示す。
論文 参考訳(メタデータ) (2020-06-22T15:26:59Z) - Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。
分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
論文 参考訳(メタデータ) (2020-02-21T14:03:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。