論文の概要: Reproducible Parameter Inference Using Bagged Posteriors

• arxiv url: http://arxiv.org/abs/2311.02019v1
• Date: Fri, 3 Nov 2023 16:28:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-06 13:33:00.598387
• Title: Reproducible Parameter Inference Using Bagged Posteriors
• Title（参考訳）: Bagged Posterior を用いた再現可能なパラメータ推定
• Authors: Jonathan H. Huggins, Jeffrey W. Miller
• Abstract要約: モデル的不特定性の下では、ベイジアン後部は真あるいは偽真パラメータの不確かさを適切に定量化しないことが多いことが知られている。 独立データセットから構築された2つの信頼集合が空でない重複を持つ確率を考察する。 標準後部からの信頼できる集合は、特に高次元の設定において、この境界に強く違反する可能性があることを示す。
• 参考スコア（独自算出の注目度）: 9.975422461924705
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Under model misspecification, it is known that Bayesian posteriors often do not properly quantify uncertainty about true or pseudo-true parameters. Even more fundamentally, misspecification leads to a lack of reproducibility in the sense that the same model will yield contradictory posteriors on independent data sets from the true distribution. To define a criterion for reproducible uncertainty quantification under misspecification, we consider the probability that two confidence sets constructed from independent data sets have nonempty overlap, and we establish a lower bound on this overlap probability that holds for any valid confidence sets. We prove that credible sets from the standard posterior can strongly violate this bound, particularly in high-dimensional settings (i.e., with dimension increasing with sample size), indicating that it is not internally coherent under misspecification. To improve reproducibility in an easy-to-use and widely applicable way, we propose to apply bagging to the Bayesian posterior ("BayesBag"'); that is, to use the average of posterior distributions conditioned on bootstrapped datasets. We motivate BayesBag from first principles based on Jeffrey conditionalization and show that the bagged posterior typically satisfies the overlap lower bound. Further, we prove a Bernstein--Von Mises theorem for the bagged posterior, establishing its asymptotic normal distribution. We demonstrate the benefits of BayesBag via simulation experiments and an application to crime rate prediction.
• Abstract（参考訳）: モデルの誤特定の下では、ベイズ後流はしばしば真または偽のパラメータに関する不確かさを適切に定量化しないことが知られている。 さらに根本的には、不特定性は、同じモデルが真の分布から独立したデータセットに矛盾した後続を与えるという意味で再現性の欠如をもたらす。 誤特定下で再現可能な不確実性定量化の基準を定義するために,独立データセットから構築した2つの信頼度集合が空でない重複を持つ確率を考え,任意の有効な信頼度集合に対するこの重複確率の下限を確立する。 特に高次元の設定(例えば、標本サイズとともに次元が増加する)において、標準後部からの信条集合がこの境界に強く違反しうることを証明し、不特定の下で内部的にコヒーレントでないことを示す。 そこで本研究では,ベイズ後部(BayesBag'')にバッグを施し,ブートストラップ付きデータセットに条件付した後部分布の平均値を用いて再現性を向上させることを提案する。 我々は、ジェフリー条件化に基づく第一原理からベイズバグを動機付け、バッジ後部が典型的には重なり合う下界を満たすことを示す。 さらに、バッジ後部に対するベルンシュタイン-フォン・ミセスの定理を証明し、その漸近正規分布を確立する。 シミュレーション実験によるベイズバグの利点と犯罪率予測への応用について述べる。

関連論文リスト

• Calibrating Neural Simulation-Based Inference with Differentiable Coverage Probability [50.44439018155837]
  ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。 古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。 既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
  論文  参考訳（メタデータ） (2023-10-20T10:20:45Z)
• Sequential Gibbs Posteriors with Applications to Principal Component Analysis [8.90721241624138]
  ギブス後部は、確率自由ベイズ推論の原理的な枠組みを提供する。 しかし、単一のチューニングパラメータを含む多くの状況では、必然的に不確かさの定量化につながる。 この問題に対処するため,ギブス後方への逐次拡張を提案する。
  論文  参考訳（メタデータ） (2023-10-19T16:36:18Z)
• When Does Confidence-Based Cascade Deferral Suffice? [69.28314307469381]
  カスケードは、推論コストをサンプル毎に適応的に変化させる古典的な戦略である。 deferralルールは、シーケンス内の次の分類子を呼び出すか、または予測を終了するかを決定する。 カスケードの構造に執着しているにもかかわらず、信頼に基づく推論は実際は極めてうまく機能することが多い。
  論文  参考訳（メタデータ） (2023-07-06T04:13:57Z)
• Sequential Predictive Two-Sample and Independence Testing [114.4130718687858]
  逐次的非パラメトリック2サンプルテストと独立テストの問題点について検討する。 私たちは賭けによる(非パラメトリックな)テストの原則に基づいています。
  論文  参考訳（メタデータ） (2023-04-29T01:30:33Z)
• Uncertainty Estimates of Predictions via a General Bias-Variance Decomposition [7.811916700683125]
  本稿では,適切なスコアに対するバイアス分散分解を導入し,分散項としてブレグマン情報を導出する。 モデルアンサンブルや信頼領域を含む下流タスクにおけるこの分解の実践的妥当性を示す。
  論文  参考訳（メタデータ） (2022-10-21T21:24:37Z)
• On Uncertainty, Tempering, and Data Augmentation in Bayesian Classification [47.13680267076843]
  本研究では,アレータティック不確実性の明示的説明がベイズニューラルネットワークの性能を著しく向上させることを示す。 寒冷な後部は一つ以上の力によって誘惑され、しばしばより率直に言って、誘惑を伴わないよりもエレタリックな不確実性についての私たちの信念を反映している。
  論文  参考訳（メタデータ） (2022-03-30T17:17:50Z)
• Robust Generalised Bayesian Inference for Intractable Likelihoods [9.77823546576708]
  スタインの不一致を損失関数として一般化ベイズ推論を考える。 これは、確率が難解な正規化定数を含む応用によって動機づけられる。 後肢の整合性, 正規性, 偏在性を示し, これらの特性がスタインの相違の選択によってどのように影響するかを明らかにする。
  論文  参考訳（メタデータ） (2021-04-15T10:31:22Z)
• Don't Just Blame Over-parametrization for Over-confidence: Theoretical Analysis of Calibration in Binary Classification [58.03725169462616]
  理論上は、過剰パラメトリゼーションは過剰信頼の唯一の理由ではない。 我々は、ロジスティック回帰は本質的に信頼過剰であり、実現可能で、非パラメータな設定であることを示す。 おそらく驚くことに、過剰な信頼が常にそうであるとは限らないことも示します。
  論文  参考訳（メタデータ） (2021-02-15T21:38:09Z)
• Distribution-free binary classification: prediction sets, confidence intervals and calibration [106.50279469344937]
  分布自由条件における二項分類のための不確実性定量化(キャリブレーション、信頼区間、予測セット)の3つの概念について検討する。 固定幅と一様質量の両双対の双対確率に対する信頼区間を導出する。 我々の「三脚」定理の結果として、双有理確率に対するこれらの信頼区間は分布自由キャリブレーションに繋がる。
  論文  参考訳（メタデータ） (2020-06-18T14:17:29Z)
• Distributionally Robust Bayesian Quadrature Optimization [60.383252534861136]
  確率分布が未知な分布の不確実性の下でBQOについて検討する。 標準的なBQOアプローチは、固定されたサンプル集合が与えられたときの真の期待目標のモンテカルロ推定を最大化する。 この目的のために,新しい後方サンプリングに基づくアルゴリズム,すなわち分布的に堅牢なBQO(DRBQO)を提案する。
  論文  参考訳（メタデータ） (2020-01-19T12:00:33Z)
• A New Analysis of Differential Privacy's Generalization Guarantees [11.485744204944627]
  適応的に選択された統計的クエリに、差分的にプライベートで、サンプル精度が正確に答えるメカニズムも正解であることを示す。 私たちの新しい証明は初等的で、他の場所で役立つと期待されている構造的な洞察を与えてくれます。
  論文  参考訳（メタデータ） (2019-09-09T00:49:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。