論文の概要: Deep Bayes Factors

• arxiv url: http://arxiv.org/abs/2312.05411v1
• Date: Fri, 8 Dec 2023 23:47:50 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-12 20:57:02.212308
• Title: Deep Bayes Factors
• Title（参考訳）: 深部ベイズ因子
• Authors: Jungeum Kim and Veronika Rockova
• Abstract要約: 本稿では,2つの競合モデルのシミュレーションデータに基づいてベイズ係数のディープラーニング推定手法を提案する。 我々の推定器は要約統計を欠き、ABCモデル選択の難しさのいくつかを排除している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The is no other model or hypothesis verification tool in Bayesian statistics that is as widely used as the Bayes factor. We focus on generative models that are likelihood-free and, therefore, render the computation of Bayes factors (marginal likelihood ratios) far from obvious. We propose a deep learning estimator of the Bayes factor based on simulated data from two competing models using the likelihood ratio trick. This estimator is devoid of summary statistics and obviates some of the difficulties with ABC model choice. We establish sufficient conditions for consistency of our Deep Bayes Factor estimator as well as its consistency as a model selection tool. We investigate the performance of our estimator on various examples using a wide range of quality metrics related to estimation and model decision accuracy. After training, our deep learning approach enables rapid evaluations of the Bayes factor estimator at any fictional data arriving from either hypothesized model, not just the observed data $Y_0$. This allows us to inspect entire Bayes factor distributions under the two models and to quantify the relative location of the Bayes factor evaluated at $Y_0$ in light of these distributions. Such tail area evaluations are not possible for Bayes factor estimators tailored to $Y_0$. We find the performance of our Deep Bayes Factors competitive with existing MCMC techniques that require the knowledge of the likelihood function. We also consider variants for posterior or intrinsic Bayes factors estimation. We demonstrate the usefulness of our approach on a relatively high-dimensional real data example about determining cognitive biases.
• Abstract（参考訳）: これはベイズ因子と同じくらい広く使われているベイズ統計学における他のモデルや仮説検証ツールではない。 確率のない生成モデルに焦点をあて、従ってベイズ因子(正準確率比)の計算は明らかになっていない。 確率比法を用いて2つの競合モデルのシミュレーションデータに基づくベイズ係数の深層学習推定器を提案する。 この推定器は要約統計を欠き、ABCモデル選択の難しさのいくつかを排除している。 我々は,Deep Bayes Factor 推定器の整合性およびモデル選択ツールとしての整合性について十分な条件を確立する。 本研究では,推定とモデル決定精度に関する幅広い品質指標を用いて,様々な実例における推定器の性能について検討した。 学習後,我々はベイズ因子推定器を,観測データであるY_0$だけでなく,いずれかの仮説モデルから到着した架空のデータに対して迅速に評価することが可能となる。 これにより、2つのモデルの下でベイズ因子の分布全体を検査し、これらの分布からベイズ因子の相対的な位置を$Y_0$で評価することができる。 このような尾部評価はベイズ係数推定器が$Y_0$に調整する場合には不可能である。 我々は,確率関数の知識を必要とする既存のmcmc技術と競合する深いベイズ因子の性能を見出した。 また,背後および内在的ベイズ因子推定の変種についても検討する。 認知バイアスを決定するための比較的高次元実データ例に対して,本手法の有用性を示す。

関連論文リスト

• A Probabilistic Perspective on Unlearning and Alignment for Large Language Models [48.96686419141881]
  大規模言語モデル(LLM)における最初の形式的確率的評価フレームワークを紹介する。 モデルの出力分布に関する高い確率保証を持つ新しい指標を導出する。 私たちのメトリクスはアプリケーションに依存しないので、デプロイ前にモデル機能についてより信頼性の高い見積を行うことができます。
  論文  参考訳（メタデータ） (2024-10-04T15:44:23Z)
• BIRD: A Trustworthy Bayesian Inference Framework for Large Language Models [52.46248487458641]
  予測モデルは、現実世界のタスクで不完全な情報を扱う必要があることが多い。 現在の大規模言語モデル(LLM)は、そのような正確な推定には不十分である。 本稿では,新しい確率的推論フレームワークBIRDを提案する。
  論文  参考訳（メタデータ） (2024-04-18T20:17:23Z)
• Evidence Networks: simple losses for fast, amortized, neural Bayesian model comparison [0.0]
  Evidence Networksは、最先端のメソッドがフェールした場合にベイズモデルの比較を可能にする。 リークパリティオード電力変換を導入し、新しいl-POP-Exponential'損失関数を導出する。 Evidence Networks はパラメータ空間の次元性に明示的に依存しており、後続確率密度関数の複雑さと軽度にスケール可能であることを示す。
  論文  参考訳（メタデータ） (2023-05-18T18:14:53Z)
• BayesCap: Bayesian Identity Cap for Calibrated Uncertainty in Frozen Neural Networks [50.15201777970128]
  本研究では,凍結モデルに対するベイズIDマッピングを学習し,不確実性の推定を可能にするBayesCapを提案する。 BayesCapは、元のデータセットのごく一部でトレーニングできる、メモリ効率のよいメソッドである。 本稿では,多種多様なアーキテクチャを用いた多種多様なタスクに対する本手法の有効性を示す。
  論文  参考訳（メタデータ） (2022-07-14T12:50:09Z)
• Contributions to Large Scale Bayesian Inference and Adversarial Machine Learning [0.0]
  ML手法の急速な採用により、モデルは通常、予測の不確実性を考慮せずに決定を下すために採用されていることが明らかになった。 我々は,予測的説明の不確実性を考慮したMLシステムの開発が現実のタスクにとって必須であると考えている。
  論文  参考訳（メタデータ） (2021-09-25T23:02:47Z)
• Evaluating State-of-the-Art Classification Models Against Bayes Optimality [106.50867011164584]
  正規化フローを用いて学習した生成モデルのベイズ誤差を正確に計算できることを示す。 われわれの手法を用いて、最先端の分類モデルについて徹底的な調査を行う。
  論文  参考訳（メタデータ） (2021-06-07T06:21:20Z)
• Simulation comparisons between Bayesian and de-biased estimators in low-rank matrix completion [0.0]
  本稿では,学習課題のクラスである低ランク行列補完問題について検討する。 我々はベイズ的アプローチと最近導入された非バイアス推定器を比較し、利害関係の信頼区間を構築するのに有用な方法を提供する。 その結果,非バイアス推定器で得られた信頼区間の被曝率は,信頼区間よりも絶対的に低いことがわかった。
  論文  参考訳（メタデータ） (2021-03-22T12:02:00Z)
• Bayesian Model Averaging for Causality Estimation and its Approximation based on Gaussian Scale Mixture Distributions [0.0]
  まずベイズの観点から,各モデルで推定される因果効果の重み(平均)に最適なベイズであることを示す。 ガウススケール混合分布を用いたベイズ最適推定器の近似法を開発した。
  論文  参考訳（メタデータ） (2021-03-15T08:07:58Z)
• Nonparametric Estimation of the Fisher Information and Its Applications [82.00720226775964]
  本稿では,大きさn$のランダムサンプルからフィッシャー情報の位置推定の問題について考察する。 Bhattacharyaにより提案された推定器を再検討し、収束率の向上を導出する。 クリッピング推定器と呼ばれる新しい推定器を提案する。
  論文  参考訳（メタデータ） (2020-05-07T17:21:56Z)
• Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
  変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。 これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。 おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
  論文  参考訳（メタデータ） (2020-02-17T19:23:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。