論文の概要: Self-Supervised Laplace Approximation for Bayesian Uncertainty Quantification

• arxiv url: http://arxiv.org/abs/2605.12208v1
• Date: Tue, 12 May 2026 14:46:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.937164
• Title: Self-Supervised Laplace Approximation for Bayesian Uncertainty Quantification
• Title（参考訳）: ベイジアン不確かさ量子化のための自己監督ラプラス近似
• Authors: Julian Rodemann, Alexander Marquard, Thomas Augustin, Michele Caprio,
• Abstract要約: 我々は,ベイズモデルの予測不確実性を,自己予測データに基づいて定量化する。 Self-Supervised Laplace Approximation (SSLA)のモジュール構造は、さまざまな事前仕様をプラグインすることができます。 高価なリフィットを回避すべく、ASSLAと呼ばれるSSLAの近似バージョンをさらに導入する。
• 参考スコア（独自算出の注目度）: 45.61685127984694
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Approximate Bayesian inference typically revolves around computing the posterior parameter distribution. In practice, however, the main object of interest is often a model's predictions rather than its parameters. In this work, we propose to bypass the parameter posterior and focus directly on approximating the posterior predictive distribution. We achieve this by drawing inspiration from self-training within self-supervised and semi-supervised learning. Essentially, we quantify a Bayesian model's predictive uncertainty by refitting on self-predicted data. The idea is strikingly simple: If a model assigns high likelihood to self-predicted data, these predictions are of low uncertainty, and vice versa. This yields a deterministic, sampling-free approximation of the posterior predictive. The modular structure of our Self-Supervised Laplace Approximation (SSLA) further allows us to plug in different prior specifications, enabling classical Bayesian sensitivity (w.r.t. prior choice) analysis. In order to bypass expensive refitting, we further introduce an approximate version of SSLA, called ASSLA. We study (A)SSLA both theoretically and empirically in regression models ranging from Bayesian linear models to Bayesian neural networks. Across a wide array of regression tasks with simulated and real-world datasets, our methods outperform classical Laplace approximations in predictive calibration while remaining computationally efficient.
• Abstract（参考訳）: 近似ベイズ推定は通常、後続パラメータ分布の計算を中心に回転する。 しかし実際には、関心の対象はパラメータではなくモデルの予測であることが多い。 本研究では,パラメータ後部をバイパスし,後部予測分布の近似に直接着目することを提案する。 自己教師型・半教師型学習における自己学習からインスピレーションを得る。 本質的には,ベイズモデルの予測不確実性を,自己予測データに基づいて定量化する。 もしモデルが自己予測データに高い確率を割り当てるなら、これらの予測は低い不確実性であり、その逆である。 これにより、決定論的でサンプリング不要な後方予測近似が得られる。 Self-Supervised Laplace Approximation (SSLA) のモジュラ構造により、異なる事前仕様をプラグインできるようになり、古典的ベイズ感度 (w.r.t. pre choice) 分析が可能になる。 高価なリフィットを回避すべく、ASSLAと呼ばれるSSLAの近似バージョンをさらに導入する。 ベイズ線形モデルからベイズニューラルネットワークまでの回帰モデルにおいて, (A)SSLAを理論的および実験的に検討した。 シミュレーションおよび実世界のデータセットを用いた多種多様な回帰タスクにおいて,本手法は計算効率を保ちながら予測キャリブレーションにおける古典的なラプラス近似より優れていた。

関連論文リスト

• Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
  独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。 本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。 我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
  論文  参考訳（メタデータ） (2025-05-21T07:16:44Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Calibrating Neural Simulation-Based Inference with Differentiable Coverage Probability [50.44439018155837]
  ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。 古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。 既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
  論文  参考訳（メタデータ） (2023-10-20T10:20:45Z)
• Mixed moving average field guided learning for spatio-temporal data [0.0]
  我々は,新しいベイズ時間埋め込みと理論誘導型機械学習アプローチを定義し,アンサンブル予測を行う。 リプシッツ予測器を用いて、バッチ学習環境における固定時間および任意の時間PACを決定する。 次に、線形予測器とOrnstein-Uhlenbeckプロセスからシミュレーションしたデータセットを用いて学習手法の性能を検証した。
  論文  参考訳（メタデータ） (2023-01-02T16:11:05Z)
• Correcting Model Bias with Sparse Implicit Processes [0.9187159782788579]
  SIP(Sparse Implicit Processes)は,データ生成機構がモデルによって入力されるものと強く異なる場合,モデルバイアスを補正できることを示す。 合成データセットを用いて、SIPは、初期推定モデルの正確な予測よりもデータをよりよく反映する予測分布を提供することができることを示す。
  論文  参考訳（メタデータ） (2022-07-21T18:00:01Z)
• Density Estimation with Autoregressive Bayesian Predictives [1.5771347525430772]
  密度推定の文脈では、標準的なベイズ的アプローチは、後方予測をターゲットとする。 我々は、データを潜在空間にマッピングする自己回帰ニューラルネットワークを用いて、帯域幅の新たなパラメータ化を開発する。
  論文  参考訳（メタデータ） (2022-06-13T20:43:39Z)
• Bayesian Regression Approach for Building and Stacking Predictive Models in Time Series Analytics [0.0]
  本稿では,時系列モデルの構築と時系列の予測モデルへのベイズ回帰の利用について述べる。 これにより、時系列予測の不確実性を推定し、リスク特性の値を計算することができる。
  論文  参考訳（メタデータ） (2022-01-06T12:58:23Z)
• Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning [78.83598532168256]
  階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。 本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
  論文  参考訳（メタデータ） (2021-04-11T09:50:24Z)
• Improving predictions of Bayesian neural nets via local linearization [79.21517734364093]
  ガウス・ニュートン近似は基礎となるベイズニューラルネットワーク(BNN)の局所線形化として理解されるべきである。 この線形化モデルを後部推論に使用するので、元のモデルではなく、この修正モデルを使用することも予測すべきである。 この修正された予測を"GLM predictive"と呼び、Laplace近似の共通不適合問題を効果的に解決することを示す。
  論文  参考訳（メタデータ） (2020-08-19T12:35:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。