論文の概要: Robust Predictive Uncertainty and Double Descent in Contaminated Bayesian Random Features
- arxiv url: http://arxiv.org/abs/2602.19126v1
- Date: Sun, 22 Feb 2026 10:50:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-24 17:42:02.492227
- Title: Robust Predictive Uncertainty and Double Descent in Contaminated Bayesian Random Features
- Title(参考訳): 汚染されたベイズ乱数の特徴におけるロバスト予測の不確かさと二重発色
- Authors: Michele Caprio, Katerina Papagiannouli, Siu Lun Chau, Sayan Mukherjee,
- Abstract要約: 本稿では,前・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・後・
以上の結果から,下部および上部の予測エンベロープに対して,明示的かつトラクタブルな境界を導出する。
- 参考スコア(独自算出の注目度): 9.140494844209336
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose a robust Bayesian formulation of random feature (RF) regression that accounts explicitly for prior and likelihood misspecification via Huber-style contamination sets. Starting from the classical equivalence between ridge-regularized RF training and Bayesian inference with Gaussian priors and likelihoods, we replace the single prior and likelihood with $ε$- and $η$-contaminated credal sets, respectively, and perform inference using pessimistic generalized Bayesian updating. We derive explicit and tractable bounds for the resulting lower and upper posterior predictive densities. These bounds show that, when contamination is moderate, prior and likelihood ambiguity effectively acts as a direct contamination of the posterior predictive distribution, yielding uncertainty envelopes around the classical Gaussian predictive. We introduce an Imprecise Highest Density Region (IHDR) for robust predictive uncertainty quantification and show that it admits an efficient outer approximation via an adjusted Gaussian credible interval. We further obtain predictive variance bounds (under a mild truncation approximation for the upper bound) and prove that they preserve the leading-order proportional-growth asymptotics known for RF models. Together, these results establish a robustness theory for Bayesian random features: predictive uncertainty remains computationally tractable, inherits the classical double-descent phase structure, and is improved by explicit worst-case guarantees under bounded prior and likelihood misspecification.
- Abstract(参考訳): 本稿では,ハマー式汚染セットによる事前および可能性の誤特定を明示的に考慮した,ランダム特徴(RF)回帰の頑健なベイズ的定式化を提案する。
リッジ正規化RFトレーニングとベイズ推定とガウス事前および確率との古典的等価性から、それぞれ$ε$-および$η$-contaminated credal setに置き換えられ、悲観的な一般化ベイズ更新を用いて推論を行う。
以上の結果から,下肢および上肢の予測密度について,明示的およびトラクタブルな境界を導出する。
これらの境界は、汚染が中等度である場合、前と可能性の曖昧さは、後部予測分布の直接汚染として効果的に作用し、古典ガウス予測の周囲に不確実な包絡物をもたらすことを示している。
本研究では, 頑健な予測不確実性定量化のための不正確な高密度領域 (IHDR) を導入し, ガウスの信頼区間を調整し, 効率的な外的近似が可能であることを示す。
さらに、(上界の緩やかなトランケーション近似の下で)予測分散境界を求め、これらがRFモデルで知られている先行次比例成長漸近を保っていることを証明した。
これらの結果は、ベイズ的ランダムな特徴に対するロバストネス理論を確立し、予測の不確実性は計算可能であり続け、古典的な二重発散位相構造を継承し、有界な事前および確率的誤特定の下での明らかな最悪の保証によって改善される。
関連論文リスト
- A principled framework for uncertainty decomposition in TabPFN [3.1500610747796376]
本研究では,TabPFNにおける不確実性分解法を提案する。
予測更新のボラティリティによって決定される分散推定器をコンテキストに沿って導出する。
分類のためにエントロピーに基づく不確実性分解を得る。
論文 参考訳(メタデータ) (2026-02-04T14:23:53Z) - Bridging the Gap Between Bayesian Deep Learning and Ensemble Weather Forecasts [100.26854618129039]
天気予報は、大気のカオス的な性質によって根本的に挑戦されている。
ベイジアンディープラーニング(BDL)の最近の進歩は、有望だがしばしば非接続な代替手段を提供する。
気象予報のための統合型BDLフレームワークにより,これらのパラダイムを橋渡しする。
論文 参考訳(メタデータ) (2025-11-18T07:49:52Z) - Predictively Oriented Posteriors [4.135680181585462]
我々はパラメータ推定と密度推定の両方の最も望ましい側面を組み合わせた新しい統計原理を提唱する。
PrO後部は予測最適モデル平均に$n-1/2$で収束する。
平均場ランゲヴィン動力学に基づく進化粒子からPrO後部を採取できることが示される。
論文 参考訳(メタデータ) (2025-10-02T11:33:26Z) - COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。
COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。
リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
論文 参考訳(メタデータ) (2025-06-25T07:04:49Z) - Optimal Conformal Prediction under Epistemic Uncertainty [61.46247583794497]
コンフォーマル予測(CP)は不確実性を表すための一般的なフレームワークである。
条件付きカバレッジを保証する最小の予測セットを生成するBernoulli予測セット(BPS)を導入する。
1次予測を与えられた場合、BPSはよく知られた適応予測セット(APS)に還元する。
論文 参考訳(メタデータ) (2025-05-25T08:32:44Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳(メタデータ) (2023-10-20T10:20:45Z) - Model-Based Uncertainty in Value Functions [89.31922008981735]
MDP上の分布によって引き起こされる値の分散を特徴付けることに重点を置いている。
従来の作業は、いわゆる不確実性ベルマン方程式を解くことで、値よりも後方の分散を境界にしている。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式を提案する。
論文 参考訳(メタデータ) (2023-02-24T09:18:27Z) - Double Robust Bayesian Inference on Average Treatment Effects [2.458652618559425]
不整合下での平均処理効果(ATE)に対する二重頑健なベイズ推定法を提案する。
新しいベイズ的アプローチでは、まず条件付き平均関数の事前分布を調整し、得られた ATE の後方分布を補正する。
論文 参考訳(メタデータ) (2022-11-29T15:32:25Z) - Distribution-Free Finite-Sample Guarantees and Split Conformal
Prediction [0.0]
分割共形予測は、最小分布自由仮定の下で有限サンプル保証を得るための有望な道を表す。
1940年代に開発された分割共形予測と古典的寛容予測との関連性を強調した。
論文 参考訳(メタデータ) (2022-10-26T14:12:24Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳(メタデータ) (2021-10-13T01:23:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。