論文の概要: Ribbon: Scalable Approximation and Robust Uncertainty Quantification
- arxiv url: http://arxiv.org/abs/2606.27269v1
- Date: Thu, 25 Jun 2026 16:51:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.362431
- Title: Ribbon: Scalable Approximation and Robust Uncertainty Quantification
- Title（参考訳）: Ribbon: スケーラブルな近似とロバストな不確実性定量化
- Abstract要約: リボンはディリクレ・リブートストラップの不確実性に対するスケーラブルな近似である。
リボンは、繰り返しのリフィットを、単一の装着モデルを中心とした影響関数線形化に置き換える。
リボンは, 正当性仕様の下での平面重み付きラプラス近似と同値であることを示す。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reliably quantifying predictive uncertainty is difficult for complex, high-dimensional, or misspecified models. Both fully Bayesian and bootstrap resampling methods provide principled uncertainty estimates but are often too expensive for modern machine-learning models because they require posterior sampling or repeated model refitting. We introduce Ribbon, a scalable approximation to Dirichlet-reweighted bootstrap uncertainty. Ribbon replaces repeated refitting with an influence-function linearization around a single fitted model, preserving the first-order data-reweighting structure of the Bayesian bootstrap while requiring only post-hoc linear algebra. Ribbon approximates the Bayesian-bootstrap or weighted-likelihood-bootstrap refitting target. With a general concentration parameter, Ribbon gives a calibrated Dirichlet-reweighting family whose uncertainty scale can be tuned on validation data. We show that Ribbon is asymptotically equivalent to a flat-prior Laplace approximation under correct likelihood specification and recovers the robust sandwich covariance under misspecification. Across synthetic regression, MNIST classification, and California Housing benchmarks, Ribbon provides competitive predictive performance and improved calibration in several settings while avoiding repeated model retraining.
- Abstract（参考訳）: 予測の不確実性の信頼性の定量化は、複雑、高次元、または不特定のモデルでは困難である。
ベイジアンとブートストラップのリサンプリング手法はいずれも原則的不確実性推定を提供するが、後続サンプリングや繰り返しモデルのリフィットを必要とするため、現代の機械学習モデルでは高価すぎることが多い。
リボンはディリクレ重み付きブートストラップの不確実性に対するスケーラブルな近似である。
リボンは繰り返しリフィッティングを1つの入出力モデルを中心とした影響関数線形化に置き換え、ポストホック線型代数のみを必要としながらベイジアンブートストラップの1次データ重み付け構造を保存する。
リボンはベイズ式ブートストラップまたは重み付け式ブートストラップのリフィットターゲットに近似する。
一般的な濃度パラメータで、リボンはバリデーションデータに基づいて不確実なスケールを調整できるキャリブレーションされたディリクレ重み付け族を与える。
リボンは, 正しい正当性仕様の下での平坦な先行ラプラス近似と漸近的に等価であることを示し, 誤特定下での頑健なサンドイッチ共分散を復元する。
総合回帰、MNIST分類、カリフォルニア・ハウジングのベンチマーク全体において、リボンは競争力のある予測性能を提供し、いくつかの設定でキャリブレーションを改善し、繰り返しモデルの再トレーニングを避けている。
関連論文リスト
- SPARC: Single-Pass Scaling for Motion Forecasting with Conformal Bayesian Last Layers [1.4452289368758382]
シングルパス適応リスク(英: Single-Pass Adaptive Risk)は、人間の動き予測器に対する構造的、校正的、効率的な不確実性推定である。
決定論的バックボーンは将来の平均を予測し、共役ベイズ最後の層は時間領域の特徴レバレッジを解析的地平線スケールに変換する。
NLLと組み合わせたMPJPE+NLLの基準では、競争点の精度と効率的な校正管を維持している。
論文 参考訳（メタデータ） (2026-08-21T07:20:22Z) - Continual Calibration: Coverage Can Collapse Before Accuracy in Lifelong LLM Fine-Tuning [6.908972852063454]
不確実性信頼性は、トップ1のパフォーマンスよりも早く、より急激に低下する可能性がある。
逐次微調整モデル上での共形被覆と校正誤差を計測し,これを実証的に検討する。
タスク固有のバッファを保持し,タスク固有の整合しきい値に適合する軽量なポストホックプロシージャであるキャリブレーション・リプレイを提案する。
論文 参考訳（メタデータ） (2026-04-27T03:03:38Z) - Activation-Space Uncertainty Quantification for Pretrained Networks [2.001149416674759]
本稿では,ベイズモデリングをウェイトからアクティベーションにシフトさせるポストホック法であるガウス過程活性化(GAPA)を紹介する。
GAPAは標準的な非線形性を、後部平均が元のアクティベーションと正確に一致するアクティベーションに置き換え、構築によるバックボーンのポイント予測を保存する。
現代のアーキテクチャにスケールするために、キャッシュされたトレーニングアクティベーションに対するスパース変分誘導点近似と、ローカルk-アレスト近傍条件の組み合わせを用いる。
論文 参考訳（メタデータ） (2026-02-16T17:17:08Z) - Nonparametric Distribution Regression Re-calibration [3.0204520109309847]
全体的な予測誤差の最小化は、キャリブレーションよりも情報を優先することをモデルに推奨する。
安全クリティカルな設定では、信頼に値する不確実性推定は狭い間隔よりも価値があることが多い。
条件付きカーネル平均埋め込みに基づく新しい非パラメトリック再校正アルゴリズムを提案する。
論文 参考訳（メタデータ） (2026-02-13T11:48:43Z) - An Efficient Rehearsal Scheme for Catastrophic Forgetting Mitigation during Multi-stage Fine-tuning [55.467047686093025]
このような忘れを緩和するための一般的なアプローチは、微調整中に以前のタスクからサンプルをリハーサルすることである。
側方損傷のリハーサルを優先するサンプリング手法である textttbf mix-cd を提案する。
我々の手法は計算効率が高く、実装が容易で、計算制約のある設定においていくつかの主要な連続学習手法より優れています。
論文 参考訳（メタデータ） (2024-02-12T22:32:12Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳（メタデータ） (2023-10-20T10:20:45Z) - Training Normalizing Flows with the Precision-Recall Divergence [73.92251251511199]
特定精度リコールトレードオフを達成することは、em PR-divergencesと呼ぶ家族からの-divergencesの最小化に相当することを示す。
本稿では, 正規化フローをトレーニングして, 偏差を最小化し, 特に, 所与の高精度リコールトレードオフを実現する新しい生成モデルを提案する。
論文 参考訳（メタデータ） (2023-02-01T17:46:47Z) - Theoretical characterization of uncertainty in high-dimensional linear
classification [24.073221004661427]
本研究では,高次元入力データとラベルの限られたサンプル数から学習する不確実性が,近似メッセージパッシングアルゴリズムによって得られることを示す。
我々は,信頼度を適切に正則化することで緩和する方法について論じるとともに,損失に対するクロスバリデーションが0/1誤差よりもキャリブレーションが優れていることを示す。
論文 参考訳（メタデータ） (2022-02-07T15:32:07Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳（メタデータ） (2021-04-11T09:50:24Z) - Calibration of Neural Networks using Splines [51.42640515410253]
キャリブレーション誤差の測定は、2つの経験的分布を比較します。
古典的コルモゴロフ・スミルノフ統計テスト(KS)にインスパイアされたビンニングフリーキャリブレーション尺度を導入する。
提案手法は,KS誤差に対する既存の手法と,他の一般的なキャリブレーション手法とを一貫して比較する。
論文 参考訳（メタデータ） (2020-06-23T07:18:05Z) - Distribution-free binary classification: prediction sets, confidence
intervals and calibration [106.50279469344937]
分布自由条件における二項分類のための不確実性定量化(キャリブレーション、信頼区間、予測セット)の3つの概念について検討する。
固定幅と一様質量の両双対の双対確率に対する信頼区間を導出する。
我々の「三脚」定理の結果として、双有理確率に対するこれらの信頼区間は分布自由キャリブレーションに繋がる。
論文 参考訳（メタデータ） (2020-06-18T14:17:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。