論文の概要: On the Out-of-Distribution Coverage of Combining Split Conformal
Prediction and Bayesian Deep Learning
- arxiv url: http://arxiv.org/abs/2311.12688v2
- Date: Thu, 7 Mar 2024 17:00:03 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-08 17:25:31.004311
- Title: On the Out-of-Distribution Coverage of Combining Split Conformal
Prediction and Bayesian Deep Learning
- Title(参考訳): 分割共形予測とベイズ深層学習を組み合わせた分散範囲について
- Authors: Paul Scemama, Ariel Kapusta
- Abstract要約: ベイジアンディープラーニングと分割共形予測の組み合わせと,この組み合わせが分布外カバレッジにどのように影響するかに着目した。
以上の結果から,ベイズ的深層学習モデルと分割共形予測を組み合わせれば,アウト・オブ・ディストリビューション(out-of-distriion)のカバレッジを減少させるなどの意図しない結果が生じる可能性が示唆された。
- 参考スコア(独自算出の注目度): 1.131316248570352
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Bayesian deep learning and conformal prediction are two methods that have
been used to convey uncertainty and increase safety in machine learning
systems. We focus on combining Bayesian deep learning with split conformal
prediction and how this combination effects out-of-distribution coverage;
particularly in the case of multiclass image classification. We suggest that if
the model is generally underconfident on the calibration set, then the
resultant conformal sets may exhibit worse out-of-distribution coverage
compared to simple predictive credible sets. Conversely, if the model is
overconfident on the calibration set, the use of conformal prediction may
improve out-of-distribution coverage. We evaluate prediction sets as a result
of combining split conformal methods and neural networks trained with (i)
stochastic gradient descent, (ii) deep ensembles, and (iii) mean-field
variational inference. Our results suggest that combining Bayesian deep
learning models with split conformal prediction can, in some cases, cause
unintended consequences such as reducing out-of-distribution coverage.
- Abstract(参考訳): ベイズ深層学習と共形予測は、不確かさを伝達し、機械学習システムにおける安全性を高めるために用いられてきた2つの手法である。
ベイズ深層学習と分割共形予測の組み合わせと,この組み合わせが分布外範囲,特にマルチクラス画像分類にどのように影響するかに着目した。
モデルが概してキャリブレーション集合に不信感がある場合、結果の共形集合は単純な予測可能な集合に比べて分布外カバレッジが悪くなる可能性があることを示唆する。
逆に、モデルがキャリブレーションセットに自信過剰であれば、共形予測の使用は分散範囲を改善する可能性がある。
分割共形法とニューラルネットワークを併用した予測セットの評価を行った。
(i)確率勾配降下
(二)ディープアンサンブル、及び
(iii)平均場変分推論。
その結果,ベイズ型深層学習モデルと分割共形予測を組み合わせると,分散範囲の削減などの意図しない結果が引き起こされる可能性が示唆された。
関連論文リスト
- Semiparametric conformal prediction [79.6147286161434]
リスクに敏感なアプリケーションは、複数の、潜在的に相関したターゲット変数に対して、よく校正された予測セットを必要とする。
スコアをランダムなベクトルとして扱い、それらの連接関係構造を考慮した予測セットを構築することを目的とする。
実世界のレグレッション問題に対して,所望のカバレッジと競争効率について報告する。
論文 参考訳(メタデータ) (2024-11-04T14:29:02Z) - Provably Reliable Conformal Prediction Sets in the Presence of Data Poisoning [53.42244686183879]
コンフォーマル予測は、モデルに依存しない、分布のない不確実性定量化を提供する。
しかし、敵が訓練データと校正データを操作した場合の毒殺攻撃では、共形予測は信頼性が低い。
信頼性予測セット (RPS): 汚染下での信頼性保証を証明可能な共形予測セットを構築するための最初の効率的な方法を提案する。
論文 参考訳(メタデータ) (2024-10-13T15:37:11Z) - Split Conformal Prediction under Data Contamination [14.23965125128232]
データ汚染環境における分割共形予測の堅牢性について検討する。
構築した集合のカバレッジと効率に及ぼす劣化したデータの影響を定量化する。
本稿では,汚染ロバスト・コンフォーマル予測(Contamination Robust Conformal Prediction)と呼ぶ分類設定の調整を提案する。
論文 参考訳(メタデータ) (2024-07-10T14:33:28Z) - Conformalized Late Fusion Multi-View Learning [18.928543069018865]
多視点学習の不確かさの定量化は、科学的な問題における多視点データの利用の増加によって動機づけられる。
個別のビューで個別の予測器を訓練し、単一のビュー予測が利用可能になった後にそれらを組み合わせます。
本稿では,共形予測を単一ビュー予測器上で個別に行う手法として,MVCP(Multi-View Conformal Prediction)を提案する。
論文 参考訳(メタデータ) (2024-05-25T14:11:01Z) - Conformalized-DeepONet: A Distribution-Free Framework for Uncertainty
Quantification in Deep Operator Networks [7.119066725173193]
我々は,DeepONet(DeepONet)レグレッションのカバレッジを保証するため,コンフォメーション予測を用いて信頼性予測間隔を求める。
我々は分割共形予測をより自然に利用できる新しいQuantile-DeepONetを設計する。
種々の常微分方程式の数値例を用いて提案手法の有効性を実証する。
論文 参考訳(メタデータ) (2024-02-23T16:07:39Z) - Domain-adaptive and Subgroup-specific Cascaded Temperature Regression
for Out-of-distribution Calibration [16.930766717110053]
本稿では, メタセットをベースとした新しい温度回帰法を提案し, ポストホックキャリブレーション法を提案する。
予測されたカテゴリと信頼度に基づいて,各メタセットをサブグループに分割し,多様な不確実性を捉える。
回帰ネットワークは、カテゴリ特化および信頼レベル特化スケーリングを導出し、メタセット間のキャリブレーションを達成するように訓練される。
論文 参考訳(メタデータ) (2024-02-14T14:35:57Z) - Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳(メタデータ) (2023-09-02T01:27:53Z) - Distribution-Free Finite-Sample Guarantees and Split Conformal
Prediction [0.0]
分割共形予測は、最小分布自由仮定の下で有限サンプル保証を得るための有望な道を表す。
1940年代に開発された分割共形予測と古典的寛容予測との関連性を強調した。
論文 参考訳(メタデータ) (2022-10-26T14:12:24Z) - Predictive Inference with Feature Conformal Prediction [80.77443423828315]
本稿では,特徴空間への共形予測の範囲を拡大する特徴共形予測を提案する。
理論的観点からは、特徴共形予測は軽度の仮定の下で正則共形予測よりも確実に優れていることを示す。
提案手法は,バニラ共形予測だけでなく,他の適応共形予測手法と組み合わせることができる。
論文 参考訳(メタデータ) (2022-10-01T02:57:37Z) - Probabilistic electric load forecasting through Bayesian Mixture Density
Networks [70.50488907591463]
確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。
ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。
後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
論文 参考訳(メタデータ) (2020-12-23T16:21:34Z) - Regularizing Class-wise Predictions via Self-knowledge Distillation [80.76254453115766]
類似サンプル間の予測分布を解析する新しい正規化法を提案する。
これにより、単一のネットワークの暗黒知識(すなわち誤った予測に関する知識)を規則化する。
画像分類タスクにおける実験結果から, 単純だが強力な手法が一般化能力を大幅に向上することを示した。
論文 参考訳(メタデータ) (2020-03-31T06:03:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。