論文の概要: Distributional Gaussian Processes Layers for Out-of-Distribution
Detection
- arxiv url: http://arxiv.org/abs/2206.13346v1
- Date: Mon, 27 Jun 2022 14:49:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-28 19:16:36.797417
- Title: Distributional Gaussian Processes Layers for Out-of-Distribution
Detection
- Title(参考訳): 分布ガウス過程による分布外検出
- Authors: Sebastian G. Popescu, David J. Sharp, James H. Cole, Konstantinos
Kamnitsas and Ben Glocker
- Abstract要約: ディープニューラルネットワークに依存する分布外検出モデルが、医用画像の領域シフトを検出するのに適しているかどうかは不明だ。
本稿では,ワッサーシュタイン2空間で動作するガウス過程を組み込んだ階層的畳み込みガウス過程に対するパラメータ効率のよいベイズ層を提案する。
我々の不確実性推定は、以前のベイズネットワークの能力を上回る分布外検出をもたらす。
- 参考スコア(独自算出の注目度): 18.05109901753853
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning models deployed on medical imaging tasks must be equipped
with out-of-distribution detection capabilities in order to avoid erroneous
predictions. It is unsure whether out-of-distribution detection models reliant
on deep neural networks are suitable for detecting domain shifts in medical
imaging. Gaussian Processes can reliably separate in-distribution data points
from out-of-distribution data points via their mathematical construction.
Hence, we propose a parameter efficient Bayesian layer for hierarchical
convolutional Gaussian Processes that incorporates Gaussian Processes operating
in Wasserstein-2 space to reliably propagate uncertainty. This directly
replaces convolving Gaussian Processes with a distance-preserving affine
operator on distributions. Our experiments on brain tissue-segmentation show
that the resulting architecture approaches the performance of well-established
deterministic segmentation algorithms (U-Net), which has not been achieved with
previous hierarchical Gaussian Processes. Moreover, by applying the same
segmentation model to out-of-distribution data (i.e., images with pathology
such as brain tumors), we show that our uncertainty estimates result in
out-of-distribution detection that outperforms the capabilities of previous
Bayesian networks and reconstruction-based approaches that learn normative
distributions. To facilitate future work our code is publicly available.
- Abstract(参考訳): 医療画像タスクにデプロイされる機械学習モデルは、誤った予測を避けるために、分散検出機能を備えている必要がある。
深層ニューラルネットワークに依存した分布外検出モデルが医用画像の領域シフトを検出するのに適しているかは定かではない。
ガウス過程は、分布内データポイントと分布外データポイントを数学的構成で確実に分離することができる。
そこで本研究では,wasserstein-2 空間で動作するガウス過程を組み込んだ階層的畳み込みガウス過程に対するパラメータ効率の高いベイズ層を提案する。
これは、ガウス過程を分布上の距離保存アフィン作用素に置き換える。
脳組織セグメンテーション実験の結果,従来の階層的ガウス過程では達成されていない決定論的セグメンテーションアルゴリズム(u-net)の性能に接近した。
さらに,同じセグメンテーションモデルを分散データ(例えば脳腫瘍などの病理画像)に適用することにより,不確実性推定の結果,従来のベイズネットワークや正規分布を学習するレコンストラクションに基づくアプローチよりも優れる分布外検出が得られることを示す。
将来の作業を容易にするために、私たちのコードは公開されています。
関連論文リスト
- Sparse Variational Contaminated Noise Gaussian Process Regression with Applications in Geomagnetic Perturbations Forecasting [4.675221539472143]
大規模なデータセットに正規ノイズが汚染されたスパースガウス過程回帰モデルを適用するためのスケーラブルな推論アルゴリズムを提案する。
提案手法は, 人工ニューラルネットワークベースラインと比較して, 類似のカバレッジと精度の予測間隔が短いことを示す。
論文 参考訳(メタデータ) (2024-02-27T15:08:57Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Distributed Bayesian Estimation in Sensor Networks: Consensus on
Marginal Densities [15.038649101409804]
連続変数上の確率分布の関数空間において、確率的確率的アルゴリズムを導出する。
これらの結果を利用して、個々のエージェントが観測する変数のサブセットに制限された新しい分散推定器を得る。
これは、協調的なローカライゼーションやフェデレートドラーニングのような応用に関係しており、任意のエージェントで収集されたデータは、関心のあるすべての変数のサブセットに依存する。
論文 参考訳(メタデータ) (2023-12-02T21:10:06Z) - Distribution Shift Inversion for Out-of-Distribution Prediction [57.22301285120695]
本稿では,OoD(Out-of-Distribution)予測のためのポータブル分布シフト変換アルゴリズムを提案する。
提案手法は,OoDアルゴリズムを広範囲に接続した場合に,一般的な性能向上をもたらすことを示す。
論文 参考訳(メタデータ) (2023-06-14T08:00:49Z) - Window-Based Distribution Shift Detection for Deep Neural Networks [21.73028341299301]
本研究では,データストリームを受信したディープニューラルネットワーク(DNN)の正常動作をモニタリングする場合について検討する。
選択的予測原理を用いて,DNNの分布偏差検出手法を提案する。
我々の新しい検出法は、最先端技術よりもかなり少ない時間を消費しながら、オンパー以上の性能を発揮する。
論文 参考訳(メタデータ) (2022-10-19T21:27:25Z) - Convolutional generative adversarial imputation networks for
spatio-temporal missing data in storm surge simulations [86.5302150777089]
GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。
提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
論文 参考訳(メタデータ) (2021-11-03T03:50:48Z) - Distributional Gaussian Process Layers for Outlier Detection in Image
Segmentation [15.086527565572073]
階層的畳み込みガウス過程に対するパラメータ効率のよいベイズ層を提案する。
脳組織セグメンテーションに関する実験により、結果として得られるアーキテクチャは、確立された決定論的セグメンテーションアルゴリズムの性能に近づいた。
我々の不確実性推定は、以前のベイズネットワークの能力を上回る分布外検出をもたらす。
論文 参考訳(メタデータ) (2021-04-28T13:37:10Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳(メタデータ) (2021-02-22T07:02:37Z) - Improved Slice-wise Tumour Detection in Brain MRIs by Computing
Dissimilarities between Latent Representations [68.8204255655161]
磁気共鳴画像(MRI)の異常検出は教師なし手法で行うことができる。
本研究では,変分オートエンコーダの潜伏空間における相似関数の計算に基づいて,腫瘍検出のためのスライスワイズ半教師法を提案する。
本研究では,高解像度画像上でのモデルをトレーニングし,再現の質を向上させることにより,異なるベースラインに匹敵する結果が得られることを示す。
論文 参考訳(メタデータ) (2020-07-24T14:02:09Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。