論文の概要: A statistical theory of out-of-distribution detection
- arxiv url: http://arxiv.org/abs/2102.12959v1
- Date: Wed, 24 Feb 2021 12:35:43 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-26 13:59:45.290874
- Title: A statistical theory of out-of-distribution detection
- Title(参考訳): 分布外検出の統計的理論
- Authors: Xi Wang, Laurence Aitchison
- Abstract要約: 本稿では,データキュレーションへの接続を利用して分布外データを検出するための原則的手法を提案する。
データキュレーションでは、データセットから曖昧または分類が難しい入力ポイントを除外し、これらの除外ポイントは定義OODです。
したがって、データキュレーションの原理的生成モデルを用いて、OOD点の確率を得ることができる。
- 参考スコア(独自算出の注目度): 26.928175726673615
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a principled approach to detecting out-of-distribution (OOD)
data by exploiting a connection to data curation. In data curation, we exclude
ambiguous or difficult-to-classify input points from the dataset, and these
excluded points are by definition OOD. We can therefore obtain the likelihood
for OOD points by using a principled generative model of data-curation
initially developed to explain the cold-posterior effect in Bayesian neural
networks (Aitchison 2020). This model gives higher OOD probabilities when
predictive uncertainty is higher and can be trained using maximum-likelihood
jointly over the in-distribution and OOD points. This approach gives superior
performance to past methods that did not provide a probability for OOD points,
and therefore could not be trained using maximum-likelihood.
- Abstract(参考訳): 本稿では、データキュレーションへの接続を利用して、配当外データ(OOD)を検出するための原則的アプローチを提案する。
データキュレーションでは、データセットから曖昧または分類が難しい入力ポイントを除外し、これらの除外ポイントは定義OODです。
したがって,ベイズニューラルネットワーク(aitchison 2020)における寒冷後効果を説明するために最初に開発されたデータキュレーションの原理的生成モデルを用いて,ood点の確率を求めることができる。
このモデルにより,予測不確実性が高い場合のOOD確率が向上し,分布内およびOOD点上での最大類似度を併用して訓練することができる。
このアプローチは、OODポイントの確率を示さない過去の手法に優れた性能を与え、従って最大化を用いてトレーニングすることができない。
関連論文リスト
- Out-of-distribution Detection Learning with Unreliable
Out-of-distribution Sources [73.28967478098107]
アウト・オブ・ディストリビューション(OOD)検出は、予測者が有効な予測を行うことができないOODデータをイン・ディストリビューション(ID)データとして識別する。
通常、OODパターンを識別できる予測器をトレーニングするために、実際のアウト・オブ・ディストリビューション(OOD)データを収集するのは困難である。
本稿では,Auxiliary Task-based OOD Learning (ATOL) というデータ生成に基づく学習手法を提案する。
論文 参考訳(メタデータ) (2023-11-06T16:26:52Z) - LINe: Out-of-Distribution Detection by Leveraging Important Neurons [15.797257361788812]
本稿では,分布内データとOODデータ間のモデル出力の差を解析するための新しい側面を紹介する。
本稿では,分布検出のポストホックアウトのための新しい手法であるLINe( Leveraging Important Neurons)を提案する。
論文 参考訳(メタデータ) (2023-03-24T13:49:05Z) - Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳(メタデータ) (2023-02-06T16:38:43Z) - Entropic Issues in Likelihood-Based OOD Detection [14.612834877367046]
平均確率をKLの発散項とエントロピー項に分解する。
後者は興味深いOODの振る舞いを説明でき、高いエントロピーを持つデータセットの確率を抑えることができると論じる。
論文 参考訳(メタデータ) (2021-09-22T15:32:57Z) - Understanding Failures in Out-of-Distribution Detection with Deep
Generative Models [22.11487118547924]
アウト・ディストリビューションが関係する仮定なしでは、ランダムな確率を超える性能を保証する方法が存在しないことを実証する。
イン・ディストリビューションとアウト・ディストリビューションのオーバーラップを想定した上で,その影響を強調した。
以上の結果から, 推定誤差は, 可能性に基づくOOD検出と利害分布の相違よりも, より妥当な説明であることが示唆された。
論文 参考訳(メタデータ) (2021-07-14T18:00:11Z) - Provably Robust Detection of Out-of-distribution Data (almost) for free [124.14121487542613]
ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。
本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。
このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
論文 参考訳(メタデータ) (2021-06-08T11:40:49Z) - Learn what you can't learn: Regularized Ensembles for Transductive
Out-of-distribution Detection [76.39067237772286]
ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。
本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。
本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
論文 参考訳(メタデータ) (2020-12-10T16:55:13Z) - Out-of-Distribution Detection for Automotive Perception [58.34808836642603]
ニューラルネットワーク(NN)は、自律運転におけるオブジェクト分類に広く使われている。
NNは、アウト・オブ・ディストリビューション(OOD)データとして知られるトレーニングデータセットで適切に表現されていない入力データでフェールすることができる。
本稿では,OODデータを必要としない入力がOODであるか否かを判定し,推論の計算コストを増大させる方法を提案する。
論文 参考訳(メタデータ) (2020-11-03T01:46:35Z) - Certifiably Adversarially Robust Detection of Out-of-Distribution Data [111.67388500330273]
我々は,OOD点における信頼度を低くすることで,OOD検出の証明可能な最悪のケースを保証することを目的としている。
トレーニング時に見られるOODデータセットを超えて一般化されたOODデータの信頼性の非自明な境界が可能であることを示す。
論文 参考訳(メタデータ) (2020-07-16T17:16:47Z) - Posterior Network: Uncertainty Estimation without OOD Samples via
Density-Based Pseudo-Counts [33.45069308137142]
Posterior Network (PostNet) は、任意のサンプルに対する予測確率よりも、個々の閉形式後部分布を予測する。
PostNetは、OODの検出とデータセットシフトによる不確実なキャリブレーションにおいて、最先端の成果を達成する。
論文 参考訳(メタデータ) (2020-06-16T15:16:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。