論文の概要: Density of States Estimation for Out-of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2006.09273v2
- Date: Mon, 22 Jun 2020 18:03:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-20 19:38:18.663597
- Title: Density of States Estimation for Out-of-Distribution Detection
- Title(参考訳): 分布外検出のための状態密度推定
- Authors: Warren R. Morningstar, Cusuh Ham, Andrew G. Gallagher, Balaji
Lakshminarayanan, Alexander A. Alemi, Joshua V. Dillon
- Abstract要約: DoSEは状態推定器の密度である。
我々は、他の教師なしOOD検出器に対するDoSEの最先端性能を実証する。
- 参考スコア(独自算出の注目度): 69.90130863160384
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Perhaps surprisingly, recent studies have shown probabilistic model
likelihoods have poor specificity for out-of-distribution (OOD) detection and
often assign higher likelihoods to OOD data than in-distribution data. To
ameliorate this issue we propose DoSE, the density of states estimator. Drawing
on the statistical physics notion of ``density of states,'' the DoSE decision
rule avoids direct comparison of model probabilities, and instead utilizes the
``probability of the model probability,'' or indeed the frequency of any
reasonable statistic. The frequency is calculated using nonparametric density
estimators (e.g., KDE and one-class SVM) which measure the typicality of
various model statistics given the training data and from which we can flag
test points with low typicality as anomalous. Unlike many other methods, DoSE
requires neither labeled data nor OOD examples. DoSE is modular and can be
trivially applied to any existing, trained model. We demonstrate DoSE's
state-of-the-art performance against other unsupervised OOD detectors on
previously established ``hard'' benchmarks.
- Abstract(参考訳): 意外なことに、最近の研究では、確率論的モデルの可能性は、オフ・オブ・ディストリビューション(OOD)検出の特異性に乏しく、しばしば、イン・ディストリビューションデータよりも高い確率をOODデータに割り当てている。
この問題を改善するために、状態推定器の密度であるDoSEを提案する。
状態の密度」という統計物理学の概念に基づいて、DoSE決定規則はモデル確率の直接比較を回避し、代わりに「モデル確率の確率」または実際に妥当な統計量の頻度を利用する。
非パラメトリック密度推定器(KDE や 1-class SVM など)を用いて周波数を計算し、トレーニングデータから得られる様々なモデル統計の典型性を計測し、異常値として低い定型性を持つテストポイントをフラグできる。
他の多くのメソッドとは異なり、DoSEはラベル付きデータやOODの例を必要としない。
DoSEはモジュール化されており、既存のトレーニング済みモデルにも簡単に適用できます。
我々は,以前に確立された ``hard'' ベンチマークで,他の教師なし OOD 検出器に対する DoSE の最先端性能を実証する。
関連論文リスト
- MANO: Exploiting Matrix Norm for Unsupervised Accuracy Estimation Under Distribution Shifts [25.643876327918544]
モデルのアウトプット、特にロジットを活用することは、トレーニング済みニューラルネットワークのテスト精度を、アウト・オブ・ディストリビューションのサンプルで推定する一般的なアプローチである。
実装の容易さと計算効率にもかかわらず、現在のロジットベースの手法は過信問題に弱いため、予測バイアスにつながる。
予測バイアスを低減するためにデータ依存正規化を適用したMaNoを提案し,正規化ロジットの行列の$L_p$ノルムを推定スコアとする。
論文 参考訳(メタデータ) (2024-05-29T10:45:06Z) - PQMass: Probabilistic Assessment of the Quality of Generative Models
using Probability Mass Estimation [8.527898482146103]
生成モデルの品質を評価するための包括的サンプルベース手法を提案する。
提案手法により,同じ分布から2組のサンプルが引き出される確率を推定できる。
論文 参考訳(メタデータ) (2024-02-06T19:39:26Z) - Out-of-distribution Object Detection through Bayesian Uncertainty
Estimation [10.985423935142832]
OOD検出のための新しい,直感的で,スケーラブルなオブジェクト検出手法を提案する。
提案手法は,提案したガウス分布からの重みパラメータサンプリングにより,IDデータとOODデータを識別することができる。
BDD100kおよびVOCデータセットでトレーニングした場合,FPR95スコアを最大8.19%削減し,AUROCスコアを最大13.94%向上させることで,ベイズ対象検出器のOOD識別性能が良好であることを実証した。
論文 参考訳(メタデータ) (2023-10-29T19:10:52Z) - User-defined Event Sampling and Uncertainty Quantification in Diffusion
Models for Physical Dynamical Systems [49.75149094527068]
拡散モデルを用いて予測を行い,カオス力学系に対する不確かさの定量化が可能であることを示す。
本研究では,雑音レベルが低下するにつれて真の分布に収束する条件付きスコア関数の確率的近似法を開発する。
推論時に非線形ユーザ定義イベントを条件付きでサンプリングすることができ、分布の尾部からサンプリングした場合でもデータ統計と一致させることができる。
論文 参考訳(メタデータ) (2023-06-13T03:42:03Z) - Learning Robust Statistics for Simulation-based Inference under Model
Misspecification [23.331522354991527]
本稿では,シミュレーションに基づく推論手法の異なるクラスにまたがって機能するモデル不特定性を扱うための,最初の一般的なアプローチを提案する。
提案手法は,モデルが適切に特定された場合の精度を保ちながら,不特定シナリオにおいて頑健な推論をもたらすことを示す。
論文 参考訳(メタデータ) (2023-05-25T09:06:26Z) - Uncertainty Modeling for Out-of-Distribution Generalization [56.957731893992495]
特徴統計を適切に操作することで、ディープラーニングモデルの一般化能力を向上させることができると論じる。
一般的な手法では、特徴統計を学習した特徴から測定された決定論的値とみなすことが多い。
我々は、学習中に合成された特徴統計を用いて、領域シフトの不確かさをモデル化することにより、ネットワークの一般化能力を向上させる。
論文 参考訳(メタデータ) (2022-02-08T16:09:12Z) - Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
まず確率分布をモデル化し,そのモデルからサンプリングする。
これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
論文 参考訳(メタデータ) (2021-10-20T12:25:22Z) - Robust Out-of-Distribution Detection on Deep Probabilistic Generative
Models [0.06372261626436676]
アウト・オブ・ディストリビューション(OOD)検出は機械学習システムにおいて重要な課題である。
深い確率的生成モデルは、データサンプルの可能性を推定することによって、OODの検出を容易にする。
本稿では,外周露光を伴わない新しい検出指標を提案する。
論文 参考訳(メタデータ) (2021-06-15T06:36:10Z) - Learn what you can't learn: Regularized Ensembles for Transductive
Out-of-distribution Detection [76.39067237772286]
ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。
本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。
本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
論文 参考訳(メタデータ) (2020-12-10T16:55:13Z) - Tracking disease outbreaks from sparse data with Bayesian inference [55.82986443159948]
新型コロナウイルス(COVID-19)のパンデミックは、感染発生時の感染率を推定する新たな動機を与える。
標準的な手法は、より細かいスケールで共通する部分的な観測可能性とスパースなデータに対応するのに苦労する。
原理的に部分観測可能なベイズ的枠組みを提案する。
論文 参考訳(メタデータ) (2020-09-12T20:37:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。