論文の概要: Energy Correction Model in the Feature Space for Out-of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2403.10403v1
- Date: Fri, 15 Mar 2024 15:37:04 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-18 16:32:11.675573
- Title: Energy Correction Model in the Feature Space for Out-of-Distribution Detection
- Title(参考訳): 分布外検出のための特徴空間におけるエネルギー補正モデル
- Authors: Marc Lafon, Clément Rambour, Nicolas Thome,
- Abstract要約: エネルギーベースモデル (EBM) を用いて, 分布内分布(ID) の密度を学習すると, 競合検出結果が得られた。
これを解決するために、クラス条件ガウス分布の混合のエネルギーベースの補正を行う。
- 参考スコア(独自算出の注目度): 18.45452483170536
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we study the out-of-distribution (OOD) detection problem through the use of the feature space of a pre-trained deep classifier. We show that learning the density of in-distribution (ID) features with an energy-based models (EBM) leads to competitive detection results. However, we found that the non-mixing of MCMC sampling during the EBM's training undermines its detection performance. To overcome this an energy-based correction of a mixture of class-conditional Gaussian distributions. We obtains favorable results when compared to a strong baseline like the KNN detector on the CIFAR-10/CIFAR-100 OOD detection benchmarks.
- Abstract(参考訳): 本研究では,事前学習した深層分類器の特徴空間を用いて,分布外検出問題(OOD)について検討する。
エネルギーベースモデル (EBM) を用いて, 分布内分布(ID) の密度を学習すると, 競合検出結果が得られた。
しかし,EMM訓練におけるMCMCサンプリングの非混合は検出性能を損なうことが判明した。
これを解決するために、クラス条件ガウス分布の混合のエネルギーベースの補正を行う。
我々は,CIFAR-10/CIFAR-100 OOD検出ベンチマークにおけるKNN検出器のような強力なベースラインと比較して,良好な結果を得た。
関連論文リスト
- Multi-Label Out-of-Distribution Detection with Spectral Normalized Joint Energy [14.149428145967939]
本稿では,複数のラベルにまたがるラベル固有情報の統合手法であるスペクトル正規化結合エネルギー(SNoJoE)を紹介する。
以上の結果から, スペクトル正規化を結合エネルギースコアに適用することにより, OOD検出能力が向上することが示唆された。
論文 参考訳(メタデータ) (2024-05-08T02:05:38Z) - ConjNorm: Tractable Density Estimation for Out-of-Distribution Detection [41.41164637577005]
ポストホックアウト・オブ・ディストリビューション(OOD)検出は、信頼性の高い機械学習において大きな注目を集めている。
本稿では,密度に基づくスコア設計の統一的な視点を提供するために,Bregmanの発散に基づく理論的枠組みを提案する。
我々は,提案するtextscConjNormが,様々なOOD検出設定において,新たな最先端技術を確立したことを示す。
論文 参考訳(メタデータ) (2024-02-27T21:02:47Z) - Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
反復Denoising Energy Matching (iDEM)
iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。
提案手法は,全測定値の最先端性能を達成し,2~5倍の速さでトレーニングを行う。
論文 参考訳(メタデータ) (2024-02-09T01:11:23Z) - Hybrid Energy Based Model in the Feature Space for Out-of-Distribution
Detection [17.367599062853156]
Out-of-distribution(OOD)検出は、ディープニューラルネットワークのデプロイにおいて重要な要件である。
本稿では,ハイブリッドエネルギーベースモデル(EBM)を用いたポストホックOOD検出法であるHEATモデルを提案する。
Heatoodは、CIFAR-10/CIFAR-100ベンチマークと大規模なImagenetベンチマークで、最先端のOOD検出結果を新たに設定する。
論文 参考訳(メタデータ) (2023-05-26T14:21:39Z) - Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳(メタデータ) (2023-02-06T16:38:43Z) - RegMixup: Mixup as a Regularizer Can Surprisingly Improve Accuracy and
Out Distribution Robustness [94.69774317059122]
学習目的として使うのではなく、標準のクロスエントロピー損失に対する追加の正則化剤として利用すれば、良好なミックスアップの有効性がさらに向上できることが示される。
この単純な変更は、精度を大幅に改善するだけでなく、Mixupの予測不確実性推定の品質を大幅に改善する。
論文 参考訳(メタデータ) (2022-06-29T09:44:33Z) - How to Exploit Hyperspherical Embeddings for Out-of-Distribution
Detection? [22.519572587827213]
CIDERは、OOD検出に超球面埋め込みを利用する表現学習フレームワークである。
CIDERは優れたパフォーマンスを確立し、FPR95では19.36%で最新のライバルを上回った。
論文 参考訳(メタデータ) (2022-03-08T23:44:01Z) - Energy-based Unknown Intent Detection with Data Manipulation [48.76465739088016]
未知の意図検出は、トレーニングセットに意図が現れていない配布外発話を特定することを目的としている。
本稿では,エネルギースコアが入力の密度と理論的に一致していることから,このタスクにエネルギースコアを用いることを提案する。
論文 参考訳(メタデータ) (2021-07-27T01:32:23Z) - On Out-of-distribution Detection with Energy-based Models [38.87164384576751]
エネルギーベースモデル(EBM)はフレキシブルで非正規化密度モデルであり、この障害モードを改善することができる。
トレーニングアプローチとは無関係に, 監視やアーキテクチャ上の制約により, ESMのOOD検出が向上することを示す。
論文 参考訳(メタデータ) (2021-07-03T22:09:02Z) - Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。
我々は,再建基準の代替として,異常スコアの代替尺度を提案した。
提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
論文 参考訳(メタデータ) (2020-03-24T08:26:58Z) - Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。
ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
論文 参考訳(メタデータ) (2020-03-21T17:46:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。