論文の概要: Hybrid Energy Based Model in the Feature Space for Out-of-Distribution
Detection
- arxiv url: http://arxiv.org/abs/2305.16966v2
- Date: Wed, 31 May 2023 12:41:17 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-02 02:02:48.359627
- Title: Hybrid Energy Based Model in the Feature Space for Out-of-Distribution
Detection
- Title(参考訳): 分散検出のための特徴空間におけるハイブリッドエネルギーモデル
- Authors: Marc Lafon, Elias Ramzi, Cl\'ement Rambour, Nicolas Thome
- Abstract要約: Out-of-distribution(OOD)検出は、ディープニューラルネットワークのデプロイにおいて重要な要件である。
本稿では,ハイブリッドエネルギーベースモデル(EBM)を用いたポストホックOOD検出法であるHEATモデルを提案する。
Heatoodは、CIFAR-10/CIFAR-100ベンチマークと大規模なImagenetベンチマークで、最先端のOOD検出結果を新たに設定する。
- 参考スコア(独自算出の注目度): 17.367599062853156
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Out-of-distribution (OOD) detection is a critical requirement for the
deployment of deep neural networks. This paper introduces the HEAT model, a new
post-hoc OOD detection method estimating the density of in-distribution (ID)
samples using hybrid energy-based models (EBM) in the feature space of a
pre-trained backbone. HEAT complements prior density estimators of the ID
density, e.g. parametric models like the Gaussian Mixture Model (GMM), to
provide an accurate yet robust density estimation. A second contribution is to
leverage the EBM framework to provide a unified density estimation and to
compose several energy terms. Extensive experiments demonstrate the
significance of the two contributions. HEAT sets new state-of-the-art OOD
detection results on the CIFAR-10 / CIFAR-100 benchmark as well as on the
large-scale Imagenet benchmark. The code is available at:
https://github.com/MarcLafon/heatood.
- Abstract(参考訳): Out-of-distribution(OOD)検出は、ディープニューラルネットワークのデプロイにおいて重要な要件である。
本稿では,事前学習したバックボーンの特徴空間におけるハイブリッドエネルギーベースモデル(EBM)を用いて,分布内サンプルの密度を推定するポストホックOOD検出手法であるHEATモデルを提案する。
HEATは、例えばガウス混合モデル(GMM)のようなパラメトリックモデルのようなID密度の事前密度推定器を補完し、正確で頑健な密度推定を提供する。
第2の貢献は、EBMフレームワークを活用し、統一された密度推定を提供し、いくつかのエネルギー用語を構成することである。
大規模な実験は2つの貢献の重要性を示している。
HEATはCIFAR-10/CIFAR-100ベンチマークと大規模イメージネットベンチマークに、最先端のOOD検出結果を新たに設定する。
コードは、https://github.com/MarcLafon/heatood.comで入手できる。
関連論文リスト
- Energy Correction Model in the Feature Space for Out-of-Distribution Detection [18.45452483170536]
エネルギーベースモデル (EBM) を用いて, 分布内分布(ID) の密度を学習すると, 競合検出結果が得られた。
これを解決するために、クラス条件ガウス分布の混合のエネルギーベースの補正を行う。
論文 参考訳(メタデータ) (2024-03-15T15:37:04Z) - ConjNorm: Tractable Density Estimation for Out-of-Distribution Detection [41.41164637577005]
ポストホックアウト・オブ・ディストリビューション(OOD)検出は、信頼性の高い機械学習において大きな注目を集めている。
本稿では,密度に基づくスコア設計の統一的な視点を提供するために,Bregmanの発散に基づく理論的枠組みを提案する。
我々は,提案するtextscConjNormが,様々なOOD検出設定において,新たな最先端技術を確立したことを示す。
論文 参考訳(メタデータ) (2024-02-27T21:02:47Z) - Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
反復Denoising Energy Matching (iDEM)
iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。
提案手法は,全測定値の最先端性能を達成し,2~5倍の速さでトレーニングを行う。
論文 参考訳(メタデータ) (2024-02-09T01:11:23Z) - Learning Energy-Based Models by Cooperative Diffusion Recovery Likelihood [64.95663299945171]
高次元データに基づくエネルギーベースモデル(EBM)の訓練は、困難かつ時間を要する可能性がある。
EBMと、GANや拡散モデルのような他の生成フレームワークとの間には、サンプル品質に顕著なギャップがある。
本研究では,協調拡散回復可能性 (CDRL) を提案する。
論文 参考訳(メタデータ) (2023-09-10T22:05:24Z) - Evaluating generative models in high energy physics [7.545095780512178]
生成モデルの故障モードに対する評価指標とその感度に関する最初の体系的レビューと調査を行う。
我々はFr'echetとカーネル物理距離(FPDとKPD)の2つの新しい指標を提案し、その性能を計測する様々な実験を行った。
提案手法の有効性を検証し, 新規な注目型生成逆数粒子変換器と, 最先端のメッセージ通過型生成逆数ネットワークジェットシミュレーションモデルとの比較を行った。
論文 参考訳(メタデータ) (2022-11-18T15:36:28Z) - LED: Latent Variable-based Estimation of Density [44.055718819650025]
LED は GAN と密接に関連する新しい生成モデルであり,効率的なサンプリングと高密度推定を可能にする。
我々は,低次元潜伏変数を入力として許容しつつ,生成したサンプルの正確な確率を計算するフローベースジェネレータを構築した。
各種データセットを用いた実験結果から, 得られた試料の精度を保ちながら, 精度の高い推定値が得られた。
論文 参考訳(メタデータ) (2022-06-23T09:19:11Z) - Out-of-Distribution Detection with Class Ratio Estimation [4.930817402876787]
近年,OOD画像の検出作業において,密度に基づくアウト・オブ・ディストリビューション(OOD)検出は信頼性が低いことが示されている。
本稿では,エネルギーモデルを構築し,異なる基底分布を用いる新しい枠組みの下で,密度比に基づく手法を統合することを提案する。
論文 参考訳(メタデータ) (2022-06-08T15:20:49Z) - An Energy-Based Prior for Generative Saliency [62.79775297611203]
本稿では,情報的エネルギーベースモデルを事前分布として採用する,新たな生成正当性予測フレームワークを提案する。
生成サリエンシモデルを用いて,画像から画素単位の不確実性マップを得ることができ,サリエンシ予測におけるモデル信頼度を示す。
実験結果から, エネルギーベース先行モデルを用いた生成塩分率モデルでは, 精度の高い塩分率予測だけでなく, 人間の知覚と整合した信頼性の高い不確実性マップを実現できることが示された。
論文 参考訳(メタデータ) (2022-04-19T10:51:00Z) - Label Smoothed Embedding Hypothesis for Out-of-Distribution Detection [72.35532598131176]
我々は,$k$-NN 密度推定値を用いて OOD サンプルを検出する教師なし手法を提案する。
emphLabel Smoothed Embedding hypothesis と呼ばれるラベル平滑化に関する最近の知見を活用する。
提案手法は,多くのOODベースラインを上回り,新しい有限サンプル高確率統計結果を提供することを示す。
論文 参考訳(メタデータ) (2021-02-09T21:04:44Z) - Nonparametric Density Estimation from Markov Chains [68.8204255655161]
我々はマルコフ・チェインにインスパイアされた新しい非パラメトリック密度推定器を導入し、よく知られたケルネル密度推定器を一般化する。
我々の推定器は, 通常のものに対していくつかの利点を示し, 全密度アルゴリズムの基盤として容易に利用できる。
論文 参考訳(メタデータ) (2020-09-08T18:33:42Z) - Learning Latent Space Energy-Based Prior Model [118.86447805707094]
我々はジェネレータモデルの潜在空間でエネルギーベースモデル(EBM)を学習する。
学習したモデルが画像やテキストの生成や異常検出の点で強い性能を示すことを示す。
論文 参考訳(メタデータ) (2020-06-15T08:11:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。