Fugu-MT 論文翻訳(概要): On Out-of-distribution Detection with Energy-based Models

論文の概要: On Out-of-distribution Detection with Energy-based Models

arxiv url: http://arxiv.org/abs/2107.08785v1
Date: Sat, 3 Jul 2021 22:09:02 GMT
ステータス: 処理完了
システム内更新日: 2021-07-25 14:06:56.553376
Title: On Out-of-distribution Detection with Energy-based Models
Title（参考訳）: エネルギーモデルによる分布外検出について
Authors: Sven Elflein, Bertrand Charpentier, Daniel Z\"ugner, Stephan G\"unnemann
Abstract要約: エネルギーベースモデル(EBM)はフレキシブルで非正規化密度モデルであり、この障害モードを改善することができる。トレーニングアプローチとは無関係に, 監視やアーキテクチャ上の制約により, ESMのOOD検出が向上することを示す。
参考スコア（独自算出の注目度）: 38.87164384576751
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Several density estimation methods have shown to fail to detect out-of-distribution (OOD) samples by assigning higher likelihoods to anomalous data. Energy-based models (EBMs) are flexible, unnormalized density models which seem to be able to improve upon this failure mode. In this work, we provide an extensive study investigating OOD detection with EBMs trained with different approaches on tabular and image data and find that EBMs do not provide consistent advantages. We hypothesize that EBMs do not learn semantic features despite their discriminative structure similar to Normalizing Flows. To verify this hypotheses, we show that supervision and architectural restrictions improve the OOD detection of EBMs independent of the training approach.
Abstract（参考訳）: いくつかの密度推定法では、異常なデータに高い確率を割り当てることで、分布外サンプル(OOD)の検出に失敗することが示されている。エネルギーベースモデル(EBM)はフレキシブルで非正規化密度モデルであり、この障害モードを改善することができる。本研究では,表や画像データに対して異なるアプローチで訓練したESMを用いたOOD検出について広範な研究を行い,ESMが一貫した優位性を提供していないことを見出した。 EBMは正規化フローに似た識別的構造にもかかわらず意味的特徴を学習しないという仮説を立てる。この仮説を検証するために,訓練アプローチとは無関係にESMのOOD検出を監督的・建築的制約により改善することを示す。

関連論文リスト

Rethinking Out-of-Distribution Detection on Imbalanced Data Distribution [38.844580833635725]
アーキテクチャ設計におけるバイアスを緩和し,不均衡なOOD検出器を増強する訓練時間正規化手法を提案する。提案手法は,CIFAR10-LT,CIFAR100-LT,ImageNet-LTのベンチマークに対して一貫した改良を行う。
論文参考訳（メタデータ） (2024-07-23T12:28:59Z)
Energy-Based Models for Anomaly Detection: A Manifold Diffusion Recovery Approach [12.623417770432146]
本稿では,データ内の低次元構造を利用した異常検出のための新しいエネルギーベースモデル(EBM)のトレーニング手法を提案する。提案したアルゴリズムであるManifold Projection-Diffusion Recovery (MPDR) は、トレーニングデータセットを近似した低次元多様体に沿ったデータポイントを摂動する。実験の結果,MPDRは多種多様なデータ型を含む様々な異常検出タスクに対して高い性能を示すことがわかった。
論文参考訳（メタデータ） (2023-10-28T11:18:39Z)
Learning Energy-Based Models by Cooperative Diffusion Recovery Likelihood [64.95663299945171]
高次元データに基づくエネルギーベースモデル(EBM)の訓練は、困難かつ時間を要する可能性がある。 EBMと、GANや拡散モデルのような他の生成フレームワークとの間には、サンプル品質に顕著なギャップがある。本研究では,協調拡散回復可能性 (CDRL) を提案する。
論文参考訳（メタデータ） (2023-09-10T22:05:24Z)
Balanced Training of Energy-Based Models with Adaptive Flow Sampling [13.951904929884618]
エネルギーベースモデル (EBMs) は、非正規化ログ密度を直接パラメータ化する汎用密度推定モデルである。我々は、異なる種類の生成モデル、正規化フロー(NF)を用いたESMのための新しい最大可能性トレーニングアルゴリズムを提案する。本手法はトレーニング中にNFをEMMに適合させ,NF支援サンプリング方式によりESMの正確な勾配が常に得られるようにする。
論文参考訳（メタデータ） (2023-06-01T13:58:06Z)
Plugin estimators for selective classification with out-of-distribution detection [67.28226919253214]
現実世界の分類器は、信頼性の低いサンプルの予測を控えることの恩恵を受けることができる。これらの設定は、選択分類(SC)とアウト・オブ・ディストリビューション(OOD)の検出文献において広範囲に研究されている。 OOD検出による選択分類に関する最近の研究は、これらの問題の統一的な研究を議論している。本稿では,既存の手法を理論的に基礎づけ,有効かつ一般化したSCOD用プラグイン推定器を提案する。
論文参考訳（メタデータ） (2023-01-29T07:45:17Z)
Master's Thesis: Out-of-distribution Detection with Energy-based Models [0.0]
ディープラーニングは、自律運転や医療診断などのセキュリティ上重要な状況にますます適用されている。研究者たちは先日、ニューラルネットワークがこれまで見たことのないデータであっても、予測に過度に自信を持っていることを発見しました。本稿では,トレーニングデータ分布の整合化作業におけるEMMの能力について検討し,アウト・オブ・ディストリビューション(OOD)入力の検出を行う。
論文参考訳（メタデータ） (2023-01-28T15:40:30Z)
Understanding Failures in Out-of-Distribution Detection with Deep Generative Models [22.11487118547924]
アウト・ディストリビューションが関係する仮定なしでは、ランダムな確率を超える性能を保証する方法が存在しないことを実証する。イン・ディストリビューションとアウト・ディストリビューションのオーバーラップを想定した上で,その影響を強調した。以上の結果から, 推定誤差は, 可能性に基づくOOD検出と利害分布の相違よりも, より妥当な説明であることが示唆された。
論文参考訳（メタデータ） (2021-07-14T18:00:11Z)
The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
論文参考訳（メタデータ） (2020-12-05T17:30:35Z)
Density of States Estimation for Out-of-Distribution Detection [69.90130863160384]
DoSEは状態推定器の密度である。我々は、他の教師なしOOD検出器に対するDoSEの最先端性能を実証する。
論文参考訳（メタデータ） (2020-06-16T16:06:25Z)
NADS: Neural Architecture Distribution Search for Uncertainty Awareness [79.18710225716791]
機械学習(ML)システムは、トレーニングデータとは異なるディストリビューションから来るテストデータを扱う場合、しばしばOoD(Out-of-Distribution)エラーに遭遇する。既存のOoD検出アプローチはエラーを起こしやすく、時にはOoDサンプルに高い確率を割り当てることもある。本稿では,すべての不確実性を考慮したアーキテクチャの共通構築ブロックを特定するために,ニューラルアーキテクチャ分布探索(NADS)を提案する。
論文参考訳（メタデータ） (2020-06-11T17:39:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。