論文の概要: Revisiting Energy-Based Model for Out-of-Distribution Detection

• arxiv url: http://arxiv.org/abs/2412.03058v1
• Date: Wed, 04 Dec 2024 06:25:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-05 15:08:19.192238
• Title: Revisiting Energy-Based Model for Out-of-Distribution Detection
• Title（参考訳）: アウト・オブ・ディストリビューション検出のためのエネルギーベースモデルの再検討
• Authors: Yifan Wu, Xichen Ye, Songmin Dai, Dengye Pan, Xiaoqiang Li, Weizhong Zhang, Yifan Chen,
• Abstract要約: Outlier Exposure by Simple Transformations (OEST)は、"peripheral-distribution"(PD)データを活用することで、OOD検出を強化するフレームワークである。 PDデータは単純なデータ変換によって生成されるサンプルであり、手動でキュレートされたアウトレイラに代わる効率的な代替手段を提供する。 OEST*は最先端の手法と比較して精度が良く、あるいは類似している。
• 参考スコア（独自算出の注目度）: 23.39953997547791
• License:
• Abstract: Out-of-distribution (OOD) detection is an essential approach to robustifying deep learning models, enabling them to identify inputs that fall outside of their trained distribution. Existing OOD detection methods usually depend on crafted data, such as specific outlier datasets or elaborate data augmentations. While this is reasonable, the frequent mismatch between crafted data and OOD data limits model robustness and generalizability. In response to this issue, we introduce Outlier Exposure by Simple Transformations (OEST), a framework that enhances OOD detection by leveraging "peripheral-distribution" (PD) data. Specifically, PD data are samples generated through simple data transformations, thus providing an efficient alternative to manually curated outliers. We adopt energy-based models (EBMs) to study PD data. We recognize the "energy barrier" in OOD detection, which characterizes the energy difference between in-distribution (ID) and OOD samples and eases detection. PD data are introduced to establish the energy barrier during training. Furthermore, this energy barrier concept motivates a theoretically grounded energy-barrier loss to replace the classical energy-bounded loss, leading to an improved paradigm, OEST*, which achieves a more effective and theoretically sound separation between ID and OOD samples. We perform empirical validation of our proposal, and extensive experiments across various benchmarks demonstrate that OEST* achieves better or similar accuracy compared with state-of-the-art methods.
• Abstract（参考訳）: アウト・オブ・ディストリビューション(OOD)検出は、ディープラーニングモデルを堅牢化するための重要なアプローチであり、トレーニングされたディストリビューションから外れた入力を識別することを可能にする。 既存のOOD検出方法は、通常、特定の外れ値データセットや精巧なデータ拡張など、人工的なデータに依存する。 これは妥当だが、工芸データとOODデータとの頻繁なミスマッチは、堅牢性と一般化性を制限している。 この問題に対処するために、我々は「周辺分散(PD)データ」を活用してOOD検出を強化するフレームワークである、単純な変換によるOutlier Exposure(OEST)を紹介した。 具体的には、PDデータは単純なデータ変換によって生成されるサンプルであり、手動で計算したアウトリーチに代わる効率的な代替手段を提供する。 エネルギーベースモデル(EBM)を用いてPDデータを研究する。 我々は,OOD検出における「エネルギー障壁」を認識し,分布内(ID)とOODサンプルのエネルギー差を特徴付けるとともに,検出を容易にする。 PDデータは、トレーニング中にエネルギー障壁を確立するために導入される。 さらに、このエネルギーバリアの概念は、理論上基礎的なエネルギーバリア損失を動機付け、古典的なエネルギー境界損失を置き換えることによって、より効果的で理論的にIDとOODの分離を実現するパラダイムであるOEST*が改良される。 我々は,提案手法の実証検証を行い,OEST*が最先端の手法と比較して精度が良く,あるいは類似していることを示す。

関連論文リスト

• Can OOD Object Detectors Learn from Foundation Models? [56.03404530594071]
  アウト・オブ・ディストリビューション(OOD)オブジェクト検出は、オープンセットのOODデータがないため、難しい課題である。 テキストから画像への生成モデルの最近の進歩に触発されて,大規模オープンセットデータを用いて訓練された生成モデルがOODサンプルを合成する可能性について検討した。 SyncOODは,大規模基盤モデルの能力を活用するシンプルなデータキュレーション手法である。
  論文  参考訳（メタデータ） (2024-09-08T17:28:22Z)
• OAL: Enhancing OOD Detection Using Latent Diffusion [5.357756138014614]
  Outlier Aware Learning (OAL)フレームワークは、潜伏空間で直接OODトレーニングデータを合成する。 In-Distribution (ID) と収集したOOD特徴の区別を増幅する相互情報に基づくコントラスト学習手法を提案する。
  論文  参考訳（メタデータ） (2024-06-24T11:01:43Z)
• Exploiting Diffusion Prior for Out-of-Distribution Detection [11.11093497717038]
  堅牢な機械学習モデルをデプロイするには、アウト・オブ・ディストリビューション(OOD)検出が不可欠だ。 拡散モデルの生成能力とCLIPの強力な特徴抽出能力を活用する新しいOOD検出手法を提案する。
  論文  参考訳（メタデータ） (2024-06-16T23:55:25Z)
• Multi-Label Out-of-Distribution Detection with Spectral Normalized Joint Energy [14.149428145967939]
  本稿では,複数のラベルにまたがるラベル固有情報の統合手法であるスペクトル正規化結合エネルギー(SNoJoE)を紹介する。 以上の結果から, スペクトル正規化を結合エネルギースコアに適用することにより, OOD検出能力が向上することが示唆された。
  論文  参考訳（メタデータ） (2024-05-08T02:05:38Z)
• Deep Metric Learning-Based Out-of-Distribution Detection with Synthetic Outlier Exposure [0.0]
  Denoising Diffusion Probabilistic Models (DDPM) を用いたOODデータ生成のためのラベル混合手法を提案する。 実験の結果,メトリック学習に基づく損失関数はソフトマックスよりも優れていた。 提案手法は従来のOOD検出指標において高いベースラインを達成している。
  論文  参考訳（メタデータ） (2024-05-01T16:58:22Z)
• Optimizing OOD Detection in Molecular Graphs: A Novel Approach with Diffusion Models [71.39421638547164]
  本稿では,入力分子と再構成グラフの類似性を比較する補助拡散モデルに基づくフレームワークを用いてOOD分子を検出することを提案する。 IDトレーニングサンプルの再構成に向けた生成バイアスのため、OOD分子の類似度スコアは検出を容易にするためにはるかに低い。 本研究は,PGR-MOOD(PGR-MOOD)とよばれる分子OOD検出のためのプロトタイプグラフ再構成のアプローチを開拓し,3つのイノベーションを生かした。
  論文  参考訳（メタデータ） (2024-04-24T03:25:53Z)
• Model-free Test Time Adaptation for Out-Of-Distribution Detection [62.49795078366206]
  我々はtextbfDistribution textbfDetection (abbr) のための非パラメトリックテスト時間 textbfAdaptation フレームワークを提案する。 Abbrは、オンラインテストサンプルを使用して、テスト中のモデル適応、データ分散の変更への適応性を向上させる。 複数のOOD検出ベンチマークにおける包括的実験により,abrの有効性を示す。
  論文  参考訳（メタデータ） (2023-11-28T02:00:47Z)
• Out-of-distribution Detection Learning with Unreliable Out-of-distribution Sources [73.28967478098107]
  アウト・オブ・ディストリビューション(OOD)検出は、予測者が有効な予測を行うことができないOODデータをイン・ディストリビューション(ID)データとして識別する。 通常、OODパターンを識別できる予測器をトレーニングするために、実際のアウト・オブ・ディストリビューション(OOD)データを収集するのは困難である。 本稿では,Auxiliary Task-based OOD Learning (ATOL) というデータ生成に基づく学習手法を提案する。
  論文  参考訳（メタデータ） (2023-11-06T16:26:52Z)
• Out-of-distribution Detection with Implicit Outlier Transformation [72.73711947366377]
  外周露光(OE)は、オフ・オブ・ディストリビューション(OOD)検出において強力である。 我々は,未確認のOOD状況に対してモデルの性能を良くする,新しいOEベースのアプローチを提案する。
  論文  参考訳（メタデータ） (2023-03-09T04:36:38Z)
• Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
  我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。 GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
  論文  参考訳（メタデータ） (2023-02-06T16:38:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。