論文の概要: Multi-Label Out-of-Distribution Detection with Spectral Normalized Joint Energy
- arxiv url: http://arxiv.org/abs/2405.04759v1
- Date: Wed, 8 May 2024 02:05:38 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-09 15:35:21.322363
- Title: Multi-Label Out-of-Distribution Detection with Spectral Normalized Joint Energy
- Title(参考訳): スペクトル正規化結合エネルギーを用いたマルチラベル分布検出
- Authors: Yihan Mei, Xinyu Wang, Dell Zhang, Xiaoling Wang,
- Abstract要約: 本稿では,複数のラベルにまたがるラベル固有情報の統合手法であるスペクトル正規化結合エネルギー(SNoJoE)を紹介する。
以上の結果から, スペクトル正規化を結合エネルギースコアに適用することにより, OOD検出能力が向上することが示唆された。
- 参考スコア(独自算出の注目度): 14.149428145967939
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In today's interconnected world, achieving reliable out-of-distribution (OOD) detection poses a significant challenge for machine learning models. While numerous studies have introduced improved approaches for multi-class OOD detection tasks, the investigation into multi-label OOD detection tasks has been notably limited. We introduce Spectral Normalized Joint Energy (SNoJoE), a method that consolidates label-specific information across multiple labels through the theoretically justified concept of an energy-based function. Throughout the training process, we employ spectral normalization to manage the model's feature space, thereby enhancing model efficacy and generalization, in addition to bolstering robustness. Our findings indicate that the application of spectral normalization to joint energy scores notably amplifies the model's capability for OOD detection. We perform OOD detection experiments utilizing PASCAL-VOC as the in-distribution dataset and ImageNet-22K or Texture as the out-of-distribution datasets. Our experimental results reveal that, in comparison to prior top performances, SNoJoE achieves 11% and 54% relative reductions in FPR95 on the respective OOD datasets, thereby defining the new state of the art in this field of study.
- Abstract(参考訳): 今日の相互接続の世界では、信頼性の高いアウト・オブ・ディストリビューション(OOD)検出を実現することが、マシンラーニングモデルにとって大きな課題となっている。
多くの研究がマルチクラスOOD検出タスクの改善アプローチを導入しているが、マルチラベルOOD検出タスクの研究は顕著に限られている。
エネルギーベース関数の理論的に正当化された概念を通じて,複数のラベルにまたがるラベル固有情報を集約する手法であるスペクトル正規化結合エネルギー(SNoJoE)を紹介する。
トレーニング過程を通じて,モデルの特徴空間を管理するためにスペクトル正規化を用い,モデルの有効性と一般化を高め,ロバスト性を高める。
以上の結果から, スペクトル正規化を結合エネルギースコアに適用することにより, OOD検出能力が向上することが示唆された。
我々は,PASCAL-VOCを分布内データセットとし,ImageNet-22KまたはTextureを分布外データセットとしてOOD検出実験を行う。
実験結果から,SNoJoEは従来のトップパフォーマンスと比較して,各OODデータセットにおけるFPR95の11%と54%の相対的な減少を達成し,この領域における新たな最先端技術の定義が得られた。
関連論文リスト
- Can OOD Object Detectors Learn from Foundation Models? [56.03404530594071]
アウト・オブ・ディストリビューション(OOD)オブジェクト検出は、オープンセットのOODデータがないため、難しい課題である。
テキストから画像への生成モデルの最近の進歩に触発されて,大規模オープンセットデータを用いて訓練された生成モデルがOODサンプルを合成する可能性について検討した。
SyncOODは,大規模基盤モデルの能力を活用するシンプルなデータキュレーション手法である。
論文 参考訳(メタデータ) (2024-09-08T17:28:22Z) - Unifying Unsupervised Graph-Level Anomaly Detection and Out-of-Distribution Detection: A Benchmark [73.58840254552656]
近年,非教師付きグラフレベルの異常検出(GLAD)と教師なしグラフレベルのアウト・オブ・ディストリビューション(OOD)検出が注目されている。
教師なしグラフレベルのOODと異常検出のための統一ベンチマーク(我々の方法)を提案する。
我々のベンチマークでは、4つの実用的な異常とOOD検出シナリオにまたがる35のデータセットを網羅している。
我々は,既存手法の有効性,一般化性,堅牢性,効率性について多次元解析を行った。
論文 参考訳(メタデータ) (2024-06-21T04:07:43Z) - Optimizing OOD Detection in Molecular Graphs: A Novel Approach with Diffusion Models [71.39421638547164]
本稿では,入力分子と再構成グラフの類似性を比較する補助拡散モデルに基づくフレームワークを用いてOOD分子を検出することを提案する。
IDトレーニングサンプルの再構成に向けた生成バイアスのため、OOD分子の類似度スコアは検出を容易にするためにはるかに低い。
本研究は,PGR-MOOD(PGR-MOOD)とよばれる分子OOD検出のためのプロトタイプグラフ再構成のアプローチを開拓し,3つのイノベーションを生かした。
論文 参考訳(メタデータ) (2024-04-24T03:25:53Z) - Detecting Out-of-Distribution Through the Lens of Neural Collapse [7.04686607977352]
安全なデプロイメントには、アウト・オブ・ディストリビューション(OOD)検出が不可欠だ。
既存の検出器は、一般化の相違とコストの懸念を示す。
我々はニューラル崩壊の傾向にインスパイアされた、高度に多用途で効率的なOOD検出器を提案する。
論文 参考訳(メタデータ) (2023-11-02T05:18:28Z) - DIVERSIFY: A General Framework for Time Series Out-of-distribution
Detection and Generalization [58.704753031608625]
時系列は、機械学習研究における最も困難なモダリティの1つである。
時系列上でのOODの検出と一般化は、その非定常性によって悩まされる傾向がある。
時系列の動的分布のOOD検出と一般化のためのフレームワークであるDIVERSIFYを提案する。
論文 参考訳(メタデータ) (2023-08-04T12:27:11Z) - A Functional Data Perspective and Baseline On Multi-Layer
Out-of-Distribution Detection [30.499548939422194]
複数のレイヤを探索するメソッドには、特別なアーキテクチャか、それを行うための管理対象が必要です。
この研究は、様々なレイヤとそれらの統計的依存関係を通してサンプルの軌跡を利用するネットワークの機能的なビューに基づいた、オリジナルのアプローチを採用する。
提案手法の有効性を実証的に検証し,OOD検出におけるOOD検出の有効性をコンピュータビジョンベンチマーク上での最先端のベースラインと比較した。
論文 参考訳(メタデータ) (2023-06-06T09:14:05Z) - Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳(メタデータ) (2023-02-06T16:38:43Z) - On the Usefulness of Deep Ensemble Diversity for Out-of-Distribution
Detection [7.221206118679026]
ディープラーニングの安全性クリティカルな応用において、OOD(Out-of-Distribution)データを検出する能力が重要である。
この文献の既存の直観は、ディープ・アンサンブルの予測の多様性は分布シフトを示しているということである。
ImageNet-scale OOD 検出では,この直観が有効でないことを示す。
論文 参考訳(メタデータ) (2022-07-15T15:02:38Z) - Out of Distribution Detection via Neural Network Anchoring [38.36467447555689]
分布外検出のためのキャリブレーション戦略としてヘテロセシダスティック温度スケーリングを利用する。
本研究では,各試料の適切な温度値を推定できるアンカー方式を提案する。
優れたOOD検出手法のいくつかとは対照的に、我々の手法は追加の外部データセットへの露出を必要としない。
論文 参考訳(メタデータ) (2022-07-08T21:01:09Z) - Provable Guarantees for Understanding Out-of-distribution Detection [13.36367318623728]
我々は,OOD検出の理論的理解を特徴付ける分析フレームワークを開発した。
我々のフレームワークは,ニューラルネットワークの新たなOOD検出手法であるGEMを動機付け,理論的および経験的優位性を実証する。
論文 参考訳(メタデータ) (2021-12-01T19:18:43Z) - Energy-based Unknown Intent Detection with Data Manipulation [48.76465739088016]
未知の意図検出は、トレーニングセットに意図が現れていない配布外発話を特定することを目的としている。
本稿では,エネルギースコアが入力の密度と理論的に一致していることから,このタスクにエネルギースコアを用いることを提案する。
論文 参考訳(メタデータ) (2021-07-27T01:32:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。