論文の概要: ExCeL : Combined Extreme and Collective Logit Information for Enhancing Out-of-Distribution Detection

• arxiv url: http://arxiv.org/abs/2311.14754v1
• Date: Thu, 23 Nov 2023 14:16:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-30 09:51:14.818458
• Title: ExCeL : Combined Extreme and Collective Logit Information for Enhancing Out-of-Distribution Detection
• Title（参考訳）: excel : ex-of-distribution detection 強化のためのextreme と collective logit の複合情報
• Authors: Naveen Karunanayake, Suranga Seneviratne, Sanjay Chawla
• Abstract要約: ExCeLは出力層内の極端な情報と集合情報を結合し、OOD検出の精度を向上する。 ExCeLは、既存の21のポストホックベースラインの中で、一貫して5つのトップパフォーマンスメソッドのうちの1つである。
• 参考スコア（独自算出の注目度）: 9.689089164964484
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep learning models often exhibit overconfidence in predicting out-of-distribution (OOD) data, underscoring the crucial role of OOD detection in ensuring reliability in predictions. Among various OOD detection approaches, post-hoc detectors have gained significant popularity, primarily due to their ease of use and implementation. However, the effectiveness of most post-hoc OOD detectors has been constrained as they rely solely either on extreme information, such as the maximum logit, or on the collective information (i.e., information spanned across classes or training samples) embedded within the output layer. In this paper, we propose ExCeL that combines both extreme and collective information within the output layer for enhanced accuracy in OOD detection. We leverage the logit of the top predicted class as the extreme information (i.e., the maximum logit), while the collective information is derived in a novel approach that involves assessing the likelihood of other classes appearing in subsequent ranks across various training samples. Our idea is motivated by the observation that, for in-distribution (ID) data, the ranking of classes beyond the predicted class is more deterministic compared to that in OOD data. Experiments conducted on CIFAR100 and ImageNet-200 datasets demonstrate that ExCeL consistently is among the five top-performing methods out of twenty-one existing post-hoc baselines when the joint performance on near-OOD and far-OOD is considered (i.e., in terms of AUROC and FPR95). Furthermore, ExCeL shows the best overall performance across both datasets, unlike other baselines that work best on one dataset but has a performance drop in the other.
• Abstract（参考訳）: ディープラーニングモデルは、アウト・オブ・ディストリビューション(OOD)データの予測に自信を欠くことが多く、予測の信頼性を確保する上でのOOD検出の重要性を浮き彫りにしている。 様々なOOD検出手法の中で、ポストホック検出器は、主に使いやすさと実装の容易さから、大きな人気を集めている。 しかしながら、ほとんどのポストホックなood検出器の有効性は、最大ロジットのような極端な情報のみに依存するか、出力層に埋め込まれた集団情報(すなわち、クラスにまたがる情報やトレーニングサンプル)に依存しているため、制限されている。 本稿では,OOD検出の精度を高めるために,出力層内の極端情報と集合情報を組み合わせたExCeLを提案する。 最上位の予測クラスのロジットを極端な情報(すなわち最大ロジット)として活用する一方、集団情報は、様々なトレーニングサンプルにまたがって、次の階級に現れる他のクラスの可能性を評価する新しいアプローチによって導かれる。 我々の考えは、ID(In-distriion)データに対して、予測クラスを超えたクラスのランキングがOODデータよりも決定論的である、という観察に動機づけられている。 CIFAR100とImageNet-200データセットで実施された実験により、ExCeLは、近OODと遠OODのジョイントパフォーマンスが考慮されている場合、既存の21のベースラインのうち、一貫して5つのトップパフォーマンスメソッドであることが示された(AUROCとFPR95)。 さらにexcelは、一方のデータセットでベストだが他方でパフォーマンスが低下する他のベースラインとは異なり、両方のデータセットで最高の全体的なパフォーマンスを示している。

関連論文リスト

• Out-of-Distribution Learning with Human Feedback [26.398598663165636]
  本稿では,人的フィードバックによるOOD学習のための新しい枠組みを提案する。 当社のフレームワークは、無償で利用可能な未ラベルデータに便乗しています。 人間のフィードバックを利用して、機械学習モデルの堅牢性と信頼性を高める。
  論文  参考訳（メタデータ） (2024-08-14T18:49:27Z)
• WeiPer: OOD Detection using Weight Perturbations of Class Projections [11.130659240045544]
  入力のよりリッチな表現を生成する最終完全連結層にクラスプロジェクションの摂動を導入する。 我々はOpenOODフレームワークの複数のベンチマークで最先端のOOD検出結果を得る。
  論文  参考訳（メタデータ） (2024-05-27T13:38:28Z)
• EAT: Towards Long-Tailed Out-of-Distribution Detection [55.380390767978554]
  本稿では,長い尾を持つOOD検出の課題に対処する。 主な困難は、尾クラスに属するサンプルとOODデータを区別することである。 本稿では,(1)複数の禁制クラスを導入して分布内クラス空間を拡大すること,(2)コンテキストリッチなOODデータに画像をオーバーレイすることでコンテキスト限定のテールクラスを拡大すること,の2つの簡単な考え方を提案する。
  論文  参考訳（メタデータ） (2023-12-14T13:47:13Z)
• Learning to Augment Distributions for Out-of-Distribution Detection [49.12437300327712]
  アウト・オブ・ディストリビューション (OOD) は、ラベルがイン・ディストリビューション (ID) の場合と区別される。 我々は,OODの分布差を軽減するためにDAL(distributal-Augmented OOD Learning)を提案する。
  論文  参考訳（メタデータ） (2023-11-03T09:19:33Z)
• Diversified Outlier Exposure for Out-of-Distribution Detection via Informative Extrapolation [110.34982764201689]
  Out-of-Distribution(OOD)検出は、現実のアプリケーションに信頼性の高い機械学習モデルをデプロイするために重要である。 近年, 外部曝露によるOOD検出に有意な結果が得られた。 本稿では,補助外乱量に基づく情報外挿による効果的なOOD検出のための新しい枠組み,すなわちDivOE(Diversified Outlier Exposure)を提案する。
  論文  参考訳（メタデータ） (2023-10-21T07:16:09Z)
• Continual Evidential Deep Learning for Out-of-Distribution Detection [20.846788009755183]
  不確実性に基づくディープラーニングモデルは、正確で信頼性の高い予測を提供する能力に対して、大きな関心を集めている。 Evidential Deep Learningは、単一決定論的ニューラルネットワークによるアウト・オブ・ディストリビューション(OOD)データの検出において、優れたパフォーマンスを実現している。 本稿では,オブジェクト分類とOOD検出を同時に行うために,明らかなディープラーニング手法を連続的な学習フレームワークに統合することを提案する。
  論文  参考訳（メタデータ） (2023-09-06T13:36:59Z)
• Unsupervised Evaluation of Out-of-distribution Detection: A Data-centric Perspective [55.45202687256175]
  アウト・オブ・ディストリビューション(OOD)検出法は、個々のテストサンプルがイン・ディストリビューション(IND)なのかOODなのかという、試験対象の真実を持っていると仮定する。 本稿では,OOD検出における教師なし評価問題を初めて紹介する。 我々は,OOD検出性能の教師なし指標としてGscoreを計算する3つの方法を提案する。
  論文  参考訳（メタデータ） (2023-02-16T13:34:35Z)
• Enhancing Out-of-Distribution Detection in Natural Language Understanding via Implicit Layer Ensemble [22.643719584452455]
  out-of-distribution (OOD) 検出は、意図したデータ分布からoutlierを識別することを目的としている。 本研究では,中間機能に階層化表現の学習を促すコントラスト学習に基づく新しいフレームワークを提案する。 私たちのアプローチは他の作業よりもはるかに効果的です。
  論文  参考訳（メタデータ） (2022-10-20T06:05:58Z)
• Breaking Down Out-of-Distribution Detection: Many Methods Based on OOD Training Data Estimate a Combination of the Same Core Quantities [104.02531442035483]
  本研究の目的は,OOD検出手法の暗黙的なスコアリング機能を識別すると同時に,共通の目的を認識することである。 内分布と外分布の2値差はOOD検出問題のいくつかの異なる定式化と等価であることを示す。 また, 外乱露光で使用される信頼損失は, 理論上最適のスコアリング関数と非自明な方法で異なる暗黙的なスコアリング関数を持つことを示した。
  論文  参考訳（メタデータ） (2022-06-20T16:32:49Z)
• ATOM: Robustifying Out-of-distribution Detection Using Outlier Mining [51.19164318924997]
  インフォメーション・アウトリエ・マイニングによるアドリアトレーニングは、OOD検出の堅牢性を向上させる。 ATOMは,古典的,敵対的なOOD評価タスクの幅広いファミリーの下で,最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2020-06-26T20:58:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。