論文の概要: EDGE: Unknown-aware Multi-label Learning by Energy Distribution Gap Expansion
- arxiv url: http://arxiv.org/abs/2412.07499v2
- Date: Mon, 23 Dec 2024 15:34:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-24 19:20:53.487197
- Title: EDGE: Unknown-aware Multi-label Learning by Energy Distribution Gap Expansion
- Title(参考訳): EDGE:エネルギー分配ギャップ拡大による未知のマルチラベル学習
- Authors: Yuchen Sun, Qianqian Xu, Zitai Wang, Zhiyong Yang, Junwei He,
- Abstract要約: Multi-label Out-Of-Distribution (OOD) 検出は,OOD サンプルを Multi-label In-Distribution (ID) サンプルから識別することを目的としている。
JointEnergyは、代表的なマルチラベルOOD推論基準である。
本研究では,不確実なエネルギー空間レイアウトを再構成する未知のマルチラベル学習フレームワークを提案する。
- 参考スコア(独自算出の注目度): 47.0234440617797
- License:
- Abstract: Multi-label Out-Of-Distribution (OOD) detection aims to discriminate the OOD samples from the multi-label In-Distribution (ID) ones. Compared with its multiclass counterpart, it is crucial to model the joint information among classes. To this end, JointEnergy, which is a representative multi-label OOD inference criterion, summarizes the logits of all the classes. However, we find that JointEnergy can produce an imbalance problem in OOD detection, especially when the model lacks enough discrimination ability. Specifically, we find that the samples only related to minority classes tend to be classified as OOD samples due to the ambiguous energy decision boundary. Besides, imbalanced multi-label learning methods, originally designed for ID ones, would not be suitable for OOD detection scenarios, even producing a serious negative transfer effect. In this paper, we resort to auxiliary outlier exposure (OE) and propose an unknown-aware multi-label learning framework to reshape the uncertainty energy space layout. In this framework, the energy score is separately optimized for tail ID samples and unknown samples, and the energy distribution gap between them is expanded, such that the tail ID samples can have a significantly larger energy score than the OOD ones. What's more, a simple yet effective measure is designed to select more informative OE datasets. Finally, comprehensive experimental results on multiple multi-label and OOD datasets reveal the effectiveness of the proposed method.
- Abstract(参考訳): Multi-label Out-Of-Distribution (OOD) 検出は,OOD サンプルを Multi-label In-Distribution (ID) サンプルから識別することを目的としている。
多クラスと比較して、クラス間でのジョイント情報をモデル化することが重要である。
この目的のために、複数ラベルのOOD推論基準であるJointEnergyは、すべてのクラスのロジットを要約する。
しかし、特にモデルに十分な識別能力がない場合、JointEnergyはOOD検出において不均衡な問題を生じさせる。
具体的には、マイノリティクラスのみに関連するサンプルは、曖昧なエネルギー決定境界のため、OODサンプルに分類される傾向にある。
さらに、元々IDのために設計された不均衡な多ラベル学習手法は、OOD検出シナリオには適せず、重大な負の伝達効果も生み出す。
本稿では、補助外周露光(OE)を活用し、不確実なエネルギー空間レイアウトを再構成する未知のマルチラベル学習フレームワークを提案する。
本フレームワークでは, テールID試料と未知試料にエネルギースコアを別々に最適化し, テールID試料と未知試料とのエネルギー分配ギャップを拡大し, テールID試料のエネルギースコアがOOD試料よりも大幅に大きいようにした。
さらに、より情報的なOEデータセットを選択するために、シンプルで効果的な尺度が設計されています。
最後に,複数ラベルおよびOODデータセットの総合的な実験結果から,提案手法の有効性を明らかにした。
関連論文リスト
- COOD: Concept-based Zero-shot OOD Detection [12.361461338978732]
ゼロショットマルチラベルOOD検出フレームワークであるCOODを紹介する。
ラベルごとに肯定的概念と否定的概念の両方で意味空間を豊かにすることにより、我々のアプローチは複雑なラベル依存をモデル化する。
提案手法は既存のアプローチよりも優れており,VOCとデータセットの両方で平均95%のAUROCを実現している。
論文 参考訳(メタデータ) (2024-11-15T08:15:48Z) - Scalable Ensemble Diversification for OOD Generalization and Detection [68.8982448081223]
SEDは、ハエのハードトレーニングサンプルを特定し、アンサンブルメンバーにこれらについて意見の一致を奨励する。
モデル間でのペアの相違を解消する既存の方法において,コストのかかる計算を避ける方法を示す。
OODの一般化のために,出力空間(古典的)アンサンブルや重量空間アンサンブル(モデルスープ)など,複数の環境での多様化による大きなメリットを観察する。
論文 参考訳(メタデータ) (2024-09-25T10:30:24Z) - Margin-bounded Confidence Scores for Out-of-Distribution Detection [2.373572816573706]
本稿では,非自明なOOD検出問題に対処するため,Margin bounded Confidence Scores (MaCS) と呼ばれる新しい手法を提案する。
MaCS は ID と OOD のスコアの差を拡大し、決定境界をよりコンパクトにする。
画像分類タスクのための様々なベンチマークデータセットの実験により,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2024-09-22T05:40:25Z) - Rethinking the Evaluation of Out-of-Distribution Detection: A Sorites Paradox [70.57120710151105]
既存のアウト・オブ・ディストリビューション(OOD)検出ベンチマークは、サンプルを新しいラベルでOODデータとして分類する。
いくつかの限界OODサンプルは、実際には分布内(ID)サンプルに密接なセマンティック内容を持ち、OODサンプルをソリテスパラドックス(英語版)と判定する。
この問題に対処するため,Incremental Shift OOD (IS-OOD) というベンチマークを構築した。
論文 参考訳(メタデータ) (2024-06-14T09:27:56Z) - Envisioning Outlier Exposure by Large Language Models for Out-of-Distribution Detection [71.93411099797308]
オープンワールドシナリオに機械学習モデルをデプロイする場合、アウト・オブ・ディストリビューション(OOD)サンプルは不可欠である。
本稿では,大規模言語モデル(LLM)の専門知識と推論能力を活用して,この制約に対処することを提案する。
EOEは、遠、近、きめ細かいOOD検出など、さまざまなタスクに一般化することができる。
EOEは様々なOODタスクで最先端のパフォーマンスを実現し、ImageNet-1Kデータセットに効果的にスケールできる。
論文 参考訳(メタデータ) (2024-06-02T17:09:48Z) - Multi-Label Out-of-Distribution Detection with Spectral Normalized Joint Energy [14.149428145967939]
本稿では,複数のラベルにまたがるラベル固有情報の統合手法であるスペクトル正規化結合エネルギー(SNoJoE)を紹介する。
以上の結果から, スペクトル正規化を結合エネルギースコアに適用することにより, OOD検出能力が向上することが示唆された。
論文 参考訳(メタデータ) (2024-05-08T02:05:38Z) - Out-of-Distribution Detection Using Peer-Class Generated by Large Language Model [0.0]
アウト・オブ・ディストリビューション(OOD)検出は、マシンラーニングモデルの信頼性とセキュリティを確保するための重要なタスクである。
本稿では,ODPCと呼ばれる新しい手法を提案し,大規模言語モデルを用いてOODピア・セマンティクスのクラスを生成する。
5つのベンチマークデータセットの実験により,提案手法は最先端の結果が得られることが示された。
論文 参考訳(メタデータ) (2024-03-20T06:04:05Z) - Diversified Outlier Exposure for Out-of-Distribution Detection via
Informative Extrapolation [110.34982764201689]
Out-of-Distribution(OOD)検出は、現実のアプリケーションに信頼性の高い機械学習モデルをデプロイするために重要である。
近年, 外部曝露によるOOD検出に有意な結果が得られた。
本稿では,補助外乱量に基づく情報外挿による効果的なOOD検出のための新しい枠組み,すなわちDivOE(Diversified Outlier Exposure)を提案する。
論文 参考訳(メタデータ) (2023-10-21T07:16:09Z) - Exploiting Mixed Unlabeled Data for Detecting Samples of Seen and Unseen
Out-of-Distribution Classes [5.623232537411766]
現実世界のアプリケーションでは、アウト・オブ・ディストリビューション(OOD)検出が不可欠であり、近年注目を集めている。
既存のOOD検出方法は、多くのラベル付きIn-Distribution(ID)データを必要とするため、大量のラベル付けコストが発生する。
本稿では,限られたラベル付きデータと豊富なラベル付きデータが利用可能な,より現実的なシナリオに焦点を当てる。
混合ラベル付きデータから潜在的なIDとOODサンプルを適応的に選択する適応型In-Out-Aware Learning(AIOL)法を提案する。
論文 参考訳(メタデータ) (2022-10-13T08:34:25Z) - Do Deep Neural Networks Always Perform Better When Eating More Data? [82.6459747000664]
Identically Independent Distribution(IID)とOut of Distribution(OOD)による実験を設計する。
IID条件下では、情報の量は各サンプルの効果度、サンプルの寄与度、クラス間の差がクラス情報の量を決定する。
OOD条件下では、試料のクロスドメイン度が寄与を決定づけ、無関係元素によるバイアス適合はクロスドメインの重要な要素である。
論文 参考訳(メタデータ) (2022-05-30T15:40:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。