論文の概要: Zero-Shot Out-of-Distribution Detection with Outlier Label Exposure

• arxiv url: http://arxiv.org/abs/2406.01170v1
• Date: Mon, 3 Jun 2024 10:07:21 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 01:28:45.229872
• Title: Zero-Shot Out-of-Distribution Detection with Outlier Label Exposure
• Title（参考訳）: 外乱露光によるゼロショットアウトオブディストリビューション検出
• Authors: Choubo Ding, Guansong Pang,
• Abstract要約: Outlier Label Exposure (OLE)は、補助的なoutlierクラスラベルを用いたゼロショットOOD検出を強化するアプローチである。 OLE は検出性能を大幅に改善し,大規模 OOD およびハード OOD 検出ベンチマークの最先端性能を向上する。
• 参考スコア（独自算出の注目度）: 23.266183020469065
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As vision-language models like CLIP are widely applied to zero-shot tasks and gain remarkable performance on in-distribution (ID) data, detecting and rejecting out-of-distribution (OOD) inputs in the zero-shot setting have become crucial for ensuring the safety of using such models on the fly. Most existing zero-shot OOD detectors rely on ID class label-based prompts to guide CLIP in classifying ID images and rejecting OOD images. In this work we instead propose to leverage a large set of diverse auxiliary outlier class labels as pseudo OOD class text prompts to CLIP for enhancing zero-shot OOD detection, an approach we called Outlier Label Exposure (OLE). The key intuition is that ID images are expected to have lower similarity to these outlier class prompts than OOD images. One issue is that raw class labels often include noise labels, e.g., synonyms of ID labels, rendering raw OLE-based detection ineffective. To address this issue, we introduce an outlier prototype learning module that utilizes the prompt embeddings of the outlier labels to learn a small set of pivotal outlier prototypes for an embedding similarity-based OOD scoring. Additionally, the outlier classes and their prototypes can be loosely coupled with the ID classes, leading to an inseparable decision region between them. Thus, we also introduce an outlier label generation module that synthesizes our outlier prototypes and ID class embeddings to generate in-between outlier prototypes to further calibrate the detection in OLE. Despite its simplicity, extensive experiments show that OLE substantially improves detection performance and achieves new state-of-the-art performance in large-scale OOD and hard OOD detection benchmarks.
• Abstract（参考訳）: CLIPのような視覚言語モデルは、ゼロショットタスクに広く適用され、インディストリビューション(ID)データにおいて顕著なパフォーマンスを得るため、ゼロショット設定におけるアウト・オブ・ディストリビューション(OOD)インプットの検出と拒否は、そのようなモデルをオンザフライで使用することの安全性を確保するために欠かせないものとなっている。 既存のゼロショットOOD検出器の多くは、IDイメージの分類とOODイメージの拒否においてCLIPを誘導するIDクラスラベルベースのプロンプトに依存している。 この作業では、代わりに、OODクラステキストプロンプトとして、多種多様な補助的なoutlierクラスラベルをCLIPにプロンプトして、ゼロショットのOOD検出を強化することを提案しています。 鍵となる直感は、ID画像は、OOD画像よりも、これらの外れ値クラスのプロンプトと類似性が低いことが期待されていることである。 1つの問題は、生のクラスラベルは、しばしばノイズラベル(例えば、IDラベルの同義語)を含み、生のOLEベースの検出が効果的でないことである。 この問題に対処するため,OODスコアリングを組み込むために,OODスコアリングを行うために,OODラベルの即時埋め込みを利用したOOD学習モジュールを導入する。 さらに、outlierクラスとそのプロトタイプはIDクラスと疎結合になり、分離不能な決定領域につながる。 そこで,我々は,OLEにおける検出のさらなる校正を行うために,外付け型プロトタイプとIDクラス埋め込みを合成して,外付け型プロトタイプを生成する,外付け型ラベル生成モジュールも導入した。 その単純さにもかかわらず、広範囲な実験により、OLEは検出性能を大幅に改善し、大規模OODおよびハードOOD検出ベンチマークにおける新しい最先端性能を実現することが示されている。

関連論文リスト

• LAPT: Label-driven Automated Prompt Tuning for OOD Detection with Vision-Language Models [17.15755066370757]
  Label-driven Automated Prompt Tuning (LAPT)は、手動プロンプトエンジニアリングの必要性を減らすOOD検出の新しいアプローチである。 In-distriion (ID) クラス名と負ラベルを自動的にマイニングする分布認識プロンプトを開発した。 LAPTは手作業によるプロンプトよりも一貫して優れており、OOD検出の新しい標準となっている。
  論文  参考訳（メタデータ） (2024-07-12T03:30:53Z)
• Rethinking the Evaluation of Out-of-Distribution Detection: A Sorites Paradox [70.57120710151105]
  既存のアウト・オブ・ディストリビューション(OOD)検出ベンチマークは、サンプルを新しいラベルでOODデータとして分類する。 いくつかの限界OODサンプルは、実際には分布内(ID)サンプルに密接なセマンティック内容を持ち、OODサンプルをソリテスパラドックス(英語版)と判定する。 この問題に対処するため,Incremental Shift OOD (IS-OOD) というベンチマークを構築した。
  論文  参考訳（メタデータ） (2024-06-14T09:27:56Z)
• Envisioning Outlier Exposure by Large Language Models for Out-of-Distribution Detection [71.93411099797308]
  オープンワールドシナリオに機械学習モデルをデプロイする場合、アウト・オブ・ディストリビューション(OOD)サンプルは不可欠である。 本稿では,大規模言語モデル(LLM)の専門知識と推論能力を活用して,この制約に対処することを提案する。 EOEは、遠、近、きめ細かいOOD検出など、さまざまなタスクに一般化することができる。 EOEは様々なOODタスクで最先端のパフォーマンスを実現し、ImageNet-1Kデータセットに効果的にスケールできる。
  論文  参考訳（メタデータ） (2024-06-02T17:09:48Z)
• Negative Label Guided OOD Detection with Pretrained Vision-Language Models [96.67087734472912]
  Out-of-distriion (OOD) は未知のクラスからサンプルを識別することを目的としている。 我々は,大規模なコーパスデータベースから大量の負のラベルを抽出する,NegLabelと呼ばれる新しいポストホックOOD検出手法を提案する。
  論文  参考訳（メタデータ） (2024-03-29T09:19:52Z)
• Out-of-Distribution Detection Using Peer-Class Generated by Large Language Model [0.0]
  アウト・オブ・ディストリビューション(OOD)検出は、マシンラーニングモデルの信頼性とセキュリティを確保するための重要なタスクである。 本稿では,ODPCと呼ばれる新しい手法を提案し,大規模言語モデルを用いてOODピア・セマンティクスのクラスを生成する。 5つのベンチマークデータセットの実験により,提案手法は最先端の結果が得られることが示された。
  論文  参考訳（メタデータ） (2024-03-20T06:04:05Z)
• From Global to Local: Multi-scale Out-of-distribution Detection [129.37607313927458]
  アウト・オブ・ディストリビューション(OOD)検出は、イン・ディストリビューション(ID)トレーニングプロセス中にラベルが見られない未知のデータを検出することを目的としている。 近年の表現学習の進歩により,距離に基づくOOD検出がもたらされる。 グローバルな視覚情報と局所的な情報の両方を活用する第1のフレームワークであるマルチスケールOOD検出(MODE)を提案する。
  論文  参考訳（メタデータ） (2023-08-20T11:56:25Z)
• Channel-Wise Contrastive Learning for Learning with Noisy Labels [60.46434734808148]
  チャネルワイド・コントラッシブ・ラーニング(CWCL)を導入し,真正なラベル情報とノイズを区別する。 従来のインスタンス単位のコントラスト学習(IWCL)とは異なり、CWCLはよりニュアンスでレジリエントな特徴を真のラベルと一致させる傾向にある。 まずCWCLを用いて、クリーンにラベル付けされたサンプルを識別し、次に、これらのサンプルを段階的に微調整する。
  論文  参考訳（メタデータ） (2023-08-14T06:04:50Z)
• LoCoOp: Few-Shot Out-of-Distribution Detection via Prompt Learning [37.36999826208225]
  本稿では,数発のアウト・オブ・ディストリビューション(OOD)検出のための新しい視覚言語プロンプト学習手法を提案する。 LoCoOpは、トレーニング中にCLIPローカル機能の一部をOOD機能として利用するOOD正規化を実行する。 LoCoOpは、既存のゼロショットと完全に教師付き検出方法より優れている。
  論文  参考訳（メタデータ） (2023-06-02T06:33:08Z)
• Learning to Detect Instance-level Salient Objects Using Complementary Image Labels [55.049347205603304]
  本報告では,本問題に対する第1の弱教師付きアプローチを提案する。 本稿では,候補対象の特定にクラス整合性情報を活用するSaliency Detection Branch,オブジェクト境界をデライン化するためにクラス整合性情報を利用するBundary Detection Branch,サブティナイズ情報を用いたCentroid Detection Branchを提案する。
  論文  参考訳（メタデータ） (2021-11-19T10:15:22Z)
• Semantically Coherent Out-of-Distribution Detection [26.224146828317277]
  現在のアウト・オブ・ディストリビューション(OOD)検出ベンチマークは、ひとつのデータセットをイン・ディストリビューション(ID)として定義し、他のすべてのデータセットをOODとして定義することで、一般的に構築されている。 ベンチマークを再設計し、セマンティック・コヒーレント・アウト・オブ・ディストリビューション検出(SC-OOD)を提案する。 本手法は,SC-OODベンチマークにおける最先端性能を実現する。
  論文  参考訳（メタデータ） (2021-08-26T17:53:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。