論文の概要: Envisioning Outlier Exposure by Large Language Models for Out-of-Distribution Detection

• arxiv url: http://arxiv.org/abs/2406.00806v1
• Date: Sun, 2 Jun 2024 17:09:48 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 03:16:50.571238
• Title: Envisioning Outlier Exposure by Large Language Models for Out-of-Distribution Detection
• Title（参考訳）: アウト・オブ・ディストリビューション検出のための大規模言語モデルによるアウトレイラ露光の予測
• Authors: Chentao Cao, Zhun Zhong, Zhanke Zhou, Yang Liu, Tongliang Liu, Bo Han,
• Abstract要約: オープンワールドシナリオに機械学習モデルをデプロイする場合、アウト・オブ・ディストリビューション(OOD)サンプルは不可欠である。 本稿では,大規模言語モデル(LLM)の専門知識と推論能力を活用して,この制約に対処することを提案する。 EOEは、遠、近、きめ細かいOOD検出など、さまざまなタスクに一般化することができる。 EOEは様々なOODタスクで最先端のパフォーマンスを実現し、ImageNet-1Kデータセットに効果的にスケールできる。
• 参考スコア（独自算出の注目度）: 71.93411099797308
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Detecting out-of-distribution (OOD) samples is essential when deploying machine learning models in open-world scenarios. Zero-shot OOD detection, requiring no training on in-distribution (ID) data, has been possible with the advent of vision-language models like CLIP. Existing methods build a text-based classifier with only closed-set labels. However, this largely restricts the inherent capability of CLIP to recognize samples from large and open label space. In this paper, we propose to tackle this constraint by leveraging the expert knowledge and reasoning capability of large language models (LLM) to Envision potential Outlier Exposure, termed EOE, without access to any actual OOD data. Owing to better adaptation to open-world scenarios, EOE can be generalized to different tasks, including far, near, and fine-grained OOD detection. Technically, we design (1) LLM prompts based on visual similarity to generate potential outlier class labels specialized for OOD detection, as well as (2) a new score function based on potential outlier penalty to distinguish hard OOD samples effectively. Empirically, EOE achieves state-of-the-art performance across different OOD tasks and can be effectively scaled to the ImageNet-1K dataset. The code is publicly available at: https://github.com/tmlr-group/EOE.
• Abstract（参考訳）: オープンワールドシナリオに機械学習モデルをデプロイする際には、アウト・オブ・ディストリビューション(OOD)サンプルの検出が不可欠だ。 ゼロショットOOD検出は、CLIPのようなビジョン言語モデルの出現により、ID(In-distriion)データのトレーニングを必要としない。 既存のメソッドは、クローズドセットラベルのみを持つテキストベースの分類器を構築する。 しかし、これはCLIPが大規模でオープンなラベル空間からサンプルを認識する能力に大きく制限されている。 本稿では,大規模言語モデル(LLM)の専門知識と推論能力を活用して,実際のOODデータにアクセスすることなく,EOEと呼ばれる潜在的な外部被曝を予測し,この制約に対処することを提案する。 オープンワールドシナリオへの適応性の向上により、EOEは、遠く、近く、きめ細かいOOD検出など、さまざまなタスクに一般化することができる。 技術的には, (1) LLMプロンプトは視覚的類似性に基づいて, OOD検出に特化している可能性のあるアウトリーチクラスラベルを生成するとともに, (2) ハードなOODサンプルを効果的に識別するために, 潜在的なアウトリーチペナルティに基づく新たなスコア関数を設計する。 実証的には、EOEは異なるOODタスク間で最先端のパフォーマンスを達成し、ImageNet-1Kデータセットに効果的にスケールすることができる。 コードは、https://github.com/tmlr-group/EOEで公開されている。

関連論文リスト

• Zero-Shot Out-of-Distribution Detection with Outlier Label Exposure [23.266183020469065]
  Outlier Label Exposure (OLE)は、補助的なoutlierクラスラベルを用いたゼロショットOOD検出を強化するアプローチである。 OLE は検出性能を大幅に改善し,大規模 OOD およびハード OOD 検出ベンチマークの最先端性能を向上する。
  論文  参考訳（メタデータ） (2024-06-03T10:07:21Z)
• CLIPScope: Enhancing Zero-Shot OOD Detection with Bayesian Scoring [16.0716584170549]
  ゼロショットOOD検出手法であるCLIPScopeを導入する。 CLIPScopeは、大きな語彙データベースからOODクラスをマイニングするための新しい戦略を取り入れている。 OODサンプルのカバレッジを最大化するために、CLIP埋め込み距離の観点から、最も多く、最もIDクラスに最も近いクラスラベルを選択する。
  論文  参考訳（メタデータ） (2024-05-23T16:03:55Z)
• Out-of-Distribution Detection Using Peer-Class Generated by Large Language Model [0.0]
  アウト・オブ・ディストリビューション(OOD)検出は、マシンラーニングモデルの信頼性とセキュリティを確保するための重要なタスクである。 本稿では,ODPCと呼ばれる新しい手法を提案し,大規模言語モデルを用いてOODピア・セマンティクスのクラスを生成する。 5つのベンチマークデータセットの実験により,提案手法は最先端の結果が得られることが示された。
  論文  参考訳（メタデータ） (2024-03-20T06:04:05Z)
• Diversified Outlier Exposure for Out-of-Distribution Detection via Informative Extrapolation [110.34982764201689]
  Out-of-Distribution(OOD)検出は、現実のアプリケーションに信頼性の高い機械学習モデルをデプロイするために重要である。 近年, 外部曝露によるOOD検出に有意な結果が得られた。 本稿では,補助外乱量に基づく情報外挿による効果的なOOD検出のための新しい枠組み,すなわちDivOE(Diversified Outlier Exposure)を提案する。
  論文  参考訳（メタデータ） (2023-10-21T07:16:09Z)
• From Global to Local: Multi-scale Out-of-distribution Detection [129.37607313927458]
  アウト・オブ・ディストリビューション(OOD)検出は、イン・ディストリビューション(ID)トレーニングプロセス中にラベルが見られない未知のデータを検出することを目的としている。 近年の表現学習の進歩により,距離に基づくOOD検出がもたらされる。 グローバルな視覚情報と局所的な情報の両方を活用する第1のフレームワークであるマルチスケールOOD検出(MODE)を提案する。
  論文  参考訳（メタデータ） (2023-08-20T11:56:25Z)
• Generalized Open-World Semi-Supervised Object Detection [22.058195650206944]
  本稿では, アンサンブルをベースとしたOODエクスプローラーと, 適応型半教師付きオブジェクト検出フレームワークを提案する。 提案手法は最先端のOOD検出アルゴリズムと競合し,IDクラスとOODクラスの両方の半教師付き学習性能を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2023-07-28T17:59:03Z)
• Unleashing Mask: Explore the Intrinsic Out-of-Distribution Detection Capability [70.72426887518517]
  Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイする際に、セキュアAIの必須の側面である。 本稿では,IDデータを用いた学習モデルのOOD識別能力を復元する新しい手法であるUnleashing Maskを提案する。 本手法では, マスクを用いて記憶した非定型サンプルを抽出し, モデルを微調整するか, 導入したマスクでプルーする。
  論文  参考訳（メタデータ） (2023-06-06T14:23:34Z)
• Trash to Treasure: Harvesting OOD Data with Cross-Modal Matching for Open-Set Semi-Supervised Learning [101.28281124670647]
  オープンセット半教師付き学習(Open-set SSL)では、ラベルなしデータにOOD(Out-of-distribution)サンプルを含む、難しいが実用的なシナリオを調査する。 我々は、OODデータの存在を効果的に活用し、特徴学習を増強する新しいトレーニングメカニズムを提案する。 我々のアプローチは、オープンセットSSLのパフォーマンスを大幅に向上させ、最先端技術よりも大きなマージンで性能を向上します。
  論文  参考訳（メタデータ） (2021-08-12T09:14:44Z)
• Triggering Failures: Out-Of-Distribution detection by learning from local adversarial attacks in Semantic Segmentation [76.2621758731288]
  セグメンテーションにおけるアウト・オブ・ディストリビューション(OOD)オブジェクトの検出に取り組む。 私たちの主な貢献は、ObsNetと呼ばれる新しいOOD検出アーキテクチャであり、ローカル・アタック(LAA)に基づく専用トレーニングスキームと関連付けられています。 3つの異なるデータセットの文献の最近の10つの手法と比較して,速度と精度の両面で最高の性能が得られることを示す。
  論文  参考訳（メタデータ） (2021-08-03T17:09:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。