論文の概要: Debiased Negative Mining Improves Out-of-distribution Detection with Pre-trained Vision-Language Models
- arxiv url: http://arxiv.org/abs/2605.23797v1
- Date: Fri, 22 May 2026 15:57:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 17:29:20.424767
- Title: Debiased Negative Mining Improves Out-of-distribution Detection with Pre-trained Vision-Language Models
- Title(参考訳): Debiased Negative Miningは、事前訓練されたビジョンランゲージモデルによるアウト・オブ・ディストリビューション検出を改善する
- Authors: Bo Peng, Jie Lu, Guangquan Zhang, Zhen Fang,
- Abstract要約: 機械学習モデルの信頼性を高めるための重要なアプローチとして、アウト・オブ・ディストリビューション(OOD)検出が登場している。
本稿では,事前学習型視覚言語モデル(VLM)を用いたポストホックOOD検出の急激なパラダイムに焦点を当てた。
我々は, 負ラベルの分布を間接的に近似することにより, 負ラベルのサンプリングバイアスを補正する理論的枠組みを開発した。
- 参考スコア(独自算出の注目度): 30.819876174251863
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Aiming at identifying unexpected inputs from unknown classes, out-of-distribution (OOD) detection has emerged as a pivotal approach to enhancing the reliability of machine learning models. This paper focuses on the burgeoning paradigm of post-hoc OOD detection with pre-trained vision-language models (VLMs), where a popular pipeline is to detect OOD inputs by examining their affinities between ID labels and negative labels, i.e., those semantically different from ID labels. Due to the unavailability of target OOD labels, existing works predominantly rely on heuristic rules to mine negative labels from unlabeled wild corpus data. Despite the empirical success, we argue that the power of VLM-based OOD detection has yet to be fully unleashed since the notorious false negative problem is far from addressed in the literature. With this motivation, we are interested in addressing the challenge of mining true negative labels for OOD scoring. To this end, we develop a theoretical framework for correcting the sampling bias of negatives labels by indirectly approximating the distribution of negative labels. Perhaps surprisingly, we show that the debiased negative mining can be naturally converted into Monte-Carlo sampling based on ID labels and the unlabeled wild corpus data. Extensive experiments empirically manifest that our method establishes a new state-of-the-art in a variety of OOD detection setups. Code is publicly available at \href{https://github.com/60pen9/Debiased-Negative-Mining-Improves-OOD-Detection-with-Pre-trained-VLMs}{\textcolor{red}{here}}.
- Abstract(参考訳): 未知のクラスからの予期せぬ入力を特定することを目的として、機械学習モデルの信頼性を高めるための重要なアプローチとして、アウト・オブ・ディストリビューション(OOD)検出が登場した。
本稿では,事前学習された視覚言語モデル(VLM)を用いたポストホックなOOD検出の新たなパラダイムに焦点を当て,IDラベルと負ラベルとの親和性,すなわちIDラベルと意味的に異なるOOD入力を検出することで,一般的なパイプラインを構築する。
対象のOODラベルが利用できないため、既存の研究は主に、ラベルのない野生のコーパスデータから負のラベルをマイニングするためのヒューリスティックなルールに依存している。
実証的な成功にもかかわらず、VLMに基づくOOD検出のパワーは、悪名高い偽陰性問題が文献で論じられていないため、まだ完全には解けていないと論じる。
このモチベーションにより、私たちはOODスコアの真の負のラベルをマイニングするという課題に対処することに興味を持っています。
そこで我々は, 負ラベルの分布を間接的に近似することにより, 負ラベルのサンプリングバイアスを補正する理論的枠組みを開発した。
恐らく驚くべきことに、偏りのない負のマイニングは、IDラベルとラベルなしの野生のコーパスデータに基づいて、自然にモンテカルロのサンプリングに変換できることが示される。
各種OOD検出装置において,本手法が新たな最先端技術を確立することを実証実験により実証した。
コードは href{https://github.com/60pen9/Debiased-Negative-Mining-Improves-OOD-Detection-with-Pre-trained-VLMs}{\textcolor{red}{here}} で公開されている。
関連論文リスト
- Activation Matters: Test-time Activated Negative Labels for OOD Detection with Vision-Language Models [22.58959194553246]
アウト・オブ・ディストリビューション(OOD)検出は、イン・ディストリビューション(ID)から逸脱するサンプルを特定することを目的としている。
1つの一般的なパイプラインは、IDクラスから離れた負のラベルを導入し、それらのラベルとの距離に基づいてOODを検出することでこの問題に対処する。
コーパスデータセット全体のアクティベーションレベルを動的に評価することにより、アンダーラインテスト時アンダーラインアクティベートアンダーラインNegativeアンダーラインラベル(TANL)を提案する。
論文 参考訳(メタデータ) (2026-03-26T09:53:04Z) - NegRefine: Refining Negative Label-Based Zero-Shot OOD Detection [3.9940875711185124]
NegRefineはゼロショットOOD検出のための新規な負ラベル改質フレームワークである。
下位分類ラベルと固有名詞を負のラベル集合から除外するフィルタリング機構を導入する。
我々は、ImageNet-1Kを含む大規模ベンチマークでNegRefineを評価する。
論文 参考訳(メタデータ) (2025-07-13T21:15:30Z) - Semantic or Covariate? A Study on the Intractable Case of Out-of-Distribution Detection [70.57120710151105]
ID分布のセマンティック空間をより正確に定義する。
また,OOD と ID の区別性を保証する "Tractable OOD" の設定も定義する。
論文 参考訳(メタデータ) (2024-11-18T03:09:39Z) - Negative Label Guided OOD Detection with Pretrained Vision-Language Models [96.67087734472912]
Out-of-distriion (OOD) は未知のクラスからサンプルを識別することを目的としている。
我々は,大規模なコーパスデータベースから大量の負のラベルを抽出する,NegLabelと呼ばれる新しいポストホックOOD検出手法を提案する。
論文 参考訳(メタデータ) (2024-03-29T09:19:52Z) - How Does Unlabeled Data Provably Help Out-of-Distribution Detection? [63.41681272937562]
in-distribution (ID) とout-of-distribution (OOD) の両データの不均一性のため、未ラベルの in-the-wild データは非自明である。
本稿では,理論的保証と実証的有効性の両方を提供する新たな学習フレームワークであるSAL(Separate And Learn)を紹介する。
論文 参考訳(メタデータ) (2024-02-05T20:36:33Z) - Dist-PU: Positive-Unlabeled Learning from a Label Distribution
Perspective [89.5370481649529]
本稿では,PU学習のためのラベル分布視点を提案する。
そこで本研究では,予測型と基底型のラベル分布間のラベル分布の整合性を追求する。
提案手法の有効性を3つのベンチマークデータセットで検証した。
論文 参考訳(メタデータ) (2022-12-06T07:38:29Z) - Label Smoothed Embedding Hypothesis for Out-of-Distribution Detection [72.35532598131176]
我々は,$k$-NN 密度推定値を用いて OOD サンプルを検出する教師なし手法を提案する。
emphLabel Smoothed Embedding hypothesis と呼ばれるラベル平滑化に関する最近の知見を活用する。
提案手法は,多くのOODベースラインを上回り,新しい有限サンプル高確率統計結果を提供することを示す。
論文 参考訳(メタデータ) (2021-02-09T21:04:44Z) - Learn what you can't learn: Regularized Ensembles for Transductive
Out-of-distribution Detection [76.39067237772286]
ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。
本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。
本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
論文 参考訳(メタデータ) (2020-12-10T16:55:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。