論文の概要: Adaptive Label Smoothing for Out-of-Distribution Detection

• arxiv url: http://arxiv.org/abs/2410.06134v1
• Date: Tue, 8 Oct 2024 15:35:11 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-01 11:00:50.261865
• Title: Adaptive Label Smoothing for Out-of-Distribution Detection
• Title（参考訳）: 分布外検出のための適応ラベル平滑化
• Authors: Mingle Xu, Jaehwan Lee, Sook Yoon, Dong Sun Park,
• Abstract要約: 適応ラベル平滑化(ALS)と呼ばれる新しい正規化手法を提案する。 ALSは非真のクラスを同じ確率にプッシュするが、最大確率は固定でも制限でもない。 私たちのコードは一般に公開されます。
• 参考スコア（独自算出の注目度）: 1.5999407512883508
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Out-of-distribution (OOD) detection, which aims to distinguish unknown classes from known classes, has received increasing attention recently. A main challenge within is the unavailable of samples from the unknown classes in the training process, and an effective strategy is to improve the performance for known classes. Using beneficial strategies such as data augmentation and longer training is thus a way to improve OOD detection. However, label smoothing, an effective method for classifying known classes, degrades the performance of OOD detection, and this phenomenon is under exploration. In this paper, we first analyze that the limited and predefined learning target in label smoothing results in the smaller maximal probability and logit, which further leads to worse OOD detection performance. To mitigate this issue, we then propose a novel regularization method, called adaptive label smoothing (ALS), and the core is to push the non-true classes to have same probabilities whereas the maximal probability is neither fixed nor limited. Extensive experimental results in six datasets with two backbones suggest that ALS contributes to classifying known samples and discerning unknown samples with clear margins. Our code will be available to the public.
• Abstract（参考訳）: 近年,未知のクラスと未知のクラスを区別することを目的としたアウト・オブ・ディストリビューション(OOD)検出が注目されている。 主な課題は、トレーニングプロセスで未知のクラスからサンプルを入手できないことであり、効果的な戦略は既知のクラスのパフォーマンスを改善することである。 したがって、データ拡張や長いトレーニングのような有益な戦略を使用することで、OOD検出を改善することができる。 しかし、既知のクラスを分類する効果的な手法であるラベルスムーシングは、OOD検出の性能を低下させ、この現象を調査中である。 本稿ではまず,ラベル平滑化における限定的かつ事前定義された学習目標が,最大確率とロジットを小さくし,OOD検出性能が悪化することを示す。 この問題を緩和するために,適応ラベル平滑化 (ALS) と呼ばれる新しい正規化手法を提案する。 2つのバックボーンを持つ6つのデータセットの大規模な実験結果は、ALSが既知のサンプルを分類し、未知のサンプルを明確なマージンで識別することに寄与していることを示唆している。 私たちのコードは一般に公開されます。

関連論文リスト

• Collaborative Feature-Logits Contrastive Learning for Open-Set Semi-Supervised Object Detection [75.02249869573994]
  オープンセットのシナリオでは、ラベルなしデータセットには、イン・ディストリビューション(ID)クラスとアウト・オブ・ディストリビューション(OOD)クラスの両方が含まれている。 このような設定で半教師付き検出器を適用すると、OODクラスをIDクラスとして誤分類する可能性がある。 我々は、CFL-Detector(Collaborative Feature-Logits Detector)と呼ばれるシンプルで効果的な方法を提案する。
  論文  参考訳（メタデータ） (2024-11-20T02:57:35Z)
• Margin-bounded Confidence Scores for Out-of-Distribution Detection [2.373572816573706]
  本稿では,非自明なOOD検出問題に対処するため,Margin bounded Confidence Scores (MaCS) と呼ばれる新しい手法を提案する。 MaCS は ID と OOD のスコアの差を拡大し、決定境界をよりコンパクトにする。 画像分類タスクのための様々なベンチマークデータセットの実験により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2024-09-22T05:40:25Z)
• A noisy elephant in the room: Is your out-of-distribution detector robust to label noise? [49.88894124047644]
  我々は、最先端のOOD検出方法20について詳しく検討する。 不正に分類されたIDサンプルとOODサンプルの分離が不十分であることを示す。
  論文  参考訳（メタデータ） (2024-04-02T09:40:22Z)
• EAT: Towards Long-Tailed Out-of-Distribution Detection [55.380390767978554]
  本稿では,長い尾を持つOOD検出の課題に対処する。 主な困難は、尾クラスに属するサンプルとOODデータを区別することである。 本稿では,(1)複数の禁制クラスを導入して分布内クラス空間を拡大すること,(2)コンテキストリッチなOODデータに画像をオーバーレイすることでコンテキスト限定のテールクラスを拡大すること,の2つの簡単な考え方を提案する。
  論文  参考訳（メタデータ） (2023-12-14T13:47:13Z)
• Large Class Separation is not what you need for Relational Reasoning-based OOD Detection [12.578844450586]
  Out-Of-Distribution (OOD) 検出法はセマンティックノベルティを識別して解を提供する。 これらの手法の多くは、既知のデータの学習段階を利用しており、これは正規性の概念を捉えるためのモデル(または微調整)を訓練することを意味する。 実行可能な代替手段は、大きな事前訓練されたモデルによって生成された埋め込み空間の類似性を評価することであり、それ以上の学習は行わない。
  論文  参考訳（メタデータ） (2023-07-12T14:10:15Z)
• LINe: Out-of-Distribution Detection by Leveraging Important Neurons [15.797257361788812]
  本稿では,分布内データとOODデータ間のモデル出力の差を解析するための新しい側面を紹介する。 本稿では,分布検出のポストホックアウトのための新しい手法であるLINe( Leveraging Important Neurons)を提案する。
  論文  参考訳（メタデータ） (2023-03-24T13:49:05Z)
• Interpolation-based Contrastive Learning for Few-Label Semi-Supervised Learning [43.51182049644767]
  半教師付き学習(SSL)は,ラベルが限定された強力なモデルを構築する上で,有効な手法であることが長年証明されてきた。 摂動サンプルを元のものと類似した予測を強制する正規化に基づく手法が注目されている。 本稿では,学習ネットワークの埋め込みを誘導し,サンプル間の線形変化を誘導する新たな対照的な損失を提案する。
  論文  参考訳（メタデータ） (2022-02-24T06:00:05Z)
• Active Learning for Open-set Annotation [38.739845944840454]
  我々はLfOSAと呼ばれる新しいアクティブラーニングフレームワークを提案する。このフレームワークは、効果的なサンプリング戦略を用いて分類性能を高め、アノテーションのための既知のクラスからサンプルを正確に検出する。 実験結果から,提案手法は既知のクラスの選択精度を著しく向上し,アノテーションコストの低い分類精度を最先端の能動学習法よりも向上させることができることがわかった。
  論文  参考訳（メタデータ） (2022-01-18T06:11:51Z)
• Trash to Treasure: Harvesting OOD Data with Cross-Modal Matching for Open-Set Semi-Supervised Learning [101.28281124670647]
  オープンセット半教師付き学習(Open-set SSL)では、ラベルなしデータにOOD(Out-of-distribution)サンプルを含む、難しいが実用的なシナリオを調査する。 我々は、OODデータの存在を効果的に活用し、特徴学習を増強する新しいトレーニングメカニズムを提案する。 我々のアプローチは、オープンセットSSLのパフォーマンスを大幅に向上させ、最先端技術よりも大きなマージンで性能を向上します。
  論文  参考訳（メタデータ） (2021-08-12T09:14:44Z)
• Towards Reducing Labeling Cost in Deep Object Detection [61.010693873330446]
  本稿では,検知器の不確実性と頑健性の両方を考慮した,アクティブラーニングのための統一的なフレームワークを提案する。 提案手法は, 確率分布のドリフトを抑えながら, 極めて確実な予測を擬似ラベル化することができる。
  論文  参考訳（メタデータ） (2021-06-22T16:53:09Z)
• Learning with Out-of-Distribution Data for Audio Classification [60.48251022280506]
  我々は,OODインスタンスを破棄するよりも,特定のOODインスタンスを検出・復号化することで,学習に肯定的な影響を及ぼすことを示す。 提案手法は,畳み込みニューラルネットワークの性能を著しく向上させる。
  論文  参考訳（メタデータ） (2020-02-11T21:08:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。