論文の概要: DOI: Divergence-based Out-of-Distribution Indicators via Deep Generative
Models
- arxiv url: http://arxiv.org/abs/2108.05509v1
- Date: Thu, 12 Aug 2021 02:49:54 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-13 14:28:02.941560
- Title: DOI: Divergence-based Out-of-Distribution Indicators via Deep Generative
Models
- Title(参考訳): doi:深層生成モデルを用いた発散型分布指標
- Authors: Wenxiao Chen, Xiaohui Nie, Mingliang Li, Dan Pei
- Abstract要約: 深層生成モデルに基づくOoD(out-of-distriion)インジケータが最近提案され、小さなデータセットでうまく動作することが示されている。
既存のOoDインジケータのためのベンチマーク(92のデータセットペアを含む)の最初の大規模なコレクションを実行し、うまく機能しないことを観察する。
深層生成モデルにおける分散性に基づくアウト・オブ・ディストリビューションインジケータ(従来の可能性ベースではなく)のための新しい理論的枠組みであるDOIを提案する。
- 参考スコア(独自算出の注目度): 6.617664042202313
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To ensure robust and reliable classification results, OoD
(out-of-distribution) indicators based on deep generative models are proposed
recently and are shown to work well on small datasets. In this paper, we
conduct the first large collection of benchmarks (containing 92 dataset pairs,
which is 1 order of magnitude larger than previous ones) for existing OoD
indicators and observe that none perform well. We thus advocate that a large
collection of benchmarks is mandatory for evaluating OoD indicators. We propose
a novel theoretical framework, DOI, for divergence-based Out-of-Distribution
indicators (instead of traditional likelihood-based) in deep generative models.
Following this framework, we further propose a simple and effective OoD
detection algorithm: Single-shot Fine-tune. It significantly outperforms past
works by 5~8 in AUROC, and its performance is close to optimal. In recent, the
likelihood criterion is shown to be ineffective in detecting OoD. Single-shot
Fine-tune proposes a novel fine-tune criterion to detect OoD, by whether the
likelihood of the testing sample is improved after fine-tuning a well-trained
model on it. Fine-tune criterion is a clear and easy-following criterion, which
will lead the OoD domain into a new stage.
- Abstract(参考訳): 頑健で信頼性の高い分類結果を確保するために,最近,深層生成モデルに基づくood(out-of-distribution)インジケータが提案されている。
本稿では,既存のoodインジケータに対して,最初の大規模ベンチマーク(92組のデータセットペアを含む,従来よりも1桁大きい)を実施し,正常に動作しないことを示す。
したがって、OoDインジケータの評価には大量のベンチマークが必須である。
深層生成モデルにおいて, 発散に基づく分散指標(従来の確率に基づく指標に代えて)のための新しい理論的枠組みであるdoiを提案する。
このフレームワークに続いて,よりシンプルで効果的なOoD検出アルゴリズムであるシングルショットファインチューンを提案する。
AUROCでは過去の5~8倍の性能を示し、その性能は最適に近い。
近年では,oodの検出には可能性基準が有効でないことが示されている。
シングルショット・ファインツーンは,よく訓練されたモデルを微調整した後に,試験試料の確率が向上するかどうかを判断するための新しいファインツーン基準を提案する。
きめの細かい条件は明確で簡単に従える基準であり、oodドメインを新しい段階へと導く。
関連論文リスト
- DSDE: Using Proportion Estimation to Improve Model Selection for Out-of-Distribution Detection [15.238164468992148]
CIFAR10とCIFAR100の実験結果から,OoD検出問題に対処するためのアプローチの有効性が示された。
提案手法をDOS-Storey-based Detector Ensemble (DSDE) と呼ぶ。
論文 参考訳(メタデータ) (2024-11-03T09:01:36Z) - Improving Out-of-Distribution Generalization of Trajectory Prediction for Autonomous Driving via Polynomial Representations [16.856874154363588]
本稿では,2つの大規模動作データセット間でデータセットと予測タスクを均質化するOoDテストプロトコルを提案する。
モデルのサイズ、トレーニングの労力、推論時間を大幅に小さくすることで、IDテストのSotAに近いパフォーマンスに達し、OoDテストの堅牢性を大幅に向上します。
論文 参考訳(メタデータ) (2024-07-18T12:00:32Z) - SEE-OoD: Supervised Exploration For Enhanced Out-of-Distribution
Detection [11.05254400092658]
我々は,OoD検出精度を高めるために,ワッサースタインスコアを用いた生成逆学習手法を提案する。
具体的には、このジェネレータはOoD空間を探索し、識別器からのフィードバックを用いて合成OoDサンプルを生成する。
提案手法は,様々なコンピュータビジョンデータセットにおける最先端技術よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-10-12T05:20:18Z) - Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳(メタデータ) (2023-02-06T16:38:43Z) - Watermarking for Out-of-distribution Detection [76.20630986010114]
Out-of-Distribution (OOD) 検出は、よく訓練された深層モデルから抽出された表現に基づいてOODデータを識別することを目的としている。
本稿では,透かしという一般的な手法を提案する。
我々は,元データの特徴に重畳される統一パターンを学習し,ウォーターマーキング後にモデルの検出能力が大きく向上する。
論文 参考訳(メタデータ) (2022-10-27T06:12:32Z) - Raising the Bar on the Evaluation of Out-of-Distribution Detection [88.70479625837152]
我々は、知覚/視覚的・意味的類似性の概念をiDデータと微妙に異なる概念を用いて、OoDデータの2つのカテゴリを定義した。
iD データセットが与えられた2つのカテゴリそれぞれから OoD サンプルを生成するための GAN ベースのフレームワークを提案する。
従来のベンチマークで非常によく機能する最先端のOoD検出手法は,提案したベンチマークよりもはるかに堅牢であることを示す。
論文 参考訳(メタデータ) (2022-09-24T08:48:36Z) - Fake It Till You Make It: Near-Distribution Novelty Detection by
Score-Based Generative Models [54.182955830194445]
既存のモデルは、いわゆる"近く分布"設定で失敗するか、劇的な低下に直面します。
本稿では, スコアに基づく生成モデルを用いて, 合成近分布異常データを生成することを提案する。
本手法は,9つのノベルティ検出ベンチマークにおいて,近分布ノベルティ検出を6%改善し,最先端のノベルティ検出を1%から5%パスする。
論文 参考訳(メタデータ) (2022-05-28T02:02:53Z) - Enhancing the Generalization for Intent Classification and Out-of-Domain
Detection in SLU [70.44344060176952]
インテント分類は、音声言語理解(SLU)における主要な課題である
近年の研究では、余分なデータやラベルを使用することで、OOD検出性能が向上することが示されている。
本稿では、IND意図分類とOOD検出の両方をサポートしながら、INDデータのみを用いてモデルを訓練することを提案する。
論文 参考訳(メタデータ) (2021-06-28T08:27:38Z) - Label Smoothed Embedding Hypothesis for Out-of-Distribution Detection [72.35532598131176]
我々は,$k$-NN 密度推定値を用いて OOD サンプルを検出する教師なし手法を提案する。
emphLabel Smoothed Embedding hypothesis と呼ばれるラベル平滑化に関する最近の知見を活用する。
提案手法は,多くのOODベースラインを上回り,新しい有限サンプル高確率統計結果を提供することを示す。
論文 参考訳(メタデータ) (2021-02-09T21:04:44Z) - Entropy Maximization and Meta Classification for Out-Of-Distribution
Detection in Semantic Segmentation [7.305019142196585]
自動運転など多くのアプリケーションにおいて,OoD(Out-of-Distribution)サンプルが不可欠である。
OoD検出の自然なベースラインアプローチは、ピクセル回りのソフトマックスエントロピーのしきい値です。
そのアプローチを大幅に改善する2段階の手順を提案する。
論文 参考訳(メタデータ) (2020-12-09T11:01:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。