論文の概要: Resultant: Incremental Effectiveness on Likelihood for Unsupervised Out-of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2409.03801v1
- Date: Thu, 5 Sep 2024 02:58:13 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-09 17:50:10.777336
- Title: Resultant: Incremental Effectiveness on Likelihood for Unsupervised Out-of-Distribution Detection
- Title(参考訳): 結果:非教師付きアウト・オブ・ディストリビューション検出における「いいね!」に対するインクリメンタルな効果
- Authors: Yewen Li, Chaojie Wang, Xiaobo Xia, Xu He, Ruyi An, Dong Li, Tongliang Liu, Bo An, Xinrun Wang,
- Abstract要約: unsupervised out-of-distribution (U-OOD) は、未表示のin-distriion(ID)データのみに基づいて訓練された検出器でデータサンプルを識別することである。
近年の研究は、DGMに基づく様々な検出器を開発し、可能性を超えて移動している。
本研究では,各方向,特にポストホック前とデータセットエントロピー・ミューチュアルキャリブレーションの2つの手法を適用した。
実験の結果、結果が新しい最先端のU-OOD検出器になる可能性が示された。
- 参考スコア(独自算出の注目度): 63.93728560200819
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Unsupervised out-of-distribution (U-OOD) detection is to identify OOD data samples with a detector trained solely on unlabeled in-distribution (ID) data. The likelihood function estimated by a deep generative model (DGM) could be a natural detector, but its performance is limited in some popular "hard" benchmarks, such as FashionMNIST (ID) vs. MNIST (OOD). Recent studies have developed various detectors based on DGMs to move beyond likelihood. However, despite their success on "hard" benchmarks, most of them struggle to consistently surpass or match the performance of likelihood on some "non-hard" cases, such as SVHN (ID) vs. CIFAR10 (OOD) where likelihood could be a nearly perfect detector. Therefore, we appeal for more attention to incremental effectiveness on likelihood, i.e., whether a method could always surpass or at least match the performance of likelihood in U-OOD detection. We first investigate the likelihood of variational DGMs and find its detection performance could be improved in two directions: i) alleviating latent distribution mismatch, and ii) calibrating the dataset entropy-mutual integration. Then, we apply two techniques for each direction, specifically post-hoc prior and dataset entropy-mutual calibration. The final method, named Resultant, combines these two directions for better incremental effectiveness compared to either technique alone. Experimental results demonstrate that the Resultant could be a new state-of-the-art U-OOD detector while maintaining incremental effectiveness on likelihood in a wide range of tasks.
- Abstract(参考訳): unsupervised out-of-distriion (U-OOD) 検出は、未表示のin-distriion (ID)データのみに基づいて訓練された検出器を用いてOODデータサンプルを識別することである。
深部生成モデル (DGM) によって推定される可能性関数は自然検出器となりうるが、その性能はFashionMNIST (ID) や MNIST (OOD) のような一般的な "ハード" ベンチマークで制限されている。
近年の研究は、DGMに基づく様々な検出器を開発し、可能性を超えて移動している。
しかし、「ハード」ベンチマークでの成功にもかかわらず、ほとんどの場合、ほぼ完全な検出器となる可能性のあるSVHN (ID) 対 CIFAR10 (OOD) のような「ハードでない」ケースでは、その性能を常に上回るか、一致させるのに苦労している。
そこで本研究では,U-OOD検出の精度を常に上回るか,少なくともその性能に適合するか,という可能性に対する漸進的有効性に,より注意を払っている。
まず、変動型DGMの可能性について検討し、その検出性能を2方向に改善できることを見出した。
一 潜伏分布ミスマッチの緩和及び
二 データセットのエントロピー・ミューチュアル統合を校正すること。
次に,各方向,特にポストホック前とデータセットのエントロピー・ミューチュアルキャリブレーションの2つの手法を適用した。
最後の手法である Resultant はこれらの2つの方向を組み合わせて,いずれの手法よりもインクリメンタルな効率性を向上させる。
実験結果から, 結果物は多岐にわたるタスクにおいて, 確率の漸進的有効性を保ちつつ, 新たな最先端U-OOD検出器となる可能性が示唆された。
関連論文リスト
- What If the Input is Expanded in OOD Detection? [77.37433624869857]
Out-of-distriion (OOD) 検出は未知のクラスからのOOD入力を特定することを目的としている。
In-distriion(ID)データと区別するために,様々なスコアリング関数を提案する。
入力空間に異なる共通の汚職を用いるという、新しい視点を導入する。
論文 参考訳(メタデータ) (2024-10-24T06:47:28Z) - Margin-bounded Confidence Scores for Out-of-Distribution Detection [2.373572816573706]
本稿では,非自明なOOD検出問題に対処するため,Margin bounded Confidence Scores (MaCS) と呼ばれる新しい手法を提案する。
MaCS は ID と OOD のスコアの差を拡大し、決定境界をよりコンパクトにする。
画像分類タスクのための様々なベンチマークデータセットの実験により,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2024-09-22T05:40:25Z) - A Geometric Explanation of the Likelihood OOD Detection Paradox [19.205693812937422]
最小の確率質量を含む場合、高次領域は生成されないことを示す。
本稿では,事前訓練したDGMから得られた可能性とLID推定値とをペアリングするOOD検出手法を提案する。
論文 参考訳(メタデータ) (2024-03-27T18:02:49Z) - CADet: Fully Self-Supervised Out-Of-Distribution Detection With
Contrastive Learning [11.897976063005315]
本研究は,2種類のOODサンプルの同時検出における自己教師付きコントラスト学習の利用について検討する。
まず,自己指導型コントラスト学習と,最大平均誤差(MMD)2サンプルテストとを組み合わせた。
この成功に触発されたCADetは,単一試料のOOD検出のための新しい手法である。
論文 参考訳(メタデータ) (2022-10-04T17:02:37Z) - Benchmarking Deep Models for Salient Object Detection [67.07247772280212]
汎用SALOD(General SALient Object Detection)ベンチマークを構築し,複数のSOD手法の総合的な比較を行った。
以上の実験では、既存の損失関数は、通常いくつかの指標に特化しているが、他の指標には劣る結果が報告されている。
我々は,深層ネットワークに画素レベルと画像レベルの両方の監視信号を統合することにより,より識別的な特徴を学習するためのエッジ・アウェア・ロス(EA)を提案する。
論文 参考訳(メタデータ) (2022-02-07T03:43:16Z) - Exploring Covariate and Concept Shift for Detection and Calibration of
Out-of-Distribution Data [77.27338842609153]
キャラクタリゼーションにより、OODデータの検出と信頼性校正には、それぞれのシフトに対する感度が重要であることが明らかになった。
分布内データのみを用いて両シフトでのOOD検出を改善するために,幾何学的に着想を得た手法を提案する。
我々は,OOD検出とキャリブレーションの両面で,異なるタイプのシフトの下でうまく機能する手法を最初に提案する。
論文 参考訳(メタデータ) (2021-10-28T15:42:55Z) - Learn what you can't learn: Regularized Ensembles for Transductive
Out-of-distribution Detection [76.39067237772286]
ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。
本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。
本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
論文 参考訳(メタデータ) (2020-12-10T16:55:13Z) - Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。
ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
論文 参考訳(メタデータ) (2020-03-21T17:46:28Z) - RCC-Dual-GAN: An Efficient Approach for Outlier Detection with Few
Identified Anomalies [11.02452262854759]
外乱検出はデータマイニングにおいて重要な課題であり、様々な用途で多くの技術が研究されている。
本稿では,特定異常の潜在的な情報を直接利用し,個別の異常を同時に検出できる新しい検出モデルDual-GANを提案する。
さらに、ナッシュ平衡の評価と最適モデルの選定に対処するため、2つのモデルに2つの評価指標を作成し、検出プロセスをよりインテリジェントにするために導入する。
論文 参考訳(メタデータ) (2020-03-07T17:13:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。