論文の概要: Semantic Driven Energy based Out-of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2208.10787v1
- Date: Tue, 23 Aug 2022 07:40:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-24 13:18:29.712409
- Title: Semantic Driven Energy based Out-of-Distribution Detection
- Title(参考訳): セマンティクス駆動エネルギーに基づく分布外検出
- Authors: Abhishek Joshi, Sathish Chalasani, Kiran Nanjunda Iyer
- Abstract要約: エネルギーベースのOOD法は有望であり、優れた性能を発揮することが証明されている。
本稿では,エンドツーエンドのトレーニングシステムであり,最適化が容易なセマンティックなエネルギーベース手法を提案する。
その結果,我々の新しい手法は,一般的なベンチマーク上でのエネルギーベースモデルとして,外乱検出を強化し,最先端のモデルを実現する。
- 参考スコア(独自算出の注目度): 0.4640835690336652
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Detecting Out-of-Distribution (OOD) samples in real world visual applications
like classification or object detection has become a necessary precondition in
today's deployment of Deep Learning systems. Many techniques have been
proposed, of which Energy based OOD methods have proved to be promising and
achieved impressive performance. We propose semantic driven energy based
method, which is an end-to-end trainable system and easy to optimize. We
distinguish in-distribution samples from out-distribution samples with an
energy score coupled with a representation score. We achieve it by minimizing
the energy for in-distribution samples and simultaneously learn respective
class representations that are closer and maximizing energy for
out-distribution samples and pushing their representation further out from
known class representation. Moreover, we propose a novel loss function which we
call Cluster Focal Loss(CFL) that proved to be simple yet very effective in
learning better class wise cluster center representations. We find that, our
novel approach enhances outlier detection and achieve state-of-the-art as an
energy-based model on common benchmarks. On CIFAR-10 and CIFAR-100 trained
WideResNet, our model significantly reduces the relative average False Positive
Rate(at True Positive Rate of 95%) by 67.2% and 57.4% respectively, compared to
the existing energy based approaches. Further, we extend our framework for
object detection and achieve improved performance.
- Abstract(参考訳): 分類やオブジェクト検出といった現実世界のビジュアルアプリケーションにおけるOOD(Out-of-Distribution)サンプルの検出は、今日のディープラーニングシステムのデプロイにおいて必要条件となっている。
多くの技術が提案されており、エネルギーベースのOOD法は有望であり、優れた性能を達成している。
本稿では,エンドツーエンドのトレーニングシステムであり,最適化が容易なセマンティックなエネルギーベース手法を提案する。
我々は,エネルギースコアと表現スコアを併用した分布内サンプルと分布外サンプルとを区別する。
我々は, 分布内サンプルのエネルギーを最小化し, 分布外サンプルのエネルギーを最大化し, それらの表現を既知のクラス表現からさらに遠ざけるようにした。
さらに,クラスタ焦点損失(cluster focal loss, cfl)と呼ばれる新しい損失関数を提案する。
その結果,我々の新しい手法は,共通ベンチマーク上でのエネルギーベースモデルとして,外れ値の検出と最先端化を実現する。
CIFAR-10とCIFAR-100のトレーニングされたWideResNetでは、既存のエネルギーベースのアプローチと比較して、我々のモデルは相対平均偽陽性率(95%)を67.2%、57.4%削減する。
さらに,オブジェクト検出のためのフレームワークを拡張し,性能の向上を実現した。
関連論文リスト
- Shedding More Light on Robust Classifiers under the lens of Energy-based Models [3.953603590878949]
我々は、敵対的訓練(AT)のダイナミクスについて、新しい視点を提供する。
ATにおけるエネルギー環境の分析により、標的外攻撃は、モデルの観点からの本来のデータよりも、より分散した(低エネルギー)敵画像を生成することが明らかとなった。
厳格なエビデンスを動機とした重エネルギー教育(WEAT)の提案
論文 参考訳(メタデータ) (2024-07-08T18:31:19Z) - Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
反復Denoising Energy Matching (iDEM)
iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。
提案手法は,全測定値の最先端性能を達成し,2~5倍の速さでトレーニングを行う。
論文 参考訳(メタデータ) (2024-02-09T01:11:23Z) - Mean-AP Guided Reinforced Active Learning for Object Detection [31.304039641225504]
本稿では,オブジェクト検出のための平均APガイド型アクティブラーニングについて紹介する。
MGRALは、予測されたモデル出力変化の概念を深層検知ネットワークの情報性として活用する新しいアプローチである。
提案手法は,物体検出のための強化学習に基づく能動学習における新たなパラダイムを確立し,高い性能を示す。
論文 参考訳(メタデータ) (2023-10-12T14:59:22Z) - Glocal Energy-based Learning for Few-Shot Open-Set Recognition [57.84234213466372]
FSOR(Few-shot Open-set Recognition)は、非常に実用的なタスクである。
FSORのための新しいエネルギーベースハイブリッドモデルを提案する。
3つの標準FSORデータセットの実験は、我々のモデルの優れた性能を示している。
論文 参考訳(メタデータ) (2023-04-24T07:06:50Z) - Simplifying Model-based RL: Learning Representations, Latent-space
Models, and Policies with One Objective [142.36200080384145]
自己整合性を維持しつつ高いリターンを達成するために,潜在空間モデルとポリシーを協調的に最適化する単一目的を提案する。
得られたアルゴリズムは, モデルベースおよびモデルフリーRL手法のサンプル効率に適合するか, 改善することを示した。
論文 参考訳(メタデータ) (2022-09-18T03:51:58Z) - Fake It Till You Make It: Near-Distribution Novelty Detection by
Score-Based Generative Models [54.182955830194445]
既存のモデルは、いわゆる"近く分布"設定で失敗するか、劇的な低下に直面します。
本稿では, スコアに基づく生成モデルを用いて, 合成近分布異常データを生成することを提案する。
本手法は,9つのノベルティ検出ベンチマークにおいて,近分布ノベルティ検出を6%改善し,最先端のノベルティ検出を1%から5%パスする。
論文 参考訳(メタデータ) (2022-05-28T02:02:53Z) - Energy-Efficient Adaptive Machine Learning on IoT End-Nodes With
Class-Dependent Confidence [22.225875583595027]
少ない精度のドロップでエネルギー効率を得る効果的な方法は、ますます複雑なモデルの集合を順次実行することである。
現在の手法では、各モデルが生成する出力確率に1つのしきい値を用いる。
本手法は, シングルスレッド方式と比較して, エネルギー消費を大幅に削減できることを示す。
論文 参考訳(メタデータ) (2022-04-07T13:22:52Z) - Energy-Efficient and Federated Meta-Learning via Projected Stochastic
Gradient Ascent [79.58680275615752]
エネルギー効率のよいメタラーニングフレームワークを提案する。
各タスクは別々のエージェントによって所有されていると仮定するため、メタモデルをトレーニングするために限られたタスクが使用される。
論文 参考訳(メタデータ) (2021-05-31T08:15:44Z) - DEALIO: Data-Efficient Adversarial Learning for Imitation from
Observation [57.358212277226315]
観察ifoからの模倣学習において、学習エージェントは、実演者の生成した制御信号にアクセスせずに、実演行動の観察のみを用いて実演エージェントを模倣しようとする。
近年、逆模倣学習に基づく手法は、ifO問題に対する最先端のパフォーマンスをもたらすが、データ非効率でモデルなしの強化学習アルゴリズムに依存するため、サンプルの複雑さに悩まされることが多い。
この問題は、サンプルの収集が時間、エネルギー、およびリスクの面で高いコストを被る可能性がある現実世界の設定に展開することは非現実的です。
よりデータ効率の高いifOアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-03-31T23:46:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。