論文の概要: Exploring Vicinal Risk Minimization for Lightweight Out-of-Distribution
Detection
- arxiv url: http://arxiv.org/abs/2012.08398v1
- Date: Tue, 15 Dec 2020 16:13:33 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-07 05:32:51.413524
- Title: Exploring Vicinal Risk Minimization for Lightweight Out-of-Distribution
Detection
- Title(参考訳): 軽量分布検出のためのビクタナルリスク最小化の検討
- Authors: Deepak Ravikumar, Sangamesh Kodge, Isha Garg, Kaushik Roy
- Abstract要約: vicinal risk minimization (vrm) を用いたood検出器を開発した。
本手法は,既存のood検出手法と比較して計算量とメモリオーバーヘッドを大幅に削減し,ほぼ競合性能を実現している。
- 参考スコア(独自算出の注目度): 4.833037692738672
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks have found widespread adoption in solving complex tasks
ranging from image recognition to natural language processing. However, these
networks make confident mispredictions when presented with data that does not
belong to the training distribution, i.e. out-of-distribution (OoD) samples. In
this paper we explore whether the property of Vicinal Risk Minimization (VRM)
to smoothly interpolate between different class boundaries helps to train
better OoD detectors. We apply VRM to existing OoD detection techniques and
show their improved performance. We observe that existing OoD detectors have
significant memory and compute overhead, hence we leverage VRM to develop an
OoD detector with minimal overheard. Our detection method introduces an
auxiliary class for classifying OoD samples. We utilize mixup in two ways to
implement Vicinal Risk Minimization. First, we perform mixup within the same
class and second, we perform mixup with Gaussian noise when training the
auxiliary class. Our method achieves near competitive performance with
significantly less compute and memory overhead when compared to existing OoD
detection techniques. This facilitates the deployment of OoD detection on edge
devices and expands our understanding of Vicinal Risk Minimization for use in
training OoD detectors.
- Abstract(参考訳): ディープニューラルネットワークは、画像認識から自然言語処理まで、複雑なタスクの解決に広く採用されている。
しかし、これらのネットワークはトレーニング分布に属さないデータ、すなわちトレーニング分布に属さないデータを提示した場合、確実な誤予測を行う。
out-of-distribution (OoD) サンプル。
本稿では,異なるクラス境界間をスムーズに補間するためのビクタナルリスク最小化(vrm)の特性が,より優れたood検出器の訓練に有用かどうかを検討する。
既存のOoD検出技術にVRMを適用し,その性能向上を示す。
既存のOoD検出器はメモリと計算オーバーヘッドがかなり大きいので、VRMを利用して最小限の過度に耳を傾けるOoD検出器を開発する。
検出方法は,OoDサンプルを分類する補助クラスを導入する。
mixupを2つの方法で活用し,リスク最小化を実現している。
第1に,同一クラス内でミックスアップを行い,第2に補助クラスを訓練する際にガウス雑音とのミックスアップを行う。
本手法は,既存のood検出手法と比較して計算量とメモリオーバーヘッドを大幅に削減し,ほぼ競合性能を実現している。
これにより、エッジデバイスへのOoD検出の展開が容易になり、OoD検出器のトレーニングに使用するためのバイシナルリスク最小化の理解が拡大する。
関連論文リスト
- Small Object Detection via Coarse-to-fine Proposal Generation and
Imitation Learning [52.06176253457522]
本稿では,粗粒度パイプラインと特徴模倣学習に基づく小型物体検出に適した2段階フレームワークを提案する。
CFINetは、大規模な小さなオブジェクト検出ベンチマークであるSODA-DとSODA-Aで最先端の性能を達成する。
論文 参考訳(メタデータ) (2023-08-18T13:13:09Z) - Model2Detector:Widening the Information Bottleneck for
Out-of-Distribution Detection using a Handful of Gradient Steps [12.263417500077383]
アウト・オブ・ディストリビューション検出は、長いバニラニューラルネットワークを持つ重要な機能である。
推論時間外分布検出の最近の進歩は、これらの問題のいくつかを緩和するのに役立つ。
提案手法は,一般的な画像データセットにおける検出精度において,常に最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-02-22T23:03:40Z) - Benchmarking Deep Models for Salient Object Detection [67.07247772280212]
汎用SALOD(General SALient Object Detection)ベンチマークを構築し,複数のSOD手法の総合的な比較を行った。
以上の実験では、既存の損失関数は、通常いくつかの指標に特化しているが、他の指標には劣る結果が報告されている。
我々は,深層ネットワークに画素レベルと画像レベルの両方の監視信号を統合することにより,より識別的な特徴を学習するためのエッジ・アウェア・ロス(EA)を提案する。
論文 参考訳(メタデータ) (2022-02-07T03:43:16Z) - The KFIoU Loss for Rotated Object Detection [115.334070064346]
本稿では,SkewIoU損失とトレンドレベルアライメントを両立できる近似的損失を考案する上で,有効な方法の1つとして論じる。
具体的には、対象をガウス分布としてモデル化し、SkewIoUのメカニズムを本質的に模倣するためにカルマンフィルタを採用する。
KFIoUと呼ばれる新たな損失は実装が容易で、正確なSkewIoUよりもうまく動作する。
論文 参考訳(メタデータ) (2022-01-29T10:54:57Z) - Adversarially Robust One-class Novelty Detection [83.1570537254877]
既存のノベルティ検出器は敵の例に感受性があることが示される。
本稿では, 新規性検知器の潜伏空間を制御し, 敵に対する堅牢性を向上する防衛戦略を提案する。
論文 参考訳(メタデータ) (2021-08-25T10:41:29Z) - Improving Variational Autoencoder based Out-of-Distribution Detection
for Embedded Real-time Applications [2.9327503320877457]
アウト・オブ・ディストリビューション(OD)検出は、リアルタイムにアウト・オブ・ディストリビューションを検出するという課題に対処する新しいアプローチである。
本稿では,自律走行エージェントの周囲の有害な動きを頑健に検出する方法について述べる。
提案手法は,OoD因子の検出能力を一意に改善し,最先端手法よりも42%向上した。
また,本モデルでは,実験した実世界およびシミュレーション駆動データに対して,最先端技術よりも97%の精度でほぼ完璧に一般化した。
論文 参考訳(メタデータ) (2021-07-25T07:52:53Z) - DAAIN: Detection of Anomalous and Adversarial Input using Normalizing
Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。
本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。
当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文 参考訳(メタデータ) (2021-05-30T22:07:13Z) - Entropy Maximization and Meta Classification for Out-Of-Distribution
Detection in Semantic Segmentation [7.305019142196585]
自動運転など多くのアプリケーションにおいて,OoD(Out-of-Distribution)サンプルが不可欠である。
OoD検出の自然なベースラインアプローチは、ピクセル回りのソフトマックスエントロピーのしきい値です。
そのアプローチを大幅に改善する2段階の手順を提案する。
論文 参考訳(メタデータ) (2020-12-09T11:01:06Z) - Improved Detection of Adversarial Images Using Deep Neural Networks [2.3993545400014873]
近年の研究では、分類タスクに使用される機械学習モデルは、敵の例に弱いことが示されている。
本稿では,逆入力を検出するための特徴マップデノゲーションという新しい手法を提案する。
逆例からなる混合データセットにおける検出性能を示す。
論文 参考訳(メタデータ) (2020-07-10T19:02:24Z) - Generalized ODIN: Detecting Out-of-distribution Image without Learning
from Out-of-distribution Data [87.61504710345528]
我々は,OoD検出性能を改善しつつ,ニューラルネットワークをOoDデータのチューニングから解放する2つの方法を提案する。
具体的には、信頼性スコアリングと修正された入力前処理法を分離することを提案する。
大規模画像データセットのさらなる解析により、セマンティックシフトと非セマンティックシフトの2種類の分布シフトが有意な差を示すことが示された。
論文 参考訳(メタデータ) (2020-02-26T04:18:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。