論文の概要: FOOD: Fast Out-Of-Distribution Detector
- arxiv url: http://arxiv.org/abs/2008.06856v4
- Date: Tue, 23 Feb 2021 16:19:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-28 08:56:14.860569
- Title: FOOD: Fast Out-Of-Distribution Detector
- Title(参考訳): 食品:迅速な流通検知装置
- Authors: Guy Amit, Moshe Levy, Ishai Rosenberg, Asaf Shabtai, Yuval Elovici
- Abstract要約: FOODは、最小の推論時間オーバーヘッドでOODサンプルを効率的に検出できる拡張ディープニューラルネットワーク(DNN)である。
SVHN, CIFAR-10, CIFAR-100データセット上でのFOODの検出性能を評価する。
以上の結果から, FOODは最先端性能の達成に加えて, 実世界のアプリケーションにも適用可能であることが示唆された。
- 参考スコア(独自算出の注目度): 43.31844129399436
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks (DNNs) perform well at classifying inputs associated
with the classes they have been trained on, which are known as in distribution
inputs. However, out-of-distribution (OOD) inputs pose a great challenge to
DNNs and consequently represent a major risk when DNNs are implemented in
safety-critical systems. Extensive research has been performed in the domain of
OOD detection. However, current state-of-the-art methods for OOD detection
suffer from at least one of the following limitations: (1) increased inference
time - this limits existing methods' applicability to many real-world
applications, and (2) the need for OOD training data - such data can be
difficult to acquire and may not be representative enough, thus limiting the
ability of the OOD detector to generalize. In this paper, we propose FOOD --
Fast Out-Of-Distribution detector -- an extended DNN classifier capable of
efficiently detecting OOD samples with minimal inference time overhead. Our
architecture features a DNN with a final Gaussian layer combined with the log
likelihood ratio statistical test and an additional output neuron for OOD
detection. Instead of using real OOD data, we use a novel method to craft
artificial OOD samples from in-distribution data, which are used to train our
OOD detector neuron. We evaluate FOOD's detection performance on the SVHN,
CIFAR-10, and CIFAR-100 datasets. Our results demonstrate that in addition to
achieving state-of-the-art performance, FOOD is fast and applicable to
real-world applications.
- Abstract(参考訳): ディープニューラルネットワーク(DNN)は、トレーニングされたクラスに関連する入力の分類において、よく機能する。
しかし、アウト・オブ・ディストリビューション(OOD)インプットはDNNにとって大きな課題となり、DNNが安全クリティカルなシステムで実装される場合の大きなリスクとなる。
OOD検出の分野では大規模な研究が行われている。
しかし、現在のOOD検出の最先端手法は、(1)推論時間の増加 - 既存のメソッドの多くの実世界のアプリケーションへの適用性を制限し、(2) OODトレーニングデータの必要性 - 取得が困難であり、十分に代表できない可能性があるため、OOD検出器の一般化能力の制限がある。
本稿では,oodサンプルを効率的に検出できる拡張dnn分類器であるfood-fast out-of-distribution detectorを提案する。
我々のアーキテクチャは、最終ガウス層を持つDNNと、OOD検出のための出力ニューロンの対数確率比統計テストを組み合わせたものである。
我々は、実際のOODデータの代わりに、OOD検出ニューロンをトレーニングするために使用される、分布内データから人工OODサンプルを作成する新しい方法を用いています。
SVHN, CIFAR-10, CIFAR-100データセット上でFOODの検出性能を評価する。
その結果,最先端のパフォーマンスを達成することに加えて,食品は速く,現実世界のアプリケーションに適用できることがわかった。
関連論文リスト
- Can OOD Object Detectors Learn from Foundation Models? [56.03404530594071]
アウト・オブ・ディストリビューション(OOD)オブジェクト検出は、オープンセットのOODデータがないため、難しい課題である。
テキストから画像への生成モデルの最近の進歩に触発されて,大規模オープンセットデータを用いて訓練された生成モデルがOODサンプルを合成する可能性について検討した。
SyncOODは,大規模基盤モデルの能力を活用するシンプルなデータキュレーション手法である。
論文 参考訳(メタデータ) (2024-09-08T17:28:22Z) - Detection of out-of-distribution samples using binary neuron activation
patterns [0.26249027950824505]
未確認入力を新しいものとして識別する能力は、自動運転車、無人航空機、ロボットなどの安全上重要な応用に不可欠である。
OODサンプルを検出するための既存のアプローチでは、DNNをブラックボックスとして扱い、出力予測の信頼性スコアを評価する。
本稿では,新しいOOD検出法を提案する。本手法は,ReLUアーキテクチャにおけるニューロン活性化パターン(NAP)の理論的解析に動機付けられている。
論文 参考訳(メタデータ) (2022-12-29T11:42:46Z) - Pseudo-OOD training for robust language models [78.15712542481859]
OOD検出は、あらゆる産業規模のアプリケーションに対する信頼性の高い機械学習モデルの鍵となるコンポーネントである。
In-distribution(IND)データを用いて擬似OODサンプルを生成するPOORE-POORE-POSthoc pseudo-Ood Regularizationを提案する。
我々は3つの現実世界の対話システムに関する枠組みを広く評価し、OOD検出における新たな最先端技術を実現した。
論文 参考訳(メタデータ) (2022-10-17T14:32:02Z) - Igeood: An Information Geometry Approach to Out-of-Distribution
Detection [35.04325145919005]
Igeoodは, オフ・オブ・ディストリビューション(OOD)サンプルを効果的に検出する手法である。
Igeoodは任意のトレーニング済みニューラルネットワークに適用され、機械学習モデルにさまざまなアクセス権を持つ。
Igeoodは、さまざまなネットワークアーキテクチャやデータセットにおいて、競合する最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-03-15T11:26:35Z) - ProtoInfoMax: Prototypical Networks with Mutual Information Maximization
for Out-of-Domain Detection [19.61846393392849]
ProtoInfoMaxは、Prototypeal Networksを拡張してIn-Domain(ID)とOOD文を同時に処理する新しいアーキテクチャである。
提案手法は,低資源環境下でのOOD検出性能を最大20%向上できることを示す。
論文 参考訳(メタデータ) (2021-08-27T11:55:34Z) - Provably Robust Detection of Out-of-distribution Data (almost) for free [124.14121487542613]
ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。
本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。
このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
論文 参考訳(メタデータ) (2021-06-08T11:40:49Z) - MOOD: Multi-level Out-of-distribution Detection [13.207044902083057]
異常な入力がデプロイ中にモデルが失敗するのを防ぐには、分散アウト・ディストリビューション(OOD)検出が不可欠です。
動的かつ効率的なOOD推論のための中間分類器出力を利用する,新しいフレームワークであるマルチレベルアウトオブディストリビューション検出MOODを提案する。
MOODは、競合するOOD検出性能を維持しながら、推論における最大71.05%の計算削減を実現します。
論文 参考訳(メタデータ) (2021-04-30T02:18:31Z) - Learn what you can't learn: Regularized Ensembles for Transductive
Out-of-distribution Detection [76.39067237772286]
ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。
本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。
本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
論文 参考訳(メタデータ) (2020-12-10T16:55:13Z) - Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。
ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
論文 参考訳(メタデータ) (2020-03-21T17:46:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。