論文の概要: Deep Residual Flow for Out of Distribution Detection
- arxiv url: http://arxiv.org/abs/2001.05419v3
- Date: Sun, 19 Jul 2020 17:44:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-11 05:39:50.530641
- Title: Deep Residual Flow for Out of Distribution Detection
- Title(参考訳): 分布検出のための深部残留流
- Authors: Ev Zisselman and Aviv Tamar
- Abstract要約: 本稿では,正規化フローに基づく表現密度モデルを活用することにより,最先端技術を改善する新しい手法を提案する。
本稿では,ResNet および DenseNet アーキテクチャにおける提案手法の有効性について述べる。
- 参考スコア(独自算出の注目度): 27.218308616245164
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The effective application of neural networks in the real-world relies on
proficiently detecting out-of-distribution examples. Contemporary methods seek
to model the distribution of feature activations in the training data for
adequately distinguishing abnormalities, and the state-of-the-art method uses
Gaussian distribution models. In this work, we present a novel approach that
improves upon the state-of-the-art by leveraging an expressive density model
based on normalizing flows. We introduce the residual flow, a novel flow
architecture that learns the residual distribution from a base Gaussian
distribution. Our model is general, and can be applied to any data that is
approximately Gaussian. For out of distribution detection in image datasets,
our approach provides a principled improvement over the state-of-the-art.
Specifically, we demonstrate the effectiveness of our method in ResNet and
DenseNet architectures trained on various image datasets. For example, on a
ResNet trained on CIFAR-100 and evaluated on detection of out-of-distribution
samples from the ImageNet dataset, holding the true positive rate (TPR) at
$95\%$, we improve the true negative rate (TNR) from $56.7\%$ (current
state-of-the-art) to $77.5\%$ (ours).
- Abstract(参考訳): 現実世界におけるニューラルネットワークの効果的な応用は、分布外例を十分に検出することに依存する。
現代手法では, 異常を適切に識別するために, 訓練データ中の特徴活性化の分布をモデル化し, 最先端の手法ではガウス分布モデルを用いる。
本稿では, 流れの正規化に基づく表現的密度モデルを用いて, 最先端の技術を改善する新しい手法を提案する。
本稿では,ガウス分布から残差分布を学習する新しいフローアーキテクチャである残差フローを紹介する。
我々のモデルは一般的であり、ほぼガウス的である任意のデータに適用することができる。
画像データセットにおける分布検出の欠如に対して,本手法は最先端技術に対する原理的改善を提供する。
具体的には,様々な画像データセットでトレーニングされたresnetおよびdrknetアーキテクチャにおいて,本手法の有効性を示す。
例えば、CIFAR-100でトレーニングされ、ImageNetデータセットから配布外サンプルの検出に基づいて評価されたResNetでは、真の正のレート(TPR)を9,5\%$とすることで、真の負のレート(TNR)を56.7\%(現在の最先端)から77.5\%(当社)に改善する。
関連論文リスト
- Projection Regret: Reducing Background Bias for Novelty Detection via
Diffusion Models [72.07462371883501]
本研究では,非意味情報のバイアスを緩和する効率的な新規性検出手法であるemphProjection Regret(PR)を提案する。
PRは、テスト画像とその拡散ベースの投影の間の知覚距離を計算し、異常を検出する。
拡張実験により、PRは生成モデルに基づく新規性検出手法の先行技術よりも有意なマージンで優れていることが示された。
論文 参考訳(メタデータ) (2023-12-05T09:44:47Z) - GSURE-Based Diffusion Model Training with Corrupted Data [44.47246905244631]
本稿では, 劣化データのみに基づく生成拡散モデルのための新しいトレーニング手法を提案する。
顔画像と磁気共鳴画像(MRI)の撮影技術について紹介する。
論文 参考訳(メタデータ) (2023-05-22T15:27:20Z) - Computing high-dimensional optimal transport by flow neural networks [22.320632565424745]
この研究はフローベースモデルを開発し、P$から任意の$Q$に転送する。
本稿では,フローニューラルネットワークのトレーニングにより,$P$と$Q$の間の動的最適輸送を学習することを提案する。
訓練された最適輸送流はその後、無限小密度推定(DRE)や、生成モデルのための潜在空間における分布を含む多くの下流タスクを実行することができる。
論文 参考訳(メタデータ) (2023-05-19T17:48:21Z) - Take Me Home: Reversing Distribution Shifts using Reinforcement Learning [4.404010671832661]
そこで本研究では,オンライン配信のシフトからシステムを回復するための代替手法を提案する。
我々は,分散シフトに対するImageNet-Cベンチマークに分布シフト回復手法を適用した。
我々は、さまざまな最先端のImageNetに対して、平均精度を14.21%まで改善したことを示す。
論文 参考訳(メタデータ) (2023-02-20T22:06:26Z) - Score Approximation, Estimation and Distribution Recovery of Diffusion
Models on Low-Dimensional Data [68.62134204367668]
本稿では,未知の低次元線形部分空間上でデータをサポートする場合の拡散モデルのスコア近似,推定,分布回復について検討する。
適切に選択されたニューラルネットワークアーキテクチャでは、スコア関数を正確に近似し、効率的に推定することができる。
推定スコア関数に基づいて生成された分布は、データ幾何学構造を捕捉し、データ分布の近傍に収束する。
論文 参考訳(メタデータ) (2023-02-14T17:02:35Z) - How Much is Enough? A Study on Diffusion Times in Score-based Generative
Models [76.76860707897413]
現在のベストプラクティスは、フォワードダイナミクスが既知の単純なノイズ分布に十分に近づくことを確実にするために大きなTを提唱している。
本稿では, 理想とシミュレーションされたフォワードダイナミクスのギャップを埋めるために補助モデルを用いて, 標準的な逆拡散過程を導出する方法について述べる。
論文 参考訳(メタデータ) (2022-06-10T15:09:46Z) - Fake It Till You Make It: Near-Distribution Novelty Detection by
Score-Based Generative Models [54.182955830194445]
既存のモデルは、いわゆる"近く分布"設定で失敗するか、劇的な低下に直面します。
本稿では, スコアに基づく生成モデルを用いて, 合成近分布異常データを生成することを提案する。
本手法は,9つのノベルティ検出ベンチマークにおいて,近分布ノベルティ検出を6%改善し,最先端のノベルティ検出を1%から5%パスする。
論文 参考訳(メタデータ) (2022-05-28T02:02:53Z) - Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。
本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。
本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
論文 参考訳(メタデータ) (2022-01-11T23:01:12Z) - Transfer Learning Gaussian Anomaly Detection by Fine-Tuning
Representations [3.5031508291335625]
破滅的な忘れは、新しいデータセット上で事前訓練された表現の微調整を成功させるのを防ぐ。
本稿では,移動学習環境におけるADの学習表現を微調整する手法を提案する。
また,破滅的忘れの開始を検知するバリデーションスキームにおいて,胸部リスクに一般的に使用される拡張法を提案する。
論文 参考訳(メタデータ) (2021-08-09T15:29:04Z) - PaDiM: a Patch Distribution Modeling Framework for Anomaly Detection and
Localization [64.39761523935613]
本稿では,画像中の異常を同時検出・ローカライズするPatch Distribution Modeling, PaDiMを提案する。
PaDiMは、パッチの埋め込みに事前訓練された畳み込みニューラルネットワーク(CNN)を使用している。
また、CNNの異なるセマンティックレベル間の相関を利用して、異常のローカライズも改善している。
論文 参考訳(メタデータ) (2020-11-17T17:29:18Z) - Unsupervised Deep-Learning Based Deformable Image Registration: A
Bayesian Framework [0.0]
非教師付きDLに基づく変形可能な画像登録のための完全にベイズ的なフレームワークを提案する。
提案手法は,真の後部分布を特徴付ける手段を提供する。
提案手法は, 平均二乗誤差を改良した手法により, 変形場の推定精度を向上する。
論文 参考訳(メタデータ) (2020-08-10T08:15:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。