論文の概要: Deep Residual Flow for Out of Distribution Detection
- arxiv url: http://arxiv.org/abs/2001.05419v3
- Date: Sun, 19 Jul 2020 17:44:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-11 05:39:50.530641
- Title: Deep Residual Flow for Out of Distribution Detection
- Title(参考訳): 分布検出のための深部残留流
- Authors: Ev Zisselman and Aviv Tamar
- Abstract要約: 本稿では,正規化フローに基づく表現密度モデルを活用することにより,最先端技術を改善する新しい手法を提案する。
本稿では,ResNet および DenseNet アーキテクチャにおける提案手法の有効性について述べる。
- 参考スコア(独自算出の注目度): 27.218308616245164
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The effective application of neural networks in the real-world relies on
proficiently detecting out-of-distribution examples. Contemporary methods seek
to model the distribution of feature activations in the training data for
adequately distinguishing abnormalities, and the state-of-the-art method uses
Gaussian distribution models. In this work, we present a novel approach that
improves upon the state-of-the-art by leveraging an expressive density model
based on normalizing flows. We introduce the residual flow, a novel flow
architecture that learns the residual distribution from a base Gaussian
distribution. Our model is general, and can be applied to any data that is
approximately Gaussian. For out of distribution detection in image datasets,
our approach provides a principled improvement over the state-of-the-art.
Specifically, we demonstrate the effectiveness of our method in ResNet and
DenseNet architectures trained on various image datasets. For example, on a
ResNet trained on CIFAR-100 and evaluated on detection of out-of-distribution
samples from the ImageNet dataset, holding the true positive rate (TPR) at
$95\%$, we improve the true negative rate (TNR) from $56.7\%$ (current
state-of-the-art) to $77.5\%$ (ours).
- Abstract(参考訳): 現実世界におけるニューラルネットワークの効果的な応用は、分布外例を十分に検出することに依存する。
現代手法では, 異常を適切に識別するために, 訓練データ中の特徴活性化の分布をモデル化し, 最先端の手法ではガウス分布モデルを用いる。
本稿では, 流れの正規化に基づく表現的密度モデルを用いて, 最先端の技術を改善する新しい手法を提案する。
本稿では,ガウス分布から残差分布を学習する新しいフローアーキテクチャである残差フローを紹介する。
我々のモデルは一般的であり、ほぼガウス的である任意のデータに適用することができる。
画像データセットにおける分布検出の欠如に対して,本手法は最先端技術に対する原理的改善を提供する。
具体的には,様々な画像データセットでトレーニングされたresnetおよびdrknetアーキテクチャにおいて,本手法の有効性を示す。
例えば、CIFAR-100でトレーニングされ、ImageNetデータセットから配布外サンプルの検出に基づいて評価されたResNetでは、真の正のレート(TPR)を9,5\%$とすることで、真の負のレート(TNR)を56.7\%(現在の最先端)から77.5\%(当社)に改善する。
関連論文リスト
- Integrating Amortized Inference with Diffusion Models for Learning Clean Distribution from Corrupted Images [19.957503854446735]
拡散モデル(DM)は、逆問題を解決するための強力な生成モデルとして登場した。
FlowDiffは条件付き正規化フローモデルを利用して、破損したデータソース上で拡散モデルのトレーニングを容易にする共同トレーニングパラダイムである。
実験の結果,FlowDiffは広範囲の破損したデータソースにわたるクリーンな分布を効果的に学習できることがわかった。
論文 参考訳(メタデータ) (2024-07-15T18:33:20Z) - Rethinking Score Distillation as a Bridge Between Image Distributions [97.27476302077545]
提案手法は, 劣化した画像(ソース)を自然画像分布(ターゲット)に転送することを目的としている。
本手法は,複数の領域にまたがって容易に適用可能であり,特殊な手法の性能のマッチングや評価を行うことができる。
テキストから2D、テキストベースのNeRF最適化、絵画を実画像に変換すること、光学錯視生成、および3Dスケッチから実画像に変換することにおいて、その実用性を実証する。
論文 参考訳(メタデータ) (2024-06-13T17:59:58Z) - Rejection via Learning Density Ratios [50.91522897152437]
拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。
そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。
私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
論文 参考訳(メタデータ) (2024-05-29T01:32:17Z) - Boundary-aware Decoupled Flow Networks for Realistic Extreme Rescaling [49.215957313126324]
Invertible rescaling Network (IRN) やgenerative adversarial Network (GAN) などを含む最近の生成手法は、画像再スケーリングにおいて例外的な性能を示した。
しかし、IRNベースの手法は過度に滑らかな結果を生成する傾向にあり、一方、GANベースの手法は偽の細部を容易に生成する。
本稿では,現実的かつ視覚的に満足な結果を生成するために,境界対応デカップリングフローネットワーク(BDFlow)を提案する。
論文 参考訳(メタデータ) (2024-05-05T14:05:33Z) - Projection Regret: Reducing Background Bias for Novelty Detection via
Diffusion Models [72.07462371883501]
本研究では,非意味情報のバイアスを緩和する効率的な新規性検出手法であるemphProjection Regret(PR)を提案する。
PRは、テスト画像とその拡散ベースの投影の間の知覚距離を計算し、異常を検出する。
拡張実験により、PRは生成モデルに基づく新規性検出手法の先行技術よりも有意なマージンで優れていることが示された。
論文 参考訳(メタデータ) (2023-12-05T09:44:47Z) - GSURE-Based Diffusion Model Training with Corrupted Data [35.56267114494076]
本稿では, 劣化データのみに基づく生成拡散モデルのための新しいトレーニング手法を提案する。
顔画像と磁気共鳴画像(MRI)の撮影技術について紹介する。
論文 参考訳(メタデータ) (2023-05-22T15:27:20Z) - Computing high-dimensional optimal transport by flow neural networks [22.320632565424745]
この研究はフローベースモデルを開発し、P$から任意の$Q$に転送する。
本稿では,フローニューラルネットワークのトレーニングにより,$P$と$Q$の間の動的最適輸送を学習することを提案する。
訓練された最適輸送流はその後、無限小密度推定(DRE)や、生成モデルのための潜在空間における分布を含む多くの下流タスクを実行することができる。
論文 参考訳(メタデータ) (2023-05-19T17:48:21Z) - DC4L: Distribution Shift Recovery via Data-Driven Control for Deep Learning Models [4.374569172244273]
学習したモデルに対する制御を用いて、オンライン配信のシフトから回復することを提案する。
提案手法では, 学習セットにシフトしたデータを近づけるために, セマンティック保存変換のシーケンスを適用した。
本稿では,ImageNet-Cベンチマークからのシフトの合成に一般化し,平均精度を最大9.81%向上することを示す。
論文 参考訳(メタデータ) (2023-02-20T22:06:26Z) - Fake It Till You Make It: Near-Distribution Novelty Detection by
Score-Based Generative Models [54.182955830194445]
既存のモデルは、いわゆる"近く分布"設定で失敗するか、劇的な低下に直面します。
本稿では, スコアに基づく生成モデルを用いて, 合成近分布異常データを生成することを提案する。
本手法は,9つのノベルティ検出ベンチマークにおいて,近分布ノベルティ検出を6%改善し,最先端のノベルティ検出を1%から5%パスする。
論文 参考訳(メタデータ) (2022-05-28T02:02:53Z) - Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。
本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。
本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
論文 参考訳(メタデータ) (2022-01-11T23:01:12Z) - Transfer Learning Gaussian Anomaly Detection by Fine-Tuning
Representations [3.5031508291335625]
破滅的な忘れは、新しいデータセット上で事前訓練された表現の微調整を成功させるのを防ぐ。
本稿では,移動学習環境におけるADの学習表現を微調整する手法を提案する。
また,破滅的忘れの開始を検知するバリデーションスキームにおいて,胸部リスクに一般的に使用される拡張法を提案する。
論文 参考訳(メタデータ) (2021-08-09T15:29:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。