論文の概要: Simple and Effective Prevention of Mode Collapse in Deep One-Class
Classification
- arxiv url: http://arxiv.org/abs/2001.08873v4
- Date: Tue, 19 Jan 2021 06:45:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-07 04:48:32.975152
- Title: Simple and Effective Prevention of Mode Collapse in Deep One-Class
Classification
- Title(参考訳): ディープワンクラス分類におけるモード崩壊の簡易かつ効果的な防止
- Authors: Penny Chong, Lukas Ruff, Marius Kloft, Alexander Binder
- Abstract要約: 深部SVDDにおける超球崩壊を防止するための2つの正則化器を提案する。
第1の正則化器は、標準のクロスエントロピー損失によるランダムノイズの注入に基づいている。
第2の正規化器は、小さすぎるとミニバッチ分散をペナライズする。
- 参考スコア(独自算出の注目度): 93.2334223970488
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Anomaly detection algorithms find extensive use in various fields. This area
of research has recently made great advances thanks to deep learning. A recent
method, the deep Support Vector Data Description (deep SVDD), which is inspired
by the classic kernel-based Support Vector Data Description (SVDD), is capable
of simultaneously learning a feature representation of the data and a
data-enclosing hypersphere. The method has shown promising results in both
unsupervised and semi-supervised settings. However, deep SVDD suffers from
hypersphere collapse -- also known as mode collapse, if the architecture of the
model does not comply with certain architectural constraints, e.g. the removal
of bias terms. These constraints limit the adaptability of the model and in
some cases, may affect the model performance due to learning sub-optimal
features. In this work, we consider two regularizers to prevent hypersphere
collapse in deep SVDD. The first regularizer is based on injecting random noise
via the standard cross-entropy loss. The second regularizer penalizes the
minibatch variance when it becomes too small. Moreover, we introduce an
adaptive weighting scheme to control the amount of penalization between the
SVDD loss and the respective regularizer. Our proposed regularized variants of
deep SVDD show encouraging results and outperform a prominent state-of-the-art
method on a setup where the anomalies have no apparent geometrical structure.
- Abstract(参考訳): 異常検出アルゴリズムは様々な分野で広く使われている。
この研究領域は最近、ディープラーニングのおかげで大きな進歩を遂げた。
最近の方法であるディープサポートベクターデータ記述(ディープSVDD)は、古典的なカーネルベースのサポートベクターデータ記述(SVDD)にインスパイアされ、データの特徴表現とデータを包含するハイパースフィアを同時に学習することができる。
この手法は教師なしと半教師なしの両方で有望な結果を示した。
しかし、ディープSVDDはハイパースフィアの崩壊に悩まされており、例えばバイアス項の除去など、モデルのアーキテクチャが特定のアーキテクチャ上の制約を満たさない場合、モード崩壊とも呼ばれる。
これらの制約はモデルの適応性を制限し、場合によっては、準最適特徴の学習によるモデルパフォーマンスに影響を与える可能性がある。
本研究では,深部SVDDにおける超球崩壊を防止するための2つの正則化器について検討する。
最初の正則化器は、標準のクロスエントロピー損失によるランダムノイズの注入に基づいている。
第2の正規化器は、小さすぎるとミニバッチ分散を罰する。
さらに,SVDD損失と各正規化器との間のペナル化量を制御する適応重み付け方式を導入する。
提案する深部SVDDの正規化変種は, 特異な幾何学的構造を持たず, 顕著な最先端の手法に優れることを示す。
関連論文リスト
- Small Object Detection via Coarse-to-fine Proposal Generation and
Imitation Learning [52.06176253457522]
本稿では,粗粒度パイプラインと特徴模倣学習に基づく小型物体検出に適した2段階フレームワークを提案する。
CFINetは、大規模な小さなオブジェクト検出ベンチマークであるSODA-DとSODA-Aで最先端の性能を達成する。
論文 参考訳(メタデータ) (2023-08-18T13:13:09Z) - Combating Mode Collapse in GANs via Manifold Entropy Estimation [70.06639443446545]
Generative Adversarial Networks (GAN) は、様々なタスクやアプリケーションにおいて魅力的な結果を示している。
GANのモード崩壊問題に対処するための新しいトレーニングパイプラインを提案する。
論文 参考訳(メタデータ) (2022-08-25T12:33:31Z) - Semi-Supervised Temporal Action Detection with Proposal-Free Masking [134.26292288193298]
PropOsal-free Temporal mask (SPOT) に基づく新しい半教師付き時間行動検出モデルを提案する。
SPOTは最先端の代替品よりも優れている。
論文 参考訳(メタデータ) (2022-07-14T16:58:47Z) - The KFIoU Loss for Rotated Object Detection [115.334070064346]
本稿では,SkewIoU損失とトレンドレベルアライメントを両立できる近似的損失を考案する上で,有効な方法の1つとして論じる。
具体的には、対象をガウス分布としてモデル化し、SkewIoUのメカニズムを本質的に模倣するためにカルマンフィルタを採用する。
KFIoUと呼ばれる新たな損失は実装が容易で、正確なSkewIoUよりもうまく動作する。
論文 参考訳(メタデータ) (2022-01-29T10:54:57Z) - Flow-based SVDD for anomaly detection [12.319113026372966]
FlowSVDDは、異常/異常検知のためのフローベースの1クラス分類器である。
提案モデルはフローベースモデルを用いてインスタンス化され,超球面境界の単一点への崩壊を自然に防止する。
実験の結果,FlowSVDDは現在の最先端手法に匹敵する結果が得られ,ベンチマークデータセット上での深部SVDDメソッドよりも大幅に優れていた。
論文 参考訳(メタデータ) (2021-08-10T20:33:15Z) - P-WAE: Generalized Patch-Wasserstein Autoencoder for Anomaly Screening [17.24628770042803]
Patch-wise Wasserstein AutoEncoder (P-WAE) アーキテクチャを提案する。
特に、ジグソーパズルの解法と結合したパッチワイド変分推論モデルを設計する。
MVTec ADデータセットを用いた総合的な実験は、我々のプロポの優れた性能を実証する。
論文 参考訳(メタデータ) (2021-08-09T05:31:45Z) - DASVDD: Deep Autoencoding Support Vector Data Descriptor for Anomaly
Detection [9.19194451963411]
半教師付き異常検出は、通常のデータに基づいて訓練されたモデルを用いて、通常のサンプルから異常を検出することを目的としている。
本稿では,自己エンコーダのパラメータを協調的に学習する手法であるDASVDDを提案する。
論文 参考訳(メタデータ) (2021-06-09T21:57:41Z) - Preventing Posterior Collapse with Levenshtein Variational Autoencoder [61.30283661804425]
我々は,エビデンス・ロー・バウンド(ELBO)を最適化し,後部崩壊を防止できる新しい目的に置き換えることを提案する。
本稿では,Levenstein VAEが後方崩壊防止のための代替手法よりも,より情報的な潜伏表現を生成することを示す。
論文 参考訳(メタデータ) (2020-04-30T13:27:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。