論文の概要: Novelty Detection via Contrastive Learning with Negative Data
Augmentation
- arxiv url: http://arxiv.org/abs/2106.09958v1
- Date: Fri, 18 Jun 2021 07:26:15 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-21 14:22:55.990305
- Title: Novelty Detection via Contrastive Learning with Negative Data
Augmentation
- Title(参考訳): 負データ拡張を用いたコントラスト学習による新規性検出
- Authors: Chengwei Chen, Yuan Xie, Shaohui Lin, Ruizhi Qiao, Jian Zhou, Xin Tan,
Yi Zhang and Lizhuang Ma
- Abstract要約: 新規性検出のための新しい生成ネットワークフレームワークを提案する。
我々のモデルは最先端のノベルティ検出器よりも優れている。
我々のモデルは、他の敵ベースノベルティ検出方法と比較して、非敵方式で訓練するためにより安定している。
- 参考スコア(独自算出の注目度): 34.39521195691397
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Novelty detection is the process of determining whether a query example
differs from the learned training distribution. Previous methods attempt to
learn the representation of the normal samples via generative adversarial
networks (GANs). However, they will suffer from instability training, mode
dropping, and low discriminative ability. Recently, various pretext tasks (e.g.
rotation prediction and clustering) have been proposed for self-supervised
learning in novelty detection. However, the learned latent features are still
low discriminative. We overcome such problems by introducing a novel
decoder-encoder framework. Firstly, a generative network (a.k.a. decoder)
learns the representation by mapping the initialized latent vector to an image.
In particular, this vector is initialized by considering the entire
distribution of training data to avoid the problem of mode-dropping. Secondly,
a contrastive network (a.k.a. encoder) aims to ``learn to compare'' through
mutual information estimation, which directly helps the generative network to
obtain a more discriminative representation by using a negative data
augmentation strategy. Extensive experiments show that our model has
significant superiority over cutting-edge novelty detectors and achieves new
state-of-the-art results on some novelty detection benchmarks, e.g. CIFAR10 and
DCASE. Moreover, our model is more stable for training in a non-adversarial
manner, compared to other adversarial based novelty detection methods.
- Abstract(参考訳): ノベルティ検出は、クエリ例が学習したトレーニング分布と異なるかどうかを決定するプロセスである。
従来の手法では、gans(generative adversarial network)を介して正規サンプルの表現を学習しようとする。
しかし、不安定なトレーニング、モードダウン、差別能力の低下に悩まされる。
最近は、様々なプレテキストタスク(例)がある。
回転予測とクラスタリング)は、新規性検出における自己教師付き学習のために提案されている。
しかし、学習された潜伏的特徴はいまだに差別的ではない。
我々は,新しいデコーダエンコーダフレームワークを導入することで,この問題を克服する。
まず、生成ネットワーク(a.k.a.)。
decoder) 初期化潜在ベクトルをイメージにマッピングすることで表現を学習する。
特に、このベクトルはモード投下の問題を避けるためにトレーニングデータの分布全体を考慮して初期化される。
第2に、コントラストネットワーク(a.k.a.)。
encoder)は、相互情報推定を通じて'learn to compare'を目指しており、これは生成ネットワークが負のデータ拡張戦略を用いてより識別的な表現を得るのに役立つ。
広範な実験により,本モデルは最先端のノベルティ検出器よりも優れた性能を示し,新たなノベルティ検出ベンチマークで新たな最先端結果を得ることができた。
CIFAR10とDCASE。
さらに,本モデルは,他の逆方向の新規性検出法と比較して,非逆方向のトレーニングに安定である。
関連論文リスト
- Advancing Adversarial Robustness Through Adversarial Logit Update [10.041289551532804]
敵の訓練と敵の浄化は最も広く認知されている防衛戦略の一つである。
そこで本稿では,新たな原則であるALU(Adversarial Logit Update)を提案する。
本手法は,幅広い敵攻撃に対する最先端手法と比較して,優れた性能を実現する。
論文 参考訳(メタデータ) (2023-08-29T07:13:31Z) - Improving novelty detection with generative adversarial networks on hand
gesture data [1.3750624267664153]
本稿では,GAN(Generative Adversarial Network)フレームワークで訓練されたニューラルネットワーク(ANN)を用いた語彙外ジェスチャの分類方法を提案する。
生成モデルは、新しいサンプルとターゲットベクトルでオンライン形式でデータセットを拡大し、識別モデルはサンプルのクラスを決定する。
論文 参考訳(メタデータ) (2023-04-13T17:50:15Z) - Enhancing Multiple Reliability Measures via Nuisance-extended
Information Bottleneck [77.37409441129995]
トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。
我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。
そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
論文 参考訳(メタデータ) (2023-03-24T16:03:21Z) - CSI: Novelty Detection via Contrastive Learning on Distributionally
Shifted Instances [77.28192419848901]
コントラストシフトインスタンス (CSI) という,単純かつ効果的な手法を提案する。
従来のコントラスト学習法のように,サンプルを他の例と対比することに加えて,本トレーニング手法では,サンプルを分散シフトによる拡張と対比する。
本実験は, 種々の新規検出シナリオにおける本手法の優位性を実証する。
論文 参考訳(メタデータ) (2020-07-16T08:32:56Z) - Anomaly Detection-Based Unknown Face Presentation Attack Detection [74.4918294453537]
異常検出に基づくスプーフ攻撃検出は、顔提示攻撃検出の最近の進歩である。
本稿では,異常検出に基づくスプーフ攻撃検出のためのディープラーニングソリューションを提案する。
提案手法はCNNの表現学習能力の恩恵を受け,fPADタスクの優れた特徴を学習する。
論文 参考訳(メタデータ) (2020-07-11T21:20:55Z) - Adversarial Self-Supervised Contrastive Learning [62.17538130778111]
既存の対数学習アプローチは、主にクラスラベルを使用して、誤った予測につながる対数サンプルを生成する。
本稿では,未ラベルデータに対する新たな逆攻撃を提案する。これにより,モデルが摂動データサンプルのインスタンスレベルのアイデンティティを混乱させる。
ラベル付きデータなしで頑健なニューラルネットワークを逆さまにトレーニングするための,自己教師付きコントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-06-13T08:24:33Z) - Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。
我々は,再建基準の代替として,異常スコアの代替尺度を提案した。
提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
論文 参考訳(メタデータ) (2020-03-24T08:26:58Z) - Novelty Detection via Non-Adversarial Generative Network [47.375591404354765]
新しいデコーダ-エンコーダフレームワークが,新規検出タスクのために提案されている。
非敵対的な枠組みの下では、潜伏空間と画像再構成空間の両方が共同最適化されている。
我々のモデルは、最先端のノベルティ検出器よりも明らかな優位性を持ち、データセットの最先端の結果を達成する。
論文 参考訳(メタデータ) (2020-02-03T01:05:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。