論文の概要: GIM: Gaussian Isolation Machines
- arxiv url: http://arxiv.org/abs/2002.02176v2
- Date: Sat, 21 Mar 2020 10:39:02 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-03 09:53:23.705419
- Title: GIM: Gaussian Isolation Machines
- Title(参考訳): GIM:ガウス分離機
- Authors: Guy Amit, Ishai Rosenberg, Moshe Levy, Ron Bitton, Asaf Shabtai, and
Yuval Elovici
- Abstract要約: 多くの場合、ニューラルネットワーク分類器は、トレーニング配布データの外にある入力データに露出する。
OODデータに遭遇した場合に発生する問題の解決を目的とした,新しいハイブリッド分類器を提案する。
提案されたGIMの新規性は、識別性能と生成能力にある。
- 参考スコア(独自算出の注目度): 40.7916016364212
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In many cases, neural network classifiers are likely to be exposed to input
data that is outside of their training distribution data. Samples from outside
the distribution may be classified as an existing class with high probability
by softmax-based classifiers; such incorrect classifications affect the
performance of the classifiers and the applications/systems that depend on
them. Previous research aimed at distinguishing training distribution data from
out-of-distribution data (OOD) has proposed detectors that are external to the
classification method. We present Gaussian isolation machine (GIM), a novel
hybrid (generative-discriminative) classifier aimed at solving the problem
arising when OOD data is encountered. The GIM is based on a neural network and
utilizes a new loss function that imposes a distribution on each of the trained
classes in the neural network's output space, which can be approximated by a
Gaussian. The proposed GIM's novelty lies in its discriminative performance and
generative capabilities, a combination of characteristics not usually seen in a
single classifier. The GIM achieves state-of-the-art classification results on
image recognition and sentiment analysis benchmarking datasets and can also
deal with OOD inputs.
- Abstract(参考訳): 多くの場合、ニューラルネットワーク分類器は、トレーニング分散データの外にある入力データに晒される可能性が高い。
分布の外からのサンプルは、ソフトマックスベースの分類器によって高い確率で既存のクラスに分類されることがある。
従来, 学習分布データと配布外データ(OOD)を区別することを目的とした研究では, 分類法以外の検出器が提案されていた。
我々は,OODデータに遭遇した場合に発生する問題を解くことを目的とした,新しいハイブリッド分類器であるガウス分離機(GIM)を提案する。
GIMはニューラルネットワークに基づいており、ニューラルネットワークの出力空間内のトレーニングされた各クラスに分布を課す新しい損失関数を利用する。
提案されたgimのノベルティは、識別性能と生成能力であり、単一の分類器では一般的に見られない特徴の組み合わせである。
GIMは、画像認識および感情分析ベンチマークデータセットの最先端の分類結果を達成し、OOD入力にも対応できる。
関連論文リスト
- Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳(メタデータ) (2023-02-06T16:38:43Z) - Mutual Information Learned Classifiers: an Information-theoretic
Viewpoint of Training Deep Learning Classification Systems [9.660129425150926]
クロスエントロピー損失は、重度のオーバーフィッティング動作を示すモデルを見つけるのに容易である。
本稿では,既存のDNN分類器のクロスエントロピー損失最小化が,基礎となるデータ分布の条件エントロピーを本質的に学習することを証明する。
ラベルと入力の相互情報を学習することで、DNN分類器を訓練する相互情報学習フレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-03T15:09:19Z) - No Fear of Heterogeneity: Classifier Calibration for Federated Learning
with Non-IID Data [78.69828864672978]
実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。
このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。
実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
論文 参考訳(メタデータ) (2021-06-09T12:02:29Z) - Hyperdimensional Computing for Efficient Distributed Classification with
Randomized Neural Networks [5.942847925681103]
本研究では,データを中央に保存することも共有することもできない状況下で利用できる分散分類について検討する。
ローカルな分類器を他のエージェントと共有する場合に、ロッキーな圧縮アプローチを適用することにより、分散分類のためのより効率的な解を提案する。
論文 参考訳(メタデータ) (2021-06-02T01:33:56Z) - DAAIN: Detection of Anomalous and Adversarial Input using Normalizing
Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。
本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。
当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文 参考訳(メタデータ) (2021-05-30T22:07:13Z) - Multi-Class Data Description for Out-of-distribution Detection [25.853322158250435]
Deep-MCDDは、分布外(OOD)サンプルを検出するだけでなく、分布内(ID)サンプルを分類するのに効果的です。
ガウス微分分析の概念をディープニューラルネットワークに統合することにより,クラス条件分布を学習する深層学習目標を提案する。
論文 参考訳(メタデータ) (2021-04-02T08:41:51Z) - Open Set Recognition with Conditional Probabilistic Generative Models [51.40872765917125]
オープンセット認識のための条件付き確率生成モデル(CPGM)を提案する。
CPGMは未知のサンプルを検出できるが、異なる潜在特徴を条件付きガウス分布に近似させることで、既知のクラスを分類できる。
複数のベンチマークデータセットの実験結果から,提案手法がベースラインを著しく上回ることがわかった。
論文 参考訳(メタデータ) (2020-08-12T06:23:49Z) - Outlier Detection through Null Space Analysis of Neural Networks [3.220347094114561]
我々は、ヌル空間の概念を用いて、外れ値検出法を直接、分類に使用されるニューラルネットワークに統合する。
ニューラルネットワークのNull Space Analysis(NuSA)と呼ばれるこの手法は、データがネットワークを通過するときのヌル空間投影の大きさを計算し、制御する。
その結果、NuSAでトレーニングされたネットワークは、分類性能を維持しつつ、一般的に使用される外れ値検出アルゴリズムと同様の速度で外れ値を検出することができることが示された。
論文 参考訳(メタデータ) (2020-07-02T17:17:21Z) - Imbalanced Data Learning by Minority Class Augmentation using Capsule
Adversarial Networks [31.073558420480964]
本稿では,2つの同時手法を合体させて,不均衡な画像のバランスを回復する手法を提案する。
我々のモデルでは、生成的および識別的ネットワークは、新しい競争力のあるゲームをする。
カプセルGANの合体は、畳み込みGANと比較して非常に少ないパラメータで重なり合うクラスを認識するのに効果的である。
論文 参考訳(メタデータ) (2020-04-05T12:36:06Z) - Learning with Out-of-Distribution Data for Audio Classification [60.48251022280506]
我々は,OODインスタンスを破棄するよりも,特定のOODインスタンスを検出・復号化することで,学習に肯定的な影響を及ぼすことを示す。
提案手法は,畳み込みニューラルネットワークの性能を著しく向上させる。
論文 参考訳(メタデータ) (2020-02-11T21:08:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。