Fugu-MT 論文翻訳(概要): Adversarial Sample Detection Through Neural Network Transport Dynamics

論文の概要: Adversarial Sample Detection Through Neural Network Transport Dynamics

arxiv url: http://arxiv.org/abs/2306.04252v2
Date: Thu, 8 Jun 2023 08:43:40 GMT
ステータス: 処理完了
システム内更新日: 2023-06-09 10:33:19.918822
Title: Adversarial Sample Detection Through Neural Network Transport Dynamics
Title（参考訳）: ニューラルネットワーク輸送ダイナミクスによる逆サンプル検出
Authors: Skander Karkar and Patrick Gallinari and Alain Rakotomamonjy
Abstract要約: 本稿では,ニューラルネットワークを離散力学系とする対向サンプルの検出手法を提案する。検出器は、層を通して追従する離散ベクトル場を比較して、異常な物体からのクリーンな入力を伝えます。トレーニング中にこのベクトルフィールドを正規化することで、ネットワークがデータ分散のサポートをより規則的にすることを示す。
参考スコア（独自算出の注目度）: 18.08752807817708
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We propose a detector of adversarial samples that is based on the view of neural networks as discrete dynamic systems. The detector tells clean inputs from abnormal ones by comparing the discrete vector fields they follow through the layers. We also show that regularizing this vector field during training makes the network more regular on the data distribution's support, thus making the activations of clean inputs more distinguishable from those of abnormal ones. Experimentally, we compare our detector favorably to other detectors on seen and unseen attacks, and show that the regularization of the network's dynamics improves the performance of adversarial detectors that use the internal embeddings as inputs, while also improving test accuracy.
Abstract（参考訳）: 本稿では,ニューラルネットワークを離散力学系として捉えた逆行サンプル検出手法を提案する。検出器は、層を通過する離散ベクトル場を比較して、異常な物体からのクリーンな入力を伝える。また,このベクトル場をトレーニング中に正則化することで,ネットワークがデータ分散のサポートにより規則的になり,クリーン入力のアクティベーションが異常入力と区別しやすくなることを示した。実験により,ネットワークのダイナミクスの正規化により,内部埋め込みを入力として使用する対向検出器の性能が向上し,試験精度も向上することを確認した。

関連論文リスト

Box-based Refinement for Weakly Supervised and Unsupervised Localization Tasks [57.70351255180495]
我々は、画像データの代わりにネットワーク出力の上の検出器を訓練し、適切な損失バックプロパゲーションを適用する。本研究は,課題の見地に対するフレーズ接頭辞の大幅な改善を明らかにした。
論文参考訳（メタデータ） (2023-09-07T17:36:02Z)
How adversarial attacks can disrupt seemingly stable accurate classifiers [76.95145661711514]
敵攻撃は、入力データに不連続な修正を加えることで、非正確な学習システムの出力を劇的に変化させる。ここでは,これは高次元入力データを扱う分類器の基本的特徴であると考えられる。実用システムで観測される重要な振る舞いを高い確率で発生させる、単純で汎用的なフレームワークを導入する。
論文参考訳（メタデータ） (2023-09-07T12:02:00Z)
Runtime Monitoring for Out-of-Distribution Detection in Object Detection Neural Networks [0.0]
監視は、業界で使用されている実際のニューラルネットワークの設定における検証の、より現実的で適用可能な代替手段を提供する。本稿では,これまで提案されてきた分類ネットワークを,複数のオブジェクトの識別と位置同定が可能な認識システムに拡張する。
論文参考訳（メタデータ） (2022-12-15T12:50:42Z)
A Novel Explainable Out-of-Distribution Detection Approach for Spiking Neural Networks [6.100274095771616]
この研究は、スパイキングニューラルネットワークに入力されたテスト例がトレーニングされたデータの分布に属するかどうかを識別できる新しいOoD検出器を提案する。我々は、スパイクカウントパターンの形で、ネットワークの隠蔽層の内部活性化を特徴付ける。入力インスタンスのどの部分が最もOoDサンプルとして検出されるかを明らかにする属性マップを作成するために,局所的な説明法が考案された。
論文参考訳（メタデータ） (2022-09-30T11:16:35Z)
Representation Learning for Content-Sensitive Anomaly Detection in Industrial Networks [0.0]
本論文では、生のネットワークトラフィックの時空間的側面を教師なしかつプロトコルに依存しない方法で学習する枠組みを提案する。学習された表現は、その後の異常検出の結果に与える影響を測定するために使用される。
論文参考訳（メタデータ） (2022-04-20T09:22:41Z)
Adversarial Detector with Robust Classifier [14.586106862913553]
本稿では, 頑健な分類器と, 素な分類器から構成される新しい対向検出器を提案し, 対向例を高い精度で検出する。実験で提案した検出器は,ロバストな分類器を使わずに,最先端の検出器よりも優れた性能を示すことを示した。
論文参考訳（メタデータ） (2022-02-05T07:21:05Z)
DAAIN: Detection of Anomalous and Adversarial Input using Normalizing Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文参考訳（メタデータ） (2021-05-30T22:07:13Z)
Adversarial Examples Detection with Bayesian Neural Network [57.185482121807716]
本稿では,ランダムな成分が予測器の滑らかさを向上できるという観測によって動機づけられた敵の例を検出するための新しい枠組みを提案する。本稿では,BATer を略した新しいベイズ対向型サンプル検出器を提案し,対向型サンプル検出の性能を向上させる。
論文参考訳（メタデータ） (2021-05-18T15:51:24Z)
Toward Scalable and Unified Example-based Explanation and Outlier Detection [128.23117182137418]
我々は,試行錯誤の予測に例ベースの説明を与えることのできる,プロトタイプベースの学生ネットワークのより広範な採用を論じる。類似カーネル以外のプロトタイプベースのネットワークは,分類精度を損なうことなく,有意義な説明と有望な外乱検出結果が得られることを示す。
論文参考訳（メタデータ） (2020-11-11T05:58:17Z)
Into the Unknown: Active Monitoring of Neural Networks [9.591060426695748]
ニューラルネットワークの能動的監視のためのアルゴリズムフレームワークを提案する。私たちのフレームワークにラップされたモニターは、ニューラルネットワークと並行して動作し、人間のユーザと対話する。多様なベンチマークに関する実験的評価は、動的シナリオにおけるアクティブモニタリングフレームワークの利点を裏付けるものである。
論文参考訳（メタデータ） (2020-09-14T13:29:47Z)
Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。我々は,再建基準の代替として,異常スコアの代替尺度を提案した。提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
論文参考訳（メタデータ） (2020-03-24T08:26:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。