論文の概要: Adversarial Detection by Approximation of Ensemble Boundary
- arxiv url: http://arxiv.org/abs/2211.10227v4
- Date: Wed, 24 Jan 2024 11:38:25 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-25 18:17:20.541991
- Title: Adversarial Detection by Approximation of Ensemble Boundary
- Title(参考訳): アンサンブル境界近似による逆検出
- Authors: T. Windeatt
- Abstract要約: 2種類のパターン認識問題を解くために,DNN(Deep Neural Networks)のアンサンブルに対して,新たな攻撃検出手法を提案する。
アンサンブルはブール関数を近似できるウォルシュ係数を用いて結合される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: A new method of detecting adversarial attacks is proposed for an ensemble of
Deep Neural Networks (DNNs) solving two-class pattern recognition problems. The
ensemble is combined using Walsh coefficients which are capable of
approximating Boolean functions and thereby controlling the complexity of the
ensemble decision boundary. The hypothesis in this paper is that decision
boundaries with high curvature allow adversarial perturbations to be found, but
change the curvature of the decision boundary, which is then approximated in a
different way by Walsh coefficients compared to the clean images. By observing
the difference in Walsh coefficient approximation between clean and adversarial
images, it is shown experimentally that transferability of attack may be used
for detection. Furthermore, approximating the decision boundary may aid in
understanding the learning and transferability properties of DNNs. While the
experiments here use images, the proposed approach of modelling two-class
ensemble decision boundaries could in principle be applied to any application
area. Code for approximating Boolean functions using Walsh coefficients:
https://doi.org/10.24433/CO.3695905.v1
- Abstract(参考訳): 2種類のパターン認識問題を解くために,DNN(Deep Neural Networks)のアンサンブルに対して,新たな攻撃検出手法を提案する。
アンサンブルは、ブール関数を近似し、アンサンブル決定境界の複雑さを制御することができるウォルシュ係数を用いて結合される。
本論文の仮説は,高い曲率を持つ決定境界は逆摂動を見出すことができるが,決定境界の曲率を変化させることにより,清浄な画像と比較してウォルシュ係数によって近似されるというものである。
クリーン画像と逆画像のウォルシュ係数近似の差を観測することにより,攻撃の伝達性が検出に有効であることを実験的に示す。
さらに、決定境界の近似は、DNNの学習性や伝達性を理解するのに役立つ。
実験では画像を用いたが、2種類のアンサンブル決定境界をモデル化する手法は原則として任意のアプリケーション領域に適用できる。
Walsh係数を用いたブール関数近似コード:https://doi.org/10.24433/CO.3695905.v1
関連論文リスト
- Analysis and Comparison of Two-Level KFAC Methods for Training Deep
Neural Networks [0.0]
層間の低周波相互作用を2段階法により復元する関心について検討する。
領域分解から着想を得て、異なる粗い空間を用いたKFACの2段階補正を提案し、評価した。
論文 参考訳(メタデータ) (2023-03-31T14:21:53Z) - Neural Gromov-Wasserstein Optimal Transport [82.05269165407427]
本稿では,Gromov-Wasserstein (GW) Optimal Transport (OT) 問題を内部積コストで解くためのスケーラブルなニューラルネットワーク手法を提案する。
提案手法では,ニューラルネットワークとミニバッチ最適化を用いて,既存の手法の限界を克服する。
論文 参考訳(メタデータ) (2023-03-10T15:21:12Z) - Can Neural Nets Learn the Same Model Twice? Investigating
Reproducibility and Double Descent from the Decision Boundary Perspective [48.227605035133415]
ニューラルネットワーク決定境界と決定領域を可視化する手法について議論する。
モデルアーキテクチャの変更が決定境界の可視的変化を引き起こすことを観察する。
また、決定境界法を用いて二重降下現象を可視化する。
論文 参考訳(メタデータ) (2022-03-15T17:51:15Z) - Optimal variance-reduced stochastic approximation in Banach spaces [114.8734960258221]
可分バナッハ空間上で定義された収縮作用素の定点を推定する問題について検討する。
演算子欠陥と推定誤差の両方に対して漸近的でない境界を確立する。
論文 参考訳(メタデータ) (2022-01-21T02:46:57Z) - Deep Learning Approximation of Diffeomorphisms via Linear-Control
Systems [91.3755431537592]
我々は、制御に線形に依存する$dot x = sum_i=1lF_i(x)u_i$という形の制御系を考える。
対応するフローを用いて、コンパクトな点のアンサンブル上の微分同相写像の作用を近似する。
論文 参考訳(メタデータ) (2021-10-24T08:57:46Z) - Numerical Solution of Stiff Ordinary Differential Equations with Random
Projection Neural Networks [0.0]
正規微分方程式(ODE)の解に対する乱射影ニューラルネットワーク(RPNN)に基づく数値スキームを提案する。
提案手法は剛性の影響を受けずに高い数値近似精度を示し,textttode45 と textttode15s の関数よりも優れていた。
論文 参考訳(メタデータ) (2021-08-03T15:49:17Z) - Improved Algorithms for Agnostic Pool-based Active Classification [20.12178157010804]
プールに依存しない環境でのバイナリ分類のためのアクティブラーニングを検討する。
我々のアルゴリズムは、画像分類データセットにおけるアートアクティブな学習アルゴリズムの状況よりも優れている。
論文 参考訳(メタデータ) (2021-05-13T18:24:30Z) - DiffPrune: Neural Network Pruning with Deterministic Approximate Binary
Gates and $L_0$ Regularization [0.0]
現代のニューラルネットワークアーキテクチャは通常、数百万のパラメータを持ち、有効性を著しく損なうことなく、大幅に刈り取ることができる。
この作品の貢献は2つある。
1つ目は、任意の実数値確率変数の決定論的かつ微分可能変換によって多変量ベルヌーイ確率変数を近似する方法である。
2つ目は、決定論的あるいは乗法的に計算され、正確なゼロ値を取る近似二進ゲートを持つ要素的パラメータによるモデル選択の方法である。
論文 参考訳(メタデータ) (2020-12-07T13:08:56Z) - Chance-Constrained Control with Lexicographic Deep Reinforcement
Learning [77.34726150561087]
本稿では,レキシックなDeep Reinforcement Learning(DeepRL)に基づく確率制約マルコフ決定プロセスを提案する。
有名なDeepRLアルゴリズムDQNの辞書版も提案され、シミュレーションによって検証されている。
論文 参考訳(メタデータ) (2020-10-19T13:09:14Z) - Quantitative Propagation of Chaos for SGD in Wide Neural Networks [39.35545193410871]
本稿では,SGD(Gradient Descent)の連続時間動作の制限挙動について検討する。
本研究では, この連続時間力学によって定義される粒子系に対して, 異なるシナリオ下での「カオスの伝播」を示す。
最小化問題の暗黙的な正則化版に対応する2つの平均場限界を求める。
論文 参考訳(メタデータ) (2020-07-13T12:55:21Z) - DeepStrip: High Resolution Boundary Refinement [60.00241966809684]
関心領域をストリップ画像に変換し、ストリップ領域の境界予測を計算することを提案する。
対象境界を検出するために,2つの予測層を持つフレームワークを提案する。
我々は、誤報を減らすために、整合性とC0連続性正規化をネットワークに強制する。
論文 参考訳(メタデータ) (2020-03-25T22:44:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。