Fugu-MT 論文翻訳(概要): Algebraic Adversarial Attacks on Integrated Gradients

論文の概要: Algebraic Adversarial Attacks on Integrated Gradients

arxiv url: http://arxiv.org/abs/2407.16233v1
Date: Tue, 23 Jul 2024 07:17:45 GMT
ステータス: 処理完了
システム内更新日: 2024-07-24 18:16:08.023656
Title: Algebraic Adversarial Attacks on Integrated Gradients
Title（参考訳）: 統合勾配における代数的対立攻撃
Authors: Lachlan Simpson, Federico Costanza, Kyle Millar, Adriel Cheng, Cheng-Chew Lim, Hong Gunn Chew,
Abstract要約: パスメソッドは、敵攻撃の影響を受けやすい属性メソッドの一種である。代数的対数例は、対数例に対する数学的に抽出可能なアプローチを提供する。
参考スコア（独自算出の注目度）: 5.286919475372417
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Adversarial attacks on explainability models have drastic consequences when explanations are used to understand the reasoning of neural networks in safety critical systems. Path methods are one such class of attribution methods susceptible to adversarial attacks. Adversarial learning is typically phrased as a constrained optimisation problem. In this work, we propose algebraic adversarial examples and study the conditions under which one can generate adversarial examples for integrated gradients. Algebraic adversarial examples provide a mathematically tractable approach to adversarial examples.
Abstract（参考訳）: 説明可能性モデルに対する敵対的攻撃は、安全クリティカルシステムにおけるニューラルネットワークの推論を理解するために説明が使用される場合、劇的な結果をもたらす。 Pathメソッドは、敵の攻撃に影響を受けやすい属性メソッドの一種である。対立学習は通常、制約付き最適化問題として表現される。本研究では,代数的逆例を提案し,積分勾配に対して逆例を生成できる条件について検討する。代数的対数例は、対数例に対する数学的に抽出可能なアプローチを提供する。

関連論文リスト

Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians [60.22542847840578]
敵対的機械学習の進歩にもかかわらず、敵対者の存在下でのガウスモデルに対する推論は特に過小評価されている。我々は,意思決定者の条件推論とその後の行動の妨害を希望する自己関心のある攻撃者について,一組の明らかな変数を乱すことで検討する。検出を避けるため、攻撃者は、破損した証拠の密度によって可否が決定される場合に、攻撃が可否を示すことを望んでいる。
論文参考訳（メタデータ） (2024-11-21T17:46:55Z)
Adversarial Attack Based on Prediction-Correction [8.467466998915018]
ディープニューラルネットワーク(DNN)は、元の例に小さな摂動を加えることで得られる敵の例に対して脆弱である。本稿では,新たな予測補正(PC)に基づく対角攻撃を提案する。提案したPCベースの攻撃では、予測された例を最初に生成するために既存の攻撃を選択し、予測された例と現在の例を組み合わせて追加の摂動を決定する。
論文参考訳（メタデータ） (2023-06-02T03:11:32Z)
Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
論文参考訳（メタデータ） (2022-11-04T13:54:02Z)
The Enemy of My Enemy is My Friend: Exploring Inverse Adversaries for Improving Adversarial Training [72.39526433794707]
敵の訓練とその変種は、敵の例に対抗して最も効果的なアプローチであることが示されている。本稿では,モデルが類似した出力を生成することを奨励する,新たな対角訓練手法を提案する。本手法は,最先端のロバスト性および自然な精度を実現する。
論文参考訳（メタデータ） (2022-11-01T15:24:26Z)
Quantifying and Understanding Adversarial Examples in Discrete Input Spaces [70.18815080530801]
我々は、任意の離散的な設定で適用される同義的逆例の概念を定式化し、そのような例を構成するための単純なドメインに依存しないアルゴリズムを記述する。我々の研究は、連続入力と類似した離散逆例のドメインに依存しない処理への一歩である。
論文参考訳（メタデータ） (2021-12-12T16:44:09Z)
TREATED:Towards Universal Defense against Textual Adversarial Attacks [28.454310179377302]
本稿では,様々な摂動レベルの攻撃に対して,仮定なしに防御できる汎用的対向検出手法であるTREATEDを提案する。 3つの競合するニューラルネットワークと2つの広く使われているデータセットの大規模な実験により、本手法はベースラインよりも優れた検出性能が得られることが示された。
論文参考訳（メタデータ） (2021-09-13T03:31:20Z)
Towards Defending against Adversarial Examples via Attack-Invariant Features [147.85346057241605]
ディープニューラルネットワーク(DNN)は敵の雑音に弱い。敵の強靭性は、敵の例を利用して改善することができる。目に見えない種類の敵の例に基づいて訓練されたモデルは、一般的に、目に見えない種類の敵の例にうまく一般化できない。
論文参考訳（メタデータ） (2021-06-09T12:49:54Z)
Direction-Aggregated Attack for Transferable Adversarial Examples [10.208465711975242]
深層ニューラルネットワークは、入力に知覚不可能な変化を課すことによって作られる敵の例に弱い。逆例は、モデルとそのパラメータが利用可能なホワイトボックス設定で最も成功した。我々は,移動可能な攻撃事例を提供する方向集約型攻撃を提案する。
論文参考訳（メタデータ） (2021-04-19T09:54:56Z)
Learning Defense Transformers for Counterattacking Adversarial Examples [43.59730044883175]
ディープニューラルネットワーク(DNN)は、小さな摂動を伴う逆例に対して脆弱である。既存の防御メソッドは、特定のタイプの敵の例に焦点を当てており、現実世界のアプリケーションでは防御に失敗する可能性がある。敵対例を元のクリーンな分布に戻すことで、敵対例に対して防御できるかどうかという新たな視点から、敵対例を研究します。
論文参考訳（メタデータ） (2021-03-13T02:03:53Z)
On the Transferability of Adversarial Attacksagainst Neural Text Classifier [121.6758865857686]
テキスト分類モデルの逆例の転送可能性について検討する。本稿では,ほとんどすべての既存モデルを騙すために,敵の例を誘導できるモデル群を見つける遺伝的アルゴリズムを提案する。これらの逆例からモデル診断に使用できる単語置換規則を導出する。
論文参考訳（メタデータ） (2020-11-17T10:45:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。