論文の概要: Transcending Adversarial Perturbations: Manifold-Aided Adversarial Examples with Legitimate Semantics

• arxiv url: http://arxiv.org/abs/2402.03095v1
• Date: Mon, 5 Feb 2024 15:25:40 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-06 15:33:06.391362
• Title: Transcending Adversarial Perturbations: Manifold-Aided Adversarial Examples with Legitimate Semantics
• Title（参考訳）: 越境する逆境摂動:正当な意味論を持つ多様体支援逆境例
• Authors: Shuai Li, Xiaoyu Jiang, and Xiaoguang Ma
• Abstract要約: ディープニューラルネットワークは、悪意のある小さな摂動によって操作される敵の例に対して、極めて脆弱であった。 本稿では, 現実的, 合法的意味論による敵対的事例を生成するために, 教師付き意味変換生成モデルを提案する。 MNISTおよび産業用欠陥データセットを用いた実験により、我々の敵の例は、より良い視覚的品質を示しただけでなく、優れた攻撃伝達性を示した。
• 参考スコア（独自算出の注目度）: 10.058463432437659
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks were significantly vulnerable to adversarial examples manipulated by malicious tiny perturbations. Although most conventional adversarial attacks ensured the visual imperceptibility between adversarial examples and corresponding raw images by minimizing their geometric distance, these constraints on geometric distance led to limited attack transferability, inferior visual quality, and human-imperceptible interpretability. In this paper, we proposed a supervised semantic-transformation generative model to generate adversarial examples with real and legitimate semantics, wherein an unrestricted adversarial manifold containing continuous semantic variations was constructed for the first time to realize a legitimate transition from non-adversarial examples to adversarial ones. Comprehensive experiments on MNIST and industrial defect datasets showed that our adversarial examples not only exhibited better visual quality but also achieved superior attack transferability and more effective explanations for model vulnerabilities, indicating their great potential as generic adversarial examples. The code and pre-trained models were available at https://github.com/shuaili1027/MAELS.git.
• Abstract（参考訳）: ディープニューラルネットワークは、悪意のある小さな摂動によって操作される敵の例に著しく脆弱であった。 従来の敵対的攻撃は、幾何学的距離を最小化することで、敵の例と対応する原画像との視覚的受容性を確保できたが、これらの幾何学的距離に対する制約は、攻撃伝達性、視覚的品質の低下、人間の知覚的解釈性に制限をもたらした。 そこで本研究では,連続的な意味変化を含む非制限的な逆多様体を初めて構築し,非逆の例から逆の例への正当な遷移を実現するための教師付き意味変換生成モデルを提案する。 mnistとindustrial defectデータセットに関する包括的実験により、我々の敵の例は優れた視覚品質を示すだけでなく、優れた攻撃伝達性とモデルの脆弱性に対するより効果的な説明を達成し、汎用的な敵の例として大きな可能性を示した。 コードと事前トレーニングされたモデルはhttps://github.com/shuaili1027/maels.gitで入手できる。

関連論文リスト

• Imperceptible Face Forgery Attack via Adversarial Semantic Mask [59.23247545399068]
  本稿では, 対向性, 可視性に優れた対向性例を生成できるASMA(Adversarial Semantic Mask Attack framework)を提案する。 具体的には, 局所的なセマンティック領域の摂動を抑制し, 良好なステルス性を実現する, 対向型セマンティックマスク生成モデルを提案する。
  論文  参考訳（メタデータ） (2024-06-16T10:38:11Z)
• Efficient Generation of Targeted and Transferable Adversarial Examples for Vision-Language Models Via Diffusion Models [17.958154849014576]
  大規模視覚言語モデル(VLM)のロバスト性を評価するために、敵対的攻撃を用いることができる。 従来のトランスファーベースの敵攻撃は、高いイテレーション数と複雑なメソッド構造により、高いコストを発生させる。 本稿では, 拡散モデルを用いて, 自然, 制約のない, 対象とする対向的な例を生成するAdvDiffVLMを提案する。
  論文  参考訳（メタデータ） (2024-04-16T07:19:52Z)
• AFLOW: Developing Adversarial Examples under Extremely Noise-limited Settings [7.828994881163805]
  ディープニューラルネットワーク(DNN)は、敵の攻撃に対して脆弱である。 本稿では,AFLOW と呼ばれる新しい正規化フローベースのエンドツーエンドアタックフレームワークを提案する。 既存の手法と比較すると、AFLOWは認識不能性、画質、攻撃能力に優れていた。
  論文  参考訳（メタデータ） (2023-10-15T10:54:07Z)
• Mist: Towards Improved Adversarial Examples for Diffusion Models [0.8883733362171035]
  拡散モデル(DM)は、人工知能によって生成されたコンテンツ、特にアート作品の制作において大きな成功を収めた。 侵害者は、認可されていない人造絵画をDMで模倣することで利益を得ることができる。 近年の研究では、拡散モデルに対する様々な逆例が、これらの著作権侵害に対する効果的な手段である可能性が示唆されている。
  論文  参考訳（メタデータ） (2023-05-22T03:43:34Z)
• Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
  対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。 距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。 予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
  論文  参考訳（メタデータ） (2022-11-04T13:54:02Z)
• Harnessing Perceptual Adversarial Patches for Crowd Counting [92.79051296850405]
  群衆のカウントは、物理的な世界の敵の例に弱い。 本稿では,モデル間での知覚的特徴の共有を学習するためのPAP(Perceptual Adrial Patch)生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-16T13:51:39Z)
• Demiguise Attack: Crafting Invisible Semantic Adversarial Perturbations with Perceptual Similarity [5.03315505352304]
  敵対的な例は、視覚的に知覚できない摂動を持つ悪意のあるイメージである。 我々は、知覚的類似性による非制限の摂動を創りだすデミガイズアタックを提案する。 我々のアプローチでは、広く利用されている攻撃を拡大し、敵に対する効果を著しく高めつつ、認識不能に寄与する。
  論文  参考訳（メタデータ） (2021-07-03T10:14:01Z)
• Towards Defending against Adversarial Examples via Attack-Invariant Features [147.85346057241605]
  ディープニューラルネットワーク(DNN)は敵の雑音に弱い。 敵の強靭性は、敵の例を利用して改善することができる。 目に見えない種類の敵の例に基づいて訓練されたモデルは、一般的に、目に見えない種類の敵の例にうまく一般化できない。
  論文  参考訳（メタデータ） (2021-06-09T12:49:54Z)
• Adversarial Examples Detection beyond Image Space [88.7651422751216]
  摂動と予測信頼の間にはコンプライアンスが存在することが分かり、予測信頼の面から少数の摂動攻撃を検出するための指針となる。 本研究では,画像ストリームが画素アーティファクトに注目し,勾配ストリームが信頼度アーティファクトに対応する2ストリームアーキテクチャによる画像空間を超えた手法を提案する。
  論文  参考訳（メタデータ） (2021-02-23T09:55:03Z)
• Fundamental Tradeoffs between Invariance and Sensitivity to Adversarial Perturbations [65.05561023880351]
  敵の例は誤分類を引き起こすために作られた悪意のある入力である。 本稿では, 相補的障害モード, 不変性に基づく逆数例について検討する。 感度に基づく攻撃に対する防御は、不変性に基づく攻撃に対するモデルの精度を積極的に損なうことを示す。
  論文  参考訳（メタデータ） (2020-02-11T18:50:23Z)
• AdvJND: Generating Adversarial Examples with Just Noticeable Difference [3.638233924421642]
  例に小さな摂動を加えると、優れたパフォーマンスモデルが工芸品の例を誤って分類する。 我々のAdvJNDアルゴリズムが生成した逆例は、元の入力に類似した分布を生成する。
  論文  参考訳（メタデータ） (2020-02-01T09:55:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。