論文の概要: Constructing Semantics-Aware Adversarial Examples with Probabilistic
Perspective
- arxiv url: http://arxiv.org/abs/2306.00353v2
- Date: Sun, 11 Feb 2024 14:36:00 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-14 00:52:57.773762
- Title: Constructing Semantics-Aware Adversarial Examples with Probabilistic
Perspective
- Title(参考訳): 確率論的視点による意味論的考察
- Authors: Andi Zhang, Mingtian Zhang, Damon Wischik
- Abstract要約: 本稿では,セマンティック・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・アウェア・
本手法は,元の画像のセマンティクスを維持する逆摂動を生成する。
ユーザに対して,セマンティクスに関する自身の理解を,敵の例に注入する柔軟性を提供する。
- 参考スコア(独自算出の注目度): 4.685487217906502
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose a probabilistic perspective on adversarial examples. This
perspective allows us to view geometric restrictions on adversarial examples as
distributions, enabling a seamless shift towards data-driven, semantic
constraints. Building on this foundation, we present a method for creating
semantics-aware adversarial examples in a principle way. Leveraging the
advanced generalization capabilities of contemporary probabilistic generative
models, our method produces adversarial perturbations that maintain the
original image's semantics. Moreover, it offers users the flexibility to inject
their own understanding of semantics into the adversarial examples. Our
empirical findings indicate that the proposed methods achieve enhanced
transferability and higher success rates in circumventing adversarial defense
mechanisms, while maintaining a low detection rate by human observers.
- Abstract(参考訳): 本稿では,敵対的事例に対する確率論的視点を提案する。
この視点は、逆の例の幾何学的制約を分布として見ることができ、データ駆動でセマンティックな制約へのシームレスなシフトを可能にする。
この基礎の上に構築された本論文では, セマンティックスを考慮した敵例を原則的に作成する手法を提案する。
本手法は,現代の確率的生成モデルの高度な一般化機能を活用して,画像のセマンティクスを維持できる逆摂動を生成する。
さらに、ユーザ自身がセマンティクスの理解を敵の例に注入する柔軟性も備えている。
提案手法は,ヒトの観察者による低検出率を維持しつつ,対側防御機構を回避し,伝達性の向上と高い成功率を達成することが実証された。
関連論文リスト
- Transcending Adversarial Perturbations: Manifold-Aided Adversarial
Examples with Legitimate Semantics [10.058463432437659]
ディープニューラルネットワークは、悪意のある小さな摂動によって操作される敵の例に対して、極めて脆弱であった。
本稿では, 現実的, 合法的意味論による敵対的事例を生成するために, 教師付き意味変換生成モデルを提案する。
MNISTおよび産業用欠陥データセットを用いた実験により、我々の敵の例は、より良い視覚的品質を示しただけでなく、優れた攻撃伝達性を示した。
論文 参考訳(メタデータ) (2024-02-05T15:25:40Z) - Mitigating Feature Gap for Adversarial Robustness by Feature
Disentanglement [61.048842737581865]
逆方向の微調整法は, 逆方向の訓練方法で, 自然に事前訓練されたモデルを微調整することにより, 逆方向の強靭性を高めることを目的としている。
特徴ギャップの原因となる潜伏する特徴を明示的にモデル化し,取り除く,アンタングルメントに基づくアプローチを提案する。
3つのベンチマークデータセットに対する実証的な評価は、我々のアプローチが既存の逆方向の微調整法や逆方向のトレーニングベースラインを超えていることを示している。
論文 参考訳(メタデータ) (2024-01-26T08:38:57Z) - Mist: Towards Improved Adversarial Examples for Diffusion Models [0.8883733362171035]
拡散モデル(DM)は、人工知能によって生成されたコンテンツ、特にアート作品の制作において大きな成功を収めた。
侵害者は、認可されていない人造絵画をDMで模倣することで利益を得ることができる。
近年の研究では、拡散モデルに対する様々な逆例が、これらの著作権侵害に対する効果的な手段である可能性が示唆されている。
論文 参考訳(メタデータ) (2023-05-22T03:43:34Z) - The Enemy of My Enemy is My Friend: Exploring Inverse Adversaries for
Improving Adversarial Training [72.39526433794707]
敵の訓練とその変種は、敵の例に対抗して最も効果的なアプローチであることが示されている。
本稿では,モデルが類似した出力を生成することを奨励する,新たな対角訓練手法を提案する。
本手法は,最先端のロバスト性および自然な精度を実現する。
論文 参考訳(メタデータ) (2022-11-01T15:24:26Z) - Robust Transferable Feature Extractors: Learning to Defend Pre-Trained
Networks Against White Box Adversaries [69.53730499849023]
また, 予測誤差を誘導するために, 逆例を独立に学習した別のモデルに移すことが可能であることを示す。
本稿では,頑健な伝達可能な特徴抽出器(RTFE)と呼ばれる,ディープラーニングに基づく事前処理機構を提案する。
論文 参考訳(メタデータ) (2022-09-14T21:09:34Z) - When and How to Fool Explainable Models (and Humans) with Adversarial
Examples [1.439518478021091]
説明可能な機械学習モデルに対する敵攻撃の可能性と限界について検討する。
まず、逆例の概念を拡張して、説明可能な機械学習シナリオに適合する。
次に、説明可能なモデルに対して、逆例を生成できるかどうかを総合的に検討する枠組みを提案する。
論文 参考訳(メタデータ) (2021-07-05T11:20:55Z) - Towards Defending against Adversarial Examples via Attack-Invariant
Features [147.85346057241605]
ディープニューラルネットワーク(DNN)は敵の雑音に弱い。
敵の強靭性は、敵の例を利用して改善することができる。
目に見えない種類の敵の例に基づいて訓練されたモデルは、一般的に、目に見えない種類の敵の例にうまく一般化できない。
論文 参考訳(メタデータ) (2021-06-09T12:49:54Z) - Adversarial Examples Detection beyond Image Space [88.7651422751216]
摂動と予測信頼の間にはコンプライアンスが存在することが分かり、予測信頼の面から少数の摂動攻撃を検出するための指針となる。
本研究では,画像ストリームが画素アーティファクトに注目し,勾配ストリームが信頼度アーティファクトに対応する2ストリームアーキテクチャによる画像空間を超えた手法を提案する。
論文 参考訳(メタデータ) (2021-02-23T09:55:03Z) - Learning to Separate Clusters of Adversarial Representations for Robust
Adversarial Detection [50.03939695025513]
本稿では,最近導入された非破壊的特徴を動機とした新しい確率的対向検出器を提案する。
本稿では,非ロバスト特徴を逆例の共通性と考え,その性質に対応する表現空間におけるクラスターの探索が可能であることを推定する。
このアイデアは、別のクラスタ内の逆表現の確率推定分布を導出し、その分布を確率に基づく逆検出器として活用する。
論文 参考訳(メタデータ) (2020-12-07T07:21:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。