論文の概要: How to choose your best allies for a transferable attack?

• arxiv url: http://arxiv.org/abs/2304.02312v1
• Date: Wed, 5 Apr 2023 09:08:02 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-06 13:01:54.913264
• Title: How to choose your best allies for a transferable attack?
• Title（参考訳）: 移動可能な攻撃に最適な同盟国を選ぶには?
• Authors: Thibault Maho, Seyed-Mohsen Moosavi-Dezfooli, Teddy Furon
• Abstract要約: 敵対的な例の転送可能性は、ディープニューラルネットワークのセキュリティにおいて重要な問題である。 新たなツールは、攻撃者がソースモデルをランダムに選択した場合、転送可能な攻撃はブラックボックス攻撃よりもはるかに悪い可能性があることを示している。 FiTは複数のシナリオで最適なソースモデルを選択するのに非常に効果的です。
• 参考スコア（独自算出の注目度）: 26.669765474142995
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The transferability of adversarial examples is a key issue in the security of deep neural networks. The possibility of an adversarial example crafted for a source model fooling another targeted model makes the threat of adversarial attacks more realistic. Measuring transferability is a crucial problem, but the Attack Success Rate alone does not provide a sound evaluation. This paper proposes a new methodology for evaluating transferability by putting distortion in a central position. This new tool shows that transferable attacks may perform far worse than a black box attack if the attacker randomly picks the source model. To address this issue, we propose a new selection mechanism, called FiT, which aims at choosing the best source model with only a few preliminary queries to the target. Our experimental results show that FiT is highly effective at selecting the best source model for multiple scenarios such as single-model attacks, ensemble-model attacks and multiple attacks (Code available at: https://github.com/t-maho/transferability_measure_fit).
• Abstract（参考訳）: 敵対的な例の転送性は、ディープニューラルネットワークのセキュリティにおいて重要な問題である。 別のターゲットモデルを騙すソースモデルのために作られた敵の例の可能性は、敵の攻撃の脅威をより現実的なものにします。 移動性の測定は重要な問題であるが、攻撃成功率だけでは音質評価はできない。 本稿では,中心位置に歪みを配置することで移動性を評価する新しい手法を提案する。 この新しいツールは、攻撃者がランダムにソースモデルを選択した場合、転送可能な攻撃はブラックボックス攻撃よりもはるかに悪い可能性があることを示している。 この問題に対処するため,我々はfitと呼ばれる新しい選択機構を提案し,ターゲットに対してほんの数回の予備クエリしか持たない最適なソースモデルを選択することを目的としている。 実験の結果,FiTは単一モデルアタックやアンサンブルモデルアタック,複数アタックなど,複数のシナリオに対して最適なソースモデルを選択するのに極めて効果的であることがわかった。

関連論文リスト

• DTA: Distribution Transform-based Attack for Query-Limited Scenario [11.874670564015789]
  敵の例を生成する際、従来のブラックボックス攻撃法は攻撃対象モデルからの十分なフィードバックに依存している。 本稿では,攻撃された動作が限られた数のクエリを実行可能であることをシミュレートするハードラベル攻撃を提案する。 提案したアイデアの有効性とDTAの最先端性を検証する実験を行った。
  論文  参考訳（メタデータ） (2023-12-12T13:21:03Z)
• One-bit Flip is All You Need: When Bit-flip Attack Meets Model Training [54.622474306336635]
  メモリフォールトインジェクション技術を利用したビットフリップ攻撃(BFA)と呼ばれる新たな重み修正攻撃が提案された。 本稿では,高リスクモデルを構築するための訓練段階に敵が関与する,訓練支援ビットフリップ攻撃を提案する。
  論文  参考訳（メタデータ） (2023-08-12T09:34:43Z)
• Transferable Attack for Semantic Segmentation [59.17710830038692]
  敵が攻撃し、ソースモデルから生成された敵の例がターゲットモデルを攻撃するのに失敗するのを観察します。 本研究では, セマンティックセグメンテーションのためのアンサンブルアタックを提案する。
  論文  参考訳（メタデータ） (2023-07-31T11:05:55Z)
• Adversarial Attacks Neutralization via Data Set Randomization [3.655021726150369]
  ディープラーニングモデルに対する敵対的な攻撃は、信頼性とセキュリティに深刻な脅威をもたらす。 本稿では,超空間射影に根ざした新しい防御機構を提案する。 提案手法は,敵対的攻撃に対するディープラーニングモデルの堅牢性を高めていることを示す。
  論文  参考訳（メタデータ） (2023-06-21T10:17:55Z)
• Adversarial Transfer Attacks With Unknown Data and Class Overlap [19.901933940805684]
  現在の移動攻撃の研究は、攻撃者にとって非現実的な優位性を持っている。 攻撃者および被害者が不完全な設定で利用可能なデータに着目した敵攻撃の転送に関する最初の研究について述べる。 この脅威モデルは、医学、マルウェアなどの応用に関係している。
  論文  参考訳（メタデータ） (2021-09-23T03:41:34Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• Learning to Attack: Towards Textual Adversarial Attacking in Real-world Situations [81.82518920087175]
  敵攻撃は、敵の例でディープニューラルネットワークを騙すことを目的としている。 本稿では、攻撃履歴から学習し、より効率的に攻撃を開始することができる強化学習に基づく攻撃モデルを提案する。
  論文  参考訳（メタデータ） (2020-09-19T09:12:24Z)
• Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution [83.02632136860976]
  深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究 我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。 ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
  論文  参考訳（メタデータ） (2020-06-15T16:45:27Z)
• Adversarial Imitation Attack [63.76805962712481]
  現実的な敵攻撃は、攻撃されたモデルの知識をできるだけ少なくする必要がある。 現在の代替攻撃では、敵の例を生成するために事前訓練されたモデルが必要である。 本研究では,新たな敵模倣攻撃を提案する。
  論文  参考訳（メタデータ） (2020-03-28T10:02:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。