Fugu-MT 論文翻訳(概要): A Random Ensemble of Encrypted Vision Transformers for Adversarially Robust Defense

論文の概要: A Random Ensemble of Encrypted Vision Transformers for Adversarially Robust Defense

arxiv url: http://arxiv.org/abs/2402.07183v1
Date: Sun, 11 Feb 2024 12:35:28 GMT
ステータス: 処理完了
システム内更新日: 2024-02-13 17:07:39.959482
Title: A Random Ensemble of Encrypted Vision Transformers for Adversarially Robust Defense
Title（参考訳）: 対向ロバスト防御のための暗号化ビジョントランスのランダムアンサンブル
Authors: Ryota Iijima, Sayaka Shiota, Hitoshi Kiya
Abstract要約: ディープニューラルネットワーク(DNN)は、敵の例(AE)に弱いことがよく知られている。ホワイトボックス攻撃とブラックボックス攻撃の双方に対してロバスト性を高めるために,暗号化されたモデルのランダムアンサンブルである視覚変換器(ViT)を用いた新しい手法を提案する。実験では, 画像分類作業において, ホワイトボックス攻撃だけでなくブラックボックス攻撃に対しても頑健であることが実証された。
参考スコア（独自算出の注目度）: 6.476298483207895
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Deep neural networks (DNNs) are well known to be vulnerable to adversarial examples (AEs). In previous studies, the use of models encrypted with a secret key was demonstrated to be robust against white-box attacks, but not against black-box ones. In this paper, we propose a novel method using the vision transformer (ViT) that is a random ensemble of encrypted models for enhancing robustness against both white-box and black-box attacks. In addition, a benchmark attack method, called AutoAttack, is applied to models to test adversarial robustness objectively. In experiments, the method was demonstrated to be robust against not only white-box attacks but also black-box ones in an image classification task on the CIFAR-10 and ImageNet datasets. The method was also compared with the state-of-the-art in a standardized benchmark for adversarial robustness, RobustBench, and it was verified to outperform conventional defenses in terms of clean accuracy and robust accuracy.
Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、敵の例(AE)に弱いことがよく知られている。従来の研究では、秘密鍵で暗号化されたモデルの使用はホワイトボックス攻撃に対して堅牢であるが、ブラックボックス攻撃には耐えられないことが示されている。本稿では,ホワイトボックス攻撃とブラックボックス攻撃の両方に対するロバスト性を高めるために,暗号化されたモデルのランダムアンサンブルであるvision transformer(vit)を用いた新しい手法を提案する。さらに、AutoAttackと呼ばれるベンチマークアタック手法をモデルに適用し、敵のロバスト性を客観的にテストする。実験では、CIFAR-10とImageNetデータセット上の画像分類タスクにおいて、ホワイトボックス攻撃だけでなくブラックボックス攻撃に対しても堅牢であることが実証された。また, 対向ロバストベンチ(RobostBench)の正当性評価ベンチマークにおいて, 従来の防御性能を, 清潔な精度とロバストな精度で向上することが確認された。

関連論文リスト

Privacy-preserving Universal Adversarial Defense for Black-box Models [20.968518031455503]
本稿では,対象モデルのパラメータやアーキテクチャへのアクセスを必要としない,汎用的なブラックボックス防御手法であるDUCDを紹介する。このアプローチでは、データをクエリすることでターゲットモデルをクエリし、データのプライバシを保持しながら、ホワイトボックスサロゲートを生成します。複数の画像分類データセットの実験では、DUCDは既存のブラックボックスディフェンスよりも優れており、ホワイトボックスディフェンスの精度と一致している。
論文参考訳（メタデータ） (2024-08-20T08:40:39Z)
Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
論文参考訳（メタデータ） (2024-04-04T10:10:38Z)
A Random Ensemble of Encrypted models for Enhancing Robustness against Adversarial Examples [6.476298483207895]
ビジョントランスフォーマー(ViT)は、畳み込みニューラルネットワーク(CNN)モデルよりも、逆転性の性質に対してより堅牢である。本稿では,より堅牢なモデルを実現するために,暗号化されたViTモデルのランダムアンサンブルを提案する。
論文参考訳（メタデータ） (2024-01-05T04:43:14Z)
Understanding the Robustness of Randomized Feature Defense Against Query-Based Adversarial Attacks [23.010308600769545]
ディープニューラルネットワークは、元の画像に近いサンプルを見つける敵の例に弱いが、モデルを誤分類させる可能性がある。モデル中間層における隠れた特徴にランダムノイズを付加することにより,ブラックボックス攻撃に対する簡易かつ軽量な防御法を提案する。本手法は,スコアベースと決定ベースの両方のブラックボックス攻撃に対するモデルのレジリエンスを効果的に向上させる。
論文参考訳（メタデータ） (2023-10-01T03:53:23Z)
Enhanced Security against Adversarial Examples Using a Random Ensemble of Encrypted Vision Transformer Models [12.29209267739635]
ビジョントランスフォーマー(ViT)は、畳み込みニューラルネットワーク(CNN)モデルよりも、逆転性の性質に対してより堅牢である。本稿では,より堅牢なモデルを実現するために,暗号化されたViTモデルのランダムアンサンブルを提案する。
論文参考訳（メタデータ） (2023-07-26T06:50:58Z)
Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking Defenses with Provable Confidence [34.35162562625252]
ブラックボックスの敵攻撃は、機械学習モデルを妥協する強力な可能性を示している。証明可能な保証付きブラックボックス攻撃の新たなパラダイムについて検討する。この新しいブラックボックス攻撃は、機械学習モデルの重大な脆弱性を露呈する。
論文参考訳（メタデータ） (2023-04-10T01:12:09Z)
Cross-Modal Transferable Adversarial Attacks from Images to Videos [82.0745476838865]
近年の研究では、一方のホワイトボックスモデルで手作りされた敵の例は、他のブラックボックスモデルを攻撃するために使用できることが示されている。本稿では,イメージ・トゥ・ビデオ(I2V)攻撃と呼ばれる,シンプルだが効果的なクロスモーダル・アタック手法を提案する。 I2Vは、事前訓練された画像モデルの特徴と良質な例とのコサイン類似性を最小化して、対向フレームを生成する。
論文参考訳（メタデータ） (2021-12-10T08:19:03Z)
Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
論文参考訳（メタデータ） (2021-05-31T17:01:05Z)
Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
論文参考訳（メタデータ） (2020-09-24T06:22:56Z)
Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning [71.17774313301753]
本研究では,自己指導型高水準表現の堅牢性について,敵攻撃に対する防御に利用して検討する。 ASVspoof 2019データセットの実験結果は、Mockingjayによって抽出されたハイレベルな表現が、敵の例の転送可能性を妨げることを示した。
論文参考訳（メタデータ） (2020-06-05T03:03:06Z)
Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
論文参考訳（メタデータ） (2020-05-11T05:57:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。