論文の概要: Breaking the Illusion of Security via Interpretation: Interpretable Vision Transformer Systems under Attack
- arxiv url: http://arxiv.org/abs/2507.14248v1
- Date: Fri, 18 Jul 2025 05:11:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-22 20:51:31.800821
- Title: Breaking the Illusion of Security via Interpretation: Interpretable Vision Transformer Systems under Attack
- Title（参考訳）: 解釈によるセキュリティの幻滅を打破する:攻撃下での解釈可能な視覚変換器システム
- Authors: Eldor Abdukhamidov, Mohammed Abuhamad, Simon S. Woo, Hyoungshick Kim, Tamer Abuhmed,
- Abstract要約: 視覚変換器(ViT)モデルは、解釈モデルと組み合わせると、安全で欺くことが難しいと見なされる。
本研究では,解釈モデルと組み合わせても,逆攻撃に対するトランスフォーマーモデルの脆弱性について検討する。
本稿では,ある変圧器モデルとその結合解釈モデルの両方を誤解させることのできる逆例を生成する「AdViT」と呼ばれる攻撃を提案する。
- 参考スコア（独自算出の注目度）: 23.690939122119723
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Vision transformer (ViT) models, when coupled with interpretation models, are regarded as secure and challenging to deceive, making them well-suited for security-critical domains such as medical applications, autonomous vehicles, drones, and robotics. However, successful attacks on these systems can lead to severe consequences. Recent research on threats targeting ViT models primarily focuses on generating the smallest adversarial perturbations that can deceive the models with high confidence, without considering their impact on model interpretations. Nevertheless, the use of interpretation models can effectively assist in detecting adversarial examples. This study investigates the vulnerability of transformer models to adversarial attacks, even when combined with interpretation models. We propose an attack called "AdViT" that generates adversarial examples capable of misleading both a given transformer model and its coupled interpretation model. Through extensive experiments on various transformer models and two transformer-based interpreters, we demonstrate that AdViT achieves a 100% attack success rate in both white-box and black-box scenarios. In white-box scenarios, it reaches up to 98% misclassification confidence, while in black-box scenarios, it reaches up to 76% misclassification confidence. Remarkably, AdViT consistently generates accurate interpretations in both scenarios, making the adversarial examples more difficult to detect.
- Abstract（参考訳）: ビジョントランスフォーマー(ViT)モデルは、解釈モデルと組み合わせると、安全で、欺くことが難しいと見なされ、医療応用、自動運転車、ドローン、ロボット工学などのセキュリティクリティカルな分野に適している。
しかし、これらのシステムに対する攻撃は深刻な結果をもたらす可能性がある。
近年のViTモデルをターゲットにした脅威の研究は、モデル解釈への影響を考慮せずに、モデルを高い信頼で欺くことができる最小の敵の摂動を生成することに焦点を当てている。
それでも、解釈モデルの使用は、敵の例の検出を効果的に支援することができる。
本研究では,解釈モデルと組み合わせても,逆攻撃に対するトランスフォーマーモデルの脆弱性について検討する。
本稿では,ある変圧器モデルとその結合解釈モデルの両方を誤解させることのできる逆例を生成する「AdViT」と呼ばれる攻撃を提案する。
各種変圧器モデルと2つの変圧器ベースインタプリタに関する広範な実験を通じて,AdViTは,ホワイトボックスとブラックボックスの両方のシナリオにおいて100%の攻撃成功率を達成することを示した。
ホワイトボックスのシナリオでは、最大98%の誤分類の信頼性、ブラックボックスのシナリオでは最大76%の誤分類の信頼性に達する。
注目すべきは、AdViTは両シナリオの正確な解釈を一貫して生成し、敵例の検出がより困難になることだ。
関連論文リスト
- Protego: Detecting Adversarial Examples for Vision Transformers via Intrinsic Capabilities [21.96572543062238]
トランスフォーマーモデルは自然言語処理に優れており、ビジョンコミュニティはコンピュータビジョン問題におけるその実装を探求している。
本稿では、VTモデルの脆弱性を明らかにするために、3つの事前訓練されたViTモデルに対する6つの共通敵攻撃の攻撃能力について検討する。
本稿では,VTモデルが敵攻撃を防ぐために,変圧器固有の機能を利用した検出フレームワークProtegoを提案する。
論文 参考訳（メタデータ） (2025-01-13T03:54:19Z) - ViTGuard: Attention-aware Detection against Adversarial Examples for Vision Transformer [8.71614629110101]
本稿では,視覚変換器(ViT)モデルを敵攻撃に対して防御するための一般的な検出方法として,ViTGuardを提案する。
ViTGuardはMasked Autoencoder(MAE)モデルを使用して、ランダムにマスキングされたパッチを非マッシュ領域から回収する。
しきい値に基づく検出器は、注意マップやトークン表現(トークン表現)の分類など、ViT特有の特徴を活用して、通常のサンプルと反対のサンプルを区別する。
論文 参考訳（メタデータ） (2024-09-20T18:11:56Z) - Downstream Transfer Attack: Adversarial Attacks on Downstream Models with Pre-trained Vision Transformers [95.22517830759193]
本稿では、事前訓練されたViTモデルから下流タスクへのこのような逆の脆弱性の伝達可能性について検討する。
DTAは攻撃成功率(ASR)が90%を超え、既存の手法をはるかに上回っていることを示す。
論文 参考訳（メタデータ） (2024-08-03T08:07:03Z) - SA-Attack: Improving Adversarial Transferability of Vision-Language
Pre-training Models via Self-Augmentation [56.622250514119294]
ホワイトボックスの敵攻撃とは対照的に、転送攻撃は現実世界のシナリオをより反映している。
本稿では,SA-Attackと呼ばれる自己拡張型転送攻撃手法を提案する。
論文 参考訳（メタデータ） (2023-12-08T09:08:50Z) - The Efficacy of Transformer-based Adversarial Attacks in Security
Domains [0.7156877824959499]
システムディフェンダーの対向サンプルに対する変換器のロバスト性およびシステムアタッカーに対する対向強度を評価する。
我々の研究は、セキュリティ領域におけるモデルの攻撃と防御のためにトランスフォーマーアーキテクチャを研究することの重要性を強調している。
論文 参考訳（メタデータ） (2023-10-17T21:45:23Z) - Set-level Guidance Attack: Boosting Adversarial Transferability of
Vision-Language Pre-training Models [52.530286579915284]
本稿では,視覚言語事前学習モデルの対角移動可能性について検討する。
伝達性劣化は、部分的にはクロスモーダル相互作用のアンダーユース化によって引き起こされる。
本稿では,高度に伝達可能なSGA(Set-level Guidance Attack)を提案する。
論文 参考訳（メタデータ） (2023-07-26T09:19:21Z) - Self-Ensembling Vision Transformer (SEViT) for Robust Medical Image
Classification [4.843654097048771]
ビジョントランスフォーマー(ViT)は、医療画像における様々なコンピュータビジョンタスクのために、畳み込みニューラルネットワーク(CNN)を置き換えるために競合している。
近年の研究では、ViTsはそのような攻撃の影響を受けやすく、攻撃下での大幅な性能劣化が報告されている。
本稿では,対戦型攻撃の存在下でのViTの堅牢性を高めるための,新たな自己認識手法を提案する。
論文 参考訳（メタデータ） (2022-08-04T19:02:24Z) - Cross-Modal Transferable Adversarial Attacks from Images to Videos [82.0745476838865]
近年の研究では、一方のホワイトボックスモデルで手作りされた敵の例は、他のブラックボックスモデルを攻撃するために使用できることが示されている。
本稿では,イメージ・トゥ・ビデオ(I2V)攻撃と呼ばれる,シンプルだが効果的なクロスモーダル・アタック手法を提案する。
I2Vは、事前訓練された画像モデルの特徴と良質な例とのコサイン類似性を最小化して、対向フレームを生成する。
論文 参考訳（メタデータ） (2021-12-10T08:19:03Z) - Boosting the Transferability of Video Adversarial Examples via Temporal
Translation [82.0745476838865]
敵の例は転送可能であり、現実世界のアプリケーションにおけるブラックボックス攻撃に対して実現可能である。
本稿では,一組の時間的翻訳ビデオクリップ上での対向的摂動を最適化する時間的翻訳攻撃手法を提案する。
Kinetics-400 データセットと UCF-101 データセットを用いた実験により,本手法がビデオ対向例の転送可能性を大幅に向上することを示した。
論文 参考訳（メタデータ） (2021-10-18T07:52:17Z) - Towards Transferable Adversarial Attacks on Vision Transformers [110.55845478440807]
視覚変換器(ViT)は、コンピュータビジョンの一連のタスクにおいて印象的なパフォーマンスを示してきたが、それでも敵の例に悩まされている。
本稿では、PNA攻撃とPatchOut攻撃を含むデュアルアタックフレームワークを導入し、異なるViT間での対向サンプルの転送性を改善する。
論文 参考訳（メタデータ） (2021-09-09T11:28:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。