論文の概要: Reinforcement Learning Inspired Black-box Adversarial Attacks for Computer Vision

• arxiv url: http://arxiv.org/abs/2609.24249v1
• Date: Mon, 21 Sep 2026 08:14:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:01.207583
• Title: Reinforcement Learning Inspired Black-box Adversarial Attacks for Computer Vision
• Title（参考訳）: コンピュータビジョンのための強化学習によるブラックボックス攻撃
• Abstract要約: ブラックボックスの敵攻撃は、安全クリティカルなアプリケーションにおけるニューラルネットワークの実装に対する重大な脅威であると考えられている。 より現実的なブラックボックス脅威モデルに基づく新しいアプローチを提案する。これは強化学習の概念を利用して、微分不可能なターゲットモデルを用いて摂動を最適化する。 対象モデルに対する少数の問合せのみを用いて、敵の摂動を発生させるため、強化学習がブラックボックス逆行攻撃(RIBA)を誘発したことを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural networks, both convolution or transformer based, are essential for modern computer vision systems. However, they are vulnerable to small perturbations, almost imperceptible to humans, which significantly alter the model's prediction. These adversarial attacks are often considered to be a significant threat to the implementation of neural networks in safety-critical applications. Most attacks utilize the white-box threat model and therefore require full access to the target model, making them unrealistic to use in practice. We propose a novel approach under the more realistic black-box threat model that utilizes concepts from reinforcement learning to optimize perturbations with a non-differentiable target model. Reinforcement learning algorithms have already been optimized to be query efficient, making them an ideal starting point when designing black-box adversarial attacks. We show the success of our reinforcement learning inspired black-box adversarial attack (RIBA) in generating adversarial perturbations using only a small number of queries to the target model, by comparing it to state of the art attacks on different models on the Cifar10 and ImageNet data sets. RIBA takes $25.4\%$ fewer median queries to generate attacked images against a ResNet-18 on Cifar10 and $22.5\%$ fewer median queries to fool a Vit-B/16 model on ImageNet. Additionally, we demonstrate that RIBA can match the performance of white-box attacks on an adversarially trained model.
• Abstract（参考訳）: 畳み込みまたはトランスフォーマーベースのニューラルネットワークは、現代のコンピュータビジョンシステムに不可欠である。 しかし、それらは小さな摂動に弱いため、ほとんど人間には受け入れられず、モデルの予測を大きく変えている。 これらの敵対的攻撃は、安全クリティカルなアプリケーションにおけるニューラルネットワークの実装に対する重大な脅威とみなされることが多い。 ほとんどの攻撃はホワイトボックスの脅威モデルを利用するため、ターゲットモデルに完全にアクセスする必要があるため、実際には使用できない。 より現実的なブラックボックス脅威モデルに基づく新しいアプローチを提案する。これは強化学習の概念を利用して、微分不可能なターゲットモデルを用いて摂動を最適化する。 強化学習アルゴリズムはすでにクエリ効率に最適化されており、ブラックボックスの敵攻撃を設計する上で理想的な出発点となっている。 我々は,Cifar10データセットとImageNetデータセットの異なるモデルに対する最先端の攻撃と比較して,対象モデルに対する少数のクエリのみを用いて,敵の摂動を発生させることで,強化学習にインスパイアされたブラックボックス敵攻撃(RIBA)の成功を示す。 RIBAは、Cifar10上のResNet-18に対して攻撃的な画像を生成するために25.4\%の中央値クエリを、ImageNet上のVit-B/16モデルを騙すために2.5\%の中央値クエリを減らしている。 さらに、RIBAは、敵対的に訓練されたモデルに対して、ホワイトボックス攻撃のパフォーマンスと一致できることを実証する。

関連論文リスト

• BruSLeAttack: A Query-Efficient Score-Based Black-Box Sparse Adversarial Attack [22.408968332454062]
  モデルクエリに対するスコアベースの応答を単純に観察することで、スパース対逆サンプルを生成するという、独特であまりよく理解されていない問題について検討する。 この問題に対するBruSLeAttackアルゴリズムを開発した。 私たちの作業は、モデル脆弱性の迅速な評価を促進し、デプロイされたシステムの安全性、セキュリティ、信頼性に対する警戒を高めます。
  論文  参考訳（メタデータ） (2024-04-08T08:59:26Z)
• Practical No-box Adversarial Attacks with Training-free Hybrid Image Transformation [94.30136898739448]
  ノンボックス脅威モデルの下では, テキストbftraining-free adversarial perturbationの存在を示す。 低レベルの特徴を持つ高周波成分 (HFC) ドメインは, 主に周波数成分の操作によって画像を攻撃する。 我々の手法は、主流の転送ベースのブラックボックス攻撃と競合する。
  論文  参考訳（メタデータ） (2022-03-09T09:51:00Z)
• Query Efficient Decision Based Sparse Attacks Against Black-Box Deep Learning Models [9.93052896330371]
  本研究では,進化型アルゴリズムであるSparseEvoを開発し,畳み込み型深層ニューラルネットワークと視覚変換器の両方に対して評価する。 SparseEvoは、未ターゲットとターゲットの両方の攻撃に対して、最先端のスパース攻撃よりもはるかに少ないモデルクエリを必要とする。 重要なことは、クエリ効率のよいSparseEvoと意思決定ベースの攻撃は、一般的に、デプロイされたシステムの安全性に関する新しい疑問を提起する。
  論文  参考訳（メタデータ） (2022-01-31T21:10:47Z)
• Cross-Modal Transferable Adversarial Attacks from Images to Videos [82.0745476838865]
  近年の研究では、一方のホワイトボックスモデルで手作りされた敵の例は、他のブラックボックスモデルを攻撃するために使用できることが示されている。 本稿では,イメージ・トゥ・ビデオ(I2V)攻撃と呼ばれる,シンプルだが効果的なクロスモーダル・アタック手法を提案する。 I2Vは、事前訓練された画像モデルの特徴と良質な例とのコサイン類似性を最小化して、対向フレームを生成する。
  論文  参考訳（メタデータ） (2021-12-10T08:19:03Z)
• Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
  ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
  論文  参考訳（メタデータ） (2020-09-24T06:22:56Z)
• Two Sides of the Same Coin: White-box and Black-box Attacks for Transfer Learning [60.784641458579124]
  ホワイトボックスFGSM攻撃によるモデルロバスト性を効果的に向上することを示す。 また,移動学習モデルに対するブラックボックス攻撃手法を提案する。 ホワイトボックス攻撃とブラックボックス攻撃の双方の効果を系統的に評価するために,ソースモデルからターゲットモデルへの変換可能性の評価手法を提案する。
  論文  参考訳（メタデータ） (2020-08-25T15:04:32Z)
• Orthogonal Deep Models As Defense Against Black-Box Attacks [71.23669614195195]
  攻撃者が標的モデルに類似したモデルを用いて攻撃を発生させるブラックボックス設定における深層モデル固有の弱点について検討する。 本稿では,深部モデルの内部表現を他のモデルに直交させる新しい勾配正規化手法を提案する。 様々な大規模モデルにおいて,本手法の有効性を検証する。
  論文  参考訳（メタデータ） (2020-06-26T08:29:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。