論文の概要: Reinforcement Learning Based Sparse Black-box Adversarial Attack on Video Recognition Models

• arxiv url: http://arxiv.org/abs/2108.13872v1
• Date: Sun, 29 Aug 2021 12:22:40 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-02 07:02:37.282373
• Title: Reinforcement Learning Based Sparse Black-box Adversarial Attack on Video Recognition Models
• Title（参考訳）: 強化学習に基づくビデオ認識モデルにおけるスパースブラックボックス攻撃
• Authors: Zeyuan Wang, Chaofeng Sha and Su Yang
• Abstract要約: ブラックボックスの敵攻撃は、選択されたキー領域とキーフレームでのみ実行される。 本稿では,攻撃プロセスの高速化を目的とした強化学習に基づくフレーム選択手法を提案する。 実データセットにおける実験結果の範囲は,提案手法の有効性と有効性を示す。
• 参考スコア（独自算出の注目度）: 3.029434408969759
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We explore the black-box adversarial attack on video recognition models. Attacks are only performed on selected key regions and key frames to reduce the high computation cost of searching adversarial perturbations on a video due to its high dimensionality. To select key frames, one way is to use heuristic algorithms to evaluate the importance of each frame and choose the essential ones. However, it is time inefficient on sorting and searching. In order to speed up the attack process, we propose a reinforcement learning based frame selection strategy. Specifically, the agent explores the difference between the original class and the target class of videos to make selection decisions. It receives rewards from threat models which indicate the quality of the decisions. Besides, we also use saliency detection to select key regions and only estimate the sign of gradient instead of the gradient itself in zeroth order optimization to further boost the attack process. We can use the trained model directly in the untargeted attack or with little fine-tune in the targeted attack, which saves computation time. A range of empirical results on real datasets demonstrate the effectiveness and efficiency of the proposed method.
• Abstract（参考訳）: ビデオ認識モデルに対するブラックボックス攻撃について検討する。 攻撃は選択されたキー領域とキーフレームでのみ行われ、高次元のためビデオ上の逆摂動を探索するための高い計算コストが削減される。 キーフレームを選択するには、ヒューリスティックアルゴリズムを使用して各フレームの重要性を評価し、必須のフレームを選択する。 しかし、ソートや検索では非効率である。 攻撃プロセスを高速化するために,強化学習に基づくフレーム選択戦略を提案する。 具体的には、エージェントは、元のクラスとターゲットビデオのクラスの違いを調べ、選択を決定する。 決定の質を示す脅威モデルから報酬を受け取る。 また,鍵領域の選択にはサリエンシ検出を用い,0次最適化では勾配ではなく勾配の符号のみを推定し,攻撃プロセスをさらに強化する。 訓練されたモデルを、対象外の攻撃で直接使用したり、ターゲット攻撃で微調整をほとんど行わずに使用することで、計算時間を短縮することができる。 実データセットにおける実験結果の範囲は,提案手法の有効性と有効性を示す。

関連論文リスト

• Defense Against Model Extraction Attacks on Recommender Systems [53.127820987326295]
  本稿では、モデル抽出攻撃に対するリコメンデータシステムに対する防御のために、グラディエントベースのランキング最適化(GRO)を導入する。 GROは、攻撃者の代理モデルの損失を最大化しながら、保護対象モデルの損失を最小限にすることを目的としている。 その結果,モデル抽出攻撃に対するGROの防御効果は良好であった。
  論文  参考訳（メタデータ） (2023-10-25T03:30:42Z)
• SOAR: Scene-debiasing Open-set Action Recognition [81.8198917049666]
  本稿では、対向的なシーン再構成モジュールと適応的な対向的なシーン分類モジュールを備えた、Scene-debiasing Open-set Action Recognition (SOAR)を提案する。 前者は、デコーダが映像特徴の映像背景を再構成することを防止し、特徴学習における背景情報を低減する。 後者は、アクションフォアグラウンドに特に重点を置いて、映像の特徴を与えられたシーンタイプの分類を混乱させることを目的としており、シーン不変情報を学習するのに役立つ。
  論文  参考訳（メタデータ） (2023-09-03T20:20:48Z)
• Efficient Decision-based Black-box Patch Attacks on Video Recognition [33.5640770588839]
  この研究はまず、意思決定に基づくビデオモデルに対するパッチ攻撃について検討する。 問合せ効率の高い攻撃を実現するために,時空間差分進化フレームワークを提案する。 STDEは、脅威、効率、非受容性の点で最先端のパフォーマンスを実証している。
  論文  参考訳（メタデータ） (2023-03-21T15:08:35Z)
• Efficient Robustness Assessment via Adversarial Spatial-Temporal Focus on Videos [0.0]
  本稿では,ビデオの空間時間的アタック(AstFocus)を新たに設計し,同時に焦点を絞ったキーフレームとキー領域に対するアタックを行う。 連続的なクエリにより、キーフレームとキー領域からなる縮小された検索空間が正確になっている。 4つの主流ビデオ認識モデルと3つの広く使われているアクション認識データセットの実験は、提案したAstFocus攻撃がSOTA法より優れていることを示した。
  論文  参考訳（メタデータ） (2023-01-03T00:28:57Z)
• Query Efficient Cross-Dataset Transferable Black-Box Attack on Action Recognition [99.29804193431823]
  ブラックボックスの敵攻撃は、行動認識システムに現実的な脅威をもたらす。 本稿では,摂動を発生させることにより,これらの欠点に対処する新たな行動認識攻撃を提案する。 提案手法は,最先端のクエリベースおよび転送ベース攻撃と比較して,8%,12%の偽装率を達成する。
  論文  参考訳（メタデータ） (2022-11-23T17:47:49Z)
• Attackar: Attack of the Evolutionary Adversary [0.0]
  本稿では、進化的、スコアベース、ブラックボックス攻撃であるtextitAttackarを紹介する。 アタッカーは、勾配のない最適化問題に使用できる新しい目的関数に基づいている。 以上の結果から,精度とクエリ効率の両面で,Attackarの優れた性能を示す。
  論文  参考訳（メタデータ） (2022-08-17T13:57:23Z)
• RamBoAttack: A Robust Query Efficient Deep Neural Network Decision Exploit [9.93052896330371]
  本研究では,局所的な最小値の侵入を回避し,ノイズ勾配からのミスダイレクトを回避できる,堅牢なクエリ効率の高い攻撃法を開発した。 RamBoAttackは、敵クラスとターゲットクラスで利用可能な異なるサンプルインプットに対して、より堅牢である。
  論文  参考訳（メタデータ） (2021-12-10T01:25:24Z)
• Attacking Video Recognition Models with Bullet-Screen Comments [79.53159486470858]
  本稿では,BSC攻撃による映像認識モデルに対する新たな敵攻撃を提案する。 BSCは一種の意味のあるパッチと見なすことができ、クリーンなビデオに追加しても、ビデオの内容に対する人々の理解に影響を与えたり、人々の疑念を喚起したりしない。
  論文  参考訳（メタデータ） (2021-10-29T08:55:50Z)
• Automated Decision-based Adversarial Attacks [48.01183253407982]
  我々は、実用的で挑戦的な意思決定ベースのブラックボックスの敵意設定を考える。 この設定では、攻撃者はターゲットモデルに問い合わせるだけで最終分類ラベルを取得できる。 意思決定に基づく攻撃アルゴリズムを自動的に発見する。
  論文  参考訳（メタデータ） (2021-05-09T13:15:10Z)
• Fast Template Matching and Update for Video Object Tracking and Segmentation [56.465510428878]
  私たちが取り組もうとしている主な課題は、フレームの列にまたがるマルチインスタンスの半教師付きビデオオブジェクトセグメンテーションである。 課題は、結果を予測するためのマッチングメソッドの選択と、ターゲットテンプレートを更新するかどうかを決定することである。 本稿では,これら2つの決定を同時に行うために,強化学習を利用する新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-04-16T08:58:45Z)
• Sparse Black-box Video Attack with Reinforcement Learning [14.624074868199287]
  ブラックボックスビデオ攻撃を強化学習フレームワークに定式化する。 RLの環境を認識モデルとし、RLのエージェントがフレーム選択の役割を果たす。 我々は2つの主流ビデオ認識モデルを用いて一連の実験を行う。
  論文  参考訳（メタデータ） (2020-01-11T14:09:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。