論文の概要: Backdoor Attacks on Time Series: A Generative Approach

• arxiv url: http://arxiv.org/abs/2211.07915v1
• Date: Tue, 15 Nov 2022 06:00:28 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-16 15:58:14.774924
• Title: Backdoor Attacks on Time Series: A Generative Approach
• Title（参考訳）: 時系列におけるバックドア攻撃: 生成的アプローチ
• Authors: Yujing Jiang, Xingjun Ma, Sarah Monazam Erfani, James Bailey
• Abstract要約: 本稿では,ディープラーニングに基づく時系列分類器に対する時系列バックドア攻撃に対する新たな生成手法を提案する。 バックドア攻撃には、高いステルスネスと高い攻撃成功率という2つの主要な目標がある。 提案した攻撃はバックドア防御に耐性があることが判明した。
• 参考スコア（独自算出の注目度）: 33.51299834575577
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Backdoor attacks have emerged as one of the major security threats to deep learning models as they can easily control the model's test-time predictions by pre-injecting a backdoor trigger into the model at training time. While backdoor attacks have been extensively studied on images, few works have investigated the threat of backdoor attacks on time series data. To fill this gap, in this paper we present a novel generative approach for time series backdoor attacks against deep learning based time series classifiers. Backdoor attacks have two main goals: high stealthiness and high attack success rate. We find that, compared to images, it can be more challenging to achieve the two goals on time series. This is because time series have fewer input dimensions and lower degrees of freedom, making it hard to achieve a high attack success rate without compromising stealthiness. Our generative approach addresses this challenge by generating trigger patterns that are as realistic as real-time series patterns while achieving a high attack success rate without causing a significant drop in clean accuracy. We also show that our proposed attack is resistant to potential backdoor defenses. Furthermore, we propose a novel universal generator that can poison any type of time series with a single generator that allows universal attacks without the need to fine-tune the generative model for new time series datasets.
• Abstract（参考訳）: バックドア攻撃は、トレーニング時にモデルにバックドアトリガを事前に注入することで、モデルのテスト時間予測を容易に制御できるため、ディープラーニングモデルに対するセキュリティ上の脅威の1つとして現れている。 バックドア攻撃は画像上で広く研究されているが、時系列データに対するバックドア攻撃の脅威を調査する研究は少ない。 本稿では,このギャップを埋めるために,ディープラーニングに基づく時系列分類器に対する時系列バックドア攻撃の新たな生成手法を提案する。 バックドア攻撃の主な目標は2つあり、高いステルス性と高い攻撃成功率である。 私たちは、画像と比較して、時系列で2つの目標を達成するのがより難しいと感じています。 これは、時系列が入力次元が少なく、自由度が低いため、ステルス性を損なうことなく高い攻撃成功率を達成することが難しいためである。 私たちの生成アプローチでは、リアルタイムの時系列パターンと同じくらい現実的なトリガーパターンを生成しながら、クリーンな精度を損なうことなく高い攻撃成功率を達成し、この課題に対処しています。 また,提案した攻撃はバックドア防御に対する耐性を示す。 さらに,新しい時系列データセットの生成モデルを微調整することなく,単一のジェネレータで任意の種類の時系列を汚染し,ユニバーサルアタックを可能にする新しいユニバーサルジェネレータを提案する。

関連論文リスト

• Rethinking Backdoor Attacks [122.1008188058615]
  バックドア攻撃では、悪意ある構築されたバックドアの例をトレーニングセットに挿入し、結果のモデルを操作に脆弱にする。 このような攻撃に対する防御は、典型的には、これらの挿入された例をトレーニングセットの外れ値として見ることと、堅牢な統計からのテクニックを使用してそれらを検出し、削除することである。 トレーニングデータ分布に関する構造情報がなければ,バックドア攻撃は自然に発生するデータの特徴と区別できないことを示す。
  論文  参考訳（メタデータ） (2023-07-19T17:44:54Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Targeted Attacks on Timeseries Forecasting [0.6719751155411076]
  本稿では,時系列予測モデルに対する指向性,振幅性,時間的標的攻撃の新たな定式化を提案する。 これらの攻撃は、出力予測の振幅と方向に特定の影響を与える。 実験結果から,時系列モデルに対する標的攻撃が有効であり,統計的類似性の観点からもより強力であることが示唆された。
  論文  参考訳（メタデータ） (2023-01-27T06:09:42Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• Marksman Backdoor: Backdoor Attacks with Arbitrary Target Class [17.391987602738606]
  近年、機械学習モデルはバックドア攻撃に弱いことが示されている。 この論文は、マークスマン(Marksman)と呼ばれるより強力なペイロードを持つ、新しいバックドア攻撃を利用する。 提案するフレームワークは,複数のベンチマークデータセットにおいてクリーンデータ性能を維持しつつ,高い攻撃性能を実現することを実証的に示す。
  論文  参考訳（メタデータ） (2022-10-17T15:46:57Z)
• Backdoor Attacks on Crowd Counting [63.90533357815404]
  クラウドカウント(Crowd counting)は、シーンイメージ内の人数を推定する回帰タスクである。 本稿では,深層学習に基づくクラウドカウントモデルのバックドア攻撃に対する脆弱性について検討する。
  論文  参考訳（メタデータ） (2022-07-12T16:17:01Z)
• On the Effectiveness of Adversarial Training against Backdoor Attacks [111.8963365326168]
  バックドアモデルは、事前に定義されたトリガーパターンが存在する場合、常にターゲットクラスを予測する。 一般的には、敵の訓練はバックドア攻撃に対する防御であると信じられている。 本稿では,様々なバックドア攻撃に対して良好な堅牢性を提供するハイブリッド戦略を提案する。
  論文  参考訳（メタデータ） (2022-02-22T02:24:46Z)
• Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
  検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。 また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
  論文  参考訳（メタデータ） (2021-09-12T12:44:52Z)
• Rethinking the Backdoor Attacks' Triggers: A Frequency Perspective [10.03897682559064]
  本稿では,既存のバックドアトリガを周波数の観点から再検討し,包括的解析を行う。 現在のバックドア攻撃の多くは、異なるデータセットと解像度にまたがって持続する重い高周波アーティファクトを示す。 高周波アーティファクトを使わずにスムーズなバックドアトリガーを作成し,その検出性を検討する実用的な方法を提案する。
  論文  参考訳（メタデータ） (2021-04-07T22:05:28Z)
• Untargeted, Targeted and Universal Adversarial Attacks and Defenses on Time Series [0.0]
  我々は,UCR時系列データセットに対して,対象外,対象外,普遍的敵攻撃を行った。 これらの攻撃に対して,ディープラーニングに基づく時系列分類モデルが脆弱であることを示す。 また、トレーニングデータのごく一部しか必要としないため、普遍的敵攻撃は優れた一般化特性を有することを示す。
  論文  参考訳（メタデータ） (2021-01-13T13:00:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。