論文の概要: Audio Attacks and Defenses against AED Systems - A Practical Study

• arxiv url: http://arxiv.org/abs/2106.07428v1
• Date: Mon, 14 Jun 2021 13:42:49 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-15 15:42:50.131067
• Title: Audio Attacks and Defenses against AED Systems - A Practical Study
• Title（参考訳）: AEDシステムに対するオーディオ攻撃と防御 -実践的研究-
• Authors: Rodrigo dos Santos and Shirin Nilizadeh
• Abstract要約: 我々は,ディープラーニングに基づく音声イベント検出システム(AED)を,敵の例による回避攻撃に対して評価する。 本研究では,背景雑音と白色雑音という2つの異なる種類のノイズを用いて,敵対者が検出を避けるために使用する音声対向例を生成する。 音声入力に適用した場合,これらの対策が有効であることを示す。
• 参考スコア（独自算出の注目度）: 2.365611283869544
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Audio Event Detection (AED) Systems capture audio from the environment and employ some deep learning algorithms for detecting the presence of a specific sound of interest. In this paper, we evaluate deep learning-based AED systems against evasion attacks through adversarial examples. We run multiple security critical AED tasks, implemented as CNNs classifiers, and then generate audio adversarial examples using two different types of noise, namely background and white noise, that can be used by the adversary to evade detection. We also examine the robustness of existing third-party AED capable devices, such as Nest devices manufactured by Google, which run their own black-box deep learning models. We show that an adversary can focus on audio adversarial inputs to cause AED systems to misclassify, similarly to what has been previously done by works focusing on adversarial examples from the image domain. We then, seek to improve classifiers' robustness through countermeasures to the attacks. We employ adversarial training and a custom denoising technique. We show that these countermeasures, when applied to audio input, can be successful, either in isolation or in combination, generating relevant increases of nearly fifty percent in the performance of the classifiers when these are under attack.
• Abstract（参考訳）: オーディオイベント検出(aed)システムは、環境から音声をキャプチャし、特定の興味のある音の存在を検出するためにディープラーニングアルゴリズムを使用する。 本稿では,深層学習に基づくaedシステムにおける回避攻撃に対する攻撃事例の評価を行う。 複数のセキュリティクリティカルなaedタスクを実行し、cnns分類器として実装し、検出を避けるために敵が使用できるバックグラウンドとホワイトノイズの2つの異なるタイプのノイズを使用して、オーディオ敵の例を生成します。 また、Googleが製造するNestデバイスなど、既存のサードパーティのAED有能デバイスが、独自のブラックボックスディープラーニングモデルを実行することの堅牢性についても検討する。 本稿では,AED システムに対して,画像領域の敵対的事例に焦点をあてた作業と同様に,AED システムに誤分類を生じさせるような,音声の敵対的入力に集中できることを示す。 次に,攻撃対策を通じて分類器の堅牢性の向上を図る。 我々は、敵対的訓練とカスタム・デノージング技術を用いている。 これらの対策が,音声入力に適用された場合,単独でも組み合わせでも成功し,攻撃を受けた場合の分類器の性能が50%近く向上することを示す。

関連論文リスト

• Push-Pull: Characterizing the Adversarial Robustness for Audio-Visual Active Speaker Detection [88.74863771919445]
  我々は、音声のみ、視覚のみ、および音声-視覚的敵対攻撃下でのAVASDモデルの脆弱性を明らかにする。 また,攻撃者が現実的な相手を見つけるのを困難にするため,新たな音声・視覚的相互作用損失(AVIL)を提案する。
  論文  参考訳（メタデータ） (2022-10-03T08:10:12Z)
• On the Detection of Adaptive Adversarial Attacks in Speaker Verification Systems [0.0]
  FAKEBOBのような敵攻撃は、話者認証システムに対して効果的に機能する。 本研究の目的は,敵対的攻撃によって汚染された音声からオリジナル音声を識別できる検出器を設計することである。 提案する検出器は実装が容易で,入力オーディオを高速に処理でき,FAKEBOB攻撃による音声の破損の有無を判定する上で有効であることを示す。
  論文  参考訳（メタデータ） (2022-02-11T16:02:06Z)
• Blackbox Untargeted Adversarial Testing of Automatic Speech Recognition Systems [1.599072005190786]
  音声認識システムは、家電の音声ナビゲーションや音声制御への応用に広く利用されている。 ディープニューラルネットワーク(DNN)は、敵の摂動に感受性があることが示されている。 本稿では,ASRSの正しさをテストするため,ブラックボックスの自動生成手法を提案する。
  論文  参考訳（メタデータ） (2021-12-03T10:21:47Z)
• Adversarial Robustness of Deep Reinforcement Learning based Dynamic Recommender Systems [50.758281304737444]
  本稿では,強化学習に基づく対話型レコメンデーションシステムにおける敵例の探索と攻撃検出を提案する。 まず、入力に摂動を加え、カジュアルな要因に介入することで、異なる種類の逆例を作成する。 そこで,本研究では,人工データに基づく深層学習に基づく分類器による潜在的攻撃を検出することにより,推薦システムを強化した。
  論文  参考訳（メタデータ） (2021-12-02T04:12:24Z)
• Improving the Adversarial Robustness for Speaker Verification by Self-Supervised Learning [95.60856995067083]
  この研究は、特定の攻撃アルゴリズムを知らずにASVの敵防衛を行う最初の試みの一つである。 本研究の目的は,1) 対向摂動浄化と2) 対向摂動検出の2つの視点から対向防御を行うことである。 実験の結果, 検出モジュールは, 約80%の精度で対向検体を検出することにより, ASVを効果的に遮蔽することがわかった。
  論文  参考訳（メタデータ） (2021-06-01T07:10:54Z)
• WaveGuard: Understanding and Mitigating Audio Adversarial Examples [12.010555227327743]
  本稿では,ASRシステムに対する敵入力を検出するフレームワークであるWaveGuardを紹介する。 本フレームワークは,音声変換機能を組み込んで原音声と変換音声のasr転写を解析し,逆入力を検出する。
  論文  参考訳（メタデータ） (2021-03-04T21:44:37Z)
• Cortical Features for Defense Against Adversarial Audio Attacks [55.61885805423492]
  本稿では,聴覚野の計算モデルを用いて,音声に対する敵対的攻撃に対する防御手法を提案する。 また,大脳皮質の特徴は,普遍的な敵の例に対する防御に有効であることを示す。
  論文  参考訳（メタデータ） (2021-01-30T21:21:46Z)
• Open-set Adversarial Defense [93.25058425356694]
  オープンセット認識システムは敵攻撃に対して脆弱であることを示す。 本研究の目的は,OSAD(Open-Set Adrial Defense, Open-Set Adrial Defense)機構の必要性である。 本稿はOSAD問題に対する解決策として,OSDN(Open-Set Defense Network)を提案する。
  論文  参考訳（メタデータ） (2020-09-02T04:35:33Z)
• Self-Supervised Learning of Audio-Visual Objects from Video [108.77341357556668]
  本稿では,音源の局所化とグループ化,時間とともに情報収集を行うための光フローに着目したモデルを提案する。 本稿では,4つの下流音声指向タスクにおいて,モデルが学習する音声-視覚オブジェクトの埋め込みの有効性を実証する。
  論文  参考訳（メタデータ） (2020-08-10T16:18:01Z)
• Detecting Audio Attacks on ASR Systems with Dropout Uncertainty [40.9172128924305]
  我々の防衛は、最適化された摂動と周波数マスキングによって生成された攻撃を検出することができることを示す。 我々は、MozillaのCommonVoiceデータセット、UrbanSoundデータセット、およびLibriSpeechデータセットの抜粋に対する防御をテストする。
  論文  参考訳（メタデータ） (2020-06-02T19:40:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。