Fugu-MT 論文翻訳(概要): WaveGuard: Understanding and Mitigating Audio Adversarial Examples

論文の概要: WaveGuard: Understanding and Mitigating Audio Adversarial Examples

arxiv url: http://arxiv.org/abs/2103.03344v1
Date: Thu, 4 Mar 2021 21:44:37 GMT
ステータス: 処理完了
システム内更新日: 2021-03-08 14:35:37.310209
Title: WaveGuard: Understanding and Mitigating Audio Adversarial Examples
Title（参考訳）: WaveGuard: オーディオアドバイザリの例を理解して修正する
Authors: Shehzeen Hussain, Paarth Neekhara, Shlomo Dubnov, Julian McAuley, Farinaz Koushanfar
Abstract要約: 本稿では,ASRシステムに対する敵入力を検出するフレームワークであるWaveGuardを紹介する。本フレームワークは,音声変換機能を組み込んで原音声と変換音声のasr転写を解析し,逆入力を検出する。
参考スコア（独自算出の注目度）: 12.010555227327743
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: There has been a recent surge in adversarial attacks on deep learning based automatic speech recognition (ASR) systems. These attacks pose new challenges to deep learning security and have raised significant concerns in deploying ASR systems in safety-critical applications. In this work, we introduce WaveGuard: a framework for detecting adversarial inputs that are crafted to attack ASR systems. Our framework incorporates audio transformation functions and analyses the ASR transcriptions of the original and transformed audio to detect adversarial inputs. We demonstrate that our defense framework is able to reliably detect adversarial examples constructed by four recent audio adversarial attacks, with a variety of audio transformation functions. With careful regard for best practices in defense evaluations, we analyze our proposed defense and its strength to withstand adaptive and robust attacks in the audio domain. We empirically demonstrate that audio transformations that recover audio from perceptually informed representations can lead to a strong defense that is robust against an adaptive adversary even in a complete white-box setting. Furthermore, WaveGuard can be used out-of-the box and integrated directly with any ASR model to efficiently detect audio adversarial examples, without the need for model retraining.
Abstract（参考訳）: 近年,ディープラーニングに基づく自動音声認識(ASR)システムに対する敵対的攻撃が急増している。これらの攻撃はディープラーニングのセキュリティに新たな課題をもたらし、安全クリティカルなアプリケーションにASRシステムをデプロイすることに大きな懸念を引き起こしました。本稿では,asrシステムを攻撃するために開発された逆入力を検出するフレームワークwaveguardを紹介する。本フレームワークは,音声変換機能を組み込んで原音声と変換音声のasr転写を解析し,逆入力を検出する。我々は,近年の4つの音声対向攻撃によって構築された対向的事例を,様々な音声変換関数を用いて確実に検出できることを実証した。防衛評価におけるベストプラクティスを慎重に検討し,音声領域における適応的かつ強固な攻撃に耐える防衛力とその強みを分析した。我々は,音声を知覚的情報から復元する音声変換が,完全なホワイトボックス設定であっても,適応的相手に対して堅牢な強い防御につながることを実証的に実証した。さらに、WaveGuardはすぐに使用でき、任意のASRモデルと直接統合され、モデルの再トレーニングを必要とせずに、オーディオの逆転例を効率的に検出できます。