論文の概要: Perceptual-based deep-learning denoiser as a defense against adversarial attacks on ASR systems

• arxiv url: http://arxiv.org/abs/2107.05222v1
• Date: Mon, 12 Jul 2021 07:00:06 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-13 22:13:56.345680
• Title: Perceptual-based deep-learning denoiser as a defense against adversarial attacks on ASR systems
• Title（参考訳）: ASRシステムに対する敵対的攻撃に対する防御としての知覚に基づくディープラーニングデノイザー
• Authors: Anirudh Sreeram, Nicholas Mehlman, Raghuveer Peri, Dillon Knox, Shrikanth Narayanan
• Abstract要約: 敵対的攻撃は、元の音声信号に小さな摂動を加えることで、誤分類を強制しようとする。 本稿では,ASRパイプラインのプリプロセッサとしてニューラルネットベースのデノイザを用いることで,この問題に対処することを提案する。 その結果,知覚的モチベーションのある損失関数を用いて難聴者の訓練を行うことで,対向的ロバスト性が向上することが判明した。
• 参考スコア（独自算出の注目度）: 26.519207339530478
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this paper we investigate speech denoising as a defense against adversarial attacks on automatic speech recognition (ASR) systems. Adversarial attacks attempt to force misclassification by adding small perturbations to the original speech signal. We propose to counteract this by employing a neural-network based denoiser as a pre-processor in the ASR pipeline. The denoiser is independent of the downstream ASR model, and thus can be rapidly deployed in existing systems. We found that training the denoisier using a perceptually motivated loss function resulted in increased adversarial robustness without compromising ASR performance on benign samples. Our defense was evaluated (as a part of the DARPA GARD program) on the 'Kenansville' attack strategy across a range of attack strengths and speech samples. An average improvement in Word Error Rate (WER) of about 7.7% was observed over the undefended model at 20 dB signal-to-noise-ratio (SNR) attack strength.
• Abstract（参考訳）: 本稿では,自動音声認識(ASR)システムに対する敵対的攻撃に対する防御手段としての音声認識について検討する。 敵対的な攻撃は、元の音声信号に小さな摂動を加えることで誤分類を強要しようとする。 本稿では,asrパイプラインのプリプロセッサとしてニューラルネットワークを用いたdenoiserを用いることで,これに対抗することを提案する。 デノイザは下流のASRモデルとは独立しており、既存のシステムに迅速にデプロイできる。 その結果,視覚的モチベーションを付与した損失関数による難聴者の訓練は,良性サンプルに対するASR性能を損なうことなく,対向的ロバスト性を高めた。 我々の防衛は(DARPA GARDプログラムの一部として)攻撃強度と音声サンプルの範囲にわたる「ケナンズビル」攻撃戦略で評価された。 単語誤り率 (WER) は, 20dB 信号-雑音比 (SNR) 攻撃強度において, 未定義モデルに対して約7.7%向上した。

関連論文リスト

• Robustifying automatic speech recognition by extracting slowly varying features [16.74051650034954]
  敵攻撃に対する防御機構を提案する。 このような方法で事前処理されたデータに基づいてトレーニングされたハイブリッドASRモデルを使用します。 本モデルでは, ベースラインモデルと類似したクリーンデータの性能を示すとともに, 4倍以上の堅牢性を示した。
  論文  参考訳（メタデータ） (2021-12-14T13:50:23Z)
• Blackbox Untargeted Adversarial Testing of Automatic Speech Recognition Systems [1.599072005190786]
  音声認識システムは、家電の音声ナビゲーションや音声制御への応用に広く利用されている。 ディープニューラルネットワーク(DNN)は、敵の摂動に感受性があることが示されている。 本稿では,ASRSの正しさをテストするため,ブラックボックスの自動生成手法を提案する。
  論文  参考訳（メタデータ） (2021-12-03T10:21:47Z)
• The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
  我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。 敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
  論文  参考訳（メタデータ） (2021-06-26T10:50:07Z)
• Improving the Adversarial Robustness for Speaker Verification by Self-Supervised Learning [95.60856995067083]
  この研究は、特定の攻撃アルゴリズムを知らずにASVの敵防衛を行う最初の試みの一つである。 本研究の目的は,1) 対向摂動浄化と2) 対向摂動検出の2つの視点から対向防御を行うことである。 実験の結果, 検出モジュールは, 約80%の精度で対向検体を検出することにより, ASVを効果的に遮蔽することがわかった。
  論文  参考訳（メタデータ） (2021-06-01T07:10:54Z)
• Removing Adversarial Noise in Class Activation Feature Space [160.78488162713498]
  クラスアクティベーション機能空間において,自己監視型対人訓練機構を実装することにより,対人雑音の除去を提案する。 クラスアクティベーション機能空間における敵対例と自然な例の間の距離を最小にするために、デノイジングモデルを訓練する。 経験的評価により, 従来の手法と比較して, 敵対的堅牢性が有意に向上できることが示された。
  論文  参考訳（メタデータ） (2021-04-19T10:42:24Z)
• Class-Conditional Defense GAN Against End-to-End Speech Attacks [82.21746840893658]
  本稿では,DeepSpeech や Lingvo といった先進的な音声テキストシステムを騙すために開発された,エンドツーエンドの敵対攻撃に対する新しいアプローチを提案する。 従来の防御手法とは異なり、提案手法は入力信号のオートエンコードのような低レベル変換を直接利用しない。 我々の防衛GANは、単語誤り率と文レベルの認識精度において、従来の防衛アルゴリズムよりもかなり優れています。
  論文  参考訳（メタデータ） (2020-10-22T00:02:02Z)
• Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning [71.17774313301753]
  本研究では,自己指導型高水準表現の堅牢性について,敵攻撃に対する防御に利用して検討する。 ASVspoof 2019データセットの実験結果は、Mockingjayによって抽出されたハイレベルな表現が、敵の例の転送可能性を妨げることを示した。
  論文  参考訳（メタデータ） (2020-06-05T03:03:06Z)
• Detecting Audio Attacks on ASR Systems with Dropout Uncertainty [40.9172128924305]
  我々の防衛は、最適化された摂動と周波数マスキングによって生成された攻撃を検出することができることを示す。 我々は、MozillaのCommonVoiceデータセット、UrbanSoundデータセット、およびLibriSpeechデータセットの抜粋に対する防御をテストする。
  論文  参考訳（メタデータ） (2020-06-02T19:40:38Z)
• Detecting Adversarial Examples for Speech Recognition via Uncertainty Quantification [21.582072216282725]
  機械学習システム、特に自動音声認識(ASR)システムは、敵の攻撃に対して脆弱である。 本稿では,ハイブリッドASRシステムに着目し,攻撃時の不確実性を示す能力に関する4つの音響モデルを比較した。 我々は、受信演算子曲線スコア0.99以上の領域の逆例を検出することができる。
  論文  参考訳（メタデータ） (2020-05-24T19:31:02Z)
• Characterizing Speech Adversarial Examples Using Self-Attention U-Net Enhancement [102.48582597586233]
  本稿では,U-Net$_At$という,U-Netに基づくアテンションモデルを提案する。 対戦型音声アタックを用いた自動音声認識(ASR)タスクの実験を行った。
  論文  参考訳（メタデータ） (2020-03-31T02:16:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。