論文の概要: Adversarial Attacks against Neural Networks in Audio Domain: Exploiting Principal Components

• arxiv url: http://arxiv.org/abs/2007.07001v3
• Date: Wed, 13 Jan 2021 16:28:22 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-10 14:15:49.446746
• Title: Adversarial Attacks against Neural Networks in Audio Domain: Exploiting Principal Components
• Title（参考訳）: 音声領域におけるニューラルネットワークに対するadversarial attack : 主成分の活用
• Authors: Ken Alparslan, Yigit Alparslan, Matthew Burlick
• Abstract要約: 今日広く使われている音声とテキストのニューラルネットワークは、敵の攻撃を誤分類する傾向がある。 我々は、Connectionist Temporal Classification Loss Functionを介して敵対的な波形を作成し、Mozillaによって実装された音声からテキストへのニューラルネットワークであるDeepSpeechを攻撃した。 構築した25個の逆波の形式に対して、100%逆成功率(DeepSpeechによるゼロ成功分類)を達成する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Adversarial attacks are inputs that are similar to original inputs but altered on purpose. Speech-to-text neural networks that are widely used today are prone to misclassify adversarial attacks. In this study, first, we investigate the presence of targeted adversarial attacks by altering wave forms from Common Voice data set. We craft adversarial wave forms via Connectionist Temporal Classification Loss Function, and attack DeepSpeech, a speech-to-text neural network implemented by Mozilla. We achieve 100% adversarial success rate (zero successful classification by DeepSpeech) on all 25 adversarial wave forms that we crafted. Second, we investigate the use of PCA as a defense mechanism against adversarial attacks. We reduce dimensionality by applying PCA to these 25 attacks that we created and test them against DeepSpeech. We observe zero successful classification by DeepSpeech, which suggests PCA is not a good defense mechanism in audio domain. Finally, instead of using PCA as a defense mechanism, we use PCA this time to craft adversarial inputs under a black-box setting with minimal adversarial knowledge. With no knowledge regarding the model, parameters, or weights, we craft adversarial attacks by applying PCA to samples from Common Voice data set and achieve 100% adversarial success under black-box setting again when tested against DeepSpeech. We also experiment with different percentage of components necessary to result in a classification during attacking process. In all cases, adversary becomes successful.
• Abstract（参考訳）: 敵攻撃は、元の入力と似ているが、目的によって変更される入力である。 今日広く使われている音声とテキストのニューラルネットワークは、敵の攻撃を誤分類する傾向がある。 本研究は,まず,共通の音声データからウェーブフォームを変更させることにより,対象とする対向攻撃の存在について検討する。 我々は,コネクショニストの時間的分類損失関数を用いて逆波形式を作成し,mozillaが実装した音声対テキストニューラルネットワークであるdeepspeechを攻撃させる。 構築した25種類の逆波に対して100%の逆成功率(DeepSpeechによるゼロ成功分類)を達成する。 第2に,敵攻撃に対する防御機構としてのPCAの使用について検討した。 私たちは、DeepSpeechに対して作成した25の攻撃にPCAを適用することで、次元性を低減します。 音声領域において,pcaが防御機構に適さないことを示唆するdeepspeechによるゼロ分類を観察した。 最後に,PCAを防御機構として使用する代わりに,敵の知識を最小限に抑えたブラックボックス設定で敵の入力を作成するためにPCAを使用する。 モデル,パラメータ,重みに関する知識がなければ,共通音声データセットのサンプルにPCAを適用して,DeepSpeechに対して再度テストした場合,ブラックボックス設定で100%の敵攻撃を行う。 また,攻撃過程における分類に要する成分の比率についても実験を行った。 いずれの場合も、逆境は成功する。

関連論文リスト

• AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
  CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。 我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。 また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-08-04T09:53:50Z)
• Preserving Semantics in Textual Adversarial Attacks [0.0]
  敵の攻撃によって生じる敵の事例の最大70%は、意味論を保存していないため破棄されるべきである。 SPE(Semantics-Preserving-Encoder)と呼ばれる新しい完全教師付き文埋め込み手法を提案する。 本手法は, 敵攻撃における既存の文エンコーダよりも1.2倍から5.1倍優れた実攻撃成功率を達成している。
  論文  参考訳（メタデータ） (2022-11-08T12:40:07Z)
• Versatile Weight Attack via Flipping Limited Bits [68.45224286690932]
  本研究では,展開段階におけるモデルパラメータを変更する新たな攻撃パラダイムについて検討する。 有効性とステルスネスの目標を考慮し、ビットフリップに基づく重み攻撃を行うための一般的な定式化を提供する。 SSA(Single sample attack)とTSA(Singr sample attack)の2例を報告した。
  論文  参考訳（メタデータ） (2022-07-25T03:24:58Z)
• Dictionary Attacks on Speaker Verification [15.00667613025837]
  様々な音声表現と脅威モデルで使用できる攻撃の汎用的定式化を導入する。 攻撃者は、逆最適化を用いて、シード音声サンプルとプロキシ集団との話者埋め込みの生の類似性を最大化する。 この攻撃は、複数の試みと組み合わさって、これらのシステムのセキュリティに関する深刻な問題にさらに開きます。
  論文  参考訳（メタデータ） (2022-04-24T15:31:41Z)
• Mel Frequency Spectral Domain Defenses against Adversarial Attacks on Speech Recognition Systems [33.21836814000979]
  本稿では,メルスペクトル領域を用いた音声特異的防音について検討し,新しい防音法「メル領域ノイズフラッディング(MDNF)」を提案する。 MDNFは音声信号の再合成に先立って音声のメルスペクトルに付加雑音を適用する。 プロジェクテッド勾配降下(PGD)やカルリーニ・ワグナー(CW)攻撃などの強力なホワイトボックス攻撃に対する防御実験を行った。
  論文  参考訳（メタデータ） (2022-03-29T06:58:26Z)
• Zero-Query Transfer Attacks on Context-Aware Object Detectors [95.18656036716972]
  敵は、ディープニューラルネットワークが誤った分類結果を生成するような摂動画像を攻撃する。 自然の多目的シーンに対する敵対的攻撃を防御するための有望なアプローチは、文脈整合性チェックを課すことである。 本稿では,コンテキスト整合性チェックを回避可能な,コンテキスト整合性攻撃を生成するための最初のアプローチを提案する。
  論文  参考訳（メタデータ） (2022-03-29T04:33:06Z)
• Improving the Adversarial Robustness for Speaker Verification by Self-Supervised Learning [95.60856995067083]
  この研究は、特定の攻撃アルゴリズムを知らずにASVの敵防衛を行う最初の試みの一つである。 本研究の目的は,1) 対向摂動浄化と2) 対向摂動検出の2つの視点から対向防御を行うことである。 実験の結果, 検出モジュールは, 約80%の精度で対向検体を検出することにより, ASVを効果的に遮蔽することがわかった。
  論文  参考訳（メタデータ） (2021-06-01T07:10:54Z)
• Cortical Features for Defense Against Adversarial Audio Attacks [55.61885805423492]
  本稿では,聴覚野の計算モデルを用いて,音声に対する敵対的攻撃に対する防御手法を提案する。 また,大脳皮質の特徴は,普遍的な敵の例に対する防御に有効であることを示す。
  論文  参考訳（メタデータ） (2021-01-30T21:21:46Z)
• Composite Adversarial Attacks [57.293211764569996]
  敵対攻撃は、機械学習(ML)モデルを欺くための技術です。 本論文では,攻撃アルゴリズムの最適組み合わせを自動的に探索するための複合攻撃法(Composite Adrial Attack,CAA)を提案する。 CAAは11の防衛でトップ10の攻撃を破り、時間の経過は少ない。
  論文  参考訳（メタデータ） (2020-12-10T03:21:16Z)
• VenoMave: Targeted Poisoning Against Speech Recognition [30.448709704880518]
  VENOMAVEは、音声認識に対する最初の訓練時間中毒攻撃である。 我々はTIDIGITSと音声コマンドの2つのデータセットに対する攻撃を評価した。
  論文  参考訳（メタデータ） (2020-10-21T00:30:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。