論文の概要: Adversarial Attack and Defense Strategies for Deep Speaker Recognition Systems

• arxiv url: http://arxiv.org/abs/2008.07685v1
• Date: Tue, 18 Aug 2020 00:58:19 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-27 22:25:48.826458
• Title: Adversarial Attack and Defense Strategies for Deep Speaker Recognition Systems
• Title（参考訳）: ディープスピーカー認識システムにおける逆攻撃と防御戦略
• Authors: Arindam Jati, Chin-Cheng Hsu, Monisankha Pal, Raghuveer Peri, Wael AbdAlmageed, Shrikanth Narayanan
• Abstract要約: 本稿では, 深層話者認識システムに対する最先端の敵攻撃について考察し, 強力な防御手法を対策として用いた。 実験により、話者認識システムは敵攻撃に弱いことが示され、最も強い攻撃はシステムの精度を94%から0%に下げることができる。
• 参考スコア（独自算出の注目度）: 44.305353565981015
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Robust speaker recognition, including in the presence of malicious attacks, is becoming increasingly important and essential, especially due to the proliferation of several smart speakers and personal agents that interact with an individual's voice commands to perform diverse, and even sensitive tasks. Adversarial attack is a recently revived domain which is shown to be effective in breaking deep neural network-based classifiers, specifically, by forcing them to change their posterior distribution by only perturbing the input samples by a very small amount. Although, significant progress in this realm has been made in the computer vision domain, advances within speaker recognition is still limited. The present expository paper considers several state-of-the-art adversarial attacks to a deep speaker recognition system, employing strong defense methods as countermeasures, and reporting on several ablation studies to obtain a comprehensive understanding of the problem. The experiments show that the speaker recognition systems are vulnerable to adversarial attacks, and the strongest attacks can reduce the accuracy of the system from 94% to even 0%. The study also compares the performances of the employed defense methods in detail, and finds adversarial training based on Projected Gradient Descent (PGD) to be the best defense method in our setting. We hope that the experiments presented in this paper provide baselines that can be useful for the research community interested in further studying adversarial robustness of speaker recognition systems.
• Abstract（参考訳）: 悪意のある攻撃の存在を含むロバストな話者認識は、特に個人の音声コマンドと対話し、多様で繊細なタスクを実行するいくつかのスマートスピーカーや個人エージェントの増殖によって、ますます重要で不可欠なものになりつつある。 敵の攻撃(adversarial attack)は、最近復活したドメインで、ディープニューラルネットワークベースの分類器を壊すのに効果的であることが示されている。 この領域における大きな進歩はコンピュータビジョン領域で行われているが、話者認識における進歩はまだ限られている。 本論文は, 深い話者認識システムに対して, 強防御法を対策として使用し, この問題を包括的に理解するためにいくつかのアブレーション研究を報告した。 実験により,話者認識システムは敵対的攻撃に対して脆弱であり,最も強力な攻撃はシステムの精度を94%から0%に低下させることを示した。 また, 本研究は, 採用した防衛手法の性能を詳細に比較し, プロジェクテッド・グラディエント・ディフレッシュ(PGD)に基づく敵の訓練が, われわれの設定において最良の防衛方法であることを示した。 本稿では, 話者認識システムの対角的堅牢性をさらに研究することに関心のある研究コミュニティにとって, 基礎となるものを提供することを期待する。

関連論文リスト

• Vulnerabilities in Machine Learning-Based Voice Disorder Detection Systems [3.4745231630177136]
  分類を逆転させ、信頼性を損なう攻撃の可能性を探る。 個人の健康情報の重要性を考えると、攻撃の種類が効果的であるかを理解することは、このようなシステムのセキュリティを改善するための第一歩となる。 以上の結果から,医療領域で使用される機械学習システムにおいて,これらの脆弱性に対処する必要性が指摘され,最も効果的な攻撃戦略が明らかになった。
  論文  参考訳（メタデータ） (2024-10-21T10:14:44Z)
• Robust Safety Classifier for Large Language Models: Adversarial Prompt Shield [7.5520641322945785]
  大規模言語モデルの安全性は、敵の攻撃に対する脆弱性のため、依然として重要な懸念事項である。 本稿では,検出精度を向上し,対向プロンプトに対するレジリエンスを示す軽量モデルであるAdversarial Prompt Shield(APS)を紹介する。 また、対戦型トレーニングデータセットを自律的に生成するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2023-10-31T22:22:10Z)
• Measuring Equality in Machine Learning Security Defenses: A Case Study in Speech Recognition [56.69875958980474]
  この研究は、学習したシステムを守るためのアプローチと、異なるサブ人口間でのセキュリティ防衛がパフォーマンス上の不平等をもたらす方法を検討する。 提案された多くの手法は、虚偽の拒絶やロバストネストレーニングの不平等といった直接的な害を引き起こす可能性がある。 本稿では, ランダム化スムースメントとニューラルリジェクションの2つの防御法の比較を行い, マイノリティ集団のサンプリング機構により, ランダム化スムースメントがより公平であることを見出した。
  論文  参考訳（メタデータ） (2023-02-17T16:19:26Z)
• Defense Against Adversarial Attacks on Audio DeepFake Detection [0.4511923587827302]
  Audio DeepFakes (DF) は、ディープラーニングを用いて人工的に生成された発話である。 脅威を防ぐために、生成された音声を検出する複数のニューラルネットワークベースの手法が提案されている。
  論文  参考訳（メタデータ） (2022-12-30T08:41:06Z)
• Push-Pull: Characterizing the Adversarial Robustness for Audio-Visual Active Speaker Detection [88.74863771919445]
  我々は、音声のみ、視覚のみ、および音声-視覚的敵対攻撃下でのAVASDモデルの脆弱性を明らかにする。 また,攻撃者が現実的な相手を見つけるのを困難にするため,新たな音声・視覚的相互作用損失(AVIL)を提案する。
  論文  参考訳（メタデータ） (2022-10-03T08:10:12Z)
• Towards Understanding and Mitigating Audio Adversarial Examples for Speaker Recognition [13.163192823774624]
  話者認識システム(SRS)は、最近、敵の攻撃に対して脆弱であることが示され、重大なセキュリティ上の懸念が提起されている。 話者認識に対する先進的な7つの攻撃を用いて、22の多様な変換を行い、徹底的に評価する。 提案手法は, 完全ホワイトボックス環境において, 対人訓練と組み合わせた特徴レベル変換が, 単独の対人訓練に比べ, より効果的であることを示す。
  論文  参考訳（メタデータ） (2022-06-07T15:38:27Z)
• Characterizing the adversarial vulnerability of speech self-supervised learning [95.03389072594243]
  我々は,ゼロ知識とリミテッド知識の両方の敵からの攻撃の下で,そのようなパラダイムの敵対的脆弱性を調査するための最初の試みを行う。 実験結果から, SUPERB が提案するパラダイムは, 限られた知識を持つ敵に対して脆弱であることが示唆された。
  論文  参考訳（メタデータ） (2021-11-08T08:44:04Z)
• Searching for an Effective Defender: Benchmarking Defense against Adversarial Word Substitution [83.84968082791444]
  ディープニューラルネットワークは、意図的に構築された敵の例に対して脆弱である。 ニューラルNLPモデルに対する敵対的単語置換攻撃を防御する様々な方法が提案されている。
  論文  参考訳（メタデータ） (2021-08-29T08:11:36Z)
• Improving the Adversarial Robustness for Speaker Verification by Self-Supervised Learning [95.60856995067083]
  この研究は、特定の攻撃アルゴリズムを知らずにASVの敵防衛を行う最初の試みの一つである。 本研究の目的は,1) 対向摂動浄化と2) 対向摂動検出の2つの視点から対向防御を行うことである。 実験の結果, 検出モジュールは, 約80%の精度で対向検体を検出することにより, ASVを効果的に遮蔽することがわかった。
  論文  参考訳（メタデータ） (2021-06-01T07:10:54Z)
• SoK: The Faults in our ASRs: An Overview of Attacks against Automatic Speech Recognition and Speaker Identification Systems [28.635467696564703]
  音声と話者システムのエンドツーエンドアーキテクチャは、画像空間のそれとはかなり異なる攻撃と防御を行うことを示す。 そして、これらのモデルに対する攻撃はほとんど普遍的に転送できないことを実験的に実証した。
  論文  参考訳（メタデータ） (2020-07-13T18:52:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。