論文の概要: Breaking Speaker Recognition with PaddingBack

• arxiv url: http://arxiv.org/abs/2308.04179v2
• Date: Mon, 11 Mar 2024 05:16:03 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-17 17:20:31.163699
• Title: Breaking Speaker Recognition with PaddingBack
• Title（参考訳）: PaddingBackによる話者認識のブレークスルー
• Authors: Zhe Ye, Diqun Yan, Li Dong, Kailai Shen,
• Abstract要約: 近年の研究では、音声バックドアは画像バックドアと同様に、変換をトリガーとして利用できることが示されている。 パディングバック(PaddingBack)は悪質な操作を利用して有毒なサンプルを生成する無音バックドアアタックである。
• 参考スコア（独自算出の注目度）: 18.219474338850787
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine Learning as a Service (MLaaS) has gained popularity due to advancements in Deep Neural Networks (DNNs). However, untrusted third-party platforms have raised concerns about AI security, particularly in backdoor attacks. Recent research has shown that speech backdoors can utilize transformations as triggers, similar to image backdoors. However, human ears can easily be aware of these transformations, leading to suspicion. In this paper, we propose PaddingBack, an inaudible backdoor attack that utilizes malicious operations to generate poisoned samples, rendering them indistinguishable from clean ones. Instead of using external perturbations as triggers, we exploit the widely-used speech signal operation, padding, to break speaker recognition systems. Experimental results demonstrate the effectiveness of our method, achieving a significant attack success rate while retaining benign accuracy. Furthermore, PaddingBack demonstrates the ability to resist defense methods and maintain its stealthiness against human perception.
• Abstract（参考訳）: マシンラーニング・アズ・ア・サービス(MLaaS)は、ディープニューラルネットワーク(DNN)の進歩によって人気を博している。 しかし、信頼できないサードパーティプラットフォームは、AIセキュリティ、特にバックドア攻撃に対する懸念を提起している。 近年の研究では、音声バックドアは画像バックドアと同様に、変換をトリガーとして利用できることが示されている。 しかし、人間の耳は容易にこれらの変化に気づき、疑いを抱く。 本稿では,悪質な操作を利用して有害なサンプルを発生させ,それらをクリーンなものと区別することができないパディングバックを提案する。 外部摂動をトリガーとして使用する代わりに、広く使われている音声信号のパディングを利用して話者認識システムを破壊する。 その結果, 本手法の有効性を実証し, 良好な精度を維持しつつ, 良好な攻撃成功率を達成することができた。 さらに、PaddingBackは防御手法に抵抗し、人間の知覚に対するステルス性を維持する能力を示す。

関連論文リスト

• Imperceptible Rhythm Backdoor Attacks: Exploring Rhythm Transformation for Embedding Undetectable Vulnerabilities on Speech Recognition [4.164975438207411]
  近年,音声認識システムにおいて,典型的なバックドア攻撃が研究されている。 攻撃者は、良質な音声スペクトログラムにいくつかの組み込まれた変更を加えたり、ピッチや音色などの音声成分を変更したりする。 データ中毒のステルス性を改善するために,ランダム・スペクトログラム・リズム・トランスフォーメーション (Random Spectrogram Rhythm Transformation) と呼ばれる非ニューラルかつ高速なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-06-16T13:29:21Z)
• Towards Stealthy Backdoor Attacks against Speech Recognition via Elements of Sound [9.24846124692153]
  ディープニューラルネットワーク(Deep Neural Network, DNN)は、音声認識の様々な応用に広く採用され、導入されている。 本稿では,音声認識に対する毒のみのバックドア攻撃について再検討する。 我々は音(例えば、ピッチと音色)の要素を利用して、よりステルスで効果的な毒のみのバックドア攻撃を設計する。
  論文  参考訳（メタデータ） (2023-07-17T02:58:25Z)
• Fake the Real: Backdoor Attack on Deep Speech Classification via Voice Conversion [14.264424889358208]
  本研究は,音声変換に基づくサンプル特異的トリガを用いたバックドアアタックを探索する。 具体的には、事前に訓練された音声変換モデルを用いてトリガーを生成する。
  論文  参考訳（メタデータ） (2023-06-28T02:19:31Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
  検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。 また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
  論文  参考訳（メタデータ） (2021-09-12T12:44:52Z)
• Turn the Combination Lock: Learnable Textual Backdoor Attacks via Word Substitution [57.51117978504175]
  最近の研究では、ニューラルネットワーク処理(NLP)モデルがバックドア攻撃に弱いことが示されている。 バックドアを注入すると、モデルは通常、良質な例で実行されるが、バックドアがアクティブになったときに攻撃者が特定した予測を生成する。 単語置換の学習可能な組み合わせによって活性化される見えないバックドアを提示する。
  論文  参考訳（メタデータ） (2021-06-11T13:03:17Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。