論文の概要: Are Deep Speech Denoising Models Robust to Adversarial Noise?

• arxiv url: http://arxiv.org/abs/2503.11627v1
• Date: Fri, 14 Mar 2025 17:46:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-17 13:05:20.398267
• Title: Are Deep Speech Denoising Models Robust to Adversarial Noise?
• Title（参考訳）: ディープ・スピーチ・デノジング・モデルは対向雑音に頑健か?
• Authors: Will Schwarzer, Philip S. Thomas, Andrea Fanelli, Xiaoyu Liu,
• Abstract要約: 近年の4つのDNSモデルは,それぞれ,対向雑音を付加することにより,非知能なジブベリッシュを出力できることを示す。 本研究は,DNSシステムにおける実践的対策の必要性を強調した。
• 参考スコア（独自算出の注目度）: 16.3355761388707
• License:
• Abstract: Deep noise suppression (DNS) models enjoy widespread use throughout a variety of high-stakes speech applications. However, in this paper, we show that four recent DNS models can each be reduced to outputting unintelligible gibberish through the addition of imperceptible adversarial noise. Furthermore, our results show the near-term plausibility of targeted attacks, which could induce models to output arbitrary utterances, and over-the-air attacks. While the success of these attacks varies by model and setting, and attacks appear to be strongest when model-specific (i.e., white-box and non-transferable), our results highlight a pressing need for practical countermeasures in DNS systems.
• Abstract（参考訳）: ディープノイズ抑圧(DNS)モデルは、様々な高音質音声アプリケーションで広く利用されている。 しかし,本論文では,最近の4つのDNSモデルについて,非知覚的対向雑音を付加することにより,非知的なジブベリッシュを出力できることを示す。 さらに,この結果から,任意の発話を出力するモデルや,時間外攻撃を誘導するターゲット攻撃の短期的妥当性が示唆された。 これらの攻撃の成功は、モデルや設定によって異なり、モデル固有の場合(例えば、ホワイトボックスや非転送可能)は攻撃が最強であるように見えるが、本研究の結果は、DNSシステムにおける実用的な対策の必要性を強調している。

関連論文リスト

• Attack-in-the-Chain: Bootstrapping Large Language Models for Attacks Against Black-box Neural Ranking Models [111.58315434849047]
  本稿では,アタック・イン・ザ・チェーン(Attack-in-the-Chain)という新しいランキングアタックフレームワークを紹介する。 大型言語モデル(LLMs)とニューラルランキングモデル(NRMs)の相互作用をチェーン・オブ・ソートに基づいて追跡する。 2つのWeb検索ベンチマークによる実験結果から,本手法の有効性が示された。
  論文  参考訳（メタデータ） (2024-12-25T04:03:09Z)
• Advancing the Robustness of Large Language Models through Self-Denoised Smoothing [50.54276872204319]
  大規模言語モデル(LLM)は大きな成功を収めたが、敵の摂動に対する脆弱性は大きな懸念を引き起こしている。 本稿では,LLMのマルチタスク特性を活用して,まずノイズの入力を識別し,次にこれらの復号化バージョンに基づいて予測を行う。 LLMのロバスト性を高めるために個別のモデルを訓練する必要がある従来のコンピュータビジョンのスムース化技術とは異なり、本手法は効率と柔軟性を著しく向上させる。
  論文  参考訳（メタデータ） (2024-04-18T15:47:00Z)
• Query-Based Adversarial Prompt Generation [72.06860443442429]
  我々は、アライメント言語モデルが有害な文字列を出力する原因となる敵の例を構築します。 GPT-3.5とOpenAIの安全分類器に対する攻撃を検証する。
  論文  参考訳（メタデータ） (2024-02-19T18:01:36Z)
• AFLOW: Developing Adversarial Examples under Extremely Noise-limited Settings [7.828994881163805]
  ディープニューラルネットワーク(DNN)は、敵の攻撃に対して脆弱である。 本稿では,AFLOW と呼ばれる新しい正規化フローベースのエンドツーエンドアタックフレームワークを提案する。 既存の手法と比較すると、AFLOWは認識不能性、画質、攻撃能力に優れていた。
  論文  参考訳（メタデータ） (2023-10-15T10:54:07Z)
• Evaluating Similitude and Robustness of Deep Image Denoising Models via Adversarial Attack [60.40356882897116]
  ディープニューラルネットワーク(DNN)は、従来の画像復調アルゴリズムよりも優れたパフォーマンスを示している。 本稿では,現在のディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディナイジング・PGD(Denoising-PGD)と名づけられた敵攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-06-28T09:30:59Z)
• Denoising Diffusion Probabilistic Models as a Defense against Adversarial Attacks [0.0]
  本研究は,敵攻撃に対する浄化手法として,拡散確率モデル(DDPM)の性能を評価する。 リンパ節郭清におけるPatchCamelyonデータセットのアプローチについて検討し,その精度を88%まで向上させた。
  論文  参考訳（メタデータ） (2023-01-17T13:27:53Z)
• Robustness and Transferability of Universal Attacks on Compressed Models [3.187381965457262]
  エッジデバイスにDeep Neural Networks(DNN)を効率的にデプロイするには、プルーニングや量子化などのニューラルネットワーク圧縮方法が非常に効果的です。 特に、UAP(Universal Adversarial Perturbations)は、敵対的攻撃の強力なクラスである。 いくつかのシナリオでは、量子化は勾配マスキングを生じさせ、誤ったセキュリティ感覚を与える。
  論文  参考訳（メタデータ） (2020-12-10T23:40:23Z)
• Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
  ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
  論文  参考訳（メタデータ） (2020-09-24T06:22:56Z)
• Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning [71.17774313301753]
  本研究では,自己指導型高水準表現の堅牢性について,敵攻撃に対する防御に利用して検討する。 ASVspoof 2019データセットの実験結果は、Mockingjayによって抽出されたハイレベルな表現が、敵の例の転送可能性を妨げることを示した。
  論文  参考訳（メタデータ） (2020-06-05T03:03:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。