論文の概要: Never Stop Speaking: a Denial-of-Service Attack on End-to-End Speech Language Models

• arxiv url: http://arxiv.org/abs/2608.10405v1
• Date: Tue, 11 Aug 2026 02:50:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-12 19:14:45.874159
• Title: Never Stop Speaking: a Denial-of-Service Attack on End-to-End Speech Language Models
• Title（参考訳）: 言わず:エンド・ツー・エンドの言語モデルに対するサービス拒否攻撃
• Authors: Shuozhe Cheng, Kunlan Xiang, Mingxuan Li, Ji Zhang, Dongxiao Liu, Wenbo Jiang,
• Abstract要約: E2E音声モデルを対象とした摂動型DoS攻撃を提案する。 本手法は, 知覚不能な音響摂動を最適化し, モデルの自動回帰生成プロセスに直接影響を与える。 提案手法は, 生成時間とGPUリソース消費を大幅に増加させながら, 安定した攻撃成功率を実現する。
• 参考スコア（独自算出の注目度）: 10.297488739717672
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Many studies have shown that specially crafted inputs can induce large language models (LLMs) to generate excessively long outputs, resulting in significant computational overhead and resource consumption. While most existing denial-of-service (DoS) attacks target text-only LLMs, end-to-end (E2E) speech LLMs are rapidly emerging. Existing text-based DoS attacks primarily rely on prompt engineering, such as adversarial suffixes or semantic inducement, which exploit the discrete nature of text inputs and therefore cannot be directly transferred to continuous speech inputs. Moreover, prior studies on speech model security mainly focus on ASR or TTS systems, leaving the DoS vulnerability of E2E speech LLMs largely unexplored. To address this gap, we propose the perturbation-based DoS attack targeting E2E speech models. Instead of inducing long outputs through prompt manipulation, our method optimizes imperceptible acoustic perturbations to directly influence the model's autoregressive generation process while preserving the original input length. Specifically, we formulate the attack as a composite optimization objective that jointly suppresses EOS generation, encourages prolonged decoding, and largely preserves semantic consistency by integrating weighted EOS loss, top-k logit loss, length loss, and semantic alignment loss. To further improve stealthiness, we employ voice activity detection (VAD) to inject perturbations only into voiced regions. Extensive experiments on three open-source E2E speech LLMs demonstrate that our method achieves stable attack success rate while significantly increasing generation length and GPU resource consumption, revealing security risks in modern ALLMs.
• Abstract（参考訳）: 多くの研究で、特殊に構築された入力は大きな言語モデル(LLM)を誘導し、過度に長い出力を発生させ、計算オーバーヘッドとリソース消費を著しく増加させることが示されている。 既存のDoS攻撃のほとんどはテキストのみのLLMをターゲットにしているが、エンドツーエンド(E2E)のLLMは急速に出現している。 既存のテキストベースのDoS攻撃は、主に、テキスト入力の離散性を生かし、連続的な音声入力に直接転送できない、逆サフィックスやセマンティックインジェクションのような、迅速なエンジニアリングに依存している。 さらに、音声モデルのセキュリティに関する先行研究は、主にASRまたはTSシステムに焦点を当てており、E2E音声LLMのDoS脆弱性はほとんど探索されていない。 このギャップに対処するため,E2E音声モデルを対象とした摂動型DoS攻撃を提案する。 提案手法は,プロンプト操作により長い出力を誘導する代わりに,知覚不能な音響摂動を最適化し,元の入力長を保ちながら,モデルの自己回帰生成プロセスに直接影響を与える。 具体的には、重み付きEOS損失、トップkロジット損失、長さ損失、セマンティックアライメント損失を統合することで、EOS生成を共同で抑制し、長期化を促進し、意味的一貫性を保ち得る複合最適化目的として攻撃を定式化する。 さらにステルス性を高めるために,音声活動検出(VAD)を用いて発声領域にのみ摂動を注入する。 3つのオープンソースのE2E音声LLMの大規模な実験により、本手法は、生成時間とGPUリソース消費を大幅に増加させながら、安定した攻撃成功率を達成することを示し、現代のALLMのセキュリティリスクを明らかにした。

関連論文リスト

• A Fragile Guardrail: Diffusion LLM's Safety Blessing and Its Failure Mode [51.43498132808724]
  Diffusion large language model (D-LLMs) はjailbreak攻撃に対して本質的に堅牢であることを示す。 構成された良質なコンテキスト内に有害な要求が埋め込まれる、単純な、効果的な障害モードをコンテキストネストと呼ぶ。 この単純な戦略は、D-LLMの安全性を回避し、最先端の攻撃成功率を達成するのに十分であることを示す。
  論文  参考訳（メタデータ） (2026-01-30T23:08:14Z)
• An Image Is Worth Ten Thousand Words: Verbose-Text Induction Attacks on VLMs [48.05423013052023]
  本稿では,良性画像に知覚不能な逆方向の摂動を注入する新しい動詞文誘導攻撃(VTIA)を提案する。 まず、敵のプロンプトを自動的に識別する強化学習戦略を用いて、敵のプロンプト検索を行う。 次に、入力画像の対角的例を作成するために、視線対応摂動最適化を行い、摂動画像の視覚的埋め込みと対角的プロンプトの類似性を最大化する。
  論文  参考訳（メタデータ） (2025-11-20T09:03:43Z)
• Synthetic Voices, Real Threats: Evaluating Large Text-to-Speech Models in Generating Harmful Audio [63.18443674004945]
  この研究は、TSシステムを利用して有害なコンテンツを含む音声を生成する、コンテンツ中心の脅威を探究する。 HARMGENは、これらの課題に対処する2つのファミリーにまとめられた5つの攻撃群である。
  論文  参考訳（メタデータ） (2025-11-14T03:00:04Z)
• Backdoor Attacks Against Speech Language Models [63.07317091368079]
  本研究は,音声認識モデルに対する音声バックドア攻撃に関する最初の体系的研究である。 4つの音声エンコーダと3つのデータセットにまたがってその効果を実証し、4つのタスクをカバーした。 汚染された事前訓練エンコーダの脅威を軽減できる微調整型防御法を提案する。
  論文  参考訳（メタデータ） (2025-10-01T17:45:04Z)
• SPIRIT: Patching Speech Language Models against Jailbreak Attacks [27.79621464198623]
  音声言語モデル(SLM)は、音声命令による自然な対話を可能にする。 我々は、敵の攻撃を分析し、SLMが脱獄攻撃に対してかなり脆弱であることを示す。 セキュリティ向上のために,推論時に介入するポストホック・パッチ・ディフェンスを提案する。
  論文  参考訳（メタデータ） (2025-05-18T21:51:24Z)
• The Dark Side of Human Feedback: Poisoning Large Language Models via User Inputs [8.449922248196705]
  我々は,アライメントトレーニング保護を貫くために,ユーザから供給されるプロンプトを介して,微妙ながら効果的な毒殺攻撃を行う。 我々の攻撃は、ブラックボックス設定における目標LLMの明示的な知識がなくても、報酬フィードバック機構を微妙に変更する。 これらの特殊なプロンプトの1%をデータに注入することにより、悪意のあるユーザを通して、特定のトリガーワードを使用する場合の毒性スコアを最大2倍に向上させる。
  論文  参考訳（メタデータ） (2024-09-01T17:40:04Z)
• RigorLLM: Resilient Guardrails for Large Language Models against Undesired Content [62.685566387625975]
  現在の緩和戦略は効果はあるものの、敵の攻撃下では弾力性がない。 本稿では,大規模言語モデルのための弾力性ガードレール(RigorLLM)について紹介する。
  論文  参考訳（メタデータ） (2024-03-19T07:25:02Z)
• Learning to Poison Large Language Models for Downstream Manipulation [12.521338629194503]
  この研究は、教師付き微調整プロセスを利用するのに適した新しいデータ中毒攻撃を設計することで、LLM(Large Language Models)のさらなるセキュリティリスクを特定する。 本稿では,逆方向誘導学習(GBTL)アルゴリズムを提案する。 In-context Learning(ICL)とContinuous Learning(CL)の2つの防衛戦略を提案する。
  論文  参考訳（メタデータ） (2024-02-21T01:30:03Z)
• It's Never Too Late: Fusing Acoustic Information into Large Language Models for Automatic Speech Recognition [70.77292069313154]
  大規模言語モデル(LLM)は、自動音声認識(ASR)出力の上の生成誤り訂正(GER)に成功することができる。 本研究では,不確実性認識ダイナミックフュージョン (UADF) と呼ばれる新しい遅延融合解によって予測された転写を生成する前に,音響情報を注入することにより,そのような制限を克服することを目的とする。
  論文  参考訳（メタデータ） (2024-02-08T07:21:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。