論文の概要: Now You Hear Me: Audio Narrative Attacks Against Large Audio-Language Models

• arxiv url: http://arxiv.org/abs/2601.23255v1
• Date: Fri, 30 Jan 2026 18:23:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-02 18:28:15.610161
• Title: Now You Hear Me: Audio Narrative Attacks Against Large Audio-Language Models
• Title（参考訳）: 大型オーディオ・ランゲージ・モデルに対するオーディオ・ナラティブ・アタック(動画あり)
• Authors: Ye Yu, Haibo Jin, Yaoning Yu, Jun Zhuang, Haohan Wang,
• Abstract要約: 我々は、許可されていない指示を物語スタイルのオーディオストリームに埋め込む、テキストからオーディオへのジェイルブレイクを設計する。 この攻撃は構造的および音響的特性を利用して、主にテキストに校正された安全機構を回避する。 結果は、言語的およびパラ言語的表現を共同で理由づける安全フレームワークの必要性を強調している。
• 参考スコア（独自算出の注目度）: 26.648297855855432
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large audio-language models increasingly operate on raw speech inputs, enabling more seamless integration across domains such as voice assistants, education, and clinical triage. This transition, however, introduces a distinct class of vulnerabilities that remain largely uncharacterized. We examine the security implications of this modality shift by designing a text-to-audio jailbreak that embeds disallowed directives within a narrative-style audio stream. The attack leverages an advanced instruction-following text-to-speech (TTS) model to exploit structural and acoustic properties, thereby circumventing safety mechanisms primarily calibrated for text. When delivered through synthetic speech, the narrative format elicits restricted outputs from state-of-the-art models, including Gemini 2.0 Flash, achieving a 98.26% success rate that substantially exceeds text-only baselines. These results highlight the need for safety frameworks that jointly reason over linguistic and paralinguistic representations, particularly as speech-based interfaces become more prevalent.
• Abstract（参考訳）: 大きな音声言語モデルは生の音声入力でますます機能し、音声アシスタント、教育、臨床トリアージといったドメイン間のシームレスな統合を可能にしている。 しかし、この移行は、ほとんど文字化されていない、異なる種類の脆弱性を導入している。 本研究では,このモダリティシフトのセキュリティ上の意義について,物語スタイルの音声ストリーム内に,禁止命令を埋め込んだテキストから音声へのジェイルブレイクを設計することによって検討する。 この攻撃は、高度な命令追従型テキスト音声(TTS)モデルを利用して、構造的および音響的特性を活用することにより、主にテキストに対して校正された安全性メカニズムを回避する。 合成音声による配信では、ジェミニ2.0フラッシュを含む最先端モデルの出力を制限し、テキストのみのベースラインを超える98.26%の成功率を達成した。 これらの結果は、言語的・パラ言語的な表現に対して共同で推論する安全フレームワークの必要性を浮き彫りにしている。

関連論文リスト

• Synthetic Voices, Real Threats: Evaluating Large Text-to-Speech Models in Generating Harmful Audio [63.18443674004945]
  この研究は、TSシステムを利用して有害なコンテンツを含む音声を生成する、コンテンツ中心の脅威を探究する。 HARMGENは、これらの課題に対処する2つのファミリーにまとめられた5つの攻撃群である。
  論文  参考訳（メタデータ） (2025-11-14T03:00:04Z)
• MOSS-Speech: Towards True Speech-to-Speech Models Without Text Guidance [66.74042564585942]
  MOSS-Speechは、テキストガイダンスに頼ることなく直接理解し、音声を生成する、真の音声音声合成大言語モデルである。 我々の研究は、表現的かつ効率的なエンドツーエンドの音声対話のための新しいパラダイムを確立する。
  論文  参考訳（メタデータ） (2025-10-01T04:32:37Z)
• From Text to Talk: Audio-Language Model Needs Non-Autoregressive Joint Training [19.396162898865864]
  Text-to-Talk (TtT) は、自動回帰(AR)テキスト生成と非自己回帰(NAR)音声拡散を統合した統合オーディオテキストフレームワークである。 このハイブリッド生成パラダイムをサポートするために,テキストの因果復号を強制するモダリティ対応アテンション機構を設計する。 推論中、TtTは可変長出力を柔軟に処理しながら、ブロックワイド拡散を用いてオーディオを並列に合成する。
  論文  参考訳（メタデータ） (2025-09-24T12:44:26Z)
• Towards Inclusive Communication: A Unified Framework for Generating Spoken Language from Sign, Lip, and Audio [52.859261069569165]
  音声テキスト生成のための手話,唇の動き,音声の多様な組み合わせを扱える最初の統一フレームワークを提案する。 i)不均一な入力を効果的に処理できる統一されたモダリティ非依存アーキテクチャの設計、(ii)モダリティ間の過小評価された相乗効果の探索、特に手話理解における非手動的手がかりとしての唇運動の役割、(iii)個々のタスクに特化した最先端モデルと同等以上のパフォーマンスを達成すること、の3つの目的に焦点をあてる。
  論文  参考訳（メタデータ） (2025-08-28T06:51:42Z)
• Audio Jailbreak Attacks: Exposing Vulnerabilities in SpeechGPT in a White-Box Framework [6.002582335323663]
  白箱シナリオにおけるMLLM(Multimodal Large Language Models)の音声入力を対象とする逆攻撃を提案する。 本稿では,新たなトークンレベルアタックを導入し,モデルの音声トークン化へのアクセスを活用して,逆トークン列を生成する。 当社のアプローチでは,複数の制限されたタスクに対して,最大99%の攻撃成功率を実現しています。
  論文  参考訳（メタデータ） (2025-05-24T20:46:36Z)
• Exploiting Vulnerabilities in Speech Translation Systems through Targeted Adversarial Attacks [59.87470192277124]
  本稿では,非知覚的音声操作による音声翻訳システム構築手法について検討する。 本研究では,(1)ソース音声への摂動注入,(2)ターゲット翻訳を誘導する対向音楽の生成という2つの革新的なアプローチを提案する。 我々の実験では、注意深く作られた音声摂動は、ターゲットとなる有害な出力を生成するために翻訳モデルを誤解させる可能性があるが、敵対的な音楽はこの目標をより隠蔽的に達成する。 この研究の意味は、直ちにセキュリティ上の懸念を越えて、ニューラル音声処理システムの解釈可能性と堅牢性に光を当てることである。
  論文  参考訳（メタデータ） (2025-03-02T16:38:16Z)
• "I am bad": Interpreting Stealthy, Universal and Robust Audio Jailbreaks in Audio-Language Models [0.9480364746270077]
  本稿では,Audio-Language Models(ALMs)を対象とする音声ジェイルブレイクについて検討する。 我々は、プロンプト、タスク、さらにはベースオーディオサンプルをまたいで一般化する対向的摂動を構築する。 我々は、ALMがこれらの音声相手の例をどう解釈するかを分析し、知覚不能な一対一の有毒な音声を符号化する。
  論文  参考訳（メタデータ） (2025-02-02T08:36:23Z)
• Bridging the Modality Gap for Speech-to-Text Translation [57.47099674461832]
  エンド・ツー・エンドの音声翻訳は、ある言語における音声を、エンド・ツー・エンドの方法で他の言語におけるテキストに変換することを目的としている。 既存のほとんどの手法では、音響表現と意味情報を同時に学習するために、単一のエンコーダを持つエンコーダ・デコーダ構造を用いる。 本稿では,音声とテキスト間のモダリティギャップを埋めることで,エンドツーエンドのモデル性能を向上させることを目的とした音声翻訳モデルのための音声テキスト適応手法を提案する。
  論文  参考訳（メタデータ） (2020-10-28T12:33:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。