論文の概要: Acoustic Interference: A New Paradigm Weaponizing Acoustic Latent Semantic for Universal Jailbreak against Large Audio Language Models
- arxiv url: http://arxiv.org/abs/2605.18168v1
- Date: Mon, 18 May 2026 10:10:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:49.308447
- Title: Acoustic Interference: A New Paradigm Weaponizing Acoustic Latent Semantic for Universal Jailbreak against Large Audio Language Models
- Title（参考訳）: 音響干渉:大規模音声モデルに対するユニバーサルジェイルブレイクのための新しいパラダイムWeaponizing Acoustic Latent Semantic
- Authors: Yanyun Wang, Yu Huang, Zi Liang, Xixin Wu, Li Liu,
- Abstract要約: 既存のjailbreakパラダイムは、主に悪意のあるペイロードのキャリアとしてオーディオを扱う。
コンテンツ注入から安全アライメント干渉へ音声の役割がシフトする新しいパラダイムを提案する。
干渉音声は内容的には優れているが、特定のALSを注入することで、普遍的なジェイルブレイクトリガーとして機能することを示す。
- 参考スコア（独自算出の注目度）: 29.672999404488838
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The integration of audio modality into Large Audio Language Models (LALMs) significantly expands their attack surface. Existing jailbreak paradigms predominantly treat audio as a carrier for malicious payloads, relying on semantic optimization, acoustic parameter control, or additive perturbation to embed harmful content into the audio signal. In this work, we challenge this necessity and propose a new paradigm in which the role of audio shifts from content injection to safety alignment interference. We reveal that LALM safety alignment can be compromised solely by specific Acoustic Latent Semantics (ALS), the underlying paralinguistic features intrinsic to the priors of audio generative models. Distinct from previous works that leverage explicit acoustic parameters to merely style malicious audio, we demonstrate that interference audio, benign in content but infused with specific ALS, can serve as a universal jailbreak trigger. Leveraging this insight, we propose the Acoustic Interference Attack (AIA), which decouples the attack payload from the audio. Specifically, AIA employs a set of universal, instruction-neutral interference audio, enabling standard malicious text queries to bypass safety alignment without instance-specific optimization. Extensive experiments on 10 LALMs across five datasets demonstrate that AIA achieves the state-of-the-art attack success rate. Furthermore, our interpretability analysis uncovers the inference path drift induced by AIA and identifies the inherent effective patterns within ALS, revealing the fundamental vulnerability of cross-modal alignment in LALMs.
- Abstract（参考訳）: LALM(Large Audio Language Models)へのオーディオモダリティの統合により、攻撃面が大幅に拡大する。
既存のjailbreakパラダイムは、主に悪意のあるペイロードのキャリアとしてオーディオを扱い、セマンティックな最適化、音響パラメータ制御、またはオーディオ信号に有害なコンテンツを埋め込む付加的な摂動に依存している。
本研究は,コンテンツインジェクションから安全アライメント干渉へ音声の役割がシフトする新たなパラダイムを提案する。
LALMの安全性アライメントは、音声生成モデルに固有のパラ言語的特徴である、特定の音響潜在セマンティックス(ALS)によってのみ妥協できることを明らかにする。
音響パラメータを明示的に利用して悪意のあるオーディオをスタイルする以前の研究とは違って、コンテンツの良さと特定のALSを注入した干渉オーディオが、一般的なジェイルブレイクトリガとして機能することを示した。
この知見を利用して,攻撃ペイロードをオーディオから分離する音響干渉攻撃(AIA)を提案する。
具体的には、AIAはユニバーサルで命令ニュートラルな干渉オーディオのセットを採用しており、標準の悪意のあるテキストクエリは、インスタンス固有の最適化なしに安全アライメントをバイパスすることができる。
5つのデータセットにわたる10のLALMに関する大規模な実験は、AIAが最先端の攻撃成功率を達成することを示した。
さらに,AIAによって誘発される推論経路のドリフトを解明し,ALS内の本質的な有効パターンを同定し,LALMにおけるクロスモーダルアライメントの根本的な脆弱性を明らかにする。
関連論文リスト
- Still Between Us? Evaluating and Improving Voice Assistant Robustness to Third-Party Interruptions [52.45054413627452]
TPI-Trainは、話者認識型ハードネガティブで設計された88Kインスタンスのデータセットで、割り込み処理のための音響キュー優先順位付けを強制する。
TPI-Benchは、割り込み処理戦略を厳格に測定するために設計された総合的な評価フレームワークである。
論文 参考訳（メタデータ） (2026-04-19T10:03:42Z) - Benign Fine-Tuning Breaks Safety Alignment in Audio LLMs [19.239722054750832]
オーディオLLMにおける良質な微調整安全性に関する最初の体系的研究について述べる。
良質な微調整により、単一の桁から87.12%までのジェイルブレイク成功率(JSR)が上昇することを示す。
有害な埋め込みからの距離を最大化するためにトレーニングデータをフィルタリングすることと、推論時にテキストシステムにプロンプトする2つの防御法を提案する。
論文 参考訳（メタデータ） (2026-04-17T19:28:07Z) - Hijacking Large Audio-Language Models via Context-Agnostic and Imperceptible Auditory Prompt Injection [22.306688903148046]
大規模な音声言語モデル(LALM)は、音声とテキストを密に統合することでインテリジェントな音声インタラクションをパワーアップする。
textitAudioHijackは,ハイジャックLALMに対して,文脈に依存しない,知覚不能な音声を生成するフレームワークである。
13種類のLALM実験では、6つのカテゴリーで一貫したハイジャックが行われた。
論文 参考訳（メタデータ） (2026-04-16T04:22:11Z) - Beyond Transcription: Unified Audio Schema for Perception-Aware AudioLLMs [53.41256816230278]
最近のオーディオ大言語モデル(AudioLLMs)は、顕著な性能逆転を示す。
複雑な推論タスクには優れるが、音の微妙な知覚では一貫して性能が劣る。
音声情報を3つの明示的な構成要素に整理する総合的かつ構造化された監視フレームワークであるUnified Audio (UAS)を提案する。
論文 参考訳（メタデータ） (2026-04-14T09:30:12Z) - Sirens' Whisper: Inaudible Near-Ultrasonic Jailbreaks of Speech-Driven LLMs [38.35295248094619]
音声駆動型大規模言語モデル(LLM)は音声インタフェースを通じてアクセスされ、オープンアコースティックチャネルを介して新たなセキュリティリスクがもたらされる。
本稿では,Sirens' Whisperについて紹介する。
SWhisperは、任意のベースバンドオーディオを含む、長い、構造化されたプロンプトオン・コモディティデバイスを、頑丈で、不明瞭に配信することを可能にする。
論文 参考訳（メタデータ） (2026-03-14T09:01:48Z) - SEE: Signal Embedding Energy for Quantifying Noise Interference in Large Audio Language Models [49.313324100819955]
信号埋め込みエネルギー (Signal Embedding Energy, SEE) は、LALM入力に対する雑音強度の影響を定量化する手法である。
SEEはLALM性能と強い相関を示し,0.98。
本稿では,LALMにおけるノイズ定量化のための新しい指標を提案し,実環境におけるロバスト性向上のためのガイダンスを提供する。
論文 参考訳（メタデータ） (2026-01-12T08:57:55Z) - ENJ: Optimizing Noise with Genetic Algorithms to Jailbreak LSMs [61.09812971042288]
進化的騒音ジェイルブレイク(ENJ)
本稿では,環境騒音を受動的干渉から積極的に最適化可能な攻撃キャリアへ変換する遺伝的アルゴリズムを提案する。
複数の主流音声モデルに対する実験により、ENJの攻撃効果は既存のベースライン法よりもかなり優れていることが示された。
論文 参考訳（メタデータ） (2025-09-14T06:39:38Z) - Hidden in the Noise: Unveiling Backdoors in Audio LLMs Alignment through Latent Acoustic Pattern Triggers [40.4026420070893]
HIN(Hidden in the Noise)は、微妙でオーディオ特有の機能を活用するために設計された、新しいバックドアアタックフレームワークである。
HINは、時間的ダイナミクスの変更やスペクトル調整されたノイズの戦略的注入など、生のオーディオ波形に音響的修正を適用している。
音声機能に基づくトリガに対するALLMロバスト性を評価するため、AudioSafeベンチマークを開発し、9つの異なるリスクタイプを評価する。
論文 参考訳（メタデータ） (2025-08-04T08:15:16Z) - From Alignment to Advancement: Bootstrapping Audio-Language Alignment with Synthetic Data [55.2480439325792]
音声対応の大規模言語モデル(ALLM)は近年,音声入力の理解と処理において大きな進歩を遂げている。
これらのモデルは典型的にはテキストベースの大規模言語モデル(LLM)に適応し、音声関連タスクのさらなるトレーニングを行う。
本研究では、現在と欠落した音を区別するALLMの能力を高めるために、コントラッシブな訓練データを生成するデータ生成フレームワークを提案する。
論文 参考訳（メタデータ） (2025-05-26T16:08:41Z) - Reshaping Representation Space to Balance the Safety and Over-rejection in Large Audio Language Models [50.89022445197919]
Large Audio Language Models (LALM) は、Large Language Models (LLM) の機能を拡張した。
近年の研究では、LALMは安全調整が不十分なため、有害なクエリに対して脆弱であることが明らかになっている。
論文 参考訳（メタデータ） (2025-05-26T08:25:25Z) - Audio Jailbreak: An Open Comprehensive Benchmark for Jailbreaking Large Audio-Language Models [19.373533532464915]
LAMのjailbreak脆弱性を評価するために特別に設計された最初のベンチマークであるAJailBenchを紹介します。
このデータセットを使用して、いくつかの最先端のLAMを評価し、攻撃間で一貫性のある堅牢性を示すものはありません。
以上の結果から, セマンティックに保存された摂動でさえ, 先行するLAMの安全性を著しく低下させる可能性が示唆された。
論文 参考訳（メタデータ） (2025-05-21T11:47:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。