論文の概要: AEGIS: Audio Endogenous Guarding via Internal Signals Against Large Audio-Language Model Jailbreaks

• arxiv url: http://arxiv.org/abs/2609.29287v1
• Date: Thu, 24 Sep 2026 09:24:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:09.811623
• Title: AEGIS: Audio Endogenous Guarding via Internal Signals Against Large Audio-Language Model Jailbreaks
• Title（参考訳）: AEGIS:大規模オーディオランゲージモデルジェイルブレイクに対する内部信号による内因性ガード
• Abstract要約: 大規模音声言語モデル (LALM) に対する検出-テーマ-インターベンディフェンスである AEGIS を提案する。 6つのLALMと3つのオーディオジェイルブレイクベンチマークで、AEGISは安全でない平均レートを17.9%から0.4%に下げている。 これらの結果は、LALMのより堅牢な拒絶への効果的な経路として、選択的内部介入を確立している。
• 参考スコア（独自算出の注目度）: 6.7129446619210595
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large audio-language models (LALMs) expand language models to process and interpret audio, but also expose them to heterogeneous audio jailbreaks. We ask whether successful jailbreaks reflect failures to recognize harmful intent or failures occurring after such recognition. Layer-wise probing reveals the latter: risk-related information remains decodable from intermediate representations, yet the internal risk signal fails to translate into refusal in later-layer processing. We identify this discrepancy as the risk-to-refusal gap. Building on this finding, we propose AEGIS, a detect-then-intervene defense whose mid-layer risk gate selectively activates downstream safety adapters. Across six LALMs and three heterogeneous audio jailbreak benchmarks, AEGIS reduces the average unsafe rate from 17.9% to 0.4%, while causing only a marginal increase in over-refusal on benign inputs. These results establish selective internal intervention as an effective path toward more robust refusal in LALMs. The code is available at https://github.com/azzzzliao/aegis-audio-defense.
• Abstract（参考訳）: 大型オーディオ言語モデル (LALM) は言語モデルを拡張して音声の処理と解釈を行うが、これらを異質なオーディオジェイルブレイクに公開する。 脱獄の成功は、有害な意図や、そのような認識の後に発生する失敗を認識するために失敗を反映しているかを問う。 リスク関連情報は中間表現から復号化可能であるが、内部リスク信号は後層の処理では拒否される。 我々はこの不一致をリスク・ツー・リファレンス・ギャップとみなしている。 そこで本研究では,中層リスクゲートが下流の安全アダプタを選択的に活性化する,検出可能なインターホンディフェンスであるAEGISを提案する。 6つのLALMと3つの異種オーディオジェイルブレイクベンチマークで、AIGISは平均安全でないレートを17.9%から0.4%に下げる一方で、良心的な入力に対する過度な拒絶しか生じない。 これらの結果は、LALMのより堅牢な拒絶への効果的な経路として、選択的内部介入を確立している。 コードはhttps://github.com/azzzzliao/aegis-audio-defense.comで公開されている。

関連論文リスト

• Defending Jailbreak Attacks on Large Language Models via Manifold Trajectory Kinetics [50.36375380196006]
  ジェイルブレイクプロンプトは、大規模な言語モデルにおけるアライメントガードレールをバイパスすることができる。 先行検出アプローチは固定距離空間に大きく依存する。 この仮定は,意図によって無視されるが,安全関連キーワードを含む疑似悪質なプロンプトの下で破られることを示す。 本稿では, LLM を入力を出力に変換する運動系として扱う Manifold Trajectory Kinetics (MTK) を提案する。
  論文  参考訳（メタデータ） (2026-06-05T14:49:26Z)
• Acoustic Interference: A New Paradigm Weaponizing Acoustic Latent Semantic for Universal Jailbreak against Large Audio Language Models [29.672999404488838]
  既存のjailbreakパラダイムは、主に悪意のあるペイロードのキャリアとしてオーディオを扱う。 コンテンツ注入から安全アライメント干渉へ音声の役割がシフトする新しいパラダイムを提案する。 干渉音声は内容的には優れているが、特定のALSを注入することで、普遍的なジェイルブレイクトリガーとして機能することを示す。
  論文  参考訳（メタデータ） (2026-05-18T10:10:31Z)
• Adaptive Steering and Remasking for Safe Generation in Diffusion Language Models [6.107855416893071]
  Diffusion Language Models (DLMs) は自己回帰型言語モデルに代わる有望な選択肢を提供する。 本稿では,段階的介入に基づく推論時防衛フレームワークを提案する。 われわれのアプローチは、ジェイルブレイクの成功率を0.64%まで下げる一方で、オリジナルのモデルの性能に近い世代品質を保っている。
  論文  参考訳（メタデータ） (2026-05-13T05:56:45Z)
• Benign Fine-Tuning Breaks Safety Alignment in Audio LLMs [19.239722054750832]
  オーディオLLMにおける良質な微調整安全性に関する最初の体系的研究について述べる。 良質な微調整により、単一の桁から87.12%までのジェイルブレイク成功率(JSR)が上昇することを示す。 有害な埋め込みからの距離を最大化するためにトレーニングデータをフィルタリングすることと、推論時にテキストシステムにプロンプトする2つの防御法を提案する。
  論文  参考訳（メタデータ） (2026-04-17T19:28:07Z)
• Hijacking Large Audio-Language Models via Context-Agnostic and Imperceptible Auditory Prompt Injection [22.306688903148046]
  大規模な音声言語モデル(LALM)は、音声とテキストを密に統合することでインテリジェントな音声インタラクションをパワーアップする。 textitAudioHijackは,ハイジャックLALMに対して,文脈に依存しない,知覚不能な音声を生成するフレームワークである。 13種類のLALM実験では、6つのカテゴリーで一貫したハイジャックが行われた。
  論文  参考訳（メタデータ） (2026-04-16T04:22:11Z)
• Jailbreaking Leaves a Trace: Understanding and Detecting Jailbreak Attacks from Internal Representations of Large Language Models [2.6140509675507384]
  我々はセキュリティと解釈可能性の両方の観点からジェイルブレイクを研究する。 隠れアクティベーションにおける構造をキャプチャするテンソルベース潜在表現フレームワークを提案する。 以上の結果から,脱獄行動が内部構造に根ざしていることが示唆された。
  論文  参考訳（メタデータ） (2026-02-12T02:43:17Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• DiffuGuard: How Intrinsic Safety is Lost and Found in Diffusion Large Language Models [50.21378052667732]
  我々は、ステップ内およびステップ間ダイナミクスという2つの異なる次元にわたるジェイルブレイク攻撃に対して、dLLM脆弱性の詳細な分析を行う。 デュアルステージアプローチによる脆弱性に対処する,トレーニング不要な防御フレームワークであるDiffuGuardを提案する。
  論文  参考訳（メタデータ） (2025-09-29T05:17:10Z)
• Layer-Level Self-Exposure and Patch: Affirmative Token Mitigation for Jailbreak Attack Defense [55.77152277982117]
  私たちは、jailbreak攻撃から防御するために設計された方法であるLayer-AdvPatcherを紹介します。 私たちは、自己拡張データセットを通じて、大規模言語モデル内の特定のレイヤにパッチを適用するために、未学習の戦略を使用します。 我々の枠組みは、脱獄攻撃の有害性と攻撃の成功率を減らす。
  論文  参考訳（メタデータ） (2025-01-05T19:06:03Z)
• Shaping the Safety Boundaries: Understanding and Defending Against Jailbreaks in Large Language Models [55.253208152184065]
  大規模言語モデル(LLM)におけるジェイルブレークは、LLMを騙して有害なテキストを生成するというセキュリティ上の問題である。 我々は7つの異なるジェイルブレイク法を詳細に分析し、不一致が不十分な観察サンプルから生じることを確認した。 安全境界内でのアクティベーションを適応的に制限する「textbfActivation Boundary Defense (ABD)」という新しい防衛法を提案する。
  論文  参考訳（メタデータ） (2024-12-22T14:18:39Z)
• Audio Is the Achilles' Heel: Red Teaming Audio Large Multimodal Models [50.89022445197919]
  我々は、オープンソースのオーディオLMMが有害な音声質問に対して平均69.14%の攻撃成功率を被っていることを示す。 Gemini-1.5-Proの音声固有のジェイルブレイクは、有害なクエリベンチマークで70.67%の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2024-10-31T12:11:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。