論文の概要: You Are the Trigger: Speaker-Activated Backdoors

• arxiv url: http://arxiv.org/abs/2610.27210v1
• Date: Mon, 19 Oct 2026 19:43:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.485181
• Title: You Are the Trigger: Speaker-Activated Backdoors
• Title（参考訳）: スピーカーで動くバックドア「You Are the Trigger」
• Abstract要約: 我々は、攻撃者が微調整中にモデルに侵入する異なる脅威モデルについて検討するが、被害者の推論時間入力にはアクセスできない。 本稿では、ターゲット話者の自然な声が引き金となる話者活性化バックドア(SAB)の設定を紹介する。 SABはWhisper-mediumとParakeetで90.2%と97.0%のバックドアで成功し、偽陽性率は1.7%と0%である。
• 参考スコア（独自算出の注目度）: 7.6995880404172325
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Speech models are increasingly used as an interface to AI systems, from transcription tools to voice agents. Existing audio backdoors require an attacker to introduce triggers at inference time. We study a different threat model in which the attacker compromises the model during fine-tuning but has no access to the victim's inference-time inputs. We introduce the Speaker-Activated Backdoor (SAB) setting, in which a target speaker's natural voice serves as the trigger. We develop a two-phase fine-tuning method that first makes speaker identity more accessible and then binds the target speaker to an attacker-chosen payload. Compared with a one-phase baseline with the same training budget, the two-phase method substantially improves selectivity and clean performance, and is especially important for content-dependent attacks. SAB achieves 90.2% and 97.0% backdoor success on Whisper-medium and Parakeet, with false-positive rates of 1.7% and 0%, respectively using as little as two minutes of real audio from the target speaker. We further demonstrate content-dependent semantic rewriting and downstream tool-use attacks, where malicious instructions are inserted into 96.9% of target-speaker transcripts. When these transcripts are passed to frontier LLM agents, GPT-4o and Claude (Opus, Sonnet, and Haiku), the injected instruction drives the agent to carry out the harmful action in up to 87.5% of cases. The attack generalizes to held-out recordings, multiple target speakers, and common acoustic degradations. These results establish speaker identity as a practical backdoor trigger that requires no inference-time attacker access and is invisible at the transcript layer.
• Abstract（参考訳）: 音声モデルは、書き起こしツールから音声エージェントまで、AIシステムのインターフェースとしてますます利用されている。 既存のオーディオバックドアでは、攻撃者が推論時にトリガーを導入する必要がある。 我々は、攻撃者が微調整中にモデルに侵入する異なる脅威モデルについて検討するが、被害者の推論時間入力にはアクセスできない。 本稿では、ターゲット話者の自然な声が引き金となる話者活性化バックドア(SAB)の設定を紹介する。 本研究では、まず話者識別をよりアクセスしやすくし、ターゲット話者をアタッカー・チョーゼンペイロードにバインドする2相微調整法を開発した。 トレーニング予算が同じワンフェーズのベースラインと比較して、この2フェーズ方式は選択性とクリーンな性能を大幅に向上させ、コンテンツ依存攻撃において特に重要である。 SABは、Whisper-mediumとParakeetで90.2%と97.0%のバックドア成功を達成し、それぞれ1.7%と0%の偽陽性率で、ターゲットスピーカーから2分間の実際のオーディオを使用する。 さらに、悪意のある命令を96.9%のターゲット話者書き起こしに挿入する、コンテンツ依存のセマンティックリライトとダウンストリームツール使用攻撃を実証する。 これらの転写文字がフロンティアのLSMエージェントであるGPT-4oとClaude(Opus、Sonnet、Haiku)に渡されると、注射された指示により、87.5%のケースで有害な作用を実行する。 攻撃はホールドアウト記録、複数のターゲットスピーカー、一般的な音響劣化に一般化される。 これらの結果は、実際のバックドアトリガとして話者識別を確立し、推論時アタッカーアクセスを必要とせず、転写層では見えない。

関連論文リスト

• Piggybacking on Perception: Stealthy Concurrent Audio Prompt Injections against Multimodal LLM Agents [15.045221116990005]
  大規模言語モデル(LLM)によるマルチモーダルエージェントは、継続的オーディオインタラクションを通じて自律的なタスクを実行するために、ますます多くデプロイされている。 本稿では,マルチモーダルエージェントを対象とした同時音声プロンプトインジェクション攻撃について検討する。 これらの方法では、悪意ある音声命令がユーザー音声に知覚的に「ピギーバック」し、エージェントをハイジャックして悪意あるアクションを実行することができる。
  論文  参考訳（メタデータ） (2026-07-30T13:04:15Z)
• Enhancing Speaker Verification with Whispered Speech via Post-Processing [1.8849814100256281]
  本研究では,より頑健な発話障害に対する表現を得るための学習レシピを用いたモデルを提案する。 提案システムは、細調整された話者検証バックボーン上に構築されたエンコーダ-デコーダ構造を用いる。 また, 発声音声を用いた性能評価において, 最も人気があり, 最先端の話者検証モデルの要約も提供する。
  論文  参考訳（メタデータ） (2026-04-22T06:23:40Z)
• Multi-Target Backdoor Attacks Against Speaker Recognition [61.26040837545449]
  位置に依存しないクリック音を用いた話者識別に対するマルチターゲットバックドア攻撃を提案する。 提案手法は最大50人の話者を同時に対象とし,95.04%の成功率を達成した。
  論文  参考訳（メタデータ） (2025-08-12T01:52:30Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。