論文の概要: Backdooring Acoustic Foundation Models for Physically Realizable Triggers

• arxiv url: http://arxiv.org/abs/2610.09819v1
• Date: Wed, 07 Oct 2026 10:41:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.856215
• Title: Backdooring Acoustic Foundation Models for Physically Realizable Triggers
• Title（参考訳）: 物理的に実現可能なトリガーのためのバックドア音響基礎モデル
• Abstract要約: アコースティック・ファンデーション・モデル(AFM)に基づくアプリケーションのセキュリティについては、いまだほとんど未検討である。 本研究では, 基礎音響モデルバックドア攻撃(FAB)を提案し, 最先端のAFMがバックドアに感受性があることを実証した。 FABは, 微調整を継続し, アクティベート時に顕著な劣化を引き起こすバックドアを誘導しながら, 良性性能を保っていることを示す。
• 参考スコア（独自算出の注目度）: 12.306208202393092
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Acoustic foundation models (AFMs) have democratized acoustic applications, enabling powerful models for tasks ranging from speech recognition to speaker verification with minimal resources. However, the security of applications based on AFMs remains largely underexplored. Our work addresses this gap by proposing the Foundation Acoustic model Backdoor (FAB) attack, demonstrating that state-of-the-art AFMs are susceptible to backdooring under practical settings. Despite making minimal assumptions about adversary capabilities (e.g., no access to pre-training data), we show that FAB preserves benign performance while inducing backdoors that survive fine-tuning and cause significant degradation across diverse downstream tasks when activated. Notably, FAB utilizes task-agnostic, physically realizable, inconspicuous, and sync-free triggers (e.g., a background siren). We evaluate FAB using two leading AFMs, nine downstream tasks, and four different triggers. We further demonstrate its effectiveness against established defenses and across both digital and physical domains. While extensive end-to-end fine-tuning can mitigate FAB, such a defense is resource-intensive and task-specific. Our work highlights critical risks to AFMs and calls for advanced defenses.
• Abstract（参考訳）: 音響基礎モデル(AFM)は、音声認識から最小限のリソースで話者検証を行うタスクの強力なモデルを可能にする。 しかし、AFMに基づくアプリケーションのセキュリティについては、まだほとんど未検討である。 我々の研究は、ファウンデーション・アコースティック・モデル・バックドア(FAB)アタックを提案し、最先端のAFMが実用的な環境下でのバックドアに感受性があることを示し、このギャップに対処する。 逆さまの能力について最小限の仮定(例えば、事前学習データへのアクセスがない)をしても、FABは微調整に耐えるバックドアを誘導し、活性化時に様々な下流タスクに顕著な劣化をもたらす一方で、良質な性能を保っていることを示す。 特に、FABはタスクに依存しない、物理的に実現可能な、目立たない、同期のないトリガー(例えば、バックグラウンドサイレン)を利用する。 2つの主要なAFM、9つの下流タスク、および4つの異なるトリガーを用いてFABを評価する。 さらに、デジタルと物理の両方の領域において、確立された防衛に対する効果を実証する。 エンド・ツー・エンドの微調整はFABを軽減できるが、そのような防御はリソース集約的でタスク固有である。 私たちの研究は、AFMに対する重大なリスクと、先進的な防衛の要求を強調します。

関連論文リスト

• Towards Effective, Stealthy, and Persistent Backdoor Attacks Targeting Graph Foundation Models [62.87838888016534]
  Graph Foundation Models(GFM)は、さまざまなソースドメインで事前トレーニングされ、目に見えないターゲットに適応する。 GFMに対するバックドア攻撃は、3つの主要な課題のために簡単ではない。 グラフ基礎モデルに対する新たなバックドア攻撃モデルであるGFM-BAを提案する。
  論文  参考訳（メタデータ） (2025-11-22T08:52:09Z)
• From Pretrain to Pain: Adversarial Vulnerability of Video Foundation Models Without Task Knowledge [57.379583179331426]
  本稿では、ダウンストリームモデルやオープンソースのVFMから微調整されたMLLMを攻撃することによる、新規で実用的な敵の脅威シナリオについて検討する。 本稿では,VFMの時間的表現ダイナミクスを利用して効果的な摂動を発生させる,時間的対応型対向攻撃手法であるTransferable Video Attack (TVA)を提案する。 TVAは高価なサロゲートモデルのトレーニングやドメイン固有のデータへのアクセスを回避し、より実用的で効率的な攻撃戦略を提供する。
  論文  参考訳（メタデータ） (2025-11-10T12:42:32Z)
• Mitigating the Backdoor Effect for Multi-Task Model Merging via Safety-Aware Subspace [15.457992715866995]
  本稿では,タスク干渉とバックドア脆弱性を同時に軽減する新しいDAM手法を提案する。 既存のマージ手法と比較して、DAMはパフォーマンスとセキュリティのバランスが良く、攻撃成功率を2-10ポイント削減する。
  論文  参考訳（メタデータ） (2024-10-17T00:13:31Z)
• Fortify Your Foundations: Practical Privacy and Security for Foundation Model Deployments In The Cloud [17.961272750854885]
  ファンデーションモデル(FM)は自然言語処理などのタスクにおいて例外的なパフォーマンスを示す。 FMは、しばしば、プライベートデータに依存するRetrieval-Augmented Generation (RAG)システムに微調整または統合される。 本研究では,FM脅威モデルについて検討し,その安全性を確保するための様々なアプローチの実用性と包括性について考察する。
  論文  参考訳（メタデータ） (2024-10-08T11:33:09Z)
• BAPLe: Backdoor Attacks on Medical Foundational Models using Prompt Learning [71.60858267608306]
  医療基盤モデルはバックドア攻撃の影響を受けやすい。 本研究は,素早い学習期間中に医療基盤モデルにバックドアを埋め込む方法を紹介する。 我々の手法であるBAPLeは、ノイズトリガを調整するために最小限のデータサブセットしか必要とせず、テキストは下流のタスクにプロンプトする。
  論文  参考訳（メタデータ） (2024-08-14T10:18:42Z)
• Watch the Watcher! Backdoor Attacks on Security-Enhancing Diffusion Models [65.30406788716104]
  本研究では,セキュリティ強化拡散モデルの脆弱性について検討する。 これらのモデルは、シンプルで効果的なバックドア攻撃であるDIFF2に非常に感受性があることを実証する。 ケーススタディでは、DIFF2は、ベンチマークデータセットとモデル間で、パーフィケーション後の精度と認定精度の両方を著しく削減できることを示している。
  論文  参考訳（メタデータ） (2024-06-14T02:39:43Z)
• FlowMur: A Stealthy and Practical Audio Backdoor Attack with Limited Knowledge [13.43804949744336]
  FlowMurはステルスで実用的なオーディオバックドア攻撃で、限られた知識で起動できる。 2つのデータセットで実施された実験は、FlowMurがデジタルと物理の両方で高い攻撃性能を達成することを示した。
  論文  参考訳（メタデータ） (2023-12-15T10:26:18Z)
• Beyond Pretrained Features: Noisy Image Modeling Provides Adversarial Defense [52.66971714830943]
  マスク付き画像モデリング(MIM)は、自己教師付き視覚表現学習のフレームワークとして普及している。 本稿では,この強力な自己教師型学習パラダイムが,下流の分類器に対して対角的ロバスト性を提供する方法について検討する。 本稿では,デノナイジングのためのデコーダを用いて,デノナイジングのための対角防御手法を提案する。
  論文  参考訳（メタデータ） (2023-02-02T12:37:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。