論文の概要: Breaking Adversarial Transferability in Fine-Tuned Speech Recognition

• arxiv url: http://arxiv.org/abs/2610.09109v1
• Date: Tue, 06 Oct 2026 21:01:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.604259
• Title: Breaking Adversarial Transferability in Fine-Tuned Speech Recognition
• Title（参考訳）: 微調整音声認識における逆変換特性の破れ
• Abstract要約: 多くの組織が、制限されたアクセスが保護を提供すると仮定して、事前訓練された自動音声認識(ASR)モデルを公開し、ブラックボックス設定でデプロイしている。 公立ベースモデル転送を効果的に微調整対象モデルに適用し、性能を著しく劣化させ、安全クリティカルなアプリケーションに対する懸念を提起する。 TransferBreakerは,ベース・アディショナル・ファイン・チューニングを基本効果摂動に制限するベース・アディショナル・ファイン・チューニングと,潜在空間の分散を強制する潜在ヤコビ正規化を統合することで,敵の移動を抑制する統一的なファイン・チューニングフレームワークである。
• 参考スコア（独自算出の注目度）: 7.781871822915849
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many organizations fine-tune publicly available pretrained Automatic Speech Recognition (ASR) models and deploy them in black-box settings, assuming limited access provides protection. We show this assumption is fragile: adversarial perturbations crafted on the public base model transfer effectively to fine-tuned target models, severely degrading performance and posing concerns for safety-critical applications. We propose TransferBreaker, a unified fine-tuning framework that suppresses adversarial transfer by integrating Base Adversarial Fine-Tuning, which restricts adversarial training to base-effective perturbations; Latent Jacobian Regularization, which enforces latent-space invariance by suppressing adversarially sensitive directions; and HybridGrad-AFT, which improves robustness against adaptive attacks by interpolating transferable perturbations from base and target gradients. We theoretically justify all components and evaluate TransferBreaker across three languages and four large ASR models, reducing adversarial WER from 92.6 to 27.8. Our code is publicly available at https://github.com/rohban-lab/TransferBreaker.
• Abstract（参考訳）: 多くの組織が、制限されたアクセスが保護を提供すると仮定して、事前訓練された自動音声認識(ASR)モデルを公開し、ブラックボックス設定でデプロイしている。 公立ベースモデル転送を効果的に微調整対象モデルに適用し、性能を著しく劣化させ、安全クリティカルなアプリケーションに対する懸念を提起する。 本稿では,ベース・ディバイザ・ファインタニングをベース・ディバイザ・ファインタニングに制限するベース・ディバイザ・ファインタニング,ラテント・ジャコビアン・レギュラライゼーション,およびベース・ディバイザ・ディバイザ・ディペンデンシャル・ディペンデント・ディペンデンスを抑えることで適応攻撃に対するロバスト性を向上するハイブリッド・グラッド・AFTを提案する。 理論的には、全てのコンポーネントを正当化し、TransferBreakerを3つの言語と4つの大きなASRモデルで評価し、敵対するWERを92.6から27.8に削減する。 私たちのコードはhttps://github.com/rohban-lab/TransferBreaker.comで公開されています。

関連論文リスト

• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• Rethinking Transferable Adversarial Attacks on Point Clouds from a Compact Subspace Perspective [55.919842734983156]
  CoSAは、共有された低次元セマンティック空間内で機能する転送可能なアタックフレームワークである。 CoSAは、最先端のトランスファー可能な攻撃を一貫して上回っている。
  論文  参考訳（メタデータ） (2026-01-30T15:48:11Z)
• Potent but Stealthy: Rethink Profile Pollution against Sequential Recommendation via Bi-level Constrained Reinforcement Paradigm [44.622203626828345]
  対話シーケンスを通じて動的ユーザインテントを利用するシークエンシャルリコメンダは、敵攻撃に対して脆弱である。 本報告では, ユーザインタラクションを微妙に汚染し, ターゲットの誤予測を誘発するプロファイル汚染攻撃について述べる。 本稿では,2段階の最適化フレームワークを多方向強化学習と相乗化して,対向効果とステルスネスのバランスをとる制約付き強化駆動攻撃 CREAT を提案する。
  論文  参考訳（メタデータ） (2025-11-12T15:00:52Z)
• Adversarial Defence without Adversarial Defence: Enhancing Language Model Robustness via Instance-level Principal Component Removal [28.588188876688037]
  プレトレーニング言語モデル(PLM)は、自然言語処理の大幅な進歩を導いてきたが、敵の攻撃に弱いままである。 PLMの対角的堅牢性を向上する,シンプルで効果的なアドオンモジュールを提案する。
  論文  参考訳（メタデータ） (2025-07-29T12:31:26Z)
• Improving Black-Box Generative Attacks via Generator Semantic Consistency [51.470649503929344]
  ジェネレーティブアタックは テスト時に 1つのフォワードパスで 敵の例を生成する 初期ジェネレータの中間機能をEMA教師に整列させることで意味的整合性を実現する。 我々のアプローチは、ブラックボックス転送の一貫性を保ちながら、既存のジェネレーティブアタックにシームレスに統合することができる。
  論文  参考訳（メタデータ） (2025-06-23T02:35:09Z)
• Improving LLM Safety Alignment with Dual-Objective Optimization [81.98466438000086]
  大規模言語モデル(LLM)の既存のトレーニング時間安全アライメント技術は、ジェイルブレイク攻撃に対して脆弱なままである。 本研究では,DPOの目的を2つの構成要素にまとめる安全アライメントの改善について提案する。(1) 安全でない世代が部分的に発生しても拒否を促す頑健な拒絶訓練,(2) 有害な知識の未学習。
  論文  参考訳（メタデータ） (2025-03-05T18:01:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。