論文の概要: Transferable Adversarial Robustness for Speech Foundation Models via Hierarchical Stabilization
- arxiv url: http://arxiv.org/abs/2610.05310v1
- Date: Sun, 04 Oct 2026 15:31:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 21:45:06.019156
- Title: Transferable Adversarial Robustness for Speech Foundation Models via Hierarchical Stabilization
- Title(参考訳): 階層的安定化による音声基礎モデルの伝達可能な逆ロバスト性
- Abstract要約: 今後の課題を知る前に、ロバストネスを学習できることが示される。
適応的な30dB攻撃下での4つのタスクにおいて, Wav2Vec2, HuBERT, WavLM Largeを評価した。
12組のバックボーン・タスク・ペアでは、階層的堅牢化により46.4ppの堅牢さが向上し、マージン改良では1.1ppのクリーンな精度が4.0pp増加した。
- 参考スコア(独自算出の注目度): 13.678768758541601
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Frozen speech foundation models (SFMs) make downstream adaptation efficient: the backbone can stay fixed while a task learns layer fusion and a lightweight classifier. Full adversarial fine-tuning is a standard route to robustness, but generating adversarial examples and updating the backbone for every task sacrifices that efficiency. We ask whether robustness can instead be learned before future tasks are known. For a frozen backbone and linear classifier, robustness can be understood through the interaction between representation stability and decision-boundary margin. This leads directly to our design: we stabilize representations across the hidden layers, rather than only the final layer, while preserving clean representations; after clean adaptation selects the layer mixture, we keep it fixed and enlarge only the classifier margin, without downstream adversarial examples. We evaluate Wav2Vec2, HuBERT, and WavLM Large on four tasks under adaptive 30 dB attacks. Across 12 backbone-task pairs, hierarchical robustification improves robust accuracy by 46.4 pp, while margin refinement adds 4.0 pp for 1.1 pp of clean accuracy. Code and configurations are available at https://github.com/arefmousavi/hierarchical-robust-sfm.
- Abstract(参考訳): 冷凍音声基礎モデル(SFM)は下流適応を効率的にする:タスクが層融合と軽量な分類器を学習している間、バックボーンは固定される。
完全な敵の微調整は、堅牢性への標準的なルートであるが、敵の例を生成し、その効率を犠牲にするすべてのタスクのバックボーンを更新する。
今後の課題を知る前に、ロバストネスが学べるかどうかを問う。
凍結したバックボーンと線形分類器では、表現安定性と決定境界マージンの相互作用を通してロバスト性を理解することができる。
クリーンな表現を保ちながら、最終層だけでなく、隠された層をまたいだ表現を安定化させます。クリーンな適応が層混合を選択した後、下流の敵の例を使わずに、それを固定し、分類器のマージンだけを拡大します。
適応的な30dB攻撃下での4つのタスクにおいて, Wav2Vec2, HuBERT, WavLM Largeを評価した。
12組のバックボーン・タスク・ペアで階層的堅牢化により46.4ppの精度が向上し、マージン改良では1.1ppに対して4.0ppの精度が向上する。
コードと設定はhttps://github.com/arefmousavi/hierarchical-robust-sfm.comで確認できる。
関連論文リスト
- On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。
トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
論文 参考訳(メタデータ) (2026-08-31T06:35:07Z) - A Step Towards Robust Unsupervised Domain Adaptation via Fine-Tuning and Reinforcement Learning [2.436631469537453]
我々は,2段階の堅牢なUDAフレームワークである textbfSFT+RL を提案し,Supervised Fine Tuning と Reinforcement Learning を統合した。
textbfSFT+RLは、清潔な精度で textbf10.2% を平均的に改善し、textbf15.8% を3つのデータセットで比較した。
論文 参考訳(メタデータ) (2026-07-03T20:56:12Z) - TS-Fault: Benchmarking Time Series Forecasters Against Structural Faults [22.88447833683736]
時系列予測(TSF)は、エネルギー、輸送、金融、医療の連続的な決定を支えている。
TSFモデルは、デプロイされた信頼性を予測するという暗黙の仮定の下で、クリーンなホールトアウトデータ上の1つの数でほぼ普遍的にランク付けされる。
TS-Faultは、制御可能な意味的難易度を持つ明示的でパラメータ化された障害シナリオの下で予測モデルを評価するベンチマークである。
論文 参考訳(メタデータ) (2026-06-16T23:15:20Z) - Deformable Gaussian Occupancy: Decoupling Rigid and Nonrigid Motion with Factorized Distillation [81.44955493339835]
DeGOは変形可能なガウスの占有機構であり、分解したガウスの変形と分解された4次元基礎モデル蒸留を統一する。
Occ3D-NuScenesベンチマーク実験により,本手法が弱い監督下での最先端性能を実現することを示す。
論文 参考訳(メタデータ) (2026-05-27T15:09:55Z) - Generalizing GNNs with Tokenized Mixture of Experts [75.8310720413187]
安定性の向上には,変化に敏感な特徴への依存を低減し,既約最悪の一般化フロアを残す必要があることを示す。
本研究では,STEM-GNNを提案する。STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN。
9つのノード、リンク、グラフのベンチマークで、STEM-GNNはより強力な3方向バランスを実現し、クリアグラフ上での競争力を維持しながら、次数/ホモフィリーシフトや特徴/エッジの破損に対する堅牢性を改善している。
論文 参考訳(メタデータ) (2026-02-09T22:48:30Z) - CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。
静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。
LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
論文 参考訳(メタデータ) (2026-02-04T00:12:30Z) - Hierarchical Randomized Smoothing [94.59984692215426]
ランダムな平滑化は、モデルが入力の小さな変更に対して確実に堅牢にするための強力なフレームワークです。
階層的ランダム化平滑化(hierarchical randomized smoothing): ランダムに選択されたエンティティのサブセットにのみランダムノイズを加えることで、部分的に滑らかなオブジェクトを生成する。
画像およびノード分類における階層的スムージングの重要性を実験的に示す。
論文 参考訳(メタデータ) (2023-10-24T22:24:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。