論文の概要: Where Does the Audio Jailbreak Live? A Controlled Frequency-Depth Audit of AdvWave-P on Qwen2-Audio
- arxiv url: http://arxiv.org/abs/2610.07005v1
- Date: Sun, 04 Oct 2026 11:28:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.501925
- Title: Where Does the Audio Jailbreak Live? A Controlled Frequency-Depth Audit of AdvWave-P on Qwen2-Audio
- Title（参考訳）: Qwen2-AudioにおけるAdvWave-Pの周波数依存性監査
- Abstract要約: Qwen2-Audioでは、付加的なオーディオジェイルブレイクであるAdvWave-Pの周波数とデコーダの詳細なクレームを監査する。
攻撃成功とオーディオスパン表現を計測する。
周波数クレームの分割対応監査を支援する。
- 参考スコア（独自算出の注目度）: 19.54050229757254
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We audit frequency and decoder-depth claims for AdvWave-P, an additive audio jailbreak, on Qwen2-Audio. The protocol masks frequency components of the perturbation in the short-time Fourier transform (STFT) domain and measures attack success and audio-span representations. On 520 AdvBench prompts, the primary judge labels 76.7% of adversarial inputs as jailbreaks. A condition-blind, single-annotator validation yields a Rogan-Gladen sensitivity estimate of 0.87 for this condition (about 0.83-0.95 with validation-rate uncertainty); this correction is not applied to masked conditions. The apparent frequency ranking depends on the partition: energy share alone predicts the standard eight-band ranking (Spearman's rho = 0.95), and equal-Hz and equal-energy partitions show that masking any tested band can sharply reduce attack success. At a finer 16-band equal-energy resolution, however, masking the narrow 7520-7960 Hz band leaves ASR at 0.10, which remains unresolved without a matched control. Matched-energy scattered-removal tests show that contiguous removal is more damaging in lower bands, while both forms approach the floor in upper bands. Global rescaling leaves ASR near baseline but tests amplitude sensitivity rather than frequency location. In a re-optimization pilot (n = 20), tested single- and two-band supports reach ASRs of 0.00, 0.25, and 0.40, while random supports covering about half the STFT bins reach a mean of 0.86. In a prompt- and energy-adjusted model, audio-span divergence is associated with band necessity, with the coefficient rising from +0.63 at the projector output to +0.93 at layer 30 (contrast +0.293, 95% CI [0.11, 0.51]). This association is not a causal localization, and single-layer patching does not establish a causal layer. The results support partition-aware auditing of frequency claims, leaving the fine-resolution top-band result and broader generality open.
- Abstract（参考訳）: Qwen2-Audioでは、付加的なオーディオジェイルブレイクであるAdvWave-Pの周波数とデコーダの詳細なクレームを監査する。
このプロトコルは、短時間フーリエ変換(STFT)領域における摂動の周波数成分を隠蔽し、成功とオーディオスパン表現を攻撃する。
520AdvBenchのプロンプトでは、主審は76.7%の敵の入力をジェイルブレイクと表示している。
条件盲シングルアノテータの検証では、この条件に対するローガン・グラデン感度の推定値は0.87(約0.83-0.95)となり、この補正はマスク付き条件には適用されない。
エネルギーシェアだけで標準的な8バンドのランキング(スピアマンのrho = 0.95)を予測し、等しいHzと等しいエネルギーのパーティションは、テストされたバンドをマスクすることで攻撃の成功を著しく減少させることができることを示している。
しかし、より微細な16バンドの等エネルギー解像度では、狭い7520-7960HzのバンドがASRから0.10に脱落し、これは一致した制御なしで未解決のままである。
一致したエネルギー散布除去試験では、下帯では連続除去がより損傷を受け、上帯では両形態が床に近づくことが示されている。
グローバルな再スケーリングは、ASRをベースラインに近づけるが、周波数位置よりも振幅感度をテストする。
再最適化パイロット(n = 20)では、単バンドと二バンドのサポートは0.00、0.25、0.40に到達し、STFTの約半分をカバーするランダムサポートは0.86に到達した。
プロンプト及びエネルギー調整モデルでは、オーディオスパンのばらつきはバンドの必要性と関連付けられ、プロジェクター出力で+0.63から層30で+0.93に上昇する(対照的に+0.293, 95% CI [0.11, 0.51])。
この結合は因果的局在ではなく、単一層パッチングは因果的層を確立しない。
その結果、周波数クレームの分割対応監査がサポートされ、高分解能トップバンド結果とより広い一般性が確保される。
関連論文リスト
- DeBERTa-ConPara: Attack-Aware and Deployment-Realistic Detection of AI-Generated Text [42.255101883505056]
DeBERTa-ConParaは,HC3 Plus,M4,MAGE,RAIDで学習した文脈変換器エンコーダと,攻撃対応Unicode前処理を組み合わせたデプロイメント指向検出器である。
我々の中心的な発見は、前処理が適用された場所によって反対方向に作用することである。
2つの配置の因子的変化は、正規化推論による生のトレーニングを最高の設定として独立に識別する。
12種類の攻撃クラスのうち、ホモグリーフとゼロ幅空間の挿入は11.05%から1.12%から96.98%に増加した。
論文 参考訳（メタデータ） (2026-10-01T00:57:33Z) - Beyond Final-Token Classification: Heterogeneous Readouts for Evidence-Grounded Suicide Risk Detection [10.766937373263204]
出力実現から意味的検証を分離するヘテロジニアス・リードアウト分解(HRD)を導入する。
HRDは、通常リスクの4つの潜伏スコアを比較し、ほとんどの要因に対してトークンマージンを保持し、一方の共有潜伏プローブを通して7つのラベルをルーティングする。
これらの結果は, セマンティック表現のみではなく, 解答境界を測定可能な誤差源として同定する。
論文 参考訳（メタデータ） (2026-09-19T05:01:17Z) - A Probe Shift Is Not a Fairness Fix: The Limits of Representation Steering in Speech Models [9.715150075665354]
我々は、事前訓練されたASRエンコーダから線形に読み取れる話者リンク属性が、グループ単語エラー率のギャップを減らすのに有用な方向を与えるかどうかを問う。
本研究は,表現,伝播,タスクレベルでの発話バイアス介入の評価を動機づけるものである。
論文 参考訳（メタデータ） (2026-09-16T12:01:30Z) - Replicating TRACE: A Practitioner's Guide to Its Threshold and Particle Budget [0.10923877073891443]
TRACEは、事前訓練された自己回帰シーケンスモデルから因果グラフを読み出す。
正確な介入真理に対する平均F1は、語彙サイズ1000で0.90-0.91に達する。
論文 参考訳（メタデータ） (2026-09-01T11:48:16Z) - Excess Separability: Nuisance-Controlled Residual-Stream Probing for Benchmark Contamination Detection [0.0]
ベンチマーク汚染はn-gram重なり、可能性に基づくメンバーシップ推論、カナリア文字列と診断される。
これを行う自然な方法はうまくいかないことを示し、測定を生き残るものを特定し、それを動作させる補正が、テストされるnullよりも多くのばらつきをもたらすことを見つけます。
論文 参考訳（メタデータ） (2026-08-12T23:27:20Z) - From Inaudible Inputs to Model Failures: Low-Frequency Safety Risks in LALMs [46.76277198630859]
大規模な音声言語モデル (LALM) は多様な音声入力を理解する強力な能力を示している。
この多様性には、人間には聞こえない低周波信号が含まれているが、それでもモデルに入り、その生成に影響を与えることができる。
ブラックボックス設定における普遍的な波形テンプレートを用いて,このリスクを評価可能な赤信号抽出手法である Intermittent Low-Frequency Lockout (ILL) を提案する。
論文 参考訳（メタデータ） (2026-08-10T06:09:50Z) - Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
テキスト検出器は、事前訓練された典型軸を増幅する。
タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。
RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
論文 参考訳（メタデータ） (2026-05-20T19:08:38Z) - Are Benchmark Tests Strong Enough? Mutation-Guided Diagnosis and Augmentation of Regression Suites [49.16055123488827]
十分に強力なテストスイートは、報告された成功率を膨らませながら、妥当だが意味的に正しくないパッチを認めることができる。
STINGは、意味的に変化するプログラムの変種を診断ストレス要因として利用する、ターゲットテスト拡張のためのフレームワークである。
STINGは211インスタンスにまたがる1014の検証テストを生成し、パッチリージョンラインとブランチカバレッジを10.8%、9.5%向上させた。
論文 参考訳（メタデータ） (2026-04-02T01:13:40Z) - Sub-Band Spectral Matching with Localized Score Aggregation for Robust Anomalous Sound Detection [11.328862535847785]
一般的な訓練不要な異常音検出パイプラインは、フレームレベルの表現をバンド保存特徴ベクトルに時間的にプールし、異常をスコアする。
1つのグローバルな隣人はすべてのバンドに同じ基準を共有するよう強制し、バンドレベルのミスマッチが増加する。
本稿では,時間的にプールされたサブバンドベクトルをメモリバンクに格納し,サブバンド毎の隣人を検索し,スコアを均一に集約して正規スコアの変動を低減し,識別性を向上させるBEAMを提案する。
論文 参考訳（メタデータ） (2026-03-14T04:38:41Z) - TARG: Training-Free Adaptive Retrieval Gating for Efficient RAG [46.122203287541005]
トレーニングフリーのAdaptive Retrieval Gating (TARG) は、ベースモデルからの短い非遅延ドラフトのみを使用していつ取得するかを決定する、単発のポリシーである。
NQ-Open、TriviaQA、PopQAでは、TARGは一貫して精度と効率のフロンティアをシフトさせる。
論文 参考訳（メタデータ） (2025-11-12T23:09:52Z) - Impact of Labeling Inaccuracy and Image Noise on Tooth Segmentation in Panoramic Radiographs using Federated, Centralized and Local Learning [46.232038247686745]
フェデレートラーニング(FL)は、歯科診断AIにおけるプライバシー制約、不均一なデータ品質、一貫性のないラベル付けを緩和する。
複数のデータ破損シナリオを対象としたパノラマX線撮影において,FLと集中学習(CL)と局所学習(LL)を比較した。
論文 参考訳（メタデータ） (2025-09-08T11:07:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。