論文の概要: DuplexJail: Safety Alignment Breaks Under Spoken Interruption in Full-Duplex Models

• arxiv url: http://arxiv.org/abs/2609.09420v1
• Date: Tue, 08 Sep 2026 20:19:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.808763
• Title: DuplexJail: Safety Alignment Breaks Under Spoken Interruption in Full-Duplex Models
• Title（参考訳）: デュプレックスJail:フルダブルプレックスモデルの中断で安全アライメントが破綻
• Abstract要約: 固定遅延割り込みはAdvBenchの攻撃成功率をペルソナPlexの40.3%、ペルソナPlexRLの48.7%に引き上げる。 拒絶政策は、それぞれ35.6%と48.6%に達し、全ての試験は、中断が生じたかどうかにかかわらず行われた。 これらの結果から, 音声の中断は, 連続した相互作用を通して安全性を評価するジェイルブレイク攻撃であることがわかった。
• 参考スコア（独自算出の注目度）: 16.95513039797219
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Full-duplex speech models accept user speech while generating responses, creating an underexplored attack surface. We introduce DuplexJail, which delivers fixed, request-independent spoken prompts through the user audio channel. We compare fixed-delay interruption after the harmful request ends with refusal-triggered interruption following a cue in the model's streaming text. Across four open-source models and 720 harmful requests from AdvBench and HarmBench, fixed-delay interruption raises whole-response attack success rates on AdvBench to 40.3% for PersonaPlex and 48.7% for PersonaPlex-RL, increases of +33.8 and +39.3 percentage points. The refusal-triggered policy reaches 35.6% and 48.6%, respectively, with all trials scored regardless of whether an interruption occurs. Selected conditions also increase FLM-Audio's harmful-response rate, while BayLing-Duplex shows decreases. These findings identify spoken interruption as a jailbreak attack vector and motivate evaluating safety throughout ongoing full-duplex interaction.
• Abstract（参考訳）: フル二重音声モデルは、応答を生成しながらユーザー音声を受け取り、未探索の攻撃面を生成する。 我々はDuplexJailを紹介した。これはユーザ音声チャンネルを通じて、固定された要求に依存しない音声プロンプトを提供する。 有害な要求が終わった後の固定遅延割り込みと、モデルのストリーミングテキストのキューの後にリファレルトリガーされた割り込みを比較する。 AdvBenchとHarmBenchの4つのオープンソースモデルと720の有害な要求に対して、固定遅延割り込みはAdvBenchの攻撃成功率をペルソナPlexの40.3%、ペルソナPlex-RLの48.7%、+33.8および+39.3ポイントに引き上げる。 拒否追従政策は、それぞれ35.6%と48.6%に達し、全ての試験は、中断の有無にかかわらず行われた。 選択条件はFLM-Audioの有害応答率も増加し、BayLing-Duplexは減少する。 これらの結果から, 発声中断をジェイルブレイク攻撃ベクターとして同定し, 全二重相互作用を通して安全性を評価する動機づけた。

関連論文リスト

• Realtime-Venus: A full-duplex interaction system with asynchronous delegation [59.69745588222872]
  音声対話のためのリアルタイム・リアルタイム・オムニ・オーディオ・インタラクションとリアルタイム・オーディオ・スポーケンを提示する。 それぞれのモデルは完全な会話として機能し、連続認識、会話制御、およびネイティブ音声生成を統合する。
  論文  参考訳（メタデータ） (2026-09-12T08:56:50Z)
• Causal Analysis and Mitigation of Spurious Onsets in Full-Duplex Speech LLMs [3.502729154227436]
  音声の確率は80msのフレームで9桁以上急上昇する。 本手法は,モデル毎の真正応答を40回保ちながら,13/13モシと9/9ペルソナプレックスの急激なオンセットを抑制する。 提案手法では,80msのフレーム予算内で,リトレーニングを必要とせず,95%の判定時間を61ms以下でリアルタイムに実行する。
  論文  参考訳（メタデータ） (2026-09-11T19:03:36Z)
• Continue, Adapt, or Yield: In-Turn Adaptation to Overlapping Speech in Full-Duplex Agents [2.745780834143671]
  フル音声エージェントにおけるテンピン適応の評価法であるDuplex Cueを紹介する。 人文確認されていない英語会話を300件使用した単一モデル実験において, 聴取者の手がかりを再現しながら生成した人間の反応を比較検討した。 話者は68.2%、ペルソナプレックスは32.4%である。
  論文  参考訳（メタデータ） (2026-09-11T17:46:10Z)
• SteerDuplex: Steerable Duplex Speech Dialogue Models [47.277615720741046]
  音声対話モデルは、指示、発声、推論、対話を対象とする自然な会話や合成対話を微調整する。 2段階強化学習(RL)とハイブリッド報酬を併用し、検証可能な相互作用チェックと判断に基づくフィードバックを組み合わせて応答継続性を向上させる。 さらにRLはソースクリーン割り込み反応を72.5%から82.5%に引き上げ、合成停止バージインを26.5%から9%に減少させる。
  論文  参考訳（メタデータ） (2026-09-11T09:22:46Z)
• BayLing-Duplex: Native Full-Duplex Speech Dialogue with a Single Autoregressive LLM [37.246890931249496]
  BayLing-Duplexはネイティブのフル世代のSpeechLMで、どの場所を聴くか、いつ話すか、いつ停止するかを補助的なターンテイクモジュールなしで決める。 InstructS2S-Evalでは92%のターンテイク成功、100%割り込み成功、Moshiでは2.17から3.39に改善した。
  論文  参考訳（メタデータ） (2026-06-12T15:01:51Z)
• Multi-Faceted Interactivity Alignment in Full-Duplex Speech Models [53.470209949659115]
  RLによる全音声対話モデルを改善する訓練後アライメント手法を提案する。 対話性の4つの標準軸(ターンテイキング、バックチャネル一時停止、ユーザ中断)に対処する。 応答品質に対する追加ベースの報酬は、セマンティックな劣化を防ぐ。
  論文  参考訳（メタデータ） (2026-06-09T17:46:55Z)
• Strengthening Polymorphic Prompt Assembling: Dynamic Separator Generation Against Emerging Prompt Injection Attacks [2.8988874060074163]
  PPA(Polymorphic Prompt Assembling)は、固定プールからセパレータペアをランダムに選択し、システム命令からユーザ入力を分離することにより、LPMエージェントをプロンプトインジェクションから防御する。 タイムスタンプ,セッション識別子,ナンスを鍵としたドメイン分離SHA-256ダイジェストを用いた動的リクエストごとのセパレータ生成を提案する。 各アセンブルプロンプトは、ユニークな暗号(BEGIN、END)カナリアペアを受け取り、単一の要求に対するリーク露出を制限する。
  論文  参考訳（メタデータ） (2026-05-28T20:10:04Z)
• Full-Duplex-Bench-v3: Benchmarking Tool Use for Full-Duplex Voice Agents Under Real-World Disfluency [61.68376148916503]
  FDB-v3 (Full-Duplex-Bench-v3) は、自然言語条件下での音声モデルの評価と多段階ツールの使用のためのベンチマークである。 以前の作業とは異なり、データセットは5つのディスフルカテゴリにアノテートされた実際の人間のオーディオで構成されており、4つのタスクドメインにチェーンされたAPI呼び出しを必要とするシナリオとペアリングされています。 GPT-Realtime、Gemini Live 2.5、Gemini Live 3.1、Grok、Ultravox v0.7、従来のカスケードパイプライン(Whisper$rightarrow$rightarrow$TTS)の6つのモデル構成を精度、レイテンシ、ターンで評価した。
  論文  参考訳（メタデータ） (2026-04-06T16:46:52Z)
• Privacy-Preserving End-to-End Full-Duplex Speech Dialogue Models [62.35104196350636]
  以上の結果から,SALM-Duplexリークは全層にわたって持続し,SALM-Duplexは初期層に強いリークを示す一方,Moshiリークは均一であり,リンク性は最初の数回で急上昇することがわかった。 StreamVoiceAnon:フロントエンド(AnonW2W)と機能ドメイン置換(AnonW2F)という2つのストリーミング匿名化設定を提案する。
  論文  参考訳（メタデータ） (2026-03-09T10:01:24Z)
• Echoes of Human Malice in Agents: Benchmarking LLMs for Multi-Turn Online Harassment Attacks [10.7231991032233]
  大規模言語モデル(LLM)エージェントは、対話型Webアプリケーションのシェアを拡大するが、誤用や害に弱いままである。 i) 合成マルチターンハラスメント会話データセット、(ii) 繰り返しゲーム理論によって通知されるマルチエージェント(例えば、ハラッサー、被害者)シミュレーション、(iii) 記憶、計画、微調整にまたがるエージェントを攻撃する3つのジェイルブレイク手法、(iv) 混合メソッド評価フレームワークからなるオンラインハラスメントエージェントベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-10-16T01:27:44Z)
• The Alignment Waltz: Jointly Training Agents to Collaborate for Safety [80.16102254128518]
  WaltzRLは、安全アライメントを協調的でポジティブなゲームとして定式化する、新しいマルチエージェント強化学習フレームワークである。 WaltzRLのコアとなるDIR(Dynamic Improvement Reward)は、会話エージェントがフィードバックをいかにうまく組み込むかに基づいて、時間とともに進化する。 我々の実験は5つの多様なデータセットで行われ、WaltzRLは安全でない応答と過度な拒絶の両方を著しく低減することを示した。
  論文  参考訳（メタデータ） (2025-10-09T14:03:05Z)
• Chain-of-Thought Reasoning in Streaming Full-Duplex End-to-End Spoken Dialogue Systems [82.70507055599093]
  本稿では,Duplex SDS のための Streaming Chain-of-Thought (CoT) フレームワークを提案する。 ブロック毎に中間的ターゲットアライメントされたユーザ書き起こしとシステム応答を作成します。 実験により,本手法は既存の二重解法よりもコヒーレントで解釈可能な応答を生成することが示された。
  論文  参考訳（メタデータ） (2025-10-02T14:33:05Z)
• FLEXI: Benchmarking Full-duplex Human-LLM Speech Interaction [49.83226596963294]
  音声とコンピュータの対話によりリアルタイム音声対話システムを実現する。 これらのモデルのモデリングとベンチマークは、依然として根本的な課題である。 フルヒューマン音声対話のための最初のベンチマークであるFLEXIを紹介する。
  論文  参考訳（メタデータ） (2025-09-26T11:57:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。