論文の概要: DuplexCadence: Exact State and Execution from a Speech Model's Declared Timelines

• arxiv url: http://arxiv.org/abs/2609.35115v1
• Date: Mon, 28 Sep 2026 13:16:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 16:51:40.155566
• Title: DuplexCadence: Exact State and Execution from a Speech Model's Declared Timelines
• Title（参考訳）: DuplexCadence: 音声モデルの宣言された時間線からの状態と実行
• Abstract要約: フル音声モデルはストリーミングインタラクションをサポートし、同時に聞き取り、話す。 本稿では、ネイティブクロックを明示的に宣言し、2つのルールを相互に有効化するDuplexCadenceを提案する。
• 参考スコア（独自算出の注目度）: 8.623569542447594
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Full-duplex speech models support streaming interaction that listens and speaks at the same time. Serving them is governed by a strict, repeating deadline: conversation advances on a one-second cadence, and every second of input must be turned into a second of speech before the next second arrives. Because stages within a session run in strict sequence, per-invocation overhead cannot be batched away. Profiling reveals that the autoregressive stages of a duplex second already fit within the period, whereas the token-to-audio synthesis tail is what causes overruns. This tail stage suffers from orchestration slack where the GPU is left waiting as thousands of tiny, regular operations are issued one by one, while also wasting substantial memory by over-provisioning state at static implementation constants. Existing remedies, such as graph recording and demand-sized allocation, fail because streaming state dynamics violate their prerequisites. The root cause is that the runtime lacks the model's native clocks: the per-region counters that govern advancement rates and retention policies. We propose DuplexCadence, which explicitly declares native clocks to the runtime and derives two mutually enabling rules: demand-sized state allocation at a stable address, and exact-shape graph replay without padding. The former eliminates idle memory and stabilizes tensor pointers, while the latter removes orchestration slack without padding overhead. Evaluated on four released models across three decoder architectures with bit-for-bit identical output, DuplexCadence reaches $2.85\times$ the stock runtime's speed at $38.8\%$ lower peak memory. On the live duplex path, mean SPEAK time falls from $14\%$ over the one-second cadence to $2\%$ under it, enabling models to reliably keep up with interactive speech while markedly expanding multi-
• Abstract（参考訳）: フル二重音声モデルは、同時に聴き、話すストリーミングインタラクションをサポートする。 会話は1秒のケイデンスで進行し、次の秒が到着する前に、入力の1秒を1秒のスピーチに変換する必要がある。 セッション内のステージは厳格なシーケンスで実行されるため、呼び出し毎のオーバーヘッドはバッチ化できない。 プロファイリングにより、デュプレックス秒の自己回帰段階が既に期間内に適合していることが分かるが、トークン対オーディオ合成の尾がオーバーランの原因である。 このテールステージは、GPUが何千もの小さな通常の操作が1つずつ発行されるのを待つオーケストレーションの遅れに悩まされ、また静的実装定数の過剰なプロビジョニングによってかなりのメモリを浪費する。 グラフ記録や需要サイズの割り当てといった既存の対策は、ストリーミング状態のダイナミクスが前提条件に違反しているため失敗する。 根本的な原因は、ランタイムがモデルのネイティブクロックを欠いていることだ。 そこで我々はDuplexCadenceを提案する。これはネイティブクロックをランタイムに明示的に宣言し、安定したアドレスでの要求サイズの状態割り当てと、パディングなしで正確なグラフ再生という、相互に実現可能な2つのルールを導出する。 前者はアイドルメモリを排除しテンソルポインタを安定化し、後者はオーバーヘッドを埋めることなくオーケストレーションスラックを除去する。 ビット・フォー・ビットの同一出力を持つ3つのデコーダアーキテクチャでリリースされた4つのモデルで評価され、DuplexCadenceは28.8 %の低ピークメモリで、ストック・ランタイムの速度が28.8 %の2.85 ドルに達した。 ライブのデュプレックスパスでは、SPEAKの時間は1秒のケイデンスで14\%から2\%に減少する。

関連論文リスト

• Rollplex: Cross-Phase GPU Spatial Sharing for Vision Language Model Post-Training [9.858972472026501]
  視覚言語モデル(VLM)は、エンボディエージェントが視覚観察や言語指示から推論と行動を行うことを可能にする。 現在のRLランタイムは、厳密なシリアルフェーズでロールアウト、参照スコアリング、アクタトレーニングを実行する。 Rollplexは、参照とトレーニングフェーズを分解し、ロールアウトウィンドウに移動します。
  論文  参考訳（メタデータ） (2026-08-14T17:13:34Z)
• Omni2LoRA: Coherence-Preserving Parametric Memory for Efficient Omni Language Models [65.49950267695267]
  我々はコヒーレンス保存コンテクスト蒸留によるパラメトリックメモリの効率的な圧縮フレームワークであるOmni2LoRAを紹介する。 本手法は,マルチモーダルメモリを固定予算で再利用可能なパラメータ状態に変換することにより,応答時間のマルチモーダルトーケン負荷をゼロにする。
  論文  参考訳（メタデータ） (2026-08-10T07:49:10Z)
• Reading Less While Writing: A Closed-Form Bandwidth Dial for Streaming Multimodal Decoders [0.9908838990500546]
  ビデオや音声をテキストに変換するデコーダは、通常、単語を出力する前に入力全体を消費する。 固定オフセットをZENDAYAに置き換えます。 なぜなら、ソースの洪水は、モデルをアンカーする出力が最小限である場合に正確に注意をそらすからである。
  論文  参考訳（メタデータ） (2026-08-05T07:42:13Z)
• OxyMake: A Formally-Specified, Content-Addressable Workflow Engine [0.0]
  Rustエンジンはプロキシをcontent-addressedキャッシュキーに置き換える。 仕様は宣言的かつ静的に解析可能であり、Makeルールモデルを保ち、Snakemakeパイプラインを直接ポートする。 実行は、協調的なクレーム/リコールプロトコルを介してデーモンフリーである。
  論文  参考訳（メタデータ） (2026-06-18T23:45:52Z)
• RelayS2S: A Dual-Path Speculative Generation for Real-Time Dialogue [11.153295574224634]
  RelayS2Sは、ターン検出時に並列に2つのパスを実行するハイブリッドアーキテクチャである。 ライトウェイト学習検証器は、ハンドオフをゲートし、適切な場合にはプレフィックスをコミットし、遅路のみに優雅に後退する。
  論文  参考訳（メタデータ） (2026-03-24T15:43:58Z)
• AsyncDiff: Parallelizing Diffusion Models by Asynchronous Denoising [49.785626309848276]
  AsyncDiffは、複数のデバイスにまたがるモデル並列化を可能にする、普遍的でプラグアンドプレイのアクセラレーションスキームである。 安定拡散 v2.1 では、AsyncDiff は2.7倍の速度アップと4.0倍のスピードアップを実現し、CLIPスコアの 0.38 をわずかに削減した。 我々の実験は、AsyncDiffがビデオ拡散モデルに容易に適用でき、性能を向上できることを示した。
  論文  参考訳（メタデータ） (2024-06-11T03:09:37Z)
• FastLTS: Non-Autoregressive End-to-End Unconstrained Lip-to-Speech Synthesis [77.06890315052563]
  我々は、低レイテンシで非拘束音声から高品質な音声を直接合成できる非自己回帰的エンドツーエンドモデルであるFastLTSを提案する。 実験により,本モデルは3秒の入力シーケンスにおける現在の自己回帰モデルと比較して,音声生成の19.76倍の高速化を実現していることがわかった。
  論文  参考訳（メタデータ） (2022-07-08T10:10:39Z)
• TranSpeech: Speech-to-Speech Translation With Bilateral Perturbation [61.564874831498145]
  TranSpeechは、両側摂動を伴う音声から音声への翻訳モデルである。 我々は,非自己回帰S2ST手法を構築し,繰り返しマスキングを行い,単位選択を予測する。 TranSpeechは推論遅延を大幅に改善し、自動回帰技術よりも最大21.4倍のスピードアップを実現している。
  論文  参考訳（メタデータ） (2022-05-25T06:34:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。