論文の概要: Dual-Stream Simultaneous Translation via 2D Grid Attention
- arxiv url: http://arxiv.org/abs/2609.34902v1
- Date: Mon, 28 Sep 2026 11:08:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:52:42.019614
- Title: Dual-Stream Simultaneous Translation via 2D Grid Attention
- Title(参考訳): 2次元グリッド注意によるデュアルストリーム同時翻訳
- Abstract要約: 同時機械翻訳は、ソース入力が完了する前にターゲットトークンを生成する必要がある。
隠れ状態の2次元グリッドとしてソースストリームとターゲットストリームを表現した2次元アテンションフレームワークを提案する。
中国語と英語の同時翻訳では、提案されたモデルは、+5.66 BLEURTと+10.36 COMETで同等のレイテンシでWait-kベースラインを上回っている。
- 参考スコア(独自算出の注目度): 11.359644491741959
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Simultaneous machine translation must generate target tokens before the source input is complete. Existing approaches address this through post-hoc read-write policies, leaving the attention mechanism unaware of bidirectional stream dependencies. We propose a dual-stream attention framework that represents source and target streams as a two-dimensional grid of hidden states and models their interaction through four structurally distinct attention types merged via joint QK Softmax normalization. Two approximations---broadcast and Hadamard---reduce the per-layer complexity from O(X^2Y+XY^2) to O(X^2+Y^2+XY) with provably decaying error. Training uses a self-guided loop: a per-cell loss heatmap drives dynamic-programming path recovery, which generates read/write decision supervision labels without external alignment. An incremental KV cache with anchored rotary position embeddings enables efficient streaming inference. On Chinese-to-English simultaneous translation, the proposed model outperforms the Wait-k baseline by +5.66 BLEURT and +10.36 COMET at comparable latency, and surpasses the non-streaming reference on COMET at a fraction of the response delay.
- Abstract(参考訳): 同時機械翻訳は、ソース入力が完了する前にターゲットトークンを生成する必要がある。
既存のアプローチでは、フォック後の読み取り-書き込みポリシを通じてこの問題に対処している。
本稿では,2次元の隠れ状態のグリッドとしてソースストリームとターゲットストリームを表現し,その相互作用を4つの構造的に異なる注意タイプを通してモデル化する。
2つの近似-ブロードキャストとアダマール--は、O(X^2Y+XY^2)からO(X^2+Y^2+XY)への層間複雑性を、確実に崩壊する誤差で再現する。
トレーニングは自己誘導ループを使用する: セル単位のロスヒートマップは動的プログラミングパスのリカバリを駆動し、外部アライメントなしでリード/ライト決定監督ラベルを生成する。
固定された回転位置埋め込みを備えたインクリメンタルKVキャッシュは、効率的なストリーミング推論を可能にする。
中国語と英語の同時翻訳では、提案されたモデルは、+5.66 BLEURTと+10.36 COMETを同等のレイテンシで上回り、応答遅延のごく一部でCOMETの非ストリーミング参照を上回っている。
関連論文リスト
- Trajectory-Level Speculative Decoding for Diffusion Language Models [16.97093186372498]
拡散ベースの言語モデル (dLLM) は反復的復号化による並列トークン生成を可能にするが、既存の復号化戦略は信頼性の低い単一トークン生成に崩壊する。
そこで我々は,信頼層木探索による起草軌道構築のためのトラジェクトリレベルの投機フレームワークを開発した。
我々のフレームワークはデノーミングを30~40%削減し、トークン単位のステップを2.6から4.3に増やし、バニラdLLMを7~14倍、Fast-dLLMを1.3倍、推論とコードベンチマークを1%未満で高速化する。
論文 参考訳(メタデータ) (2026-08-27T09:42:20Z) - UniCycleFlow: Bidirectional Unpaired Image Translation with a Shared Rectified Flow [14.60117153247222]
双方向不対画像変換は, 両方向のコヒーレントな変換をペアの監督なしに学習しながら, ソース固有の構造を保たなければならない。
単時間条件の速度場の前方逆積分として双方向翻訳を表現した整流フローフレームワークUniCycleFlowを提案する。
論文 参考訳(メタデータ) (2026-08-07T04:05:04Z) - FARI: Robust One-Step Inversion for Watermarking in Diffusion Models [89.29541056113442]
インバージョンベースの透かしは拡散生成画像の認証に有望なアプローチである。
既存のアプローチは内部トランケーションエラーを過度に最適化する。
textbfFARIは、透かし抽出のためのデノイザの軽量対向LoRA微調整と組み合わせたワンステップ逆変換フレームワークである。
論文 参考訳(メタデータ) (2026-07-29T10:13:55Z) - Bifocal Diffusion Language Models: Asymmetric Bidirectional Context for Parallel Generation [39.51953946287085]
本稿では,このジレンマを非対称な双方向文脈で解決する新しいパラダイムであるBifocal dLLMsを紹介する。
60BトークンによるQwen3-1.7Bの継続事前トレーニング実験では、R2LMは双方向のdLLMよりも高いスループットで2.4times$から12.9times$1.9times$を達成することが示された。
論文 参考訳(メタデータ) (2026-06-26T05:26:11Z) - OmniForcing: Unleashing Real-time Joint Audio-Visual Generation [51.031726911410594]
最近のジョイントオーディオ・視覚拡散モデルは、優れた生成品質を実現するが、高いレイテンシーに悩まされる。
OmniForcingは、オフラインの双方向拡散モデルを高忠実度ストリーミングオートレジェネレータに蒸留する最初のフレームワークである。
論文 参考訳(メタデータ) (2026-03-12T08:17:36Z) - Sparse VideoGen2: Accelerate Video Generation with Sparse Attention via Semantic-Aware Permutation [84.00166854547241]
拡散変換器(DiT)はビデオ生成に必須であるが,注意の2次複雑さにより遅延が著しく低下する。
SVG2は,識別精度を最大化し,無駄を最小化する学習自由フレームワークである。
論文 参考訳(メタデータ) (2025-05-24T21:30:29Z) - Fast Interleaved Bidirectional Sequence Generation [90.58793284654692]
左右方向と左右方向を同時に生成するデコーダを提案する。
一方向デコードのための標準アーキテクチャを簡単に双方向デコーダに変換することができることを示す。
我々のインターリーブ双方向デコーダ (IBDecoder) は標準変換器のモデル単純性と訓練効率を保っている。
論文 参考訳(メタデータ) (2020-10-27T17:38:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。