論文の概要: AlignAtt4LLM: Fast AlignAtt for Decoder-Only LLMs at IWSLT 2026 Simultaneous Speech Translation Task
- arxiv url: http://arxiv.org/abs/2606.03967v1
- Date: Tue, 02 Jun 2026 17:52:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:05.234134
- Title: AlignAtt4LLM: Fast AlignAtt for Decoder-Only LLMs at IWSLT 2026 Simultaneous Speech Translation Task
- Title（参考訳）: AlignAtt4LLM: Fast AlignAtt for Decoder-Only LLMs at IWSLT 2026 同時音声翻訳タスク
- Authors: Quentin Fuxa, Dominik Macháček,
- Abstract要約: 英語をドイツ語、イタリア語、中国語に同時翻訳するIWSLT 2026について述べる。
システムは同期カスケードであり、強制アライメントを持つQwen3-ASRはインクリメンタルに更新されたソースの書き起こしを生成する。
英語と中国語の結果はより混合されているが、この方法はGemma-4と結び付けられていない。
- 参考スコア（独自算出の注目度）: 0.17188280334580197
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We describe AlignAtt4LLM, an IWSLT 2026 simultaneous speech translation system for English to German, Italian, and Chinese. The system is a synchronous cascade: Qwen3-ASR with forced alignment produces an incrementally updated source transcript, and Gemma-4 E4B-it translates that prefix under an MT-side AlignAtt policy. To our knowledge, this is the first application of AlignAtt to a decoder-only LLM, where the encoder-decoder cross-attention used by earlier AlignAtt systems is absent. We recover a usable policy by proposing (1) an explicit source span in the prompt, (2) offline selection of translation-specific alignment heads, (3) selective qk-fast replay of the draft-to-source attention block, and (4) runtime query/key capture that preserves model outputs bit-identically. On the IWSLT 2026 development set, AlignAtt4LLM outperforms the supplied baselines for the European target languages, English to German and English to Italian, in both the low-latency regime around 2 seconds and the high-latency regime below 4 seconds CU-LongYAAL. Results for English to Chinese are more mixed, but the method is not tied to Gemma-4: because AlignAtt4LLM only requires a deterministic prompt layout, calibrated attention heads, and query/key capture, the same policy can be reapplied to stronger translation-focused decoder-only MT backbones for non-European target languages.
- Abstract（参考訳）: 英語とドイツ語、イタリア語、中国語の同時翻訳システムであるAlignAtt4LLMについて述べる。
Qwen3-ASRは強制アライメントを持つ同期カスケードであり、インクリメンタルに更新されたソーストランスクリプトを生成し、Gemma-4 E4B-itはそのプレフィックスをMT側のAlignAttポリシーで翻訳する。
我々の知る限り、これはAlignAttのデコーダのみのLLMへの最初の応用であり、初期のAlignAttシステムで使用されるエンコーダとデコーダのクロスアテンションは欠落している。
本稿では,(1)プロンプト内の明示的なソーススパン,(2)翻訳固有のアライメントヘッドのオフライン選択,(3)ドラフト・トゥ・ソース・アライメントブロックの選択的なqk-fastリプレイ,(4)モデル出力をビット単位に保存する実行時クエリ/キーキャプチャを提案する。
IWSLT 2026の開発セットでは、AlignAtt4LLMは欧州のターゲット言語(英語、ドイツ語、英語、イタリア語)の供給ベースラインを約2秒、高遅延は4秒以下のCU-LongYAALで上回っている。
AlignAtt4LLMは決定論的プロンプトレイアウト、キャリブレーションされたアテンションヘッド、クエリ/キーキャプチャしか必要としないため、同じポリシーをより強い翻訳中心のデコーダのみのMTバックボーンに適用することができる。
関連論文リスト
- Reference-Free Reinforcement Learning Fine-Tuning for MT: A Seq2Seq Perspective [1.786053901581251]
GRPOは従来の中国語で最大$5.03 chrF++の13言語に対して一貫した改良を施しており、ターゲット言語データなしでは、形態学的に複雑な言語に関する3つのエポック的な微調整と競合する。
我々は、ゲインが最大であり、ベースライン性能が最も低く、報酬の差別性が最高である一貫した経験的パターンを同定する。
論文 参考訳（メタデータ） (2026-05-15T14:11:23Z) - Omnilingual SONAR: Cross-Lingual and Cross-Modal Sentence Embeddings Bridging Massively Multilingual Text and Speech [61.759910921200834]
言語間の文エンコーダは通常、数百の言語をカバーしている。
我々はOmniSONARを紹介した。OmniSONARは全言語、言語横断、言語横断の文埋め込みモデルである。
論文 参考訳（メタデータ） (2026-03-17T14:47:35Z) - Qwen3-TTS Technical Report [64.94647392030824]
本稿では,Qwen3-TTSシリーズについて述べる。
Qwen3-TTSは最先端の3秒間音声クローニングと記述ベースの制御をサポートする。
Qwen3-TTSは、2つの音声トークンとともに、リアルタイム合成のためのデュアルトラックLMアーキテクチャを採用している。
論文 参考訳（メタデータ） (2026-01-22T03:51:43Z) - DS@GT at CheckThat! 2025: A Simple Retrieval-First, LLM-Backed Framework for Claim Normalization [41.99844472131922]
クレーム正規化は、任意の自動ファクトチェックシステムにおいて不可欠な部分である。
CheckThat! 2025 Task 2はクレームの正規化に特化しており、20言語にまたがっている。
提案手法は,LLM支援パイプラインを軽量に構築する。
論文 参考訳（メタデータ） (2025-08-24T15:19:58Z) - CMU's IWSLT 2025 Simultaneous Speech Translation System [10.40867923457809]
本稿では,CMU による IWSLT 2025 同時音声翻訳タスクの提出について述べる。
我々のエンドツーエンドの音声テキストシステムは、大まかに因果関係のWav2Vec 2.0音声エンコーダ、アダプタ、およびQwen2.5-7B-Instructをデコーダとして統合する。
実験の結果,英語-中国語で44.3BLEU,英語-ドイツ語で25.1BLEUを達成した。
論文 参考訳（メタデータ） (2025-06-16T06:56:21Z) - BeaverTalk: Oregon State University's IWSLT 2025 Simultaneous Speech Translation System [5.712277386555735]
BeaverTalkは、IWSLT 2025の同時翻訳タスクの一部として、音声からテキストへの翻訳を行うカスケードシステムである。
システムアーキテクチャでは、音声ストリームをセグメントに分割するためのVADセグメンタ、自動音声認識(ASR)のためのWhisper Large V2、同時翻訳のためのGemma 3 12Bが採用されている。
システムは低レイテンシと高レイテンシの両方の体制において、英語$rightarrow$Germanおよび英語$rightarrow$ Chinese language directionに参加した。
論文 参考訳（メタデータ） (2025-05-29T21:34:49Z) - CMU's IWSLT 2024 Simultaneous Speech Translation System [80.15755988907506]
本稿では,CMU による IWSLT 2024 Simultaneous Speech Translation (SST) タスクへの提案について述べる。
本システムでは,WavLM音声エンコーダ,モダリティアダプタ,Llama2-7B-Baseモデルをデコーダとして統合する。
論文 参考訳（メタデータ） (2024-08-14T10:44:51Z) - TransLLaMa: LLM-based Simultaneous Translation System [18.27477980076409]
Decoderのみの大規模言語モデル(LLM)は,特別な"待機"トークンを生成することで,入力セグメンテーションを直接制御できることを示す。
これにより、別個の政策の必要性が排除され、LLMは英語とドイツ語と英語とロシア語のSiMTタスクを実行できるようになる。
また, GPT-4 などのクローズドソースモデルの評価を行い, 事前訓練をせずに SiMT タスクの実行を奨励する結果を示した。
論文 参考訳（メタデータ） (2024-02-07T07:39:27Z) - Tencent AI Lab - Shanghai Jiao Tong University Low-Resource Translation
System for the WMT22 Translation Task [49.916963624249355]
本稿では, Tencent AI Lab - Shanghai Jiao Tong University (TAL-SJTU) Low-Resource Translation system for the WMT22 shared taskについて述べる。
我々は、英語$Leftrightarrow$Livonianの一般的な翻訳作業に参加する。
本システムは,M2M100を対象言語に適応させる新しい手法を用いて構築した。
論文 参考訳（メタデータ） (2022-10-17T04:34:09Z) - FILTER: An Enhanced Fusion Method for Cross-lingual Language
Understanding [85.29270319872597]
我々は,XLMファインタニングの入力として言語間データを利用する拡張融合法を提案する。
推論中は、ターゲット言語で入力されたテキストとソース言語の翻訳に基づいて予測を行う。
この問題に対処するため,対象言語における翻訳テキストのための自動生成ソフト擬似ラベルに基づくモデル学習のためのKL分割自己学習損失を提案する。
論文 参考訳（メタデータ） (2020-09-10T22:42:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。