論文の概要: FBK's Long-form SpeechLLMs for IWSLT 2026 Instruction Following
- arxiv url: http://arxiv.org/abs/2606.26819v1
- Date: Thu, 25 Jun 2026 10:01:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.232033
- Title: FBK's Long-form SpeechLLMs for IWSLT 2026 Instruction Following
- Title(参考訳): FBKのLong-form SpeechLLMs for IWSLT 2026 Instruction following
- Abstract要約: 音声LLMは,制約条件下での短文と長文の両方の音声命令に対して開発された。
ショートトラックでは、SIFSスコアが2.0708のWSLF上で、強力なパフォーマンスが達成されている。
長いトラックでは、3つの音声分割法が検討され、不安定な長文生成のためにHIFSスコアが導入された。
- 参考スコア(独自算出の注目度): 30.86833241141234
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper describes our submission to the IWSLT 2026 Instruction Following shared task. SpeechLLMs are developed for both short-form and long-form speech instruction following under constrained settings. For the short track, strong performance is achieved on MCIF, with a SIFS score of 2.0708. For the long track, three speech segmentation methods are explored, and the HIFS score is introduced to account for unstable long-form generation. Experimental results show that fixed 30-second segmentation provides the most robust long-form performance, achieving the highest HIFS score of 2.0663. Further analysis shows that hallucination mainly manifests as repetitive insertions in generated outputs, substantially affecting ASR and SSUM, while short-form capabilities are largely retained after long-form extension.
- Abstract(参考訳): 本稿では,IWSLT 2026 Instruction following shared taskについて述べる。
音声LLMは,制約条件下での短文と長文の両方の音声命令に対して開発された。
ショートトラックでは、SIFSスコアが2.0708のMCIFで強いパフォーマンスが達成される。
長いトラックでは、3つの音声分割法が検討され、不安定な長文生成のためにHIFSスコアが導入された。
実験の結果, 固定30秒セグメンテーションが最も堅牢で, HIFSスコアは2.0663。
さらに分析したところ、幻覚は生成した出力に反復的挿入として出現し、ASRとSSUMに大きく影響を及ぼす一方、短い形態の機能は長めの延長後にほとんど維持されることが明らかとなった。
関連論文リスト
- Bridging the Modality Gap in Long-Form Clinical Audio: A Comparative Study of Lightweight and Heavyweight End-to-End SOAP Generation [9.519319405951327]
ASLPチームは、オーディオから直接構造化されたSOAPノートを生成し、中間転写をバイパスする完全なE2Eマルチモーダルシステムを提示している。
我々は1.41万サンプルのマルチタスクコーパスを構築し、ドメイン事前学習、教師付き微調整、カスケード、報酬最適化といったマルチステージパイプラインを適用した。
我々のE2Eシステムは、ASR+LLMベースラインを一貫して上回り、臨床文書の直接マルチモーダル最適化の有効性を証明した。
論文 参考訳(メタデータ) (2026-09-13T12:17:02Z) - IS-CoT: Breaking the Long-form Generation Collapse via Interleaved Structural Thinking [50.381430711141995]
本稿では,Interleaved Structure Chain-of-Thought (IS-CoT) フレームワークを紹介する。
IS-CoTは動的Plan-Write-Reflectサイクルを生成プロセスに埋め込む。
我々は、多教師パイプラインを介して、インターリーブされた推論トレースの高品質なデータセットを構築し、IS-Writer-8Bを訓練する。
論文 参考訳(メタデータ) (2026-06-08T16:31:00Z) - EndPrompt: Efficient Long-Context Extension via Terminal Anchoring [62.81677226065374]
本稿では,短いトレーニングシーケンスのみを用いて,効果的なコンテキスト拡張を実現する手法であるEndPromptを提案する。
我々は、元の短いコンテキストを無傷の第1セグメントとして保存し、短い端末プロンプトを第2セグメントとして追加し、ターゲットコンテキスト長の近傍に位置指標を割り当てる。
エンドプロンプトの平均RULERスコアは76.03で、LongBenchでは最高であり、LCEG(72.24)、LongLoRA(72.95)、フル長のファインチューニングを上回っている。
論文 参考訳(メタデータ) (2026-05-14T09:00:03Z) - Length-Adaptive Interest Network for Balancing Long and Short Sequence Modeling in CTR Prediction [50.094751096858204]
LAINは、長いシーケンスと短いシーケンスのモデリングのバランスをとるために、シーケンス長を条件信号として組み込んだプラグアンドプレイフレームワークである。
私たちの仕事は、シーケンシャルなレコメンデーションにおいて、長さによるバイアスを軽減する、汎用的で効率的でデプロイ可能なソリューションを提供します。
論文 参考訳(メタデータ) (2026-01-27T03:14:20Z) - Rope to Nope and Back Again: A New Hybrid Attention Strategy [20.104846259946616]
長文大言語モデル (LLM) はロータリー位置埋め込み (Rotary Position Embedding, RoPE) のような技術によって、目覚ましい進歩を遂げた。
本稿では,RoPE,No Positional Embedding (NoPE),Query-Key Normalization (QK-Norm)など,様々な注意機構の包括的解析を行う。
本稿では,グローバル・ローカル・アテンション・スパンを統合したハイブリッド・アテンション・メカニズムを特徴とする新しいアーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-01-30T23:05:57Z) - LongSkywork: A Training Recipe for Efficiently Extending Context Length in Large Language Models [61.12177317970258]
LongSkyworkは、最大20万のトークンを処理できる、長いコンテキストのLarge Language Modelである。
我々は合成データを作成する2つの新しい方法を開発した。
LongSkyworkは、様々なロングコンテキストベンチマークで優れたパフォーマンスを実現している。
論文 参考訳(メタデータ) (2024-06-02T03:34:41Z) - Long-run Behaviour of Multi-fidelity Bayesian Optimisation [0.0]
本研究では,MFBOの長期的挙動を,特定のシナリオにおいて過小評価される可能性のある観測結果に基づいて検討する。
長期にわたるMBFOの低性能は、多くの研究課題への応用を著しく損なう可能性がある。
論文 参考訳(メタデータ) (2023-12-19T22:30:34Z) - Effective Long-Context Scaling of Foundation Models [90.57254298730923]
最大32,768個のトークンの効率的なコンテキストウィンドウをサポートする長文LLMを提示する。
我々のモデルは、ほとんどの通常のタスクにおいて一貫した改善を達成し、Llama 2よりも長いコンテキストタスクを大幅に改善します。
論文 参考訳(メタデータ) (2023-09-27T21:41:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。