論文の概要: Doc2FRC: Length-Consistent Document-Level Machine Translation via Fixed-Range Chunking
- arxiv url: http://arxiv.org/abs/2609.12674v1
- Date: Fri, 11 Sep 2026 10:17:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.713114
- Title: Doc2FRC: Length-Consistent Document-Level Machine Translation via Fixed-Range Chunking
- Title（参考訳）: Doc2FRC:固定レンジチャンキングによる長持続型文書レベル機械翻訳
- Abstract要約: 動的プログラミングを利用して文書をチャンクに分割するFRC(Fixed-Range Chunking)を導入する。
チャンクアライメントのための軽量な二重境界マッチングアルゴリズムと4つの異なるトレーニング戦略を提案する。
実験結果から,FRCを用いたファインチューニングはDoc2Docのファインチューニングよりも7B LLMを大幅に改善することがわかった。
- 参考スコア（独自算出の注目度）: 14.63808610447174
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Advanced large language models (LLMs) with long context windows can substantially reduce input truncation in document-level machine translation (DocMT). However, direct Doc2Doc translation remains prone to n-gram repetition and progressive quality degradation. A common remedy is to segment the document into finer-grained chunks. Nonetheless, conventional rule-based chunking approaches fail to handle the length distribution mismatch between training and inference. To address this, we introduce Fixed-Range Chunking (FRC), utilizing dynamic programming to partition documents into chunks within a predefined length interval. By consistently applying FRC during training and inference, the input documents of any length are mapped to the same length distribution, substantially reducing train-test length mismatch. Centered on FRC, we propose a lightweight dual-boundary matching algorithm for chunk alignment, alongside four distinct training strategies. Experimental results show that FRC-based fine-tuning substantially improves 7B LLMs over direct Doc2Doc fine-tuning and outperforms existing DocMT methods on IWSLT2017. We further construct GlobVDoc, a 10-language test set independent of mainstream DocMT training sources, and show that FRC improves out-of-distribution document translation.
- Abstract（参考訳）: 長いコンテキストウィンドウを持つ高度な大規模言語モデル(LLM)は、文書レベルの機械翻訳(DocMT)において、入力トランケーションを大幅に削減することができる。
しかし、Doc2Docの直接翻訳は、n-gramの繰り返しと漸進的な品質劣化による傾向が残る。
一般的な治療法は、ドキュメントをよりきめ細かいチャンクに分割することである。
それでも、従来のルールベースのチャンキングアプローチは、トレーニングと推論の間の長さ分布のミスマッチを処理できない。
そこで我々はFRC(Fixed-Range Chunking)を導入し、動的プログラミングを利用して文書をあらかじめ定義された長さ間隔のチャンクに分割する。
トレーニングおよび推論中に一貫してFRCを適用することにより、任意の長さの入力文書を同じ長さの分布にマッピングし、列車-試験距離のミスマッチを大幅に低減する。
FRCを中心に、4つの異なるトレーニング戦略とともにチャンクアライメントのための軽量な二重境界マッチングアルゴリズムを提案する。
実験結果から, FRC を用いたファインチューニングは Doc2Doc のファインチューニングよりも 7B LLM を大幅に改善し, IWSLT2017 上での既存の DocMT 法より優れていた。
さらに、主要なDocMTトレーニングソースに依存しない10言語テストセットであるGlobVDocを構築し、FRCがアウト・オブ・ディストリビューション文書翻訳を改善することを示す。
関連論文リスト
- REIGN: Refurbished Embeddings with Integrated Guidance Networks for Efficient Context-Length Scaling [0.0]
REIGNは、生のトークンではなく、凍結したガイダンスネットワーク(GN)からのコンテキスト化されたチャンク埋め込みのシーケンスで動作するバイエンコーダである。
コントラストトレーニングと長期文脈における評価のための,合成長文書検索ベンチマークをリリースする。
2組の重要度試験は、特許上の1.6-4.3倍の大きさのモデルと同等であり、LoCo上の20倍大モデルの0.65 nDCG@10の範囲内に留まる。
論文 参考訳（メタデータ） (2026-08-30T16:50:38Z) - Scaling Unsupervised Word Alignment to Documents via Structural Constraints [38.797311337915175]
CTFAlignは、文書レベルの単語アライメントのための軽量でトレーニング不要なアプローチである。
MDPAlignも導入しています。これは、主対角線上の位置によるアライメントを制約する、よりシンプルな代替手段です。
CTFAlignは平均3モデルで、単語アライメントエラー率を0.412から0.326に下げる。
論文 参考訳（メタデータ） (2026-08-21T12:13:21Z) - Improving Long-Context Retrieval with Multi-Prefix Embedding [64.08968715893504]
Multi-Prefix Embeddingは、ドキュメントをEOSトークンで区切られたチャンクに分割し、完全なシーケンスを単一の因果フォワードパスにエンコードし、各プレフィックス境界に1つの埋め込みを抽出する。
MPEはクロスチャンクコンテキストを保持し、チャンクレベルのMaxSimマッチングを可能にし、ドキュメントレベルの関連ラベルのみをトレーニングする。
論文 参考訳（メタデータ） (2026-06-22T17:31:02Z) - A Dual-Track Framework for Template-Constrained LaTeX Conversion [1.906311743485569]
既存のアプローチは、決定論的ルールベースのコンバータか、純粋なエンドツーエンドのLarge Language Model (LLM) の生成に大きく依存している。
文書処理からテンプレートフォーマットを体系的に分離する堅牢なDual-Track Frameworkを導入する。
提案手法は, より優れた構造的忠実度, 多様なレイアウトを実現し, 以前のベースラインと比較して高いコンパイル成功率を達成する。
論文 参考訳（メタデータ） (2026-06-22T09:51:11Z) - Align-then-Slide: A complete evaluation framework for Ultra-Long Document-Level Machine Translation [26.418216341998953]
ウルトラロングドク-mtの完全な評価フレームワークであるtextittextbfAlign-then-Slide を導入する。
Alignの段階では、文レベルのソースターゲット対応を自動的に推測し、ターゲットを元の文番号に合わせるように再構築する。
n-Chunkスライディング評価段階において,多粒度評価のための1-,2-,3-,4-chunkの平均値を算出する。
論文 参考訳（メタデータ） (2025-09-04T01:50:20Z) - M-DocSum: Do LVLMs Genuinely Comprehend Interleaved Image-Text in Document Summarization? [49.53982792497275]
本稿では,LVLM(Large Vision-Language Models)が文書中のインターリーブ画像テキストを真に理解しているかどうかを検討する。
既存の文書理解ベンチマークは、しばしば質問応答形式を用いてLVLMを評価する。
マルチモーダル文書要約ベンチマーク(M-DocSum-Bench)について紹介する。
M-DocSum-Benchは500の高品質なarXiv論文と、人間の好みに合わせたインターリーブされたマルチモーダル要約で構成されている。
論文 参考訳（メタデータ） (2025-03-27T07:28:32Z) - LLM$\times$MapReduce: Simplified Long-Sequence Processing using Large Language Models [73.13933847198395]
本稿では,文書理解を包括的に行うための分割・対数戦略を利用して,長文処理のための学習自由フレームワークを提案する。
提案された LLM$times$MapReduce フレームワークは、ドキュメント全体を LLM が読み取るためにいくつかのチャンクに分割し、中間回答を集約して最終的な出力を生成する。
論文 参考訳（メタデータ） (2024-10-12T03:13:44Z) - Contextual Document Embeddings [77.22328616983417]
本稿では,コンテキスト化された文書埋め込みのための2つの補完手法を提案する。
第一に、文書近傍を明示的にバッチ内コンテキスト損失に組み込む別のコントラスト学習目標である。
第二に、隣接する文書情報をエンコードされた表現に明示的にエンコードする新しいコンテキストアーキテクチャ。
論文 参考訳（メタデータ） (2024-10-03T14:33:34Z) - In-context Pretraining: Language Modeling Beyond Document Boundaries [137.53145699439898]
In-Context Pretrainingは、言語モデルが関連するドキュメントのシーケンスで事前トレーニングされる新しいアプローチである。
本稿では, 近接探索を効率的に行うための近似アルゴリズムを提案する。
より複雑なコンテキスト推論を必要とするタスクの顕著な改善が見られます。
論文 参考訳（メタデータ） (2023-10-16T17:57:12Z) - XDoc: Unified Pre-training for Cross-Format Document Understanding [84.63416346227176]
XDocは、単一のモデルで異なるドキュメントフォーマットを扱う、統合された事前訓練されたモデルである。
XDocは、トレーニング済みの個々のモデルと比較して、さまざまなダウンストリームタスクで同等またはそれ以上のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2022-10-06T12:07:18Z) - ERNIE-DOC: The Retrospective Long-Document Modeling Transformer [24.426571160930635]
Recurrence Transformersに基づく文書レベルの言語プリトレーニングモデルであるERNIE-DOCを提案する。
ふりかえりフィード機構とリカレンスメカニズムの強化という2つのよく設計されたテクニックにより、ELNIE-DOCははるかに長いコンテキスト長を実現できます。
英語と中国語の文書レベルのタスクについて様々な実験を行った。
論文 参考訳（メタデータ） (2020-12-31T16:12:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。