論文の概要: OmniAlign: A Unified Multilingual Aligner for Word and Sentence Alignment

• arxiv url: http://arxiv.org/abs/2608.18474v1
• Date: Wed, 19 Aug 2026 03:02:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-20 20:13:55.262831
• Title: OmniAlign: A Unified Multilingual Aligner for Word and Sentence Alignment
• Title（参考訳）: OmniAlign: 単語と文のアライメントのための統一多言語アライメント
• Abstract要約: 我々は,単語レベルのアライメントと文レベルのアライメントをサポートする統一多言語アライメント器であるOmniAlignを提案する。 OmniAlignはエンコーダのみのバックボーン上に構築されており、コンテキスト化されたトークン類似性行列から単語アライメントを誘導する。 実験により、OmniAlignは単語と文のアライメントのベンチマークで高い競争性能を発揮することが示された。
• 参考スコア（独自算出の注目度）: 10.629976569255229
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Cross-lingual sequence alignment is fundamental for building and exploiting parallel corpora, spanning mappings from documents and sentences down to words and subwords. Existing tools, however, typically specialize in a single granularity, so practitioners often need separate systems for word- and sentence-level alignment---especially in multilingual and long-text settings. We present OmniAlign, a unified multilingual aligner that supports both word-level and sentence-level alignment with a single lightweight model. Built on an encoder-only backbone with strong long-context modeling, OmniAlign induces word alignments from contextualized token similarity matrices, and obtains document-level $m$--$n$ sentence alignments via sentence embeddings combined with dynamic programming. To balance fine-grained alignment accuracy and sentence-representation quality, we use a four-stage training pipeline: alignment-oriented continued pre-training, self-supervised learning, supervised fine-tuning on human annotations, and sentence-embedding distillation from a strong multilingual teacher. Experiments show that OmniAlign achieves highly competitive performance on both word- and sentence-alignment benchmarks and generalizes well to unseen language pairs. Surprisingly, later-stage supervised fine-tuning on short texts further improves alignment quality while retaining the long-context understanding acquired in earlier training, keeping the model robust on long-text word alignment. \normalsize {\color{blue}\textbf{Code}: https://github.com/MilkDargon/OmniAlign}\par {\color{blue}\textbf{Model}: https://huggingface.co/WPS-Qingqiu/OmniAlign}
• Abstract（参考訳）: 言語間シーケンスアライメントは、文書や文から単語やサブワードへのマッピングにまたがる並列コーパスの構築と活用に不可欠である。 しかし、既存のツールは通常、単一の粒度に特化しているため、実践者は、特に多言語と長文の設定において、単語と文レベルのアライメントのための別々のシステムを必要とすることが多い。 OmniAlignは、単語レベルと文レベルのアライメントを単一の軽量モデルでサポートする統合多言語アライメント器である。 OmniAlignはエンコーダのみのバックボーン上に構築され、コンテキスト化されたトークン類似性行列から単語アライメントを誘導し、文書レベルの$m$--$n$の文アライメントを、動的プログラミングと組み合わせて取得する。 微粒なアライメント精度と文表現品質のバランスをとるために,アライメント指向の継続事前学習,自己指導型学習,人間のアノテーションによる微調整,多言語教師による文埋め込み蒸留という4段階の訓練パイプラインを用いた。 実験により、OmniAlignは単語と文のアライメントのベンチマークで高い競争性能を達成し、見当たらない言語対に対してうまく一般化していることが示された。 驚くべきことに、後段の教師による短いテキストの微調整により、以前のトレーニングで得られた長文理解を維持しながらアライメントの品質が向上し、長文単語アライメントに頑健なモデルが維持される。 https://github.com/MilkDargon/OmniAlign}\par {\color{blue}\textbf{Model}: https://huggingface.co/WPS-Qingqiu/OmniAlign}

関連論文リスト

• Scaling Unsupervised Word Alignment to Documents via Structural Constraints [38.797311337915175]
  CTFAlignは、文書レベルの単語アライメントのための軽量でトレーニング不要なアプローチである。 MDPAlignも導入しています。これは、主対角線上の位置によるアライメントを制約する、よりシンプルな代替手段です。 CTFAlignは平均3モデルで、単語アライメントエラー率を0.412から0.326に下げる。
  論文  参考訳（メタデータ） (2026-08-21T12:13:21Z)
• Simultaneous Speech-to-Speech Translation Without Aligned Data [52.467808474293605]
  同時音声翻訳では、ソース音声を対象言語にリアルタイムで翻訳する必要がある。 単語レベルのアライメントを完全に不要にするヒビキゼロを提案する。 Hibiki-Zeroは5つのX-英語タスクの翻訳精度、レイテンシ、音声転送、自然性において最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2026-02-11T17:41:01Z)
• Third-Party Aligner for Neural Word Alignments [18.745852103348845]
  本稿では,ニューラルネットワークによる単語アライメントトレーニングの監督のために,サードパーティ製単語アライメント器によって生成された単語アライメントを提案する。 実験により、我々のアプローチは第三者の監督に対して驚くほど自己補正が可能であることが示された。 我々は最先端の単語アライメント性能を達成し、最高のサードパーティアライメントよりも平均2ポイント以上低いアライメント誤り率を持つ。
  論文  参考訳（メタデータ） (2022-11-08T12:30:08Z)
• Combining Static and Contextualised Multilingual Embeddings [70.12036693730919]
  静的モデルと文脈モデルの長所を組み合わせることで、多言語表現を改善する。 我々はXLM-Rから40言語に対する静的な埋め込みを抽出し、言語間単語検索でそれらの埋め込みを検証する。 これにより、高品質で多言語な静的埋め込みが実現される。
  論文  参考訳（メタデータ） (2022-03-17T13:53:46Z)
• Improving Pretrained Cross-Lingual Language Models via Self-Labeled Word Alignment [49.45399359826453]
  言語間の言語モデルは通常、多言語テキストやパラレル文の言語モデリングで事前訓練される。 本稿では,新たな言語間事前学習課題として認知単語アライメントを導入する。 実験結果から,本手法は各種データセットの言語間移動性を向上することが示された。
  論文  参考訳（メタデータ） (2021-06-11T13:36:01Z)
• Word Alignment by Fine-tuning Embeddings on Parallel Corpora [96.28608163701055]
  並列コーパス上の単語アライメントには、翻訳語彙の学習、言語処理ツールの言語間変換、翻訳出力の自動評価や解析など、幅広い応用がある。 近年,複数言語で訓練された言語モデル(LM)から抽出した事前学習された単語埋め込みが,並列データに対する明示的な訓練がなくても,単語アライメントタスクにおける競合的な結果が得られることを示す研究も行われている。 本稿では,事前学習したLMの活用と,アライメント品質の向上を目的とした並列テキストによる微調整,提案という2つのアプローチの結婚方法を検討する。
  論文  参考訳（メタデータ） (2021-01-20T17:54:47Z)
• Subword Sampling for Low Resource Word Alignment [4.663577299263155]
  テキスト単位のサブワードサンプリングに基づくアライメントを提案する。 サブワードサンプリング法が6つの言語ペアの単語レベルアライメントを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2020-12-21T19:47:04Z)
• Learning Contextualised Cross-lingual Word Embeddings and Alignments for Extremely Low-Resource Languages Using Parallel Corpora [63.5286019659504]
  そこで本稿では,小さな並列コーパスに基づく文脈型言語間単語埋め込み学習手法を提案する。 本手法は,入力文の翻訳と再構成を同時に行うLSTMエンコーダデコーダモデルを用いて単語埋め込みを実現する。
  論文  参考訳（メタデータ） (2020-10-27T22:24:01Z)
• SimAlign: High Quality Word Alignments without Parallel Training Data using Static and Contextualized Embeddings [3.8424737607413153]
  並列データを必要としない単語アライメント手法を提案する。 鍵となる考え方は、単語アライメントに静的および文脈化された多言語単語埋め込みを活用することである。 埋め込みから生成されるアライメントは,従来の統計手法よりも2つの言語ペアの方が優れていることがわかった。
  論文  参考訳（メタデータ） (2020-04-18T23:10:36Z)
• Multilingual Alignment of Contextual Word Representations [49.42244463346612]
  BERTはXNLIのゼロショット性能をベースモデルに比べて大幅に改善した。 単語検索の文脈バージョンを導入し、下流のゼロショット転送とよく相関していることを示す。 これらの結果は、大規模多言語事前学習モデルの理解に有用な概念としてコンテキストアライメントをサポートする。
  論文  参考訳（メタデータ） (2020-02-10T03:27:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。