論文の概要: Query-aware routing for Cross-lingual performance gains in Encoders
- arxiv url: http://arxiv.org/abs/2610.02875v1
- Date: Fri, 02 Oct 2026 06:12:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.241292
- Title: Query-aware routing for Cross-lingual performance gains in Encoders
- Title(参考訳): Encodersにおける言語間性能向上のためのクエリ対応ルーティング
- Abstract要約: 多言語エンコーダは、クエリや関連文書が言語によって異なる場合、同言語のパフォーマンスが強いにもかかわらず、検索効率が低下する可能性がある。
フィンランド語とスウェーデン語による言語間検索が、エンコーダの既存の同言語のパフォーマンスと文書インデックスを維持しながら改善できるかどうかを検討する。
クエリのみの低ランクアダプタをフリーズしたドキュメント埋め込みに対してトレーニングし、クエリとインデックス言語に基づいた決定論的ルーティングを組み合わせます。
- 参考スコア(独自算出の注目度): 2.1576136039212086
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multilingual encoders can exhibit reduced retrieval effectiveness when queries and relevant documents differ in language, despite strong same-language performance. We investigate whether Finnish and Swedish cross-lingual retrieval can improve while preserving an encoder's existing same-language performance and document index. We combine a query-only low-rank adapter, trained against frozen document embeddings, with deterministic routing based on query and index languages. Cross-language queries use the adapter, while same-language queries use the original encoder. SampoTron, our fine-tuned low-rank (LoRA) adapter alongwith the Nemotron-3-Embed-1B model, improves average retrieval quality across six English, Finnish, and Swedish directions from 0.241 to 0.291 in normalized discounted cumulative gain (nDCG) at rank ten, a 20.9% relative gain on a sampled financial benchmark. All six cross-lingual directions improve, and routing preserves the original same-language performance, including two full-corpus Finnish evaluations. The approach enables selective cross-language specialization with reusable document embedding vectors.
- Abstract(参考訳): 多言語エンコーダは、クエリや関連文書が言語によって異なる場合、同言語のパフォーマンスが強いにもかかわらず、検索効率が低下する可能性がある。
フィンランド語とスウェーデン語による言語間検索が、エンコーダの既存の同言語のパフォーマンスと文書インデックスを維持しながら改善できるかどうかを検討する。
クエリのみの低ランクアダプタをフリーズしたドキュメント埋め込みに対してトレーニングし、クエリとインデックス言語に基づいた決定論的ルーティングを組み合わせます。
言語間のクエリはアダプタを使用し、同言語クエリは元のエンコーダを使用する。
The SampoTron, our fine-tuned Low-rank (LoRA) adapter with the Nemotron-3-Embed-1B model, improve a average search quality across six English, Finnish, and Swedish directions from 0.241 to 0.291 in normalized discounted cumulative gain (nDCG at rank 10, a relative gain on a sampleed financial benchmark。
6つの言語間の方向は改善され、ルーティングは2つの完全なフィンランド語評価を含む元の同言語のパフォーマンスを保っている。
このアプローチにより、再利用可能な文書埋め込みベクターを用いた選択的言語間特殊化が可能となる。
関連論文リスト
- LAMAR: An Open Language-Aware Multilingual Alignment Reranker [24.064060212702838]
マルチランガル・リランカはクエリと同じ言語で書かれた文書を常に優先しないことを示す。
意味的関連性と言語コヒーレンスの両方を考慮するために訓練された多言語クロスエンコーダであるLAMARをリリースする。
論文 参考訳(メタデータ) (2026-07-24T07:11:42Z) - What Drives Cross-lingual Ranking? Retrieval Approaches with Multilingual Language Models [0.19116784879310025]
リソース、スクリプト、埋め込みモデルにおける弱い言語間セマンティックアライメントの相違により、言語間情報検索は困難である。
既存のパイプラインは、しばしば翻訳と単言語検索に依存し、計算オーバーヘッドとノイズ、パフォーマンスを追加する。
この研究は、文書翻訳、事前訓練されたエンコーダによる多言語密集検索、単語、フレーズ、クエリー文書レベルのコントラスト学習、および3つのベンチマークデータセットにおけるクロスエンコーダの再ランク付けという、4つの介入タイプを体系的に評価する。
論文 参考訳(メタデータ) (2025-11-24T17:17:40Z) - Cross-lingual Contextualized Phrase Retrieval [63.80154430930898]
そこで本研究では,言語間関係の単語検索を多義的に行うタスクの定式化を提案する。
我々は、コントラスト学習を用いて、言語間コンテクスト対応句検索(CCPR)を訓練する。
フレーズ検索タスクでは、CCPRはベースラインをかなり上回り、少なくとも13ポイント高いトップ1の精度を達成する。
論文 参考訳(メタデータ) (2024-03-25T14:46:51Z) - Modeling Sequential Sentence Relation to Improve Cross-lingual Dense Retrieval [80.43859162884353]
マスク付き文モデル(MSM)と呼ばれる多言語多言語言語モデルを提案する。
MSMは、文表現を生成する文エンコーダと、文書から文ベクトルのシーケンスに適用される文書エンコーダとから構成される。
モデルをトレーニングするために,サンプル負の階層的コントラスト損失によって文ベクトルをマスクし,予測するマスク付き文予測タスクを提案する。
論文 参考訳(メタデータ) (2023-02-03T09:54:27Z) - On Cross-Lingual Retrieval with Multilingual Text Encoders [51.60862829942932]
言語間文書・文検索タスクにおける最先端多言語エンコーダの適合性について検討する。
教師なしのアドホック文と文書レベルのCLIR実験でそれらの性能をベンチマークする。
我々は、ゼロショット言語とドメイン転送CLIR実験のシリーズにおける英語関連データに基づいて、教師付き方式で微調整された多言語エンコーダの評価を行った。
論文 参考訳(メタデータ) (2021-12-21T08:10:27Z) - Explicit Alignment Objectives for Multilingual Bidirectional Encoders [111.65322283420805]
本稿では,多言語エンコーダAMBER(Aligned Multilingual Bi-directional EncodeR)の学習方法を提案する。
AMBERは、異なる粒度で多言語表現を整列する2つの明示的なアライメント目標を使用して、追加の並列データに基づいて訓練される。
実験結果から、AMBERは、シーケンスタグ付けで1.1平均F1スコア、XLMR-大規模モデル上での検索で27.3平均精度を得ることがわかった。
論文 参考訳(メタデータ) (2020-10-15T18:34:13Z) - Massively Multilingual Document Alignment with Cross-lingual
Sentence-Mover's Distance [8.395430195053061]
ドキュメントアライメントは、互いに同等のコンテンツや翻訳を持つ2つの異なる言語で文書のペアを特定することを目的としている。
言語間文の埋め込みを利用した教師なしスコアリング機能を開発し、異なる言語の文書間の意味的距離を計算する。
これらのセマンティック距離は、文書アライメントアルゴリズムを誘導して、低言語、中言語、高リソースの様々なペアで言語間ウェブ文書を適切にペアリングする。
論文 参考訳(メタデータ) (2020-01-31T05:14:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。