論文の概要: Investigating the Role of Reasoning-Language Alignment in Monolingual Retrieval-Augmented Generation
- arxiv url: http://arxiv.org/abs/2610.03136v1
- Date: Fri, 02 Oct 2026 11:02:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.339103
- Title: Investigating the Role of Reasoning-Language Alignment in Monolingual Retrieval-Augmented Generation
- Title(参考訳): 単言語検索・拡張生成における推論言語アライメントの役割の検討
- Abstract要約: 我々は、検索強化世代(RAG)について、同じことが成り立つかどうかを問う。
我々は、テーブルトップロールプレイングゲーム『ダークアイ』の架空の世界をめぐって、完全にモノリンガルなドイツのRAG質問応答テストベッドを構築しました。
推論言語をクエリの言語と整合させることが、検索したドキュメントに役立ちます。
- 参考スコア(独自算出の注目度): 14.573362339660676
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reasoning traces improve large language models (LLMs), but current models are trained to reason mostly in English. It has been shown that forcing a model to reason in another language degrades accuracy, even when the reasoning language matches the language of the prompt -- but only for a setting where the model reasons over a short prompt. Here, we ask whether the same holds for retrieval-augmented generation (RAG), where the model must read and integrate a large amount of retrieved evidence in the target language. To study this, we build a fully monolingual German RAG question-answering testbed over the fictional world of the tabletop role-playing game The Dark Eye, a domain that is richly documented in German but too niche for the model to answer from memory, so that it has to rely on retrieval. Varying the forced reasoning language of an agentic RAG system on this testbed, we find that aligning the reasoning language with the language of the query and the retrieved documents helps. Forced German reasoning outperforms forced French, although the model benchmarks higher in French, so the benefit comes from alignment and not from language proficiency. The advantage grows when the retrieved context is richer and structure-aware. However, forced German only reaches the level of the model's native, unconstrained English reasoning without surpassing it, showing that native multilingual reasoning is needed. We publicly release the testbed and QA benchmark.
- Abstract(参考訳): 推論トレースは、大きな言語モデル(LLM)を改善するが、現在のモデルは、主に英語で推論するように訓練されている。
別の言語でモデルに推論を強制することは、推論言語がプロンプトの言語と一致する場合であっても、正確性を低下させる。
本稿では,このモデルが対象言語に大量の証拠を収集・統合する必要がある場合,RAG(Research-augmented Generation)が同じであるかどうかを問う。
これを研究するために、我々は、完全にモノリンガルなドイツのRAG質問応答テストベッドを構築した。テーブルトップロールプレイングゲームThe Dark Eyeは、ドイツ語でリッチにドキュメント化されているが、モデルが記憶から答えるにはニッチすぎるドメインであり、検索に頼る必要がある。
エージェントRAGシステムの強制推論言語をこのテストベッド上で実行することで、推論言語をクエリの言語と整合させ、検索した文書を整合させることが有効であることがわかった。
強制されたドイツの推論はフランス語より優れているが、そのモデルはフランス語で高く評価されているため、その利点はアライメントによるものであり、言語の習熟性によるものではない。
検索されたコンテキストがより豊かで構造に気付くと、利点は増す。
しかし、強制的なドイツ語は、そのモデルのネイティブな、制約のない英語推論のレベルにしか達しておらず、ネイティブな多言語推論が必要であることを示している。
テストベッドとQAベンチマークを公開しています。
関連論文リスト
- Building Multilingual Bridges: Data Mixing as the Pillar of Generalization for In-Language Reasoning [75.46846056993418]
推論言語モデルは、それらが引き起こされる言語に関係なく、主に英語で理にかなっている。
これは、英語を話さないユーザにとってアクセス不能であり、元の質問の意図を失うリスクがあり、ターゲット言語でより容易に表現される知識を忘れてしまう。
本研究では,L2推論を推進し,ユーザのプロンプトの言語でモデルが一貫した推論を行えるようにし,プロンプトと応答の間に言語内ブリッジを構築する。
論文 参考訳(メタデータ) (2026-09-09T16:56:25Z) - Align to the Pivot: Dual Alignment with Self-Feedback for Multilingual Math Reasoning [71.4175109189942]
Pivot-Aligned Self-Feedback Multilingual Reasoning (PASMR)を提案する。
このアプローチは、モデルの第一言語をピボット言語として指定する。
外部の正しい回答や報酬モデルに頼ることなく、言語横断的な自己フィードバック機構を確立する。
論文 参考訳(メタデータ) (2026-01-25T03:20:00Z) - Linguistic Nepotism: Trading-off Quality for Language Preference in Multilingual RAG [55.258582772528506]
異なる文書言語の混合が意図しない方法で生成と引用に影響を及ぼすかどうかを検討する。
8つの言語と6つのオープンウェイトモデルにまたがって、クエリが英語である場合、モデルは優先的に英語ソースを引用する。
モデルが言語嗜好のトレードオフ文書関連性を示すことがあり、引用選択が情報のみによって常に駆動されるわけではないことが分かる。
論文 参考訳(メタデータ) (2025-09-17T12:58:18Z) - Learn Globally, Speak Locally: Bridging the Gaps in Multilingual Reasoning [39.03934159726098]
M2Aは,マルチスケール多言語アライメントと,機械翻訳された質問に対する言語一貫性報酬を組み合わせた新しい手法である。
地理に基づく多言語事実推論ベンチマークであるGeoFact-Xと5言語での推論トレースを紹介する。
以上の結果から,M2Aは数学的および事実的推論タスクにおいて,多言語推論の忠実度を著しく向上させることが示された。
論文 参考訳(メタデータ) (2025-07-07T19:04:36Z) - Cross-lingual Collapse: How Language-Centric Foundation Models Shape Reasoning in Large Language Models [44.94287386776289]
textbfCross-lingual Collapseは、多言語言語モデルが支配的な事前学習言語に回帰する体系的なドリフトである。
実験の結果, (i)GRPOは事前学習言語の不均衡を急速に増幅し, わずか数百回の更新で低リソース言語が侵食され, (ii) 言語整合性報酬はこのドリフトを緩和するが, ほぼ5~10ppの精度の低下を犠牲にしていることがわかった。
論文 参考訳(メタデータ) (2025-06-06T08:08:48Z) - When Models Reason in Your Language: Controlling Thinking Language Comes at the Cost of Accuracy [16.897177356930104]
思考トレースを持つLarge Reasoning Models (LRMs) は、英語の推論タスクに強いパフォーマンスを示している。
なぜなら、ユーザーは自分の言語で表現された場合にのみ、その推論トレースが監視に有用であることを見つけることができるからだ。
我々は、XReasoningベンチマークでLRMの2つの主要なファミリーを評価し、最も先進的なモデルでさえしばしば英語に戻るか、他の言語で断片化された推論を生成することを発見した。
論文 参考訳(メタデータ) (2025-05-28T21:44:12Z) - Language Matters: How Do Multilingual Input and Reasoning Paths Affect Large Reasoning Models? [59.970391602080205]
多言語トレーニングにも拘わらず、LRMはテスト時に高リソース言語での推論をデフォルトとする傾向にある。
文化的推論は、推論タスクのパフォーマンスを低下させるが、文化的なタスクに恩恵を与える一方、安全性評価は言語固有の振る舞いを示す。
論文 参考訳(メタデータ) (2025-05-23T02:46:18Z) - Multilingual Answer Sentence Reranking via Automatically Translated Data [97.98885151955467]
本稿では,現代の質問応答システム(QA)のコアコンポーネントである,多言語回答文選択(AS2)モデルの設計について述べる。
主なアイデアは、あるリソースリッチ言語(英語など)から、他の言語へのデータ転送であり、リソースの観点からはよりリッチである。
論文 参考訳(メタデータ) (2021-02-20T03:52:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。