論文の概要: Saidzoda-Tajik-E5-Large: Fine-Tuning a 560M Embedder for Tajik Retrieval
- arxiv url: http://arxiv.org/abs/2611.00592v1
- Date: Sat, 31 Oct 2026 03:41:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.418121
- Title: Saidzoda-Tajik-E5-Large: Fine-Tuning a 560M Embedder for Tajik Retrieval
- Title（参考訳）: Sadzoda-Tajik-E5-Large:タジック検索用560万組込み機を微調整
- Abstract要約: We present Saidzoda-Tajik-E5-Large, a Tajik text embeder built from multilingual-e5-large-instruct。
私たちは、タジク語モデルに、タジク語法、税制文書、ウィキペディア、ウェブテキストからの引用に関する質問を書くよう依頼します。
モデルがこれまで見たことのない法律では、93.6%の質問に対して、正しいパスがトップ10に入る。
- 参考スコア（独自算出の注目度）: 0.28106259549258145
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Finding the passage that answers a question is the first step of most practical systems built on documents, and for Tajik we found no openly described model for it. We present Saidzoda-Tajik-E5-Large, a Tajik text embedder built from multilingual-e5-large-instruct (560M parameters). We asked our own Tajik language model to write questions for passages from Tajik laws, tax documents, Wikipedia and web text, and trained on 235,140 question and passage pairs for one epoch, with hard negatives chosen by another embedder and English and Russian pairs mixed in so the model would not forget those languages. On laws the model had never seen, the right passage is among the top ten results for 93.6% of questions, up from 80.2%; on tax documents, 94.5% against 82.6%. On Belebele, the one test we have that was written by people, the gain is smaller and not confirmed (92.2% to 95.2%, with touching intervals), and Russian and English do not change. On law and tax questions written in the same style as its training questions, it is tied with Giga-Embeddings-3B, a model five times its size; on Belebele the 3B and 8B models score slightly higher, and only after we fine-tuned them on our data are they clearly ahead. We also report what failed: training in bfloat16 broke the model, and replacing Tajik letters with similar Russian ones did not help. Our law, tax and Wikipedia test questions come from the same model that wrote the training questions, so we treat those scores as an upper limit until questions written by Tajik speakers are available.
- Abstract（参考訳）: 疑問に答えるパスを見つけることは、ドキュメント上に構築された最も実践的なシステムの最初のステップであり、Tajik氏にとって、そのためのオープンに記述されたモデルは見つからなかった。
我々は多言語e5-large-instruct (560Mパラメータ) で構築したTajikテキスト埋め込みであるSaidzoda-Tajik-E5-Largeを提案する。
私たちは、タジク語モデルに、タジク語法、税制文書、ウィキペディア、およびウェブテキストからの通訳に関する質問を書くよう依頼し、235,140の質問対と通訳ペアを1つのエポックで訓練しました。
モデルが見たことのない法律では、適切なパスは質問の93.6%でトップ10入りし、80.2%から上昇し、税制上の文書では94.5%が82.6%に上った。
ベレベレでは、人々が書いたテストが1つあるが、利得は小さく、確認されていない(92.2%から95.2%、触覚間隔がある)。
トレーニング質問と同じスタイルで書かれた法や税に関する質問については、Giga-Embeddings-3Bの5倍の大きさのモデルと結びついています。
bfloat16での訓練でモデルが壊れ、タジク文字を同様のロシア文字で置き換えることは、役に立たなかった。
我々の法、税、ウィキペディアテストの質問は、トレーニングの質問を書いたのと同じモデルに由来するので、タジク語話者による質問が利用可能になるまで、これらのスコアを上限として扱います。
関連論文リスト
- Saidzoda-Tajik-LFM-2.6B: Adapting a 2.6B Hybrid Model to Tajik Tool Calling, and What Continued Pretraining Takes Away [0.28106259549258145]
Saidzoda-Tajik-LFM-2.6Bはタジク語でのツールコール用に開発された。
BFCL v3とマシンでタジクに変換された174イテムのツールコールテストセットでは、タジクの厳密なフルコール精度はベースモデルの20.69から64.14に上昇した。
ツールコール以外では、タジクの知識ベンチマークの精度は28.0から35.0に上昇し、ベレベレ・タジクは大きな変化を示さず、英語のMMLUは60.8から52.5に低下する。
論文 参考訳（メタデータ） (2026-10-30T11:06:30Z) - OpenTWBench (Open Taiwan Benchmark): Taiwan-Domain Knowledge Evaluation for Large Language Models, and How the Measurement Apparatus Shapes the Score [2.270901425955459]
本稿では,大規模言語モデルにおける台湾ドメイン知識のオープン評価スイートであるOpenTWBenchを紹介する。
Tw-exam-benchには、台湾の試験の15年間の公開データから、148人を対象に255,854の4項目の質問が含まれている。
tw-formosa-benchには1,696の難問が含まれている。
論文 参考訳（メタデータ） (2026-10-14T09:18:47Z) - Agaram 2.5B: The First Tamil-First Language Model Trained from Scratch with Tool Calling. A Playbook for Under-Represented Languages [2.5665716218583965]
134,428件の会話を微調整した。
リリースモデルは2B IndicベースモデルであるSarvam-1より優れている。
知識の貧弱さ: 読み取り理解と知識ベンチマークは、ほぼ偶然にある。
論文 参考訳（メタデータ） (2026-10-13T14:00:05Z) - Fair Fact-Checking: Closing the Cross-Lingual Gap in LLM Factual Judgement with RoSh [37.08044812250237]
英語はすべてのモデルで他のどの言語よりも優れていると判断され、その差は最小の言語よりも大きい。
3層で閉じた形で計算した残差ストリームの言語ごとのシフトと回転であるRoShを提案する。
Llama-3Bのアラビア語は偶然からほぼ英語のレベルへと変化し、英語で正しく答えられた主張のうち5分の1は翻訳で失われている。
論文 参考訳（メタデータ） (2026-09-28T09:08:47Z) - Evaluating Commercial AI Chatbots as News Intermediaries [85.32040752972836]
ベストシステムは、数時間前に報告されたイベントに関する質問に対して、90%以上の多重選択精度を達成する。
すべてのモデルはヒンディー語で最小の精度を達成する。
原因ではなく検索は エラーの70%以上を 引き起こします
論文 参考訳（メタデータ） (2026-05-21T17:42:07Z) - ArabicMMLU: Assessing Massive Multitask Language Understanding in Arabic [51.922112625469836]
アラビア語における最初のマルチタスク言語理解ベンチマークである、データセット名を提案する。
我々のデータは、現代標準アラビア語(MSA)における40のタスクと14,575のマルチチョイス質問で構成されており、地域の母語話者と協調して慎重に構築されている。
35モデルについて評価した結果,特にオープンソースモデルにおいて,改善の余地がかなり高いことが判明した。
論文 参考訳（メタデータ） (2024-02-20T09:07:41Z) - MQuAKE: Assessing Knowledge Editing in Language Models via Multi-Hop Questions [75.21713251369225]
編集されたモデルが正しい解答を行うかどうかを評価するマルチホップ質問を含むベンチマークMQuAKEを提案する。
本稿では,メモリベースのアプローチであるMeLLoを提案する。これは,編集された事実に整合した回答を生成するために,言語モデルを反復的に促しながら,すべての編集された事実を外部に保存する。
論文 参考訳（メタデータ） (2023-05-24T06:48:41Z) - Vega-MT: The JD Explore Academy Translation System for WMT22 [67.71016343958556]
言語ペアとモデルサイズという2つの主要な要因をスケールアップすることで、これまでの作業の限界を押し上げます。
第1位はZh-En(45.1)、En-Zh(61.7)、De-En(58.0)、En-De(63.2)、Cs-En(74.7)、Ru-En(64.9)、En-Ru(69.6)、En-Ja(65.1)、En-Cs(95.3)、Ja-En(40.6)である。
論文 参考訳（メタデータ） (2022-09-20T03:45:24Z) - Few-shot Learning with Multilingual Language Models [66.49496434282564]
多様な言語群をカバーするバランスの取れたコーパス上で,多言語の自動回帰言語モデルを訓練する。
私たちの最大のモデルは、20以上の代表言語で数ショットの学習において、新しい最先端の技術を定めています。
本稿では,モデルがどこで成功し,失敗するかを詳細に分析し,特に言語間の文脈内学習を可能にすることを示す。
論文 参考訳（メタデータ） (2021-12-20T16:52:35Z) - TruthfulQA: Measuring How Models Mimic Human Falsehoods [2.7143159361691227]
本稿では,質問に対する回答を生成する上で,言語モデルが真であるかどうかを評価するためのベンチマークを提案する。
このベンチマークは、健康、法律、金融、政治など38のカテゴリーにまたがる817の質問で構成されている。
最高のモデルが58%の質問に対して真実であるのに対して、人間のパフォーマンスは94%でした。
論文 参考訳（メタデータ） (2021-09-08T17:15:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。