論文の概要: Saidzoda-Kazakh-EmbeddingGemma-300M: How Far One Epoch of Generated Questions Takes a Small Kazakh Embedder
- arxiv url: http://arxiv.org/abs/2611.16399v1
- Date: Thu, 12 Nov 2026 07:09:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.383344
- Title: Saidzoda-Kazakh-EmbeddingGemma-300M: How Far One Epoch of Generated Questions Takes a Small Kazakh Embedder
- Title(参考訳): Sadzoda-Kazakh-EmbeddingGemma-300M: カザフスタンの小さなエンベッドダーで発生した質問の1つのエポックがどれだけ重要か
- Abstract要約: 我々は、208,511対のエポックに対して完全に微調整された同じモデルであるSaidzoda-Kazakh-EmbeddingGemma-300Mを提案する。
カザフスタンではリコール@1は60.8%から78.0%に上昇し、リコール@10は76.3%から91.4%に上昇した。
- 参考スコア(独自算出の注目度): 0.30786914102688595
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: EmbeddingGemma-300M is a small open embedder, and used as released it finds the right passage first for 60.8% of the Kazakh Belebele retrieval questions. We present Saidzoda-Kazakh-EmbeddingGemma-300M, the same model fully fine-tuned for one epoch on 208,511 pairs: 166,263 Kazakh questions that our own language model wrote about source passages from encyclopedias, Wikipedia, news and books, each checked by a second model, plus English and Russian replay. On Kazakh Belebele, recall@1 rises from 60.8% to 78.0% and recall@10 from 76.3% to 91.4%. Our model scores above 161 of the 194 models with a published MTEB score on the same test, among them OpenAI text-embedding-3-large (47.1%). The other 33 score higher: the ten best are large multi-billion-parameter or closed models, reaching up to 92.2%, and at least 9 are open models of up to 0.6B parameters, the smallest with 339M. We also scored 6 Kazakh-specific embedders shared on Hugging Face with the same code in one run: our model (77.3% there) is ahead of 4 of them, including the two E5-base models of similar size (72.6% and 69.0%), and behind kaz-embedder (86.0%, three towers with 1,695M parameters in total) and a BGE-M3 fine-tune (81.0%); at recall@10 its interval overlaps those of its nearest neighbours on both sides. Our four-language model, trained with a capped share of the same Kazakh pairs, is 2.8 points lower at recall@1, with overlapping recall@10 intervals. The Kazakh model also scores higher than the released model on the Uzbek and Kyrgyz versions of Belebele, but our Tajik model, trained without any Turkic pairs, gains as much there, so these gains are not specific to Kazakh training. Our Kazakh Wikipedia test questions come from the same generator family as the training questions, so we rest the main claims on Belebele.
- Abstract(参考訳): EmbeddingGemma-300Mは小さなオープンな埋め込み機で、リリース時にカザフ・ベレベレの検索質問の60.8%で最初に正しい経路を見つける。
私たちはSaidzoda-Kazakh-EmbeddingGemma-300Mを紹介します。これは208,511対で1つのエポックで完全に微調整された同じモデルです。
カザフスタンではリコール@1は60.8%から78.0%に上昇し、リコール@10は76.3%から91.4%に上昇した。
また,本モデルでは,OpenAIテキスト埋め込み3-large(47.1%)のうち,MTEBスコアが同じテストで公表された194モデル中161点以上をスコアした。
その他の33スコアは、最大10点が大型のマルチビリオンパラメータまたはクローズドモデルであり、92.2%まで到達し、少なくとも9点が最大0.6Bパラメータのオープンモデルであり、最小は339Mである。
私たちのモデル(77.3%)は、同じ大きさの2つのE5ベースモデル(72.6%と69.0%)と、Kaz-embedder(86.0%、合計1,695万のパラメータを持つ3つの塔)とBGE-M3ファイントゥン(81.0%)の4つに先んじています。
我々の4言語モデルは、同じカザフ語ペアのキャップ付きシェアでトレーニングされ、リコール@1で2.8ポイント低いリコール@10インターバルで重なり合う。
カザフ語モデルはウズベク語版やキルギス語版のベレベレ語版よりもスコアが高いが、我々のタジク語モデルはトルコ語版のペアなしで訓練されているため、カザフ語のトレーニングに特化していない。
私たちのカザフスタンのウィキペディアテストの質問は、トレーニングの質問と同じジェネレータファミリーから来ています。
関連論文リスト
- Saidzoda-CA-EmbeddingGemma-300M: One Small Embedder for Tajik, Kazakh, Uzbek and Kyrgyz [0.28106259549258145]
埋め込み機 EmbeddingGemma-300M は、タジク語、カザフ語、ウズベク語、キルギス語におけるベレベレ質問の51.7%から60.8%で最初に正しい通路を見つける。
Saidzoda-CA-EmbeddingGemma-300Mについて述べる。
論文 参考訳(メタデータ) (2026-11-08T16:08:23Z) - Saidzoda-Tajik-EmbeddingGemma-300M: Knowing Every Letter Is Not Reading Tajik [0.28106259549258145]
235,140の質問文と通訳ペアを、法律、税制文書、ウィキペディア、ウェブテキストのために、我々のタジク語モデルによって記述した。
ベレベレではリコール@10が69.8%から92.6%に上昇し、最初の結果は51.7%ではなく76.6%の質問に対して正しい。
論文 参考訳(メタデータ) (2026-11-08T08:59:36Z) - Saidzoda-Tajik-E5-Large: Fine-Tuning a 560M Embedder for Tajik Retrieval [0.28106259549258145]
We present Saidzoda-Tajik-E5-Large, a Tajik text embeder built from multilingual-e5-large-instruct。
私たちは、タジク語モデルに、タジク語法、税制文書、ウィキペディア、ウェブテキストからの引用に関する質問を書くよう依頼します。
モデルがこれまで見たことのない法律では、93.6%の質問に対して、正しいパスがトップ10に入る。
論文 参考訳(メタデータ) (2026-10-31T03:41:43Z) - QK-Wanda: Coupling Queries and Keys for Unstructured Pruning [53.657104889705856]
個々の削除コストによってクエリとキーウェイトをスコアするQK-Wandaを導入する。
我々は,TinyLlama,Llama 2,Llama 3,Qwen2.5の15モデルを対象に,0.5B-72BパラメータにまたがるQKのみのプルーニングを評価した。
論文 参考訳(メタデータ) (2026-10-01T12:22:44Z) - Evaluating Commercial AI Chatbots as News Intermediaries [85.32040752972836]
ベストシステムは、数時間前に報告されたイベントに関する質問に対して、90%以上の多重選択精度を達成する。
すべてのモデルはヒンディー語で最小の精度を達成する。
原因ではなく検索は エラーの70%以上を 引き起こします
論文 参考訳(メタデータ) (2026-05-21T17:42:07Z) - SozKZ: Training Efficient Small Language Models for Kazakh from Scratch [0.0]
SozKZは、90億のカザフ文字のトークンをゼロからトレーニングしたLlama-architecture言語モデルのファミリーである。
MC QAの精度は22.8%から30.3%に向上した。
結果として、スクラッチからトレーニングされた小さな専用モデルが、低リソースの言語技術に実行可能なパスを提供することを示す。
論文 参考訳(メタデータ) (2026-03-21T15:23:55Z) - Optimized Text Embedding Models and Benchmarks for Amharic Passage Retrieval [49.1574468325115]
トレーニング済みのAmharic BERTとRoBERTaのバックボーンをベースとした,Amharic固有の高密度検索モデルを提案する。
提案したRoBERTa-Base-Amharic-Embedモデル(110Mパラメータ)は,MRR@10の相対的な改善を17.6%達成する。
RoBERTa-Medium-Amharic-Embed (42M)のようなよりコンパクトな派生型は13倍以上小さいまま競争力を維持している。
論文 参考訳(メタデータ) (2025-05-25T23:06:20Z) - Sherkala-Chat: Building a State-of-the-Art LLM for Kazakh in a Moderately Resourced Setting [72.49939766691763]
Sherkala-Chat (8B) は、カザフ語話者向けに設計された命令調整されたオープン生成型大言語モデル(LLM)である。
LLaMA-3.1-8Bモデルに適応したシェルカラ・チャット (8B) はカザフ語、英語、ロシア語、トルコ語で45.3Bのトークンで訓練されている。
論文 参考訳(メタデータ) (2025-03-03T13:05:48Z) - Qwen2 Technical Report [141.0766756297144]
本稿では,我々の大規模言語モデルと大規模マルチモーダルモデルへの最新の追加であるQwen2シリーズを紹介する。
Qwen2は、前身のQwen1.5を含む、これまでのほとんどのオープンウェイトモデルを超え、プロプライエタリモデルと比較して競争力のある性能を示している。
Qwen2は、英語、中国語、スペイン語、フランス語、ドイツ語、アラビア語、ロシア語、韓国語、日本語、タイ語、ベトナム語など、約30の言語で熟練した堅牢な多言語機能を示している。
論文 参考訳(メタデータ) (2024-07-15T12:35:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。