論文の概要: Agaram 2.5B: The First Tamil-First Language Model Trained from Scratch with Tool Calling. A Playbook for Under-Represented Languages

• arxiv url: http://arxiv.org/abs/2610.18420v1
• Date: Tue, 13 Oct 2026 14:00:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.625049
• Title: Agaram 2.5B: The First Tamil-First Language Model Trained from Scratch with Tool Calling. A Playbook for Under-Represented Languages
• Title（参考訳）: Agaram 2.5B: ツールコールによるスクラッチからトレーニングされた最初のタミルファースト言語モデル
• Abstract要約: 134,428件の会話を微調整した。 リリースモデルは2B IndicベースモデルであるSarvam-1より優れている。 知識の貧弱さ: 読み取り理解と知識ベンチマークは、ほぼ偶然にある。
• 参考スコア（独自算出の注目度）: 2.5665716218583965
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We trained Agaram 2.5B, a 2.5-billion-parameter Tamil-English language model, from scratch on about 50 billion tokens (58% Tamil, the rest English, math, code and parallel text) on one node of eight H100 GPUs in about six days, with a new tokenizer that, unlike our first model's, keeps line breaks. Supervised fine-tuning on 134,428 conversations, whose replies an open-weight teacher model wrote, and three short targeted rounds turned it into a chat model that answers in Tamil script, romanized Tamil (Tanglish) and English and can call tools: on 25 tool prompts whose schemas appear in training it picks the right tool 23 times and gives exactly the expected arguments 13 times. The released model translates better than Sarvam-1, a 2B Indic base model, in all six FLORES and IN22 directions (FLORES chrF 54.3 into Tamil and 55.2 into English, against 49.2 and 44.2), and nearly doubles its base model on native-Tamil IndicIFEval (19.3% from 10.0%). It is weak on knowledge: reading-comprehension and knowledge benchmarks sit near chance, and on 50 held-out everyday questions written by one native speaker, one LLM judge rated 46% of its replies usable (22-24 of 50 over three passes; 95% interval for 23 of 50, 33-60%), with nearly every failure a wrong fact. Our two further SFT experiments changed answer format but not the knowledge measures. We also describe our first model, Agaram 1.5B, whose failures shaped the choices here; how the judge's scores varied between passes on identical replies; and, item by item, what the targeted rounds trained against and where frontier-model text entered the data. The project ran on compute credits and our own funds, about USD 13,300 across both models; the weights are released (licence to be announced after legal review), with GGUF files for llama.cpp, at https://huggingface.co/murai-labs/agaram-2.5b-instruct; code at https://github.com/Murai-Labs/Agaram2.5b
• Abstract（参考訳）: 私たちは約6日間で、約500億のトークン(タミル語、残りの英語、数学、コード、並列テキスト)を8つのH100 GPUのノードの1つでスクラッチからトレーニングしました。 オープンウェイトな教師モデルが書かれた134,428の会話の微調整を監督し、3回の短いターゲットのラウンドは、Tamilスクリプト、Romanized Tamil(タングリッシュ)、そしてツールを呼び出すことができるチャットモデルに変わりました。 FLORES 54.3はタミル語、55.2は英語、49.2と44.2はタミル語、19.3%はタミル語である。 1人のネイティブスピーカーによって書かれた50の毎日の質問に対して、1人のLCM判事が46%の回答(3回のパスで50の22-24、50の95%インターバル、33-60%)を評価し、ほぼすべての失敗は間違った事実である。 さらに2つのSFT実験で回答形式が変更されたが、知識尺度は変更されなかった。 また、私たちの最初のモデルであるAgaram 1.5Bについても説明し、その失敗がここでの選択肢を形作り、審査員のスコアが同一の応答のパスでどのように異なるか、アイテムごとに、ターゲットラウンドがトレーニングされたラウンドと、フロンティアモデルテキストがデータをどこに入力したかを説明します。 GGUFファイルは llama.cpp, at https://huggingface.co/murai-labs/agaram-2.5b-instruct; code at https://github.com/Murai-Labs/Agaram2.5b

関連論文リスト

• sk-bench: A Native-First Benchmark for Evaluating Large Language Models in Slovak [2.3487810957566793]
  sk-benchは、30のデータセットを持つネイティブファーストのスロバキアのベンチマークである。 生成LLM評価のための11のリソースが導入されたか、最初にパッケージ化された。
  論文  参考訳（メタデータ） (2026-10-06T21:51:22Z)
• ufakzeka-1: Building and Evaluating a 151M-Parameter Turkish Language Model from Scratch [0.0]
  ufakzeka-1 は 151M-パラメータ (182M) で、デコーダのみのトルコ語モデルで13.5B のトークンでスクラッチから事前訓練された。 1ワードあたり1.77トークンのトルコのバイトレベルのトークンライザ、3段階の事前訓練スケジュール、オープンライセンスと生成されたデータのトレーニング後の混合、リリースゲートの評価バッテリ、ルールチェックによる5,508の会話、判断された会話と手動テスト、これらはすべてトレーニングデータから保持されたプロンプトで、データビルド内とチェック--によって強制される。
  論文  参考訳（メタデータ） (2026-09-18T20:33:02Z)
• TamilEOT: A Dataset and Model for Semantic End-of-Turn Detection in Tamil Telephone Speech [0.0]
  TamilEOT: 18,485のラベル付き通話境界は、実際の116の電話通話から切り離された。 2つのオーディオ専用検出器は、Smart Turn v3から微調整されている。 どちらのモデルも、ラップトップのCPU上で150ms未満のシングルスレッドで動作する。
  論文  参考訳（メタデータ） (2026-09-04T18:09:11Z)
• DialectGen: Benchmarking and Improving Dialect Robustness in Multimodal Generation [111.94720088481614]
  多モーダル生成モデルは方言テキスト入力を効果的に生成できるのか? 6つの共通英語方言にまたがる大規模ベンチマークを構築した。 マルチモーダル生成モデルのための一般的なエンコーダに基づく緩和戦略を設計する。
  論文  参考訳（メタデータ） (2025-10-16T17:56:55Z)
• ArabicMMLU: Assessing Massive Multitask Language Understanding in Arabic [51.922112625469836]
  アラビア語における最初のマルチタスク言語理解ベンチマークである、データセット名を提案する。 我々のデータは、現代標準アラビア語(MSA)における40のタスクと14,575のマルチチョイス質問で構成されており、地域の母語話者と協調して慎重に構築されている。 35モデルについて評価した結果,特にオープンソースモデルにおいて,改善の余地がかなり高いことが判明した。
  論文  参考訳（メタデータ） (2024-02-20T09:07:41Z)
• Multilingual E5 Text Embeddings: A Technical Report [63.503320030117145]
  異なるサイズの3つの埋め込みモデルを提供し、推論効率と埋め込み品質のバランスを提供する。 そこで我々は,新しい命令調整型埋め込みモデルを導入し,その性能は類似サイズの最先端の英語のみのモデルと同等である。
  論文  参考訳（メタデータ） (2024-02-08T13:47:50Z)
• Paramanu: A Family of Novel Efficient Generative Foundation Language Models for Indian Languages [3.9018931027384056]
  インド語のための新しい言語モデル(LM)のファミリーである「Paramanu」を提示する。 10の言語(アッサム語、バングラ語、ヒンディー語、コンカニ語、マイティシ語、マラティ語、オディア語、サンスクリット語、タミル語、テルグ語)を5文字でカバーしている。 モデルは、コンテキストサイズが1024の1つのGPUで事前トレーニングされており、サイズは13.29万(M)から367.5Mまで様々である。
  論文  参考訳（メタデータ） (2024-01-31T17:58:10Z)
• Assessing Translation capabilities of Large Language Models involving English and Indian Languages [4.067706269490143]
  機械翻訳を英語と22のインド語を含む課題として用いて,大規模言語モデルの多言語的機能について検討する。 パラメータ効率のよいLoRAなどの微調整手法と,さらに完全な微調整を併用して,これらの大規模言語モデルを微調整する。 その結果,平均BLEUスコアは13.42,15.93,12.13,12.30,12.07,CHRFスコアは43.98,46.99,42.55,42.42,45.39であった。
  論文  参考訳（メタデータ） (2023-11-15T18:58:19Z)
• Crosslingual Generalization through Multitask Finetuning [80.8822603322471]
  マルチタスク誘導ファインタニング(MTF)は、大きな言語モデルがゼロショット設定で新しいタスクに一般化するのに役立つことが示されている。 MTFを事前訓練された多言語BLOOMおよびmT5モデルファミリーに適用し、BLOOMZおよびmT0と呼ばれる微調整された変種を生成する。 英語のプロンプトを用いた英語タスクにおける多言語多言語モデルの微調整により、非英語言語へのタスク一般化が可能となる。
  論文  参考訳（メタデータ） (2022-11-03T13:19:32Z)
• Few-shot Learning with Multilingual Language Models [66.49496434282564]
  多様な言語群をカバーするバランスの取れたコーパス上で,多言語の自動回帰言語モデルを訓練する。 私たちの最大のモデルは、20以上の代表言語で数ショットの学習において、新しい最先端の技術を定めています。 本稿では,モデルがどこで成功し,失敗するかを詳細に分析し,特に言語間の文脈内学習を可能にすることを示す。
  論文  参考訳（メタデータ） (2021-12-20T16:52:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。