論文の概要: Saidzoda-Tajik-LFM-2.6B: Adapting a 2.6B Hybrid Model to Tajik Tool Calling, and What Continued Pretraining Takes Away
- arxiv url: http://arxiv.org/abs/2610.41576v1
- Date: Fri, 30 Oct 2026 11:06:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.689428
- Title: Saidzoda-Tajik-LFM-2.6B: Adapting a 2.6B Hybrid Model to Tajik Tool Calling, and What Continued Pretraining Takes Away
- Title（参考訳）: Saidzoda-Tajik-LFM-2.6B:2.6Bハイブリッドモデルとタジク式ツールコールの対応と継続事前訓練の道のり
- Abstract要約: Saidzoda-Tajik-LFM-2.6Bはタジク語でのツールコール用に開発された。
BFCL v3とマシンでタジクに変換された174イテムのツールコールテストセットでは、タジクの厳密なフルコール精度はベースモデルの20.69から64.14に上昇した。
ツールコール以外では、タジクの知識ベンチマークの精度は28.0から35.0に上昇し、ベレベレ・タジクは大きな変化を示さず、英語のMMLUは60.8から52.5に低下する。
- 参考スコア（独自算出の注目度）: 0.28106259549258145
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We release Saidzoda-Tajik-LFM-2.6B, a Tajik adaptation of the 2.6B-parameter hybrid model LFM2.5-2.6B-Base, built for tool calling in Tajik on modest hardware. The recipe has two stages: LoRA continued pretraining (CPT) on 1,485,319 cleaned Tajik web documents for 3 epochs, then one epoch of supervised fine-tuning (SFT) on a mix of machine-translated Tajik tool calls, English tool calls kept as replay, and Tajik instructions. On a 174-item tool-calling test set built from BFCL v3 and machine-translated to Tajik, strict full-call accuracy on Tajik prompts rises from 20.69 for the base model to 64.14 (paired difference +43.45 points, 95% interval +35.2 to +51.7); a lenient parser that also accepts the base model's own call formats puts the base at 31.72. English shows no detectable change (76.55 and 77.24). Every CPT checkpoint scores zero: CPT removes the native tool-call format and, as the lenient re-scoring shows, part of the skill itself. Outside tool calling, accuracy on a Tajik knowledge benchmark rises from 28.0 to 35.0, Belebele Tajik shows no significant change, and English MMLU falls from 60.8 to 52.5. The model is not a general Tajik assistant. It almost never declines when no tool fits (6.9% correct on Tajik, against 31.0% for the base under the lenient parser), it is weak at multi-turn calls, and its calls should be checked before they are executed. We describe the data, the training settings and every evaluation in enough detail to repeat them.
- Abstract（参考訳）: 我々は2.6Bパラメーターハイブリッドモデル LFM2.5-2.6B-Base のタジック適応である Saidzoda-Tajik-LFM-2.6B をリリースした。
レシピには2つのステージがある: LoRAは1,485,319回の事前トレーニング(CPT)を3つのエポックで行う。
BFCL v3とタジク語に機械翻訳された174イテムのツールコールテストセットでは、ベースモデルの20.69から64.14(paired difference +43.45 points, 95% interval +35.2 to +51.7)までの厳密なフルコール精度が上昇し、ベースモデルの呼び出しフォーマットも受け入れるレレントパーサーは31.72となる。
英語では検出可能な変更はない(76.55と77.24)。
すべてのCPTチェックポイントはゼロである: CPTはネイティブツールコールフォーマットを削除し、寛大な再描画が示すように、スキル自体の一部です。
ツールコール以外では、タジクの知識ベンチマークの精度は28.0から35.0に上昇し、ベレベレ・タジクは大きな変化を示さず、英語のMMLUは60.8から52.5に低下する。
モデルは一般的なタジックアシスタントではありません。
ツールが適合しない場合(タジクでは6.9%、寛大なパーサーでは31.0%)、マルチターン呼び出しでは弱いため、実行前にその呼び出しをチェックする必要がある。
データ、トレーニング設定、すべての評価について、それを繰り返すのに十分な詳細で説明します。
関連論文リスト
- Small agents should know what their tools do [45.88028371034407]
エフェクト型ツールの実行可能な世界であるエフェクトワールドを紹介する。
どのツールでもその効果を宣言します。
このデータで訓練された低ランクは大きな利益をもたらす。
論文 参考訳（メタデータ） (2026-10-26T10:28:14Z) - OpenTWBench (Open Taiwan Benchmark): Taiwan-Domain Knowledge Evaluation for Large Language Models, and How the Measurement Apparatus Shapes the Score [2.270901425955459]
本稿では,大規模言語モデルにおける台湾ドメイン知識のオープン評価スイートであるOpenTWBenchを紹介する。
Tw-exam-benchには、台湾の試験の15年間の公開データから、148人を対象に255,854の4項目の質問が含まれている。
tw-formosa-benchには1,696の難問が含まれている。
論文 参考訳（メタデータ） (2026-10-14T09:18:47Z) - MetroLLM-Bench: Evaluating Language Models as Transit Kiosk Runtimes [0.0]
トランジットキオスクのポリシー層として,言語モデルをテストするための955ケースベンチマークであるMetroLLM-Benchを紹介する。
37駅から414駅までの6つの実際の地下鉄システムと、ルーティング、運賃計算、ディスラプション、アクセシビリティ、敵の入力を含む11のカテゴリをカバーしている。
14の決定論的スコアリングコンポーネントがTier 1を形成し、8つの意味論的品質コンポーネントがTier 2を形成し、そのうち6つは言語モデル判断器を使用している。
論文 参考訳（メタデータ） (2026-09-09T10:46:56Z) - MemToC: Benchmarking Memory-Tool Conflict Resolution in Large Language Models [49.47300047353726]
MemToCは、実行時ツールによるポストツール-リターン仲裁のベンチマークである。
MemToCは、542の質制御された事実質問から構築された6,504回の評価エピソードで構成されている。
オープンウェイトな7-9Bモデルでは、ツールが強く支配的なクローズドブックの回答を返す。
論文 参考訳（メタデータ） (2026-08-26T18:22:03Z) - Robust Assamese Speech Recognition through Controlled Fine-Tuning of Whisper Models [1.4095958360608893]
本稿ではMozilla Common Voice 24.0-Assamese corpusで学習したWhisper-based Assamese ASRシステムについて述べる。
ハードウェア対応の最適化トレーニングパイプラインは、リソース制約のある環境向けに実装されている。
論文 参考訳（メタデータ） (2026-07-19T09:54:52Z) - TASR: Training-Free Adaptive Stopping for Iterative Retrieval [12.177557521540082]
反復的検索拡張生成エージェントは、モデルが解答に収束した後も検索を続けることで、一般的にオーバースペンドされる。
TASR(Training-Free Adaptive Stopping Rule)は,モデルが前ラウンドの正規化を繰り返すと発火する一行述語である。
論文 参考訳（メタデータ） (2026-06-11T18:35:14Z) - TEMPO: Scaling Test-time Training for Large Reasoning Models [87.61789183311856]
テストタイムトレーニング(TTT)は、推論時間中にラベルのないテストインスタンスにモデルパラメータを適用する。
TTTフレームワークであるTEMPOを提案する。これは、ラベル付きデータセット上で定期的な批評家の再検討を行い、ラベル付き質問に対するポリシー修正をインターリーブする。
論文 参考訳（メタデータ） (2026-04-21T10:01:04Z) - Multilingual Hate Speech Detection in Social Media Using Translation-Based Approaches with Large Language Models [4.66584517664999]
キーワードフィルタリングにより収集した英語,ウルドゥー語,スペイン語で10,193ツイートのトリリンガルデータセットを導入する。
GPT-3.5 Turbo と Qwen 2.5 72B をアテンション層に統合することで,高い性能を実現する。
我々のフレームワークは、多言語ヘイトスピーチ検出のための堅牢なソリューションを提供し、世界中のより安全なデジタルコミュニティを育む。
論文 参考訳（メタデータ） (2025-06-09T18:53:56Z) - Benchmarking Reasoning Robustness in Large Language Models [76.79744000300363]
新規データや不完全データでは,性能が著しく低下することがわかった。
これらの結果は、厳密な論理的推論に対するリコールへの依存を浮き彫りにした。
本稿では,情報不足によって引き起こされる幻覚を利用して推論ギャップを明らかにする,Math-RoBと呼ばれる新しいベンチマークを提案する。
論文 参考訳（メタデータ） (2025-03-06T15:36:06Z) - Building Math Agents with Multi-Turn Iterative Preference Learning [56.71330214021884]
本稿では,モデル性能をさらに向上させるために,補完的な直接選好学習手法について検討する。
既存の直接選好学習アルゴリズムは、もともとシングルターンチャットタスク用に設計されている。
この文脈に合わせたマルチターン直接選好学習フレームワークを提案する。
論文 参考訳（メタデータ） (2024-09-04T02:41:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。