論文の概要: Pioneer Agent: Continual Improvement of Small Language Models in Production

• arxiv url: http://arxiv.org/abs/2604.09791v1
• Date: Fri, 10 Apr 2026 18:13:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:15.675076
• Title: Pioneer Agent: Continual Improvement of Small Language Models in Production
• Title（参考訳）: Pioneer Agent: 生産における小さな言語モデルの継続的な改善
• Authors: Dhruv Atreja, Julia White, Nikhil Nayak, Kelton Zhang, Henrijs Princis, George Hurn-Maloney, Ash Lewis, Urchade Zaratiana,
• Abstract要約: 小さな言語モデルは、低コスト、高速な推論、特殊化の容易さのために、製品展開にとって魅力的なものだ。 特定のタスクに小さな言語モデルを適用するプロセスを自動化するクローズドループシステムであるPioneer Agentを提案する。
• 参考スコア（独自算出の注目度）: 6.452260317191361
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Small language models are attractive for production deployment due to their low cost, fast inference, and ease of specialization. However, adapting them to a specific task remains a challenging engineering loop, driven not by training itself but by surrounding decisions: data curation, failure diagnosis, regression avoidance, and iteration control. We present Pioneer Agent, a closed-loop system that automates this lifecycle. In cold-start mode, given only a natural-language task description, the agent acquires data, constructs evaluation sets, and iteratively trains models by jointly optimizing data, hyperparameters, and learning strategy. In production mode, given a deployed model with labeled failures, it diagnoses error patterns, constructs targeted training data, and retrains under explicit regression constraints. To evaluate this setting, we introduce AdaptFT-Bench, a benchmark of synthetic inference logs with progressively increasing noise, designed to test the full adaptation loop: diagnosis, curriculum synthesis, retraining, and verification. Across eight cold-start benchmarks spanning reasoning, math, code generation, summarization, and classification, Pioneer Agent improves over base models by 1.6-83.8 points. On AdaptFT-Bench, it improves or preserves performance in all seven scenarios, while naive retraining degrades by up to 43 points. On two production-style deployments built from public benchmark tasks, it raises intent classification from 84.9% to 99.3% and Entity F1 from 0.345 to 0.810. Beyond performance gains, the agent often discovers effective training strategies, including chain-of-thought supervision, task-specific optimization, and quality-focused data curation, purely from downstream feedback.
• Abstract（参考訳）: 小さな言語モデルは、低コスト、高速な推論、特殊化の容易さのために、製品展開にとって魅力的なものだ。 しかしながら、特定のタスクにそれらを適用することは、トレーニング自体ではなく、データキュレーション、障害診断、回帰回避、イテレーション制御といった、周辺の決定によって駆動される、難しいエンジニアリングループのままである。 本稿では,このライフサイクルを自動化するクローズドループシステムであるPioneer Agentを紹介する。 自然言語によるタスク記述のみを与えられたコールドスタートモードでは、エージェントはデータを取得し、評価セットを構築し、データ、ハイパーパラメータ、学習戦略を協調的に最適化することでモデルを反復的に訓練する。 実運用モードでは、ラベル付き障害のあるデプロイモデルによってエラーパターンを診断し、ターゲットとするトレーニングデータを構築し、明示的な回帰制約の下で再トレーニングする。 この設定を評価するために、段階的に増加する雑音を伴う合成推論ログのベンチマークであるAdaptFT-Benchを導入し、診断、カリキュラム合成、再学習、検証の完全な適応ループをテストする。 推論、数学、コード生成、要約、分類を含む8つのコールドスタートベンチマークで、パイオニアエージェントはベースモデルよりも1.6-83.8ポイント改善している。 AdaptFT-Benchでは、7つのシナリオすべてでパフォーマンスを改善したり、維持したりします。 公開ベンチマークタスクから構築された2つのプロダクションスタイルのデプロイメントでは、インテント分類を84.9%から99.3%に、Entity F1を0.345から0.810に引き上げている。 パフォーマンス向上以外にも、エージェントは、チェーンオブ思考の監督、タスク固有の最適化、品質重視のデータキュレーションなどの効果的なトレーニング戦略を、純粋に下流からのフィードバックから発見することが多い。

関連論文リスト

• Learning to Solve and Verify: A Self-Play Framework for Code and Test Generation [69.62857948698436]
  大規模言語モデル(LLM)の最近の進歩は、コーディングベンチマークのパフォーマンスを改善している。 しかし、手軽に利用できる高品質なデータの枯渇により、改善は停滞している。 本稿では,単一モデルのコードとテスト生成能力を共同で改善するセルフプレイ・ソルバ検証フレームワークであるSol-Verを提案する。
  論文  参考訳（メタデータ） (2025-02-20T18:32:19Z)
• A new pathway to generative artificial intelligence by minimizing the maximum entropy [0.0]
  現在のモデルは、生成されたデータとトレーニングセットの間の距離を最小にすることで訓練される。 トレーニングセットに適合しないが、最も情報に富むもっともノイズの多いデータ表現を見つけるフレームワークを通じてパラダイムシフトを導入する。 結果は、データ効率が良く柔軟性があり、生成プロセスの制御と影響を許容する一般的な物理駆動モデルである。
  論文  参考訳（メタデータ） (2025-02-18T21:16:33Z)
• What Do Learning Dynamics Reveal About Generalization in LLM Reasoning? [83.83230167222852]
  モデルの一般化動作は,事前記憶列車の精度と呼ばれるトレーニング指標によって効果的に特徴づけられることがわかった。 モデルの学習行動と一般化を結びつけることで、トレーニング戦略に目標とする改善を導くことができる。
  論文  参考訳（メタデータ） (2024-11-12T09:52:40Z)
• Towards Stable Machine Learning Model Retraining via Slowly Varying Sequences [6.067007470552307]
  そこで本研究では,リトレーニングを繰り返して安定なモデル列を見つけるためのモデルに依存しないフレームワークを提案する。 最適モデルの復元が保証される混合整数最適化の定式化を開発する。 平均的に、予測力の2%の低下は、安定性の30%の改善につながることが判明した。
  論文  参考訳（メタデータ） (2024-03-28T22:45:38Z)
• Step-On-Feet Tuning: Scaling Self-Alignment of LLMs via Bootstrapping [53.454408491386886]
  自己アライメントのブートストラップは、シングルラウンドアプローチをはるかに上回る。 モデルが継続的に強化した複数ショット機能を活用してゼロまたはワンショットのパフォーマンスを向上するステップ・オン・フィート・チューニング(SOFT)を提案する。 簡単な学習法に基づいて、自己アライメントの性能をさらに向上させるSOFT+を提案する。
  論文  参考訳（メタデータ） (2024-02-12T12:30:42Z)
• Exploring Learning Complexity for Efficient Downstream Dataset Pruning [8.990878450631596]
  既存のデータセットプルーニングメソッドでは、データセット全体のトレーニングが必要になる。 本稿では、DLC(Distorting-based Learning Complexity)という、単純で、新規で、トレーニング不要な難易度スコアを提案する。 本手法は,より高速に学習できるサンプルを少ないパラメータで学習できるという観察結果に動機付けられている。
  論文  参考訳（メタデータ） (2024-02-08T02:29:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。