論文の概要: Iterate on an LLM, Serve on an SLM

• arxiv url: http://arxiv.org/abs/2610.14576v1
• Date: Sat, 10 Oct 2026 04:51:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.080487
• Title: Iterate on an LLM, Serve on an SLM
• Title（参考訳）: LLMの反復, SLMのサーブ
• Abstract要約: 私たちは、高速で効率的で経済的な方法で、小さなモデルから正しい振る舞いを取り出す方法を示します。 まず、ライブトラフィックから即座にフィードバックを得て、プロンプトスペース、フロンティアモデルで望ましい行動を開発する。 そして、その動作が収束すると、監督された微調整によって記録された生産挙動をSLMに蒸留する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As frontier LLMs gain more capabilities, the cost to run them also goes up. At the same time, small language models (SLMs) also gain more capabilities but have largely been able to keep their cost stable, offering 5-40 times cheaper inference for the narrow, repetitive subtasks that agents decompose work into. However, the standing limiting factor is getting the correct behavior out of a small model in a fast, efficient, and economical way. Unfortunately, in most cases, zero-shot small models fail narrow production tasks. Furthermore, retraining one every time the behavior changes is too slow to iterate on. We propose doing both in sequence. First, develop the desired behavior in prompt space, on a frontier model, with immediate feedback from live traffic. Then, once the behavior converges, distill the recorded production behavior (not synthetic imitations of it) into an SLM through supervised fine-tuning (SFT). We show a proper use case of this method through a scheduling agent for home-care agencies that fans out a single yes/no safety decision per caregiver-shift pair on GPT-5.4-nano. A LoRA-tuned Qwen3-8B trained on 11.6k recorded production decisions reaches 0.913 agreement, while the teacher (GPT-5.4-nano), re-run on its own recorded prompts, agrees with itself only 72.7% of the time, pointing to the fact that the SLM may also be more consistent. Furthermore, when the two disagreed, a blinded professional scheduler sided with the student 48-29. Finally, we find that the SLM has approximately 2.5 times lower median latency and is a fraction of the cost. We believe this lifecycle of quick building, live feedback, and cheap inference is a blueprint for others building similar systems.
• Abstract（参考訳）: よりフロンティアなLLMがより多くの能力を得るにつれて、それらを実行するコストも上昇します。 同時に、SLM(Small Language Model)も機能を増やしたが、ほとんどはコストを安定させ、エージェントが処理を分解する狭い反復的なサブタスクに対して5～40倍のコストの推論を提供することができた。 しかし、立った制限要因は、高速で効率的で経済的な方法で、小さなモデルから正しい振る舞いを取り出すことです。 残念なことに、多くの場合、ゼロショットの小さなモデルは狭い生産タスクを失敗する。 さらに、振る舞いが変わる度に1度再トレーニングするのは、反復するには遅すぎる。 我々は両方を順番に行うことを提案する。 まず、ライブトラフィックから即座にフィードバックを得て、プロンプトスペース、フロンティアモデルで望ましい行動を開発する。 次に、その動作が収束すると、記録された生産挙動(合成模倣ではない)を監督微調整(SFT)によりSLMに蒸留する。 GPT-5.4-nano上の介護者1対あたりの安全判断を1件ずつ扇動するホームケア代理店のスケジューリングエージェントを用いて,本手法の適切な利用事例を示す。 11.6kで訓練されたロラ調のQwen3-8Bは0.913の合意に達したが、教師(GPT-5.4-nano)は自身の記録したプロンプトで再実行し、SLMがより一貫性があるかもしれないという事実を指摘して72.7%の時間に同意した。 さらに2人が反対すると、盲目のプロのスケジューラが48-29に味方した。 最後に、SLMは中央値の約2.5倍のレイテンシを持ち、コストのごく一部であることがわかった。 迅速な構築、ライブフィードバック、安価な推論というこのライフサイクルは、他の人たちが同様のシステムを構築するための青写真だと私たちは考えています。

関連論文リスト

• Can LLMs Perceive Time? An Empirical Investigation [0.8460698440162889]
  大規模な言語モデルは、自分たちのタスクがどれくらいかかるかを見積もることはできない。 68のタスクと4つのモデルファミリーにまたがる4つの実験を通して、この制限について検討する。 モデルは、トレーニングから持続時間に関する命題的な知識を持っているが、自身の推論時間に経験的な根拠がない。
  論文  参考訳（メタデータ） (2026-03-09T18:51:04Z)
• MentorCollab: Selective Large-to-Small Inference-Time Guidance for Efficient Reasoning [85.05204262206296]
  大きな推論モデル(LRM)は、長い思考の連鎖を生成することによって、強い性能を達成するが、その推論コストは高い。 小型言語モデル(SLM)はより効率的であるが、多段階推論タスクでは困難である。 本研究では, LRM が SLM を選択的かつ簡潔にガイドする推論時協調手法である MentorCollab を提案する。
  論文  参考訳（メタデータ） (2026-02-05T04:58:16Z)
• Language-based Trial and Error Falls Behind in the Era of Experience [50.503828360874536]
  大きな言語モデル(LLM)は、言語ベースのエージェントタスクでは優れているが、見つからない非言語環境への適用性は依然として限られている。 本研究では,探索の禁止コストが主なボトルネックであることを示す。 セマンティック・エクスプロイトから探索を分離する新しいフレームワークであるSCOUTを提案する。
  論文  参考訳（メタデータ） (2026-01-29T14:08:41Z)
• In-Context Distillation with Self-Consistency Cascades: A Simple, Training-Free Way to Reduce LLM Agent Costs [15.204355975284658]
  微調整に伴う開発コストを発生させることなく, LLMエージェント推論コストを削減するための簡易な手法を提案する。 最も重要なことは、知識蒸留のアイデアを文脈内学習環境に適応させる$textitin-context distillation$を導入することである。 提案手法では,各エージェントステップで関連する教師のデモンストレーションを検索し,インコンテキストの事例として学生に提供し,ハエの教師行動の模倣を可能にする。
  論文  参考訳（メタデータ） (2025-12-02T09:11:05Z)
• Diffusion Language Models Know the Answer Before Decoding [56.96815863705218]
  拡散言語モデル (DLM) は自己回帰的アプローチの代替として登場した。 我々の研究は、DLMの早期回答収束の見過ごされた特性を強調し、活用する。 Prophetは、早期コミット復号を可能にするトレーニングフリーの高速復号化パラダイムである。
  論文  参考訳（メタデータ） (2025-08-27T15:40:25Z)
• Runaway is Ashamed, But Helpful: On the Early-Exit Behavior of Large Language Model-based Agents in Embodied Environments [54.67512489842682]
  大規模言語モデル(LLM)は、複雑な実施環境において、強力な計画と意思決定能力を示す。 LLMをベースとしたエージェントの早期退避行動を探究する第一歩を踏み出す。
  論文  参考訳（メタデータ） (2025-05-23T08:23:36Z)
• Learning to Reason via Self-Iterative Process Feedback for Small Language Models [5.3831551965806534]
  小型言語モデル (SLM) は大規模言語モデル (LLM) よりも効率的で費用効率が良く、カスタマイズできる。 この研究により、SLMは自己満足的なフィードバックから推論を学ぶことができる。
  論文  参考訳（メタデータ） (2024-12-11T14:05:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。