論文の概要: AgentBrew: Lifelong Knowledge Brewing from Strong Teachers to Weak LLM Agents
- arxiv url: http://arxiv.org/abs/2607.16851v1
- Date: Sat, 18 Jul 2026 15:23:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.273084
- Title: AgentBrew: Lifelong Knowledge Brewing from Strong Teachers to Weak LLM Agents
- Title(参考訳): AgentBrew:強力な教師からLLMエージェントまで、生涯の知識
- Abstract要約: LLMエージェントは通常、訓練中により強い教師が利用できる場合でも、コンパクトなテストタイムの学生を必要とします。
この設定には2つの課題がある: 環境はスパースのみを提供し、二進的なフィードバックを提供し、教師によって書かれたノートは、実質的に、より弱い学生によって具体的に実行可能なように調整されなければならない。
本稿では,2つの複合コンポーネントからなるエージェントブリューを提案する。まず,学生の失敗を環境に配慮したノートに変換することで,学習者からのフィードバックを緩やかにする。
第二に、学生認識合成は教師の知識を弱い実行者の操作的粒度に分類し、モデル固有で行動可能な指導を与える。
- 参考スコア(独自算出の注目度): 8.847692192802343
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deploying LLM agents typically requires a compact test-time student, even if a stronger teacher is available during training. We study knowledge brewing: distilling a teacher's interactive experience into a persistent external memory for the student. Crucially, this requires no weight updates, expert demonstrations, ground-truth labels, or test-time teacher access. This setting poses two challenges: environments provide only sparse, binary feedback, and teacher-authored notes must be inherently tailored to be concretely executable by a substantially weaker student. To address these hurdles, we propose AgentBrew, comprising two coupled components. First, a failure-triggered teacher--Ralph Loop mitigates sparse feedback by transforming student failures into environment-validated notes. Second, student-aware synthesis calibrates teacher knowledge to the weak executor's operational granularity, yielding model-specific, actionable guidance. Extensive evaluations and comprehensive ablations across coding, math, and tool-use tasks demonstrate that this asymmetric, training-free brewing paradigm produces highly capable yet deployable LLM agents.
- Abstract(参考訳): LLMエージェントの展開は通常、訓練中により強い教師が利用できる場合でも、コンパクトなテストタイムの学生を必要とする。
我々は,教師の対話的体験を学生の永続的な外部記憶に蒸留する知識醸造について研究する。
重要なのは、これはウェイトアップデートや専門家によるデモンストレーション、地味なラベル、テストタイムの教師アクセスを必要としないことだ。
この設定には2つの課題がある: 環境はスパースのみを提供し、二進的なフィードバックを提供し、教師によって書かれたノートは、実質的に、より弱い学生によって具体的に実行可能なように調整されなければならない。
これらのハードルに対処するために,2つの結合したコンポーネントからなるAgentBrewを提案する。
まず、障害に悩まされた教師-ラルフ・ループは、学生の失敗を環境に適応したノートに変換することで、まばらなフィードバックを緩和する。
第二に、学生認識合成は教師の知識を弱い実行者の操作的粒度に分類し、モデル固有で行動可能な指導を与える。
コーディング、数学、ツール使用タスクにおける広範囲な評価と包括的な改善は、この非対称でトレーニング不要な醸造パラダイムが、高機能で展開可能なLLMエージェントを生成することを示す。
関連論文リスト
- Multi-Turn On-Policy Distillation with Prefix Replay [73.10000453999088]
エージェントタスクに対するReplayed-Prefix On-Policy Distillation (ReOPD)を提案する。
ReOPDは、プレコンパイルされた教師の軌跡を再生プレフィックスとして再利用する。
OPDレベルの精度を保存または改善し、学生のトレーニング中にゼロツールコールを使用し、PDよりもトレーニングステップあたり最低4$times$高速である。
論文 参考訳(メタデータ) (2026-07-06T07:56:53Z) - Evaluating LLMs for Answering Student Questions in Introductory Programming Courses [0.0]
本研究では,CS1プログラミングコースにおける学生の質問に答える上で,大規模言語モデルの安全かつ効果的に支援する能力について検討する。
従来のテキストマッチングメトリクスは、オープンエンドの教育応答を評価するには不十分であるため、独自のLCM-as-a-Judgeメトリックを開発し、検証した。
以上の結果から,ジェミニ3フラッシュなどのモデルが典型的な教育者応答の品質基準を超越し,専門家の教育基準と高い整合性が得られることが示唆された。
論文 参考訳(メタデータ) (2026-03-30T11:22:58Z) - Masking Teacher and Reinforcing Student for Distilling Vision-Language Models [50.619420197124356]
大規模視覚言語モデル(VLM)は近年,目覚ましいマルチモーダル理解を実現している。
これにより、強力な大規模教師から効率的に学習できるコンパクトで有能なVLMの必要性が高まる。
マスク・プログレッシブ・強化学習の枠組みであるマスターズ(マスク教師と強化学生)を提案する。
論文 参考訳(メタデータ) (2025-12-23T14:40:38Z) - AdaSwitch: Adaptive Switching Generation for Knowledge Distillation [58.647880811071495]
スモール言語モデル(SLM)は、厳密な待ち時間と計算制約のあるアプリケーションには不可欠である。
トークンレベルでのオン・ポリティクスとオフ・ポリティクス・ジェネレーションを組み合わせた新しいアプローチであるAdaSwitchを提案する。
AdaSwitchは一貫して精度を向上し、SLMを蒸留するための実用的で効果的な方法を提供し、追加のオーバーヘッドを許容する。
論文 参考訳(メタデータ) (2025-10-09T06:38:37Z) - Distilling LLM Agent into Small Models with Retrieval and Code Tools [65.73762766854192]
Agent Distillationは、推論能力とタスク解決の振る舞いを大きな言語モデルから小さな言語モデルに移行するためのフレームワークである。
その結果,SLMは0.5B,1.5B,3Bのパラメータで,次世代の1.5B,3B,7Bモデルと競合する性能が得られることがわかった。
論文 参考訳(メタデータ) (2025-05-23T08:20:15Z) - Alice: Proactive Learning with Teacher's Demonstrations for Weak-to-Strong Generalization [69.96794098855938]
Weak-to-strong Generalization (W2SG)は、ますます有能な言語モデル(LLM)を監督するための有望なフレームワークを提供する。
伝統的なW2SG手法は受動的学習に依存しており、弱い教師は強い生徒を訓練するためにノイズの多いデモを提供する。
教師と生徒の相補的な知識を活用して学習プロセスを強化するフレームワークであるAliceを紹介した。
論文 参考訳(メタデータ) (2025-04-09T22:33:06Z) - Better than Your Teacher: LLM Agents that learn from Privileged AI Feedback [12.61197377492141]
大きな言語モデル(LLM)は印象的な意思決定能力を示している。
現在のメソッドでは、タスク実行中にエラーから自動的に自己改善するメカニズムが欠如している。
我々は,AIの専門家教師からのフィードバックを用いて,LLMエージェントを継続的に改善する反復的微調整フレームワークLEAPを提案する。
論文 参考訳(メタデータ) (2024-10-07T18:55:53Z) - Teaching-Assistant-in-the-Loop: Improving Knowledge Distillation from Imperfect Teacher Models in Low-Budget Scenarios [3.818273633647809]
3種類の信号型を利用した3成分フレームワークを提案する。
最初の信号は学生の自己整合性(学生の複数の出力の整合性)であり、学生の自信の代用となる。
提案した2段階フレームワークは,データセット間の信号を持たない微調整と比較して,20.79%の相対的な改善を実現している。
論文 参考訳(メタデータ) (2024-06-08T02:17:43Z) - Adaptive Teaching in Heterogeneous Agents: Balancing Surprise in Sparse Reward Scenarios [3.638198517970729]
実証から学ぶことは、類似エージェントでシステムを訓練する効果的な方法である。
しかし、生徒の能力の限界から外れたデモを自然に複製することは、効率的な学習を制限することができる。
本稿では,教師と学生エージェントの異質性の課題に対処するために,教員-学生学習フレームワークを提案する。
論文 参考訳(メタデータ) (2024-05-23T05:52:42Z) - Co-Supervised Learning: Improving Weak-to-Strong Generalization with
Hierarchical Mixture of Experts [81.37287967870589]
我々は,一貫した生徒を統括する,一貫した一貫した教師ではなく,多様な専門教師の集合を活用することを提案する。
我々のアプローチは、古典的な階層的な専門家の混合に似ている。
提案手法は,OpenAIの弱強ベンチマークと追加のマルチドメインデータセットを用いて,視覚認識タスクにより検証する。
論文 参考訳(メタデータ) (2024-02-23T18:56:11Z) - Large Language Model as a Policy Teacher for Training Reinforcement Learning Agents [16.24662355253529]
LLM(Large Language Models)は、高レベルの命令を提供することによって、シーケンシャルな意思決定タスクに対処することができる。
LLMは、特にリアルタイムな動的環境において、特定のターゲット問題に対処する専門性を欠いている。
LLMベースの教師エージェントからの指示を用いて、より小規模で専門的なRLエージェントを訓練することで、これらの課題に対処する新しいフレームワークを導入する。
論文 参考訳(メタデータ) (2023-11-22T13:15:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。