論文の概要: MERA: Model Evolution and Routing with Skill Adaptation for Agentic Systems at Scale

• arxiv url: http://arxiv.org/abs/2608.10333v1
• Date: Tue, 11 Aug 2026 00:28:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-12 19:14:45.853289
• Title: MERA: Model Evolution and Routing with Skill Adaptation for Agentic Systems at Scale
• Title（参考訳）: MERA:大規模エージェントシステムのためのスキル適応によるモデル進化とルーティング
• Abstract要約: LLMエージェントは、1つのタスクでモデル呼び出しの不均一なシーケンスを実行する。 以前のルーティング手法では、より安価な小さなモデルと大きなモデルに簡単な呼び出しを割り当てる。 MERAは代わりに小さなモデル自体を改善し、単一のモデル呼び出しを適応の単位として使用した。
• 参考スコア（独自算出の注目度）: 23.327794385289952
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: LLM agents execute heterogeneous sequences of model calls within a single task: some invocations require careful reasoning, while others are structured steps such as formatting or tool-argument construction. Prior routing methods exploit this asymmetry by assigning easy invocations to a cheaper small model and difficult ones to a large model. Such policies reduce inference cost, but they leave the small model's capability unchanged, so attainable savings remain bounded by the work the student can already solve. MERA instead improves the small model itself, using a single model invocation as the unit of adaptation. In each cycle, MERA replays failed student invocations to obtain execution-verified teacher demonstrations, distills recurring procedures into an iteratively updated SkillBook, and fine-tunes a student LoRA adapter via supervised learning and optional GRPO. Routing serves as supporting machinery for deployment: the improved student is served behind a cost-calibrated router with verifier-backed fallback, and a candidate SkillBook, adapter, or router is admitted only when joint replay preserves task quality. Empirically, four-cycle adaptation raises Qwen2.5-Coder-1.5B from 28.7% to 49.7% pass on held-out HumanEval+MBPP. Under verifier-backed fallback, the deployed policy retains 88.3% pass at 60.8% of always-Luna cost. On TAU-2, a fine-tuned Qwen3.5-2B improves from 14/35 to 18/35 and matches an unadapted 4B model. These results indicate that verifier-backed multi-cycle adaptation can increase small-model capability, rather than only routing around a fixed student.
• Abstract（参考訳）: LLMエージェントは1つのタスク内でモデル呼び出しの不均一なシーケンスを実行します。 従来のルーティング手法はこの非対称性を利用して、簡単な呼び出しをより安価な小さなモデルと難しい呼び出しを大きなモデルに割り当てる。 このようなポリシーは推論コストを削減しますが、小さなモデルの能力は変わらないままです。 MERAは代わりに小さなモデル自体を改善し、単一のモデル呼び出しを適応の単位として使用した。 それぞれのサイクルで、MERAは失敗に終わった学生の呼び出しを再生して、実行検証された教師のデモを取得し、繰り返し手順を反復的に更新されたSkillBookに蒸留し、教師付き学習とオプションのGRPOを介して学生のLoRAアダプタを微調整する。 改良された学生は検証済みのフォールバックを備えたコスト校正ルータの後ろで提供され、候補のSkillBook、アダプタ、ルータは、共同再生がタスク品質を保存する場合にのみ許可される。 実証的に、4サイクル適応ではQwen2.5-Coder-1.5Bが28.7%から49.7%に上昇し、HumanEval+MBPPが保留されている。 検証済みのフォールバックの下では、デプロイされたポリシーは、常にルナのコストの60.8%で88.3%のパスを維持している。 TAU-2では、微調整されたQwen3.5-2Bが14/35から18/35に改善され、未適応の4Bモデルと一致する。 これらの結果から, 検証者支援型マルチサイクル適応は, 固定学生をルーティングするだけでなく, 小型モデルの能力を高める可能性が示唆された。

関連論文リスト

• TACIT-Switch: Cost-Aware Model Escalation for LLM Agents from Censored Supervision [2.681967953218225]
  より小さな言語モデルバックボーンを持つエージェントは永続的な障害モードにドリフトできるが、より大きなバックボーンを持つエージェントは一般的により信頼性が高いがよりコストがかかる。 この信頼性の高いトレードオフは、より大きなバックボーンを持つエージェントをいつ呼び出すかを決定するルーティングメソッドを動機付けます。 提案手法であるTACIT-SWITCHは,蓄積された軌跡の証拠から永久的ハンドオフポリシーを学習する。
  論文  参考訳（メタデータ） (2026-08-28T04:33:11Z)
• DuoMem: Towards Capable On-Device Memory Agents via Dual-Space Distillation [26.38620865128242]
  DuoMemは、手続き的問題解決能力を大きな教師モデルからコンパクトな学生モデルに転送する二重空間蒸留フレームワークである。 ALFWorldで評価されている。 DuoMemで強化された4Bモデルは、72Bの教師より3倍早くタスクを完了している。
  論文  参考訳（メタデータ） (2026-06-29T08:38:40Z)
• Three Roles, One Model: Role Orchestration at Inference Time to Close the Performance Gap Between Small and Large Agents [0.4666493857924357]
  複雑なマルチステップ環境において,推論時足場のみに追加のトレーニング計算を使わずに,小さなモデルの性能を向上させることができるかどうかを検討した。 我々は,AppWorldベンチマークのQwen3-8Bを,完全精度と4ビット量子化構成の両方で評価した。 本格的な推測では、私たちの足場付き8Bモデルは、オリジナルのAppWorld評価からDeepSeek-Coder 33Bインストラクション(7.1%)を上回っています。
  論文  参考訳（メタデータ） (2026-04-13T13:40:33Z)
• Quantization-Robust LLM Unlearning via Low-Rank Adaptation [1.9261138876072244]
  大規模言語モデル(LLM)アンラーニングは、訓練されたモデルから対象とする知識を取り除くことを目的としている。 低ランク適応(LoRA)を用いた量子化ロバストアンラーニングを提案する。 LoRAは4ビットユーティリティを最大7.93ポイント(BOOKSではNPO+GDR 50.17から58.10)改善し、GA+GDR(40.06から44.82、4.76の増加)のNEWSでは高い4ビットユーティリティを提供する。
  論文  参考訳（メタデータ） (2026-02-13T18:01:40Z)
• RouteMoA: Dynamic Routing without Pre-Inference Boosts Efficient Mixture-of-Agents [91.0187958746262]
  RouteMoAは動的ルーティングを備えた効率的な混合エージェントフレームワークである。 軽量スコアラを使用して、クエリから粗い粒度のパフォーマンスを予測することで、初期スクリーニングを行う。 既存のモデル出力に基づいて、軽量な自己評価とクロスアセスメントによってこれらのスコアを洗練し、追加の推論なしで後部修正を提供する。
  論文  参考訳（メタデータ） (2026-01-26T04:22:22Z)
• Generative Adapter: Contextualizing Language Models in Parameters with A Single Forward Pass [109.34230156454574]
  大規模言語モデル(LM)は一般的に、新しい文脈におけるパフォーマンスを改善するために適応される。 微調整によってトレーニングコストが大幅に増加し、推論オーバーヘッドが増加する。 我々は、新しいコンテキストを低ランクLMアダプタに直接マッピングする効率的で効率的な適応手法である$GenerativeAdapter$を紹介した。
  論文  参考訳（メタデータ） (2024-11-08T00:42:47Z)
• SuperCorrect: Advancing Small LLM Reasoning with Thought Template Distillation and Self-Correction [89.56181323849512]
  SuperCorrectは、大きな教師モデルを使用して、より小さな学生モデルの推論と反映の両方を監督し、修正する新しい2段階のフレームワークである。 第1段階では、教師モデルから階層的な高レベルかつ詳細な思考テンプレートを抽出し、よりきめ細かい推論思考を導き出す学生モデルを指導する。 第2段階では、学生モデルの自己補正能力を高めるために、クロスモデル協調直接選好最適化(DPO)を導入する。
  論文  参考訳（メタデータ） (2024-10-11T17:25:52Z)
• Reset-free Reinforcement Learning with World Models [6.151562278670799]
  強化学習のためのモデルベースリセットフリー(MoReFree)エージェントを提案する。 MoReFreeは、リセット不要なタスクを処理するために、探索とポリシー学習という2つの重要なメカニズムを適用している。 環境報酬やデモンストレーションへのアクセスなしに、様々なリセットのないタスクに対して優れたデータ効率を示す。
  論文  参考訳（メタデータ） (2024-08-19T08:56:00Z)
• GKT: A Novel Guidance-Based Knowledge Transfer Framework For Efficient Cloud-edge Collaboration LLM Deployment [74.40196814292426]
  本稿では,新規かつ直感的なガイダンスベース知識伝達(GKT)フレームワークを提案する。 GKTは'teacher'として大きな言語モデルを使用し、ガイダンスプロンプトを生成し、より小さな'student'モデルと組み合わせて応答を確定する。 GSM8Kの最大精度は14.18%、GSM8Kの10.72倍、精度は14.00%、CSQAの7.73倍である。
  論文  参考訳（メタデータ） (2024-05-30T02:37:35Z)
• $\Delta$-Patching: A Framework for Rapid Adaptation of Pre-trained Convolutional Networks without Base Performance Loss [71.46601663956521]
  大規模なデータセットで事前トレーニングされたモデルはしばしば、時間とともにやってくる新しいタスクやデータセットをサポートするように微調整される。 モデルコピーを格納することなく、効率よく微調整ニューラルネットワークモデルに$Delta$-Patchingを提案する。 我々の実験によると、$Delta$-Networksは、トレーニングされるパラメータのごく一部しか必要とせず、初期のモデルパッチ作業より優れています。
  論文  参考訳（メタデータ） (2023-03-26T16:39:44Z)
• CHAPTER: Exploiting Convolutional Neural Network Adapters for Self-supervised Speech Models [62.60723685118747]
  自己教師付き学習(SSL)は、ラベルのないデータから表現を学習するための強力な技術である。 特徴抽出器にCNNアダプタを適用し,SSL音声モデルに特化して設計された効率的なチューニング手法を提案する。 特徴抽出器にCNNを追加することで、感情や話者のタスクへの適応が促進されることを実証的に見出した。
  論文  参考訳（メタデータ） (2022-12-01T08:50:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。