論文の概要: MOSCOPT: Mixture-of-Skills Collective Optimization for LLM Agents

• arxiv url: http://arxiv.org/abs/2609.14399v2
• Date: Fri, 18 Sep 2026 08:37:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:16.681011
• Title: MOSCOPT: Mixture-of-Skills Collective Optimization for LLM Agents
• Title（参考訳）: MOSCOPT:LLMエージェントの混合技術集合最適化
• Abstract要約: MOSCOPTはテキストネイティブでパラメータフリーなアルゴリズムで、N$スキルのプールと、ステップ毎にK$スキルを動的に選択するゲーティングスキルの$G$を共同で最適化する。 5つのベンチマークと3つのLLMでの実験と詳細な改善は、MOSCOPTがすべてのベースラインを一貫して上回ることを示した。
• 参考スコア（独自算出の注目度）: 6.922578755833123
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Natural language prompts and skills serve as the strategic backbone of LLM-based agents. Recent advances in prompt and skill optimization have achieved notable gains, yet all existing methods optimize a \emph{single} text template---missing the synergy among multiple complementary strategies. We propose MOSCOPT, a text-native, parameter-free algorithm that jointly optimizes a pool of $N$ skills and a gating skill $G$ that dynamically selects $K$ skills per step. To effectively optimize the skills, we build the EditAdam with internally maintained dual states. Through the three-phase interleaved updates with EditAdam, the system monotonically improves without gradient or parameter tuning. Extensive experiments and detailed ablations across 5 benchmarks and 3 target LLMs demonstrate that MOSCOPT consistently outperforms all baselines, and confirm that both the mixture-of-skills architecture with selective activation and the collective evolution with three-phase interleaving are essential to its superior performance. Code is released https://github.com/zhangzhenyu13/SummerClaw/tree/master/summerclaw/agent_trainer/algorithms/moscopt.
• Abstract（参考訳）: 自然言語のプロンプトとスキルは、LLMベースのエージェントの戦略的バックボーンとして機能する。 近年のプロンプトとスキル最適化の進歩は目覚ましい成果を上げているが、既存のすべてのメソッドが 'emph{single} テキストテンプレートを最適化している。 我々は,テキストネイティブなパラメータフリーアルゴリズムMOSCOPTを提案する。このアルゴリズムは,N$スキルのプールと,ステップ毎にK$スキルを動的に選択するゲーティングスキル$G$を共同で最適化する。 スキルを効果的に最適化するために、内部に2つの状態を維持したEditAdamを構築します。 EditAdamによる3フェーズのインターリーブ更新によって、システムは勾配やパラメータチューニングなしで単調に改善される。 5つのベンチマークと3つのLDMを対象とする大規模な実験と詳細な改善により、MOSCOPTは全てのベースラインを一貫して上回り、選択的なアクティベーションと3相インターリービングによる集合的進化の両方が優れた性能に不可欠であることが確認された。 コードはhttps://github.com/zhangzhenyu13/SummerClaw/tree/master/summerclaw/agent_trainer/algorithms/moscoptで公開されている。

関連論文リスト

• A Hybrid Nested Harness for Decoupling Structure and Parameters in LLM-Driven Optimization [6.599344783327054]
  言語モデルを利用した進化的アルゴリズムでは、LLMは構造成分と連続パラメータを同時に更新する単一の演算子として機能する。 我々は,LLMを外ループとするハイブリッドネスト探索を形式化し,LLMが数値ギャップを持つ構造的スケッチを提案し,内ネストがスケッチをチューニングする。 i) クローズドフォームテスト関数のメタ最適化、(ii) システム研究と社会的ジレンマのためのコードベースのポリシー、(iii) ベイズ推論タスクの近似である。
  論文  参考訳（メタデータ） (2026-08-08T14:35:22Z)
• $\mathcal{S}^2$IT: Stepwise Syntax Integration Tuning for Large Language Models in Aspect Sentiment Quad Prediction [51.165432266846096]
  構文構造情報は、大言語モデル(LLM)の生成パラダイムにおいて未利用である S2ITは、多段階のチューニングプロセスを通じて、構文構造知識をLLMに徐々に統合する。 実験により、S2ITは複数のデータセットにわたる最先端のパフォーマンスを大幅に改善することが示された。
  論文  参考訳（メタデータ） (2026-04-25T13:24:29Z)
• SkillMOO: Multi-Objective Optimization of Agent Skills for Software Engineering [9.008257157319271]
  SkillMOOはパスレートを最大131%改善し、最適化オーバーヘッドの低いタスク毎の最高のベースラインに対して、コストを最大32%削減する。 LLMによる編集とNSGA-IIサバイバルセレクションを用いて,自動でスキルバンドルを進化させる多目的最適化フレームワークであるSkillMOOを提案する。 3つのSkillsBenchソフトウェアエンジニアリングタスクでは、SkillMOOはパスレートを最大131%改善し、最適化オーバーヘッドの低いタスク毎の最高のベースラインに対して最大32%のコスト削減を実現している。
  論文  参考訳（メタデータ） (2026-04-10T13:08:01Z)
• MetaClaw: Just Talk -- An Agent That Meta-Learns and Evolves in the Wild [74.7263562191605]
  大規模言語モデル(LLM)エージェントは、複雑なタスクにますます使われている。 既存の方法は、知識を蒸留せずに生の軌跡を保存するか、静的なスキルライブラリを維持するか、または再訓練のために破壊的なダウンタイムを必要とする。 本稿では,基本的なLCMポリシと再利用可能な行動スキルのライブラリを共同で進化させるメタ学習フレームワークであるMetaClawを紹介する。
  論文  参考訳（メタデータ） (2026-03-17T22:30:30Z)
• Taming LLMs by Scaling Learning Rates with Gradient Grouping [49.91587150497186]
  大きな言語モデル(LLM)のトレーニングは、その大規模で異質なアーキテクチャのため、課題を提起する。 SGG(Scaling with Gradient Grouping)は、動的グルーピングとグループ固有のスケーリングによる適応的な学習率推定を改善するグラデーションラッパーである。
  論文  参考訳（メタデータ） (2025-06-01T15:30:37Z)
• AlphaAdam:Asynchronous Masked Optimization with Dynamic Alpha for Selective Updates [17.490809667438818]
  大規模言語モデル(LLM)の最適化フレームワークであるAlphaAdamを提案する。 パラメータの更新を分離し、その強度を動的に調整することで、AlphaAdamは収束を加速し、トレーニングの安定性を向上させる。
  論文  参考訳（メタデータ） (2025-01-30T02:10:23Z)
• Optima: Optimizing Effectiveness and Efficiency for LLM-Based Multi-Agent System [75.25394449773052]
  大規模言語モデル (LLM) に基づくマルチエージェントシステム (MAS) は協調的問題解決において顕著な可能性を示している。 通信効率の低下、スケーラビリティの低下、効果的なパラメータ更新方法の欠如などです。 本稿では,コミュニケーション効率とタスク効率を両立させ,これらの課題に対処する新しいフレームワークOptimaを提案する。
  論文  参考訳（メタデータ） (2024-10-10T17:00:06Z)
• Decoding-Time Language Model Alignment with Multiple Objectives [116.42095026960598]
  既存の手法は主に、1つの報酬関数に対してLMを最適化することに集中し、それらの適応性は様々な目的に制限される。 本稿では,予測の線形結合から次のトークンを出力する復号時間アルゴリズムである$textbfmulti-objective decoding (MOD)$を提案する。 提案手法は, 自然条件下であっても, 既存のアプローチが準最適であることを示すとともに, 提案手法の最適性を保証する。
  論文  参考訳（メタデータ） (2024-06-27T02:46:30Z)
• LLM as a Complementary Optimizer to Gradient Descent: A Case Study in Prompt Tuning [69.95292905263393]
  グラデーションベースとハイレベルなLLMは、協調最適化フレームワークを効果的に組み合わせることができることを示す。 本稿では,これらを相互に補完し,組み合わせた最適化フレームワークを効果的に連携させることができることを示す。
  論文  参考訳（メタデータ） (2024-05-30T06:24:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。