論文の概要: Offline Multi-agent Continual Cooperation via Skill Partition and Reuse
- arxiv url: http://arxiv.org/abs/2606.25389v1
- Date: Wed, 24 Jun 2026 04:40:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 17:05:30.21997
- Title: Offline Multi-agent Continual Cooperation via Skill Partition and Reuse
- Title(参考訳): スキル分割と再利用によるオフライン多エージェント連続協調
- Abstract要約: COMADは、Skill Partition and ReuseによるContinuous Offline Multi-agent Skill Discoveryのための原則化されたフレームワークである。
まず,マルチエージェントの動作データとオートエンコーダを併用して,コーディネーション知識を再利用可能なコーディネーションスキルに変換する。
マルチヘッドアーキテクチャによるスキル強化されたポリシー学習目標を構築し,再利用可能なスキルを具体化して優位関数を導出する。
- 参考スコア(独自算出の注目度): 5.758813772286136
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Extracting skills from multi-agent offline dataset improves learning efficiency via sharing task-invariant coordination skills among tasks. In settings where tasks occur sequentially and the space of skills grows exponentially, existing approaches that rely on heuristically designed and fixed-sized skill libraries struggle to resolve the problem of distributional shift and interference, facing catastrophic forgetting and plasticity loss. To address this problem and endow agents with the ability to continually discover and reuse coordination skills in open-environment, we propose COMAD, a principled framework for Continual Offline Multi-agent Skill Discovery via Skill Partition and Reuse. We first discover skills from mixed multi-agent behavior data with an auto-encoder to transform coordination knowledge into reusable coordination skills. Then we construct a skill-augmented policy learning objective with multi-head architectures, explicitly guiding the advantage function with reusable skills identified via a density-based reusability estimator. Theoretical analysis shows our method approximates the optimum of a continual skill discovery problem. Empirical results across diverse MARL benchmarks show that COMAD continually expands its skill library to mitigate interference, achieving superior forward and backward transfer for task streams compared to multiple baselines.
- Abstract(参考訳): マルチエージェントオフラインデータセットからスキルを抽出することで、タスク間のタスク不変調整スキルを共有することにより、学習効率が向上する。
タスクが順次発生し、スキルの空間が指数関数的に大きくなるような環境では、ヒューリスティックに設計され、固定サイズのスキルライブラリに依存する既存のアプローチは、破滅的な忘れ込みと可塑性損失に直面し、分散シフトと干渉の問題を解決するのに苦労する。
オープン環境における協調のスキルを継続的に発見・再利用する能力を持つエージェントを育成するために, COMADを提案する。
まず,マルチエージェントの動作データとオートエンコーダを併用して,コーディネーション知識を再利用可能なコーディネーションスキルに変換する。
次に,マルチヘッドアーキテクチャによるスキル強化されたポリシー学習目標を構築し,密度ベース再使用可能性推定器を用いて再利用可能なスキルで有利な関数を導出する。
理論的解析により,本手法は連続的スキル発見問題の最適度を近似することを示した。
多様なMARLベンチマークによる実証結果は、COMADが継続的にスキルライブラリを拡張して干渉を軽減することを示し、複数のベースラインと比較してタスクストリームの前方および後方転送が優れていることを示している。
関連論文リスト
- SkillCommit: Evolving Agent Skills through Behaviorally Validated Scope Expansion [15.498568310060229]
我々は、経験を再利用可能なスキルの階層的なライブラリに変換するオンラインスキル進化フレームワークであるSkillCommitを提案する。
関連スキルが蓄積されるにつれて、SkillCommitは共通の行動メカニズムを共有するスキルをハイレベルなスキルに抽象化する。
RuleArena、OpenExempt、KOR-Benchの実験では、SkillCommitはさまざまなドメインにわたるエージェントパフォーマンスを一貫して改善している。
論文 参考訳(メタデータ) (2026-08-15T11:03:07Z) - Rethinking Self-Evolution: A Constrained Exploration-Exploitation Process for Mitigating Skill Overfitting [20.811638832981178]
大規模言語モデル(LLM)エージェントは、過去のインタラクションからの経験を蓄積し再利用する必要がある。
データ駆動のスキル最適化は、実際の環境から収集された限られた軌道に過度に適合する傾向がある。
リスクを緩和する3段階フレームワークであるSkillBoostを提案する。
論文 参考訳(メタデータ) (2026-07-29T09:05:40Z) - Skill Self-Play: Pushing the Frontier of LLM Capability with Co-Evolving Skills [53.15216425100295]
本稿では,提案者,解決者,スキルコントローラからなる共進化型フレームワークであるスキルセルフプレイ(スキルSP)を紹介する。
プロジェクタは動的にサンプリングされたスキルを前提とした挑戦的なタスクを生成し、ソルバは能力境界を押し上げるための候補ソリューションを探索し、スキルコントローラは実行フィードバックを収集してスキルライブラリを更新および拡張する。
このインタラクティブな共進化は、構造化された検証とオープンな調査の間のギャップを効果的に埋める。
論文 参考訳(メタデータ) (2026-07-24T17:59:22Z) - SkillComposer: Learning to Evolve Agent Skills for Specification and Generalization [99.18305770138677]
エージェントスキルは、エージェントの推論とアクションをガイドする再利用可能な戦略である。
現在の技術構築手法は、問題を一発抽出として扱う。
本稿では,スキル構築を3つの学習可能な操作に分解するフレームワークであるSkillComposerを紹介する。
論文 参考訳(メタデータ) (2026-06-04T12:16:08Z) - Swarm Skills: A Portable, Self-Evolving Multi-Agent System Specification for Coordination Engineering [50.72456732323037]
textbfSwarm Skillsは、マルチエージェントのセマンティクスを用いて、Arthhropic Skills標準を拡張したポータブル仕様である。
Swarm Skillsはマルチエージェントを、役割、実行バウンダリ、自己進化のためのビルトインセマンティック構造からなる、一級の分散可能なアセットに変える。
我々は,Swarm Skillsがプログレッシブ開示を通じて,ゼロアダプタのクロスエージェントポータビリティを実現する方法を示す。
論文 参考訳(メタデータ) (2026-05-11T06:26:58Z) - SkillOS: Learning Skill Curation for Self-Evolving Agents [67.94374107466957]
本稿では,自己進化エージェントのスキルキュレーションを学習するための,経験駆動型RLトレーニングレシピであるSkillOSを提案する。
SkillOSは、凍結したエージェントエグゼキュータとトレーニング可能なスキルキュレーターを組み合わせて、蓄積したエクスペリエンスから外部SkillRepoを更新する。
SkillOSは、メモリフリーと強力なメモリベースラインを、有効性と効率の両方で一貫して上回っていることを示す。
論文 参考訳(メタデータ) (2026-05-07T17:31:50Z) - Goal-Oriented Skill Abstraction for Offline Multi-Task Reinforcement Learning [25.18006424626525]
GO-Skillは、再利用可能なスキルを抽出し、活用し、知識伝達とタスクパフォーマンスを向上させるために設計された新しいアプローチである。
本稿では,目標志向のスキル抽出プロセスを通じて再利用可能なスキルを明らかにし,ベクトル量子化を活用して個別のスキルライブラリを構築する。
我々はこれらのスキルを階層的な政策学習を用いて統合し、個別のスキルを動的に編成して特定のタスクを遂行するハイレベルなポリシーの構築を可能にする。
論文 参考訳(メタデータ) (2025-07-09T07:54:49Z) - Disentangled Unsupervised Skill Discovery for Efficient Hierarchical Reinforcement Learning [39.991887534269445]
Disentangled Unsupervised Skill Discovery (DUSDi) は、下流の課題を解決するために効率的に再利用できる非角スキルの学習方法である。
DUSDiはスキルを切り離したコンポーネントに分解し、各スキルコンポーネントは状態空間の1つの要素にのみ影響する。
DUSDiは、障害のあるスキルをうまく学習し、下流タスクの解決に学習したスキルを適用するという点で、従来のスキル発見方法よりもはるかに優れています。
論文 参考訳(メタデータ) (2024-10-15T04:13:20Z) - Skills Regularized Task Decomposition for Multi-task Offline Reinforcement Learning [11.790581500542439]
多様なオフラインデータセットを持つ強化学習(RL)は、複数のタスクの関係を活用する利点がある。
異なる品質の行動ポリシーによって生成される異種データセットに対して,スキルベースのマルチタスクRL手法を提案する。
我々のマルチタスクオフラインRLアプローチは、異なる品質データセットの混合構成に対して堅牢であることを示す。
論文 参考訳(メタデータ) (2024-08-28T07:36:20Z) - Robust Policy Learning via Offline Skill Diffusion [6.876580618014666]
本稿では,新しいオフラインスキル学習フレームワークDuSkillを紹介する。
DuSkillはガイド付き拡散モデルを使用して、データセットの限られたスキルから拡張された多目的スキルを生成する。
我々は,DuSkillが複数の長期タスクに対して,他のスキルベースの模倣学習やRLアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2024-03-01T02:00:44Z) - Learning Options via Compression [62.55893046218824]
そこで本研究では,スキル記述長に対するペナルティと,最大限の目標を組み合わさった新たな目的を提案する。
我々の目的は、最大化可能性のみから学んだスキルと比較して、下流のタスクを少ないサンプルで解くスキルを学ぶことである。
論文 参考訳(メタデータ) (2022-12-08T22:34:59Z) - Rethinking Learning Dynamics in RL using Adversarial Networks [79.56118674435844]
本稿では,スキル埋め込み空間を通じてパラメータ化された,密接に関連するスキルの強化学習のための学習機構を提案する。
本研究の主な貢献は、エントロピー規則化政策勾配定式化の助けを借りて、強化学習のための敵の訓練体制を定式化することである。
論文 参考訳(メタデータ) (2022-01-27T19:51:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。