論文の概要: Continual Graph Multi-Agent Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2610.10302v1
- Date: Wed, 07 Oct 2026 15:56:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:23.016897
- Title: Continual Graph Multi-Agent Reinforcement Learning
- Title(参考訳): 連続グラフ多エージェント強化学習
- Abstract要約: CGMARL(Continuous Graph Multi-Agent Reinforcement Learning)は、タスクシーケンスを一連の属性グラフにマッピングするCMARL問題のための新しいフレームワークである。
まず,最初の CGMARL ベンチマークである Graph-based Formation (GRAFO) について述べる。
最後に,凍結グラフを利用して過去の構造情報をグラフベースのCMARLポリシーで保存するFrozen Graph (FROG)を提案する。
- 参考スコア(独自算出の注目度): 37.863395957109454
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In Continual Multi-Agent Reinforcement Learning (CMARL), agents learn cooperative policies across sequences of tasks, aiming to adapt effectively to new tasks while preserving the ability to solve previously encountered ones. In many applications, tasks differ in their underlying structure, which can represent, for example, distinct operational conditions or target configurations (e.g., different network topologies in power grids or arrangements in formation control). Existing CMARL methods lack dedicated mechanisms to leverage this structural information when learning new tasks, failing to promote transfer and mitigate forgetting. To fill this gap, we propose Continual Graph Multi-Agent Reinforcement Learning (CGMARL), a novel framework for CMARL problems in which task sequences are mapped into a series of attributed graphs, each modeling a task-specific structure. In CGMARL, each graph determines the environment dynamics (next states and/or rewards) and the number of agents for the corresponding task. Then, we present Graph-based Formation (GRAFO), the first CGMARL benchmark, and show how forgetting arises in this setting. Finally, to address this limitation, we propose Frozen Graph Encoder (FROG), a method that relies on a frozen graph backbone to preserve past structural information in graph-based CMARL policies. Experiments on GRAFO show that pairing FROG with existing CL methods substantially improves performance on multiple CGMARL scenarios.
- Abstract(参考訳): CMARL(Continuous Multi-Agent Reinforcement Learning)では、エージェントはタスクのシーケンスにまたがる協調政策を学習し、それまで遭遇したタスクの解決能力を保ちながら、新しいタスクに効果的に適応することを目的としている。
多くのアプリケーションでは、タスクは基本的な構造が異なるため、例えば、異なる運用条件やターゲット設定(例えば、電力グリッドの異なるネットワークトポロジや構成制御の配置)を表現できる。
既存のCMARLメソッドには、新しいタスクを学ぶ際にこの構造情報を活用するための専用のメカニズムがなく、転送の促進と忘れの軽減に失敗した。
このギャップを埋めるために,タスクシーケンスを一連の属性グラフにマッピングするCMARL問題のための新しいフレームワークであるContinuous Graph Multi-Agent Reinforcement Learning (CGMARL)を提案する。
CGMARLでは、各グラフは環境力学(次の状態と/または報酬)と対応するタスクのエージェントの数を決定する。
次に、最初のCGMARLベンチマークであるGraph-based Formation (GRAFO)を紹介し、この設定でどのように忘れられるかを示す。
最後に,この制限に対処するために,凍結グラフバックボーンに依存するFROG(Frozen Graph Encoder)を提案し,過去の構造情報をグラフベースのCMARLポリシーで保存する。
GRAFOの実験では、FROGと既存のCLメソッドのペアリングにより、複数のCGMARLシナリオの性能が大幅に向上することが示された。
関連論文リスト
- Multi-Agent Agentic Graph Learning via Structural Signatures [15.798786167030853]
エージェントグラフ学習(AGL)は近年,グラフ推論タスクにおいて有望な結果を達成している。
既存のメソッドでは、単一のエージェントを使用するか、複数のロールベースのエージェントを編成して、グラフ全体を推論し、学習する。
本稿では,マルチエージェントエージェントグラフ学習(MAAGL)フレームワークを提案する。
論文 参考訳(メタデータ) (2026-09-09T00:43:45Z) - Inference-Time Graph Engineering for Multi-Agent LLM Workflows [51.56038180639833]
ReActNetは、クエリとロール特化エージェントのセットを一連の有向通信グラフにコンパイルする、トレーニング不要のフレームワークである。
ReActNetは、競争的推論コストを維持しつつ、固定トポロジと学習トポロジのベースラインを一貫して改善することを示す。
論文 参考訳(メタデータ) (2026-09-04T23:32:11Z) - OFA-MAS: One-for-All Multi-Agent System Topology Design based on Mixture-of-Experts Graph Generative Models [57.94189874119267]
マルチエージェントシステム(MAS)は複雑な問題を解決するための強力なパラダイムを提供する。
現在のグラフ学習に基づく設計手法は、しばしば「1対1」のパラダイムに準拠している。
自然言語で記述されたタスクに対して適応的な協調グラフを生成する一対一のフレームワークOFA-TADを提案する。
論文 参考訳(メタデータ) (2026-01-19T12:23:44Z) - GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。
textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
論文 参考訳(メタデータ) (2025-10-06T08:09:15Z) - Graph-Augmented Large Language Model Agents: Current Progress and Future Prospects [57.53024716739594]
グラフ拡張LDMエージェント(GLA)は複雑なエージェントシステムの構造、連続性、調整を強化する。
本稿では,最近の進歩の概要をタイムリーかつ包括的に紹介し,今後の研究の方向性を明らかにする。
本論文は,GLAにおける今後の研究のロードマップとして機能し,GLAエージェントシステムにおけるグラフの役割のより深い理解を促進することを願っている。
論文 参考訳(メタデータ) (2025-07-29T00:27:12Z) - GraphGPT: Graph Instruction Tuning for Large Language Models [27.036935149004726]
グラフニューラルネットワーク(GNN)は、グラフ構造を理解するために進化してきた。
堅牢性を高めるために、自己教師付き学習(SSL)はデータ拡張の重要なツールとなっている。
本研究は,ゼロショット学習環境におけるグラフモデルの一般化を推し進めることによって,この問題に対処する。
論文 参考訳(メタデータ) (2023-10-19T06:17:46Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳(メタデータ) (2022-01-17T11:57:29Z) - Graph Convolutional Value Decomposition in Multi-Agent Reinforcement
Learning [9.774412108791218]
深層強化学習における値関数分解のための新しい枠組みを提案する。
特に、エージェントのチームは完全有向グラフのノードの集合であると考えている。
我々は,チーム状態-行動値関数を各エージェント毎の観察-行動値関数に分解する混合GNNモジュールを導入し,グローバルチーム報酬の分数で各エージェントに明示的なクレジット割り当てを行う。
論文 参考訳(メタデータ) (2020-10-09T18:01:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。