論文の概要: A Survey on Large-Population Systems and Scalable Multi-Agent
Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2209.03859v1
- Date: Thu, 8 Sep 2022 14:58:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-09 12:50:19.529289
- Title: A Survey on Large-Population Systems and Scalable Multi-Agent
Reinforcement Learning
- Title(参考訳): 大規模人口システムとスケーラブル・マルチエージェント強化学習に関する研究
- Authors: Kai Cui, Anam Tahir, Gizem Ekinci, Ahmed Elshamanhory, Yannick Eich,
Mengguang Li, Heinz Koeppl
- Abstract要約: 我々は、大規模人口システムを理解し分析するための現在のアプローチに光を当てる。
我々は,大規模制御の応用の可能性を調査し,実践システムにおける学習アルゴリズムの有能な将来的応用について検討する。
- 参考スコア(独自算出の注目度): 18.918558716102144
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The analysis and control of large-population systems is of great interest to
diverse areas of research and engineering, ranging from epidemiology over
robotic swarms to economics and finance. An increasingly popular and effective
approach to realizing sequential decision-making in multi-agent systems is
through multi-agent reinforcement learning, as it allows for an automatic and
model-free analysis of highly complex systems. However, the key issue of
scalability complicates the design of control and reinforcement learning
algorithms particularly in systems with large populations of agents. While
reinforcement learning has found resounding empirical success in many scenarios
with few agents, problems with many agents quickly become intractable and
necessitate special consideration. In this survey, we will shed light on
current approaches to tractably understanding and analyzing large-population
systems, both through multi-agent reinforcement learning and through adjacent
areas of research such as mean-field games, collective intelligence, or complex
network theory. These classically independent subject areas offer a variety of
approaches to understanding or modeling large-population systems, which may be
of great use for the formulation of tractable MARL algorithms in the future.
Finally, we survey potential areas of application for large-scale control and
identify fruitful future applications of learning algorithms in practical
systems. We hope that our survey could provide insight and future directions to
junior and senior researchers in theoretical and applied sciences alike.
- Abstract(参考訳): 大規模人口システムの分析と制御は、疫学からロボット群、経済学、金融まで、様々な分野の研究や工学に非常に興味を寄せている。
多エージェントシステムにおけるシーケンシャルな意思決定を実現するための、ますます人気が高く効果的なアプローチは、高度に複雑なシステムの自動かつモデルフリーな分析を可能にするマルチエージェント強化学習である。
しかし、スケーラビリティの重要な問題は、特にエージェントが多数いるシステムにおいて、制御と強化学習アルゴリズムの設計を複雑にしている。
強化学習は、エージェント数が少ない多くのシナリオで経験的成功を再現するが、多くのエージェントの問題はすぐに難解になり、特別な考慮が必要となる。
本調査では,多エージェント強化学習と,平均場ゲーム,集団知性,複雑なネットワーク理論などの周辺研究の両分野を通じて,大規模人口システムを理解し,分析するための現在のアプローチに光を当てる。
これらの古典的に独立した主題領域は、大規模人口システムを理解したりモデル化したりするための様々なアプローチを提供しており、将来はトラクタブルなMARLアルゴリズムの定式化に大いに役立つかもしれない。
最後に,大規模制御への応用の可能性を調査し,実運用システムにおける学習アルゴリズムの有益な将来的応用を明らかにする。
われわれの調査は、理論や応用科学についても、中高生の研究者に洞察と今後の方向性を提供することを期待している。
関連論文リスト
- Selective Exploration and Information Gathering in Search and Rescue Using Hierarchical Learning Guided by Natural Language Input [5.522800137785975]
本稿では,大規模言語モデル(LLM)と階層的強化学習(HRL)フレームワークを連携させるシステムを提案する。
提案システムは,人間の利害関係者からの言語入力を実用的なRLインサイトへ翻訳し,検索戦略を調整するように設計されている。
LLMによる人為的情報の利用とHRLによるタスク実行の構造化により、長い地平線とスパース報酬を特徴とする環境におけるエージェントの学習効率と意思決定プロセスを大幅に改善する。
論文 参考訳(メタデータ) (2024-09-20T12:27:47Z) - A Survey on Context-Aware Multi-Agent Systems: Techniques, Challenges
and Future Directions [1.1458366773578277]
自律型エージェントに対する研究の関心が高まっている。
課題は、これらのエージェントが動的環境における不確実性を学び、推論し、ナビゲートできるようにすることである。
コンテキスト認識は、マルチエージェントシステムの強化において重要な要素として現れる。
論文 参考訳(メタデータ) (2024-02-03T00:27:22Z) - Multi-Fidelity Active Learning with GFlowNets [65.91555804996203]
本稿では,GFlowNetsをサンプルとして多要素能動学習アルゴリズムを提案する。
分子探索タスクの評価は,GFlowNetsを用いた多要素能動学習が,その単要素の予算のごく一部で高い評価の候補を発見できることを示す。
論文 参考訳(メタデータ) (2023-06-20T17:43:42Z) - Safe Multi-agent Learning via Trapping Regions [89.24858306636816]
我々は、動的システムの定性理論から知られているトラップ領域の概念を適用し、分散学習のための共同戦略空間に安全セットを作成する。
本稿では,既知の学習力学を持つシステムにおいて,候補がトラップ領域を形成することを検証するための二分分割アルゴリズムと,学習力学が未知のシナリオに対するサンプリングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-02-27T14:47:52Z) - Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。
我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。
コア最適化問題の実用的なパラメトリゼーションを提供する。
論文 参考訳(メタデータ) (2021-07-08T18:01:02Z) - Multiagent Deep Reinforcement Learning: Challenges and Directions
Towards Human-Like Approaches [0.0]
本稿では,最も一般的なマルチエージェント問題表現とその主な課題について述べる。
これらの課題に対処する5つの研究領域を特定します。
我々は,マルチエージェント強化学習が成功するためには,これらの課題を学際的アプローチで解決することを提案する。
論文 参考訳(メタデータ) (2021-06-29T19:53:15Z) - Hybrid Information-driven Multi-agent Reinforcement Learning [3.7011129410662553]
情報理論センサ管理のアプローチは、大きな状態空間では集中的すぎる。
強化学習は、分散最適制御問題の近似解を見つけるための有望な代替手段である。
本稿では,ハイブリッド情報駆動型マルチエージェント強化学習手法を提案する。
論文 参考訳(メタデータ) (2021-02-01T17:28:39Z) - A game-theoretic analysis of networked system control for common-pool
resource management using multi-agent reinforcement learning [54.55119659523629]
マルチエージェント強化学習は近年,ネットワーク型システム制御へのアプローチとして大きな可能性を秘めている。
共通プールの資源は耕作可能な土地、淡水、湿地、野生生物、魚類資源、森林、大気である。
論文 参考訳(メタデータ) (2020-10-15T14:12:26Z) - Self-organizing Democratized Learning: Towards Large-scale Distributed
Learning Systems [71.14339738190202]
民主化された学習(Dem-AI)は、大規模な分散および民主化された機械学習システムを構築するための基本原則を備えた全体主義的哲学を定めている。
本稿では,Dem-AI哲学にヒントを得た分散学習手法を提案する。
提案アルゴリズムは,従来のFLアルゴリズムと比較して,エージェントにおける学習モデルの一般化性能が向上することを示す。
論文 参考訳(メタデータ) (2020-07-07T08:34:48Z) - Distributed and Democratized Learning: Philosophy and Research
Challenges [80.39805582015133]
民主化学習(Dem-AI)という新しいデザイン哲学を提案する。
ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。
本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
論文 参考訳(メタデータ) (2020-03-18T08:45:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。