論文の概要: On the Role of Emergent Communication for Social Learning in Multi-Agent
Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2302.14276v1
- Date: Tue, 28 Feb 2023 03:23:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-01 18:13:23.245346
- Title: On the Role of Emergent Communication for Social Learning in Multi-Agent
Reinforcement Learning
- Title(参考訳): マルチエージェント強化学習における創発的コミュニケーションの役割について
- Authors: Seth Karten, Siva Kailas, Huao Li, Katia Sycara
- Abstract要約: 社会学習は、専門家からのヒントを使って、異質なポリシーを整列し、サンプルの複雑さを減らし、部分的に観察可能なタスクを解決する。
本稿では,情報ボトルネックに基づく教師なし手法を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Explicit communication among humans is key to coordinating and learning.
Social learning, which uses cues from experts, can greatly benefit from the
usage of explicit communication to align heterogeneous policies, reduce sample
complexity, and solve partially observable tasks. Emergent communication, a
type of explicit communication, studies the creation of an artificial language
to encode a high task-utility message directly from data. However, in most
cases, emergent communication sends insufficiently compressed messages with
little or null information, which also may not be understandable to a
third-party listener. This paper proposes an unsupervised method based on the
information bottleneck to capture both referential complexity and task-specific
utility to adequately explore sparse social communication scenarios in
multi-agent reinforcement learning (MARL). We show that our model is able to i)
develop a natural-language-inspired lexicon of messages that is independently
composed of a set of emergent concepts, which span the observations and intents
with minimal bits, ii) develop communication to align the action policies of
heterogeneous agents with dissimilar feature models, and iii) learn a
communication policy from watching an expert's action policy, which we term
`social shadowing'.
- Abstract(参考訳): 人間間の明示的なコミュニケーションが協調と学習の鍵となる。
専門家の手がかりを利用する社会学習は、不均一なポリシーを整合させ、サンプルの複雑さを減らし、部分的に観察可能なタスクを解決するために、明示的なコミュニケーションを使用することで大きな恩恵を受けることができる。
明示的なコミュニケーションの一種である創発的コミュニケーションは、データから直接高いタスクユーティリティメッセージをエンコードする人工言語の作成を研究する。
しかし、多くの場合、創発的な通信は、ほとんどまたはヌル情報を持たない不十分な圧縮されたメッセージを送信する。
本稿では,マルチエージェント強化学習(marl)における疎社会コミュニケーションシナリオを適切に探究するために,情報ボトルネックに基づく教師なし手法を提案する。
私たちのモデルは
一 発端概念の集合から独立して構成され、最小ビットの観測と意図にまたがる、自然言語に触発されたメッセージの語彙を開発すること。
二 異種エージェントの行動ポリシーを異種特徴モデルと整合させるコミュニケーションを開発すること、及び
三 「社会的シャドーイング」という専門家の行動方針を見てコミュニケーション方針を学ぶこと。
関連論文リスト
- Communication Learning in Multi-Agent Systems from Graph Modeling Perspective [62.13508281188895]
本稿では,エージェント間の通信アーキテクチャを学習可能なグラフとして概念化する手法を提案する。
本稿では,各エージェントに対して時間的ゲーティング機構を導入し,ある時間に共有情報を受信するかどうかの動的決定を可能にする。
論文 参考訳(メタデータ) (2024-11-01T05:56:51Z) - Learning Multi-Agent Communication with Contrastive Learning [3.816854668079928]
本稿では,コミュニケーション的メッセージが環境状態の異なる不完全なビューと見なされる,別の視点を紹介する。
送信したメッセージと受信したメッセージの関係を調べることで,コントラスト学習を用いてコミュニケーションを学ぶことを提案する。
通信環境において,本手法は性能と学習速度の両面で,従来の手法よりも優れていた。
論文 参考訳(メタデータ) (2023-07-03T23:51:05Z) - CAMEL: Communicative Agents for "Mind" Exploration of Large Language
Model Society [58.04479313658851]
本稿では,コミュニケーションエージェント間の自律的協調を支援するスケーラブルな手法の構築の可能性について検討する。
本稿では,ロールプレイングという新しいコミュニケーションエージェントフレームワークを提案する。
コントリビューションには、新しいコミュニケーティブエージェントフレームワークの導入、マルチエージェントシステムの協調行動や能力を研究するためのスケーラブルなアプローチの提供などが含まれます。
論文 参考訳(メタデータ) (2023-03-31T01:09:00Z) - Cognitive Semantic Communication Systems Driven by Knowledge Graph:
Principle, Implementation, and Performance Evaluation [74.38561925376996]
単一ユーザと複数ユーザのコミュニケーションシナリオに対して,認知意味コミュニケーションフレームワークが2つ提案されている。
知識グラフから推論規則をマイニングすることにより,効果的な意味補正アルゴリズムを提案する。
マルチユーザ認知型セマンティックコミュニケーションシステムにおいて,異なるユーザのメッセージを識別するために,メッセージ復元アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-03-15T12:01:43Z) - Emergent Quantized Communication [34.31732248872158]
本稿では,メッセージの量子化という,離散的なコミュニケーションを実現するための代替手法を提案する。
メッセージの量子化により、モデルのエンドツーエンドのトレーニングが可能になり、複数のセットアップで優れたパフォーマンスを実現します。
論文 参考訳(メタデータ) (2022-11-04T12:39:45Z) - Over-communicate no more: Situated RL agents learn concise communication
protocols [78.28898217947467]
互いに効果的に効率的にコミュニケーションできる人工エージェントをいかに設計するかは、不明である。
強化学習(RL)を用いたコミュニケーションの出現に関する研究
エージェントがコミュニケーションを行うための環境行為を強制しなければならない多段階タスクにおける位置的コミュニケーションについて検討する。
テストされたすべてのプレッシャーは過剰なコミュニケーションを阻害する可能性があるが、位置通信は最も効果的であり、努力のコストとは異なり、発生に悪影響を及ぼさない。
論文 参考訳(メタデータ) (2022-11-02T21:08:14Z) - Learning to Ground Decentralized Multi-Agent Communication with
Contrastive Learning [1.116812194101501]
我々は,環境状態の異なる不完全な視点として,エージェント間で送信されるコミュニケーションメッセージに代替的な視点を導入する。
本稿では,与えられた軌跡のメッセージ間の相互情報を自己管理的に最大化することにより,共通言語の出現を誘導する簡単な手法を提案する。
論文 参考訳(メタデータ) (2022-03-07T12:41:32Z) - Curriculum-Driven Multi-Agent Learning and the Role of Implicit
Communication in Teamwork [24.92668968807012]
難解なマルチエージェントコーディネーションタスクを解決するためのカリキュラム駆動型学習戦略を提案する。
我々は、創発的な暗黙のコミュニケーションが、優れた調整レベルを実現する上で大きな役割を果たすと主張している。
論文 参考訳(メタデータ) (2021-06-21T14:54:07Z) - Learning Emergent Discrete Message Communication for Cooperative
Reinforcement Learning [36.468498804251574]
離散メッセージ通信は連続メッセージ通信に匹敵する性能を有することを示す。
エージェントに離散的なメッセージを対話的に送信できるアプローチを提案します。
論文 参考訳(メタデータ) (2021-02-24T20:44:14Z) - Learning Structured Communication for Multi-agent Reinforcement Learning [104.64584573546524]
本研究では,マルチエージェント強化学習(MARL)環境下での大規模マルチエージェント通信機構について検討する。
本稿では、より柔軟で効率的な通信トポロジを用いて、LSC(Learning Structured Communication)と呼ばれる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-11T07:19:45Z) - Emergence of Pragmatics from Referential Game between Theory of Mind
Agents [64.25696237463397]
エージェントが手書きのルールを指定せずに「行間を読む」能力を自発的に学習するアルゴリズムを提案する。
協調型マルチエージェント教育状況における心の理論(ToM)を統合し,適応型強化学習(RL)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-01-21T19:37:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。