論文の概要: A Reputation System for Large Language Model-based Multi-agent Systems to Avoid the Tragedy of the Commons

• arxiv url: http://arxiv.org/abs/2505.05029v1
• Date: Thu, 08 May 2025 08:02:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-09 21:43:49.798842
• Title: A Reputation System for Large Language Model-based Multi-agent Systems to Avoid the Tragedy of the Commons
• Title（参考訳）: 大規模言語モデルに基づく多エージェントシステムにおけるコモンズの悲劇回避のためのレピュレーションシステム
• Authors: Siyue Ren, Wanli Fu, Xinkun Zou, Chen Shen, Yi Cai, Chen Chu, Zhen Wang, Shuyue Hu,
• Abstract要約: RepuNetはエージェントレベルの評価力学とシステムレベルのネットワーク進化の両方をモデル化したデュアルレベル評価フレームワークである。 我々は、RepuNetが「コモンズ・トレーゲディ」を効果的に緩和し、生成的MASにおける協力の促進と維持を図っていることを示す。
• 参考スコア（独自算出の注目度）: 14.839510542470734
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The tragedy of the commons, where individual self-interest leads to collectively disastrous outcomes, is a pervasive challenge in human society. Recent studies have demonstrated that similar phenomena can arise in generative multi-agent systems (MASs). To address this challenge, this paper explores the use of reputation systems as a remedy. We propose RepuNet, a dynamic, dual-level reputation framework that models both agent-level reputation dynamics and system-level network evolution. Specifically, driven by direct interactions and indirect gossip, agents form reputations for both themselves and their peers, and decide whether to connect or disconnect other agents for future interactions. Through two distinct scenarios, we show that RepuNet effectively mitigates the 'tragedy of the commons', promoting and sustaining cooperation in generative MASs. Moreover, we find that reputation systems can give rise to rich emergent behaviors in generative MASs, such as the formation of cooperative clusters, the social isolation of exploitative agents, and the preference for sharing positive gossip rather than negative ones.
• Abstract（参考訳）: 個人の利害が総じて悲惨な結果をもたらすコモンズの悲劇は、人間の社会において広まる挑戦である。 近年の研究では、生成的マルチエージェントシステム(MAS)に同様の現象が生じることが示されている。 この課題に対処するために,評価システムの利用について検討する。 本稿では,エージェントレベルの評価力学とシステムレベルのネットワーク進化の両方をモデル化した,動的でデュアルレベルの評価フレームワークであるRepuNetを提案する。 具体的には、直接の相互作用と間接的なゴシップによって、エージェントは自分自身と仲間の両方の評判を形成し、将来のインタラクションのために他のエージェントを接続または切断するかを決定する。 2つの異なるシナリオを通して、RepuNetは「コモンズの取引」を効果的に緩和し、生成的MASにおける協力を促進し持続することを示す。 さらに, 評価システムは, 協調クラスタの形成, 搾取エージェントの社会的隔離, 否定的ではなく肯定的なゴシップの共有など, 生成的MASにおける豊かな創発的行動を引き起こす可能性がある。

関連論文リスト

• Emergence of human-like polarization among large language model agents [61.622596148368906]
  我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。 人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、それを緩和するための有効な戦略を特定するための貴重なテストベッドとして機能する可能性も持っている。
  論文  参考訳（メタデータ） (2025-01-09T11:45:05Z)
• LMAgent: A Large-scale Multimodal Agents Society for Multi-user Simulation [66.52371505566815]
  大規模言語モデル(LLM)ベースのAIエージェントは、人間のような知性を達成するために、大きな進歩を遂げた。 LMAgentは,マルチモーダル LLM に基づく大規模かつマルチモーダルなエージェント社会である。 LMAgentでは、友人とチャットする以外に、エージェントは自動で商品を閲覧、購入、レビューしたり、ライブストリーミングのeコマースを行うこともできる。
  論文  参考訳（メタデータ） (2024-12-12T12:47:09Z)
• AgentVerse: Facilitating Multi-Agent Collaboration and Exploring Emergent Behaviors [93.38830440346783]
  本稿では,その構成をより高機能なシステムとして協調的に調整できるマルチエージェントフレームワークを提案する。 実験により,フレームワークが単一エージェントより優れたマルチエージェントグループを効果的に展開できることが実証された。 これらの振舞いの観点から、我々は、ポジティブなものを活用し、ネガティブなものを緩和し、マルチエージェントグループの協調可能性を改善するためのいくつかの戦略について議論する。
  論文  参考訳（メタデータ） (2023-08-21T16:47:11Z)
• Investigating the Impact of Direct Punishment on the Emergence of Cooperation in Multi-Agent Reinforcement Learning Systems [2.4555276449137042]
  協力の問題は、人間社会の中で一様である。 AIの利用が社会全体に広まるにつれ、社会的にインテリジェントなエージェントの必要性がますます明白になりつつある。 本稿では, 直接罰, 第三者罰, パートナー選択, 評判に関連する行動と学習のダイナミクスを包括的に分析し, 評価する。
  論文  参考訳（メタデータ） (2023-01-19T19:33:54Z)
• Cooperation and Reputation Dynamics with Reinforcement Learning [6.219565750197311]
  私達は信頼および協同を確立する方法として評判がいかに使用されるか示します。 好ましくない平衡への収束を緩和する2つのメカニズムを提案する。 この結果が進化ゲーム理論の文献とどのように関係しているかを示す。
  論文  参考訳（メタデータ） (2021-02-15T12:48:56Z)
• Modelling Cooperation in Network Games with Spatio-Temporal Complexity [11.665246332943058]
  複雑なグリッドワールドドメインにおける自己組織化協調の出現について検討する。 マルチエージェント深層強化学習を用いて,エージェント・ソサエティの多種多様なメカニズムをシミュレートした。 本手法は,人間および人工エージェントシステムにおける機構設計に影響を及ぼす。
  論文  参考訳（メタデータ） (2021-02-13T12:04:52Z)
• Multi-Agent Interactions Modeling with Correlated Policies [53.38338964628494]
  本稿では,マルチエージェントインタラクションモデリング問題をマルチエージェント模倣学習フレームワークに実装する。 相関ポリシー(CoDAIL)を用いた分散型適応模倣学習アルゴリズムの開発 様々な実験により、CoDAILはデモレーターに近い複雑な相互作用をより良く再生できることが示されている。
  論文  参考訳（メタデータ） (2020-01-04T17:31:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。