論文の概要: Emergence of Social Norms in Large Language Model-based Agent Societies
- arxiv url: http://arxiv.org/abs/2403.08251v1
- Date: Wed, 13 Mar 2024 05:08:10 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-14 15:50:09.938956
- Title: Emergence of Social Norms in Large Language Model-based Agent Societies
- Title(参考訳): 大規模言語モデルに基づくエージェント・ソシエティにおける社会的ノルムの出現
- Authors: Siyue Ren, Zhiyao Cui, Ruiqi Song, Zhen Wang, Shuyue Hu
- Abstract要約: 本稿では,大規模言語モデルに基づくエージェントの集団内での社会的規範の出現を促進するための,最初の生成エージェントアーキテクチャを提案する。
私たちのアーキテクチャは、創造と表現、スプレッド、評価、コンプライアンスの4つのモジュールで構成されています。
- 参考スコア(独自算出の注目度): 8.684072026674583
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The emergence of social norms has attracted much interest in a wide array of
disciplines, ranging from social science and cognitive science to artificial
intelligence. In this paper, we propose the first generative agent architecture
that empowers the emergence of social norms within a population of large
language model-based agents. Our architecture, named CRSEC, consists of four
modules: Creation & Representation, Spreading, Evaluation, and Compliance. Our
architecture addresses several important aspects of the emergent processes all
in one: (i) where social norms come from, (ii) how they are formally
represented, (iii) how they spread through agents' communications and
observations, (iv) how they are examined with a sanity check and synthesized in
the long term, and (v) how they are incorporated into agents' planning and
actions. Our experiments deployed in the Smallville sandbox game environment
demonstrate the capability of our architecture to establish social norms and
reduce social conflicts within large language model-based multi-agent systems.
The positive outcomes of our human evaluation, conducted with 30 evaluators,
further affirm the effectiveness of our approach.
- Abstract(参考訳): 社会規範の出現は、社会科学や認知科学から人工知能まで幅広い分野に多くの関心を集めている。
本稿では,大規模言語モデルに基づくエージェントの集団内での社会的規範の出現を促進するための,最初の生成エージェントアーキテクチャを提案する。
私たちのアーキテクチャはCRSECと呼ばれ、Creation & Representation, Spreading, Evaluation, Complianceの4つのモジュールで構成されています。
私たちのアーキテクチャは、創発的なプロセスのいくつかの重要な側面に対処しています。
(i)社会規範の発祥地
(ii) 形式的にどのように表現されるか
三 エージェントのコミュニケーション及び観察の方法
四 衛生検査で検査し、長期にわたって合成する方法、及び
(v)エージェントの計画と行動にどのように組み込まれているか。
本研究では,Smallville Sandboxゲーム環境に導入した実験により,大規模言語モデルに基づくマルチエージェントシステムにおける社会規範の確立と社会的対立の低減を図った。
評価対象者30名を対象に実施した人的評価の結果,その有効性を確認した。
関連論文リスト
- The Dynamics of Social Conventions in LLM populations: Spontaneous Emergence, Collective Biases and Tipping Points [0.0]
シミュレーション対話を用いたLarge Language Model (LLM) エージェントの集団内におけるコンベンションのダイナミクスについて検討する。
グローバルに受け入れられる社会慣行は,LLM間の局所的な相互作用から自然に生じうることを示す。
献身的なLLMのマイノリティグループは、新しい社会慣習を確立することで社会変革を促進することができる。
論文 参考訳(メタデータ) (2024-10-11T16:16:38Z) - SocialBench: Sociality Evaluation of Role-Playing Conversational Agents [85.6641890712617]
大規模言語モデル(LLM)は、様々なAI対話エージェントの開発を進めてきた。
SocialBenchは、ロールプレイングの会話エージェントの社会的性を個人レベルとグループレベルで評価するために設計された最初のベンチマークである。
個人レベルで優れたエージェントは,集団レベルでの熟練度を示唆しない。
論文 参考訳(メタデータ) (2024-03-20T15:38:36Z) - Agent Alignment in Evolving Social Norms [65.45423591744434]
本稿では,エージェント進化とアライメントのための進化的フレームワークであるEvolutionaryAgentを提案する。
社会規範が継続的に進化する環境では、エージェントは現在の社会規範に適応し、生存と増殖の確率が高くなる。
進化的エージェントは、一般的なタスクにおいてその能力を維持しながら、進化する社会規範と徐々に整合できることを示す。
論文 参考訳(メタデータ) (2024-01-09T15:44:44Z) - SOTOPIA: Interactive Evaluation for Social Intelligence in Language Agents [107.4138224020773]
人工エージェントと人間との複雑な社会的相互作用をシミュレートするオープンエンド環境であるSOTOPIAを提案する。
エージェントは、複雑な社会的目標を達成するために協調し、協力し、交換し、互いに競い合う。
GPT-4は,人間よりも目標達成率が著しく低く,社会的常識的推論や戦略的コミュニケーション能力の発揮に苦慮していることがわかった。
論文 参考訳(メタデータ) (2023-10-18T02:27:01Z) - Exploring Collaboration Mechanisms for LLM Agents: A Social Psychology View [60.80731090755224]
本稿では,理論的洞察を用いた実用実験により,現代NLPシステム間の協調機構を解明する。
我々は, LLMエージェントからなる4つの独特な社会をつくり, それぞれのエージェントは, 特定の特性(容易性, 過信性)によって特徴づけられ, 異なる思考パターン(議論, ふりかえり)と協調する。
以上の結果から, LLMエージェントは, 社会心理学理論を反映した, 適合性やコンセンサスリーディングといった人間的な社会的行動を示すことが明らかとなった。
論文 参考訳(メタデータ) (2023-10-03T15:05:52Z) - Training Socially Aligned Language Models on Simulated Social
Interactions [99.39979111807388]
AIシステムにおける社会的アライメントは、確立された社会的価値に応じてこれらのモデルが振舞うことを保証することを目的としている。
現在の言語モデル(LM)は、トレーニングコーパスを独立して厳格に複製するように訓練されている。
本研究は,シミュレートされた社会的相互作用からLMを学習することのできる,新しい学習パラダイムを提案する。
論文 参考訳(メタデータ) (2023-05-26T14:17:36Z) - Social Practices: a Complete Formalization [1.370633147306388]
本稿では,社会実践概念に基づくエージェントのための社会枠組みの定式化について述べる。
社会的実践は、標準的な社会的相互作用におけるエージェントの実践的推論を促進する。
彼らはまた、社会的計画と熟考のためのハンドルを提供する社会的文脈も持っている。
論文 参考訳(メタデータ) (2022-05-22T09:58:42Z) - Aligning to Social Norms and Values in Interactive Narratives [89.82264844526333]
我々は、インタラクティブな物語やテキストベースのゲームにおいて、社会的に有益な規範や価値観に沿って行動するエージェントを作成することに注力する。
我々は、特別な訓練を受けた言語モデルに存在する社会的コモンセンス知識を用いて、社会的に有益な値に整合した行動にのみ、その行動空間を文脈的に制限するGAALADエージェントを紹介した。
論文 参考訳(メタデータ) (2022-05-04T09:54:33Z) - Moral Stories: Situated Reasoning about Norms, Intents, Actions, and
their Consequences [36.884156839960184]
現代のNLGモデルが社会環境にデプロイされたシステムの行動優先度として機能するかどうかを検討する。
本研究では,「モラルストーリー」という,階層的,分枝的なナラティブのクラウドソーシングデータセットを導入し,基礎的,目標指向の社会推論の研究を行う。
論文 参考訳(メタデータ) (2020-12-31T17:28:01Z) - Prosocial Norm Emergence in Multiagent Systems [14.431260905391138]
メンバーエージェントが適応的であるだけでなく、マルチエージェントシステム自体が適応的である設定を検討する。
我々は,社会の肯定的な成果を達成し,他人の福祉を考慮に入れて行動するためのエージェントへの指導をしばしば提供する,社会規範に焦点をあてる。
論文 参考訳(メタデータ) (2020-12-29T02:59:55Z) - Towards Social Identity in Socio-Cognitive Agents [0.0]
認知社会フレームの概念に基づく社会認知エージェントモデルを提案する。
認知社会フレームは、社会集団を中心に構築され、社会集団のダイナミックス機構と社会的アイデンティティの構成の基礎を形成する。
論文 参考訳(メタデータ) (2020-01-20T15:27:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。