論文の概要: I Want to Break Free! Persuasion and Anti-Social Behavior of LLMs in Multi-Agent Settings with Social Hierarchy

• arxiv url: http://arxiv.org/abs/2410.07109v3
• Date: Tue, 04 Nov 2025 15:55:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-05 16:37:25.842009
• Title: I Want to Break Free! Persuasion and Anti-Social Behavior of LLMs in Multi-Agent Settings with Social Hierarchy
• Title（参考訳）: 自由を破りたい! 階層型マルチエージェント環境におけるLCMの説得と反社会的行動
• Authors: Gian Maria Campedelli, Nicolò Penzo, Massimo Stefan, Roberto Dessì, Marco Guerini, Bruno Lepri, Jacopo Staiano,
• Abstract要約: シミュレーションされた階層型社会環境におけるエージェント間の相互作用を詳細に分析する。 我々は,保護者と囚人エージェントの説得行動と反社会的行為を異なる目的で分析する。
• 参考スコア（独自算出の注目度）: 13.535032308774696
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As LLM-based agents become increasingly autonomous and will more freely interact with each other, studying the interplay among them becomes crucial to anticipate emergent phenomena and potential risks. In this work, we provide an in-depth analysis of the interactions among agents within a simulated hierarchical social environment, drawing inspiration from the Stanford Prison Experiment. Leveraging 2,400 conversations across six LLMs (i.e., LLama3, Orca2, Command-r, Mixtral, Mistral2, and gpt4.1) and 240 experimental scenarios, we analyze persuasion and anti-social behavior between a guard and a prisoner agent with differing objectives. We first document model-specific conversational failures in this multi-agent power dynamic context, thereby narrowing our analytic sample to 1,600 conversations. Among models demonstrating successful interaction, we find that goal setting significantly influences persuasiveness but not anti-social behavior. Moreover, agent personas, especially the guard's, substantially impact both successful persuasion by the prisoner and the manifestation of anti-social actions. Notably, we observe the emergence of anti-social conduct even in absence of explicit negative personality prompts. These results have important implications for the development of interactive LLM agents and the ongoing discussion of their societal impact.
• Abstract（参考訳）: LLMをベースとしたエージェントはますます自律的になり、互いに自由に相互作用するようになり、それらの相互作用を研究することは、創発的な現象や潜在的なリスクを予測するために重要である。 本研究では, シミュレーションされた階層型社会環境におけるエージェント間の相互作用を詳細に分析し, スタンフォード刑務所実験からインスピレーションを得た。 6つのLSM(LLama3、Orca2、Command-r、Mixtral、Mistral2、gpt4.1)で2,400の会話と240の実験シナリオを活用し、ガードと囚人の対社会的行為を異なる目的で分析する。 このマルチエージェント・パワー・ダイナミック・コンテキストにおいて、まずモデル固有の会話障害を文書化し、分析サンプルを1,600の会話に絞り込む。 良好な相互作用を示すモデルの中で、目標設定は説得力に大きく影響を及ぼすが、反社会的行動には影響しない。 さらに、エージェントペルソナ、特に警備員は、囚人による説得の成功と反社会的行動の顕在化の両方に大きな影響を及ぼした。 特に、明示的なネガティブなパーソナリティのプロンプトがなくても、反社会的行為の出現を観察する。 これらの結果は、対話型LLMエージェントの開発と、その社会的影響に関する議論に重要な意味を持つ。

関連論文リスト

• Emergence of human-like polarization among large language model agents [61.622596148368906]
  我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。 人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、それを緩和するための有効な戦略を特定するための貴重なテストベッドとして機能する可能性も持っている。
  論文  参考訳（メタデータ） (2025-01-09T11:45:05Z)
• Multi-Agents are Social Groups: Investigating Social Influence of Multiple Agents in Human-Agent Interactions [7.421573539569854]
  我々は,AIエージェントの集団が,ユーザに対して同意を求める社会的プレッシャーを生じさせるかどうかを検討する。 その結果、複数のエージェントと会話することで、参加者が感じた社会的プレッシャーが増すことがわかった。 本研究は, 単一エージェントプラットフォームに対するマルチエージェントシステムの潜在的利点が, 意見変化を引き起こす可能性を示唆している。
  論文  参考訳（メタデータ） (2024-11-07T10:00:46Z)
• Spontaneous Emergence of Agent Individuality through Social Interactions in LLM-Based Communities [0.0]
  本稿では,Large Language Model (LLM) ベースのエージェントを用いて,ゼロからエージェントが出現することを検討する。 このマルチエージェントシミュレーションを解析することにより、社会的規範、協力、性格特性が自然に出現する方法について、貴重な新しい知見を報告する。
  論文  参考訳（メタデータ） (2024-11-05T16:49:33Z)
• AgentSense: Benchmarking Social Intelligence of Language Agents through Interactive Scenarios [38.878966229688054]
  本稿では,対話型シナリオを通して言語エージェントのソーシャルインテリジェンスをベンチマークするAgensSenseを紹介する。 ドラマティック理論に基づいて、エージェントセンスは、広範なスクリプトから構築された1,225の多様な社会的シナリオを作成するためにボトムアップアプローチを採用している。 我々はERG理論を用いて目標を分析し、包括的な実験を行う。 以上の結果から,LPMは複雑な社会シナリオ,特に高レベルの成長ニーズにおいて,目標達成に苦慮していることが明らかとなった。
  論文  参考訳（メタデータ） (2024-10-25T07:04:16Z)
• The Dynamics of Social Conventions in LLM populations: Spontaneous Emergence, Collective Biases and Tipping Points [0.0]
  シミュレーション対話を用いたLarge Language Model (LLM) エージェントの集団内におけるコンベンションのダイナミクスについて検討する。 グローバルに受け入れられる社会慣行は,LLM間の局所的な相互作用から自然に生じうることを示す。 献身的なLLMのマイノリティグループは、新しい社会慣習を確立することで社会変革を促進することができる。
  論文  参考訳（メタデータ） (2024-10-11T16:16:38Z)
• PersLLM: A Personified Training Approach for Large Language Models [66.16513246245401]
  社会実践, 一貫性, 動的発達という, 心理学に根ざした個性の原則を統合したPersLLMを提案する。 モデルパラメータに直接パーソナリティ特性を組み込み、誘導に対するモデルの抵抗性を高め、一貫性を高め、パーソナリティの動的進化を支援する。
  論文  参考訳（メタデータ） (2024-07-17T08:13:22Z)
• SocialGFs: Learning Social Gradient Fields for Multi-Agent Reinforcement Learning [58.84311336011451]
  マルチエージェント強化学習のための新しい勾配に基づく状態表現を提案する。 オフラインサンプルからソーシャルグラデーションフィールド(SocialGF)を学習するために,デノジングスコアマッチングを採用している。 実際に、SocialGFをMAPPOなど、広く使われているマルチエージェント強化学習アルゴリズムに統合する。
  論文  参考訳（メタデータ） (2024-05-03T04:12:19Z)
• SocialBench: Sociality Evaluation of Role-Playing Conversational Agents [85.6641890712617]
  大規模言語モデル(LLM)は、様々なAI対話エージェントの開発を進めてきた。 SocialBenchは、ロールプレイングの会話エージェントの社会的性を個人レベルとグループレベルで評価するために設計された最初のベンチマークである。 個人レベルで優れたエージェントは,集団レベルでの熟練度を示唆しない。
  論文  参考訳（メタデータ） (2024-03-20T15:38:36Z)
• Dynamics of Moral Behavior in Heterogeneous Populations of Learning Agents [3.7414804164475983]
  本研究では、道徳的に異質な集団が社会的ジレンマ環境で相互作用する学習力学について研究する。 我々は、親社会と反社会的エージェント間のいくつかの非自明な相互作用を観察する。 ある種の道徳的エージェントは、より協調的な行動に向けて利己的なエージェントを操ることができる。
  論文  参考訳（メタデータ） (2024-03-07T04:12:24Z)
• Should agentic conversational AI change how we think about ethics? Characterising an interactional ethics centred on respect [0.12041807591122715]
  本稿では,関係要因と状況要因に着目した倫理の相互作用的アプローチを提案する。 我々の研究は、位置する社会的相互作用のレベルにおいて、ほとんど探索されていないリスクのセットを予想している。
  論文  参考訳（メタデータ） (2024-01-17T09:44:03Z)
• LLM-Based Agent Society Investigation: Collaboration and Confrontation in Avalon Gameplay [55.12945794835791]
  Avalon をテストベッドとして使用し,システムプロンプトを用いてゲームプレイにおける LLM エージェントの誘導を行う。 本稿では,Avalonに適した新しいフレームワークを提案し,効率的なコミュニケーションと対話を容易にするマルチエージェントシステムを提案する。 その結果、適応エージェントの作成におけるフレームワークの有効性を確認し、動的社会的相互作用をナビゲートするLLMベースのエージェントの可能性を提案する。
  論文  参考訳（メタデータ） (2023-10-23T14:35:26Z)
• Incorporating Rivalry in Reinforcement Learning for a Competitive Game [65.2200847818153]
  本研究は,競争行動の社会的影響に基づく新しい強化学習機構を提案する。 提案モデルでは, 人工エージェントの学習を調節するための競合スコアを導出するために, 客観的, 社会的認知的メカニズムを集約する。
  論文  参考訳（メタデータ） (2022-08-22T14:06:06Z)
• Aligning to Social Norms and Values in Interactive Narratives [89.82264844526333]
  我々は、インタラクティブな物語やテキストベースのゲームにおいて、社会的に有益な規範や価値観に沿って行動するエージェントを作成することに注力する。 我々は、特別な訓練を受けた言語モデルに存在する社会的コモンセンス知識を用いて、社会的に有益な値に整合した行動にのみ、その行動空間を文脈的に制限するGAALADエージェントを紹介した。
  論文  参考訳（メタデータ） (2022-05-04T09:54:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。