論文の概要: LLMs Can't Handle Peer Pressure: Crumbling under Multi-Agent Social Interactions

• arxiv url: http://arxiv.org/abs/2508.18321v2
• Date: Thu, 28 Aug 2025 12:18:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-29 13:55:31.742781
• Title: LLMs Can't Handle Peer Pressure: Crumbling under Multi-Agent Social Interactions
• Title（参考訳）: LLMはピアプレッシャーに対処できない:マルチエージェントな社会的相互作用の下での混乱
• Authors: Maojia Song, Tej Deep Pala, Weisheng Jin, Amir Zadeh, Chuan Li, Dorien Herremans, Soujanya Poria,
• Abstract要約: 大規模言語モデル(LLM)は、コラボレーションインテリジェンスのコンポーネントとして、マルチエージェントシステムにますます多くデプロイされている。 LLMが過去の印象からの信頼をいかに形成し、誤報に抵抗し、相互作用中にピアインプットを統合するかを検討する。 KAIROSは、クイズコンテストをシミュレーションするベンチマークで、信頼性の異なるピアエージェントを提示する。
• 参考スコア（独自算出の注目度）: 35.71511502901056
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly deployed in multi-agent systems (MAS) as components of collaborative intelligence, where peer interactions dynamically shape individual decision-making. Although prior work has focused on conformity bias, we extend the analysis to examine how LLMs form trust from previous impressions, resist misinformation, and integrate peer input during interaction, key factors for achieving collective intelligence under complex social dynamics. We present KAIROS, a benchmark simulating quiz contests with peer agents of varying reliability, offering fine-grained control over conditions such as expert-novice roles, noisy crowds, and adversarial peers. LLMs receive both historical interactions and current peer responses, allowing systematic investigation into how trust, peer action, and self-confidence influence decisions. As for mitigation strategies, we evaluate prompting, supervised fine-tuning, and reinforcement learning, Group Relative Policy Optimisation (GRPO), across multiple models. Our results reveal that GRPO with multi-agent context combined with outcome-based rewards and unconstrained reasoning achieves the best overall performance, but also decreases the robustness to social influence compared to Base models. The code and datasets are available at: https://github.com/declare-lab/KAIROS.
• Abstract（参考訳）: 大規模言語モデル (LLM) は協調知能の構成要素として多エージェントシステム (MAS) に展開されつつある。 先行研究は整合性バイアスに重点を置いているが、LLMが過去の印象からの信頼をどのように形成し、誤情報に抵抗し、相互作用中にピアインプットを統合するか、複雑な社会的ダイナミクスの下で集団知性を達成するための重要な要因である。 KAIROSは、クイズコンテストを、様々な信頼性を持つピアエージェントでシミュレーションし、専門家・初心者の役割、騒々しい群衆、敵の仲間などの条件をきめ細かく制御するベンチマークである。 LLMは、歴史的相互作用と現在のピアレスポンスの両方を受け取り、信頼、ピアアクション、そして自己自信が意思決定にどのように影響するかを体系的な調査を可能にする。 緩和戦略については,複数のモデルを対象としたグループ相対的政策最適化(GRPO)の促進,教師付き微調整,強化学習を評価した。 以上の結果から,マルチエージェント・コンテキストのGRPOと結果に基づく報酬と制約のない推論を組み合わせたGRPOは,全体のパフォーマンスを最高のものにすると同時に,ベースモデルと比較して社会的影響に対するロバスト性を低下させることが明らかとなった。 コードとデータセットは、https://github.com/declare-lab/KAIROSで入手できる。

関連論文リスト

• Understanding Action Effects through Instrumental Empowerment in Multi-Agent Reinforcement Learning [39.74025439412935]
  本研究は,政策分布の分析のみでエージェント行動に対する有意義な洞察を抽出できるかどうかを考察する。 知的エージェントが収束器質的価値を追求する傾向にある現象にインスパイアされた我々は、ICV(Intended Cooperation Values)を導入する。 ICVは、その決定(不確実性)と選好の整合性を評価することで、チームメイトの方針に対するエージェントの作用を測定する。
  論文  参考訳（メタデータ） (2025-08-21T15:35:59Z)
• Corrupted by Reasoning: Reasoning Language Models Become Free-Riders in Public Goods Games [87.5673042805229]
  大規模言語モデルは、アライメント、堅牢性、安全なデプロイメントを保証する上で、いかに自己関心と集合的幸福のバランスをとるかが重要な課題である。 我々は、行動経済学から制度的に選択した公共財ゲームに適応し、異なるLLMがいかに社会的ジレンマをナビゲートするかを観察することができる。 意外なことに、o1シリーズのようなLCMの推論は、協調にかなり苦労している。
  論文  参考訳（メタデータ） (2025-06-29T15:02:47Z)
• An Adversary-Resistant Multi-Agent LLM System via Credibility Scoring [8.779871128906787]
  信頼性スコアリングに基づく汎用・対向抵抗型マルチエージェントLCMフレームワークを提案する。 私たちのシステムは、チームのアウトプットを集約するときに使用される信頼性スコアを関連付けています。
  論文  参考訳（メタデータ） (2025-05-30T05:57:37Z)
• Herd Behavior: Investigating Peer Influence in LLM-based Multi-Agent Systems [7.140644659869317]
  大規模言語モデル(LLM)に基づくマルチエージェントシステムにおけるピアの影響のダイナミクスについて検討する。 自己自信と他者に対する信頼感のギャップは,エージェントが適合する可能性に大きな影響を及ぼすことを示す。 群集行動の強さを調節する上で,ピア情報提示形式が重要な役割を担っていることがわかった。
  論文  参考訳（メタデータ） (2025-05-27T12:12:56Z)
• Do as We Do, Not as You Think: the Conformity of Large Language Models [46.23852835759767]
  本稿では,大規模言語モデル(LLM)による協調型AIシステムにおける適合性について述べる。 適合性の存在、適合性に影響を与える要因、潜在的な緩和戦略の3つの側面に焦点を当てる。 本分析では, 相互作用時間や過半数サイズなど, 適合性に影響を与える要因を解明し, 対象エージェントが適合行動をどのように合理化するかを検討する。
  論文  参考訳（メタデータ） (2025-01-23T04:50:03Z)
• Efficient Adaptation in Mixed-Motive Environments via Hierarchical Opponent Modeling and Planning [51.52387511006586]
  本稿では,HOP(Hierarchical Opponent Modeling and Planning)を提案する。 HOPは階層的に2つのモジュールから構成される: 相手の目標を推論し、対応する目標条件のポリシーを学ぶ、反対モデリングモジュール。 HOPは、さまざまな未確認エージェントと相互作用する際、優れた少数ショット適応能力を示し、セルフプレイのシナリオで優れている。
  論文  参考訳（メタデータ） (2024-06-12T08:48:06Z)
• Cooperate or Collapse: Emergence of Sustainable Cooperation in a Society of LLM Agents [101.17919953243107]
  GovSimは、大規模言語モデル(LLM)における戦略的相互作用と協調的意思決定を研究するために設計された生成シミュレーションプラットフォームである。 最強のLSMエージェントを除く全てのエージェントは、GovSimの持続的均衡を達成することができず、生存率は54%以下である。 道徳的思考の理論である「大学化」に基づく推論を活用するエージェントは、持続可能性を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2024-04-25T15:59:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。