論文の概要: Social Dynamics as Critical Vulnerabilities that Undermine Objective Decision-Making in LLM Collectives

• arxiv url: http://arxiv.org/abs/2604.06091v1
• Date: Tue, 07 Apr 2026 17:04:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.949143
• Title: Social Dynamics as Critical Vulnerabilities that Undermine Objective Decision-Making in LLM Collectives
• Title（参考訳）: LLM集団の客観的意思決定を損なう臨界脆弱性としての社会的ダイナミクス
• Authors: Changgeon Ko, Jisu Shin, Hoyun Song, Huije Lee, Eui Jun Hwang, Jong C. Park,
• Abstract要約: 大規模言語モデル(LLM)エージェントは、マルチエージェント環境において、ますます人間のデリゲートとして機能している。 本稿では,ネットワークの社会的文脈によって,エージェントの信頼性が損なわれているかを検討する。
• 参考スコア（独自算出の注目度）: 14.952471157911502
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Large language model (LLM) agents are increasingly acting as human delegates in multi-agent environments, where a representative agent integrates diverse peer perspectives to make a final decision. Drawing inspiration from social psychology, we investigate how the reliability of this representative agent is undermined by the social context of its network. We define four key phenomena-social conformity, perceived expertise, dominant speaker effect, and rhetorical persuasion-and systematically manipulate the number of adversaries, relative intelligence, argument length, and argumentative styles. Our experiments demonstrate that the representative agent's accuracy consistently declines as social pressure increases: larger adversarial groups, more capable peers, and longer arguments all lead to significant performance degradation. Furthermore, rhetorical strategies emphasizing credibility or logic can further sway the agent's judgment, depending on the context. These findings reveal that multi-agent systems are sensitive not only to individual reasoning but also to the social dynamics of their configuration, highlighting critical vulnerabilities in AI delegates that mirror the psychological biases observed in human group decision-making.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、代表エージェントが様々なピア視点を統合して最終的な決定を行うマルチエージェント環境において、ヒューマンデリゲートとしてますます機能している。 社会心理学からインスピレーションを得て,ネットワークの社会的文脈によって,エージェントの信頼性が損なわれているかを検討する。 我々は,4つの重要な現象-社会的な整合性,知覚的専門性,支配的な話者効果,修辞的説得-と,敵対者数,相対知性,議論長,議論的スタイルを体系的に操作する。 実験の結果,社会圧力の増加に伴って代表者の精度が一定に低下することが確認された。 さらに、信頼性や論理性を強調する修辞的戦略は、文脈によってはエージェントの判断をさらに弱める可能性がある。 これらの結果は、マルチエージェントシステムは個々の推論だけでなく、その構成の社会的ダイナミクスにも敏感であり、人間のグループ意思決定で観察される心理的バイアスを反映したAIデリゲートの重大な脆弱性を強調している。

関連論文リスト

• Conformity and Social Impact on AI Agents [42.04722694386303]
  本研究では,AIエージェントとして機能する大規模マルチモーダル言語モデルにおいて,社会圧力下での集団意見の一致傾向について検討した。 実験の結果,AIエージェントは社会影響理論と整合性バイアスを示し,グループサイズ,一様性,タスクの難易度,ソース特性に敏感であることがわかった。 これらの発見は、悪意のある操作、誤報キャンペーン、マルチエージェントシステムにおけるバイアス伝搬を可能にするAIエージェント決定における基本的なセキュリティ脆弱性を明らかにしている。
  論文  参考訳（メタデータ） (2026-01-08T21:16:28Z)
• The Social Laboratory: A Psychometric Framework for Multi-Agent LLM Evaluation [0.16921396880325779]
  マルチエージェント討論を制御された「社会実験室」として活用する新しい評価枠組みを導入する。 特に認知活動において、割り当てられたペルソナが安定した、測定可能な心理測定プロファイルを誘導することを示す。 この研究は、動的、心理学的に基礎付けられた評価プロトコルの新しいクラスの青写真を提供する。
  論文  参考訳（メタデータ） (2025-10-01T07:10:28Z)
• Disagreements in Reasoning: How a Model's Thinking Process Dictates Persuasion in Multi-Agent Systems [49.69773210844221]
  本稿では,説得力はモデルスケールの関数である,という一般的な仮説に挑戦する。 一連のマルチエージェントの説得実験を通じて、パーサーション・デュナリティ(Persuasion Duality)と呼ばれる基本的なトレードオフを明らかにする。 以上の結果から, LRMの推理過程は説得に対する抵抗性が大きく, 当初の信念をより堅固に維持していることが明らかとなった。
  論文  参考訳（メタデータ） (2025-09-25T12:03:10Z)
• The Traitors: Deception and Trust in Multi-Agent Language Model Simulations [0.0]
  ソーシャル・デダクション・ゲームに触発されたマルチエージェント・シミュレーション・フレームワークであるThe Traitorsを紹介した。 我々は,詐欺の成功,信頼ダイナミクス,集団推論品質を計測する評価指標のスイートを開発する。 DeepSeek-V3, GPT-4o-mini, GPT-4o(モデル毎に10回の走行)による実験では, 顕著な非対称性が示された。
  論文  参考訳（メタデータ） (2025-05-19T10:01:35Z)
• Emergence of human-like polarization among large language model agents [79.96817421756668]
  我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。 人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、分極を緩和するためのもっともらしい戦略を識別するための貴重なテストベッドとして機能する可能性も持っている。
  論文  参考訳（メタデータ） (2025-01-09T11:45:05Z)
• PersLLM: A Personified Training Approach for Large Language Models [66.16513246245401]
  データ構築とモデルチューニングを改善するためのフレームワークPersLLMを提案する。 データ利用が不十分な場合には、Chain-of-Thoughtプロンプトやアンチインダクションといった戦略を取り入れます。 厳密な振舞いパターンを設計し,モデルの性格の特異性とダイナミズムを高めるために自動DPOを導入する。
  論文  参考訳（メタデータ） (2024-07-17T08:13:22Z)
• The Persuasive Power of Large Language Models [0.0]
  気候変動をテーマとした総合的な説得対話シナリオを設計する。 支配者」エージェントは「懐疑的」エージェントに対して説得力のある議論を生成し、その後、議論が内部の意見状態を変えたかどうかを評価する。 我々は,機械による議論の説得力を評価するために,人間の裁判官に依頼する。 以上の結果から,オンラインソーシャルメディアにおける意見形成過程において,人工エージェントが重要な役割を果たす可能性が示唆された。
  論文  参考訳（メタデータ） (2023-12-24T16:21:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。