論文の概要: LLMs Trust Their Own: Identity-Dependent Conformity in Multi-Agent Systems
- arxiv url: http://arxiv.org/abs/2609.33495v1
- Date: Sun, 27 Sep 2026 12:02:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-05 16:22:23.39466
- Title: LLMs Trust Their Own: Identity-Dependent Conformity in Multi-Agent Systems
- Title（参考訳）: LLMは自分自身を信頼している:マルチエージェントシステムにおけるアイデンティティ依存の整合性
- Abstract要約: 大規模言語モデルの応答が他のエージェントの社会的アイデンティティに依存するかどうかを検討する。
グループアイデンティティの双方向効果が、誤った回答への適合性に与える影響を見いだす。
コンセンサスを急激に破る人間とは異なり、モデルは多数派の同盟者によって動かされない。
- 参考スコア（独自算出の注目度）: 11.404431115724085
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) are increasingly deployed in multi-agent settings, where agents observe and influence one another, making social influence a key dimension of AI behavior and safety. We investigate whether LLMs' responses depend on the social identity of other agents, beyond the effect of their consensus. We construct judgment tasks with a single correct answer, and place models in a multi-agent setting where they receive incorrect answers from other agents whose social identities (AI or human, model family, or an arbitrary minimal group) are either shared with or distinct from their own. Across 12 open-weights models and nine tasks, we find a bidirectional effect of group identity on conformity to incorrect answers: in-group consensus increases conformity (in-group favoritism), whereas out-group consensus decreases it (out-group divergence). Unlike humans, for whom one ally breaking the consensus sharply reduces conformity, models are unmoved by an ally from the majority's group. Worse, a correct ally from the opposing group intensifies this bidirectional effect. Chain-of-Thought reasoning suppresses most of these effects, yet an in-group ally still reduces conformity to an incorrect out-group majority. Labeling peers as safety-aligned shifts overall conformity but leaves in-group favoritism and out-group divergence intact. These results show that group identity shapes how LLMs aggregate information across agents, independently of its correctness, and identify a manipulation surface for multi-agent AI systems.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、エージェントが互いに観察し、影響するマルチエージェント設定にますますデプロイされ、社会的影響がAIの振る舞いと安全性の重要な次元となる。
LLMの反応が他のエージェントの社会的アイデンティティに依存しているかどうかを,そのコンセンサスの効果を超えて検討する。
社会的アイデンティティ(AI,人間,モデルファミリー,あるいは任意のミニマルグループ)が互いに共有されている他のエージェントから誤った回答を受け取っているマルチエージェント環境において,モデルを構築する。
12個のオープンウェイトモデルと9つのタスクにまたがって、不正確な解に対するグループアイデンティティの双方向効果を見出す: グループ内コンセンサスは整合性(グループ内好意性)を増大させるが、グループ外コンセンサスはそれを減らす(グループ外発散性)。
コンセンサスを急激に破る人間とは異なり、モデルは多数派の同盟者によって動かされない。
さらに悪いことに、対立する群からの正しい同盟は、この双方向効果を強化する。
Chain-of-Thought推論はこれらの効果のほとんどを抑制するが、群内同盟は依然として不正確な外集団の多数派への適合性を減少させる。
安全に整合した仲間のラベル付けは全体的な適合性を変えるが、グループ内での好意とグループ外の相違はそのまま残る。
これらの結果は、LLMがエージェント間で情報を集約する方法を、その正しさとは独立に示し、マルチエージェントAIシステムの操作面を識別することを示す。
関連論文リスト
- Persuasive and Compliant Tendencies Predict Group Decision-Making in Humans and Language Models [65.21691850622413]
大規模言語モデル(LLM)は、人間との集団意思決定にますます関与している。
本稿では,各モデルの説得性およびコンプライアンス傾向を測定するための質問紙ベースのフレームワークであるDecisionQEを紹介する。
より強い説得傾向はグループの結果を著しく改善しないが、コンプライアンス指向モデルは協調においてより安定した優位性を示す。
論文 参考訳（メタデータ） (2026-08-08T15:50:56Z) - Group Selection Promotes Prosocial Prompts in Populations of LLM Agents [1.7004466773233589]
グループ選択は,大規模言語モデル(LLM)エージェントの集団における協調を促進することができるかを検討する。
グループ選択では、ハイパフォーマンスなグループからのプロンプトが送信され、それによって社会性の促進と協力の安定化が促進される。
予備的な発見は、選択メカニズムを知らせると、GPT-5.4は先制的に第1世代の寄付を徐々に調整することを示している。
論文 参考訳（メタデータ） (2026-06-22T13:47:19Z) - Truth or Tribe: How In-group Favoritism Prioritize Facts in Persona Agents [11.443925621424397]
我々は,ペルソナエージェントがグループ内で強い好意を示し,同一性同族者からの誤った回答を異性同族者よりもはるかに高い速度で受け入れていることを示した。
グループ内での好意は、絶対的な真実が存在しないような推論の文脈で現れ続けている。
グループ内の優遇を緩和する3つの介入戦略が提案されている。
論文 参考訳（メタデータ） (2026-05-02T08:48:09Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - When Is Collective Intelligence a Lottery? Multi-Agent Scaling Laws for Memetic Drift in LLMs [19.42697228981973]
命名ゲームにおいて、特定のエージェントがラベルを優先しない場合でも、人口は急速に対称性を破り、コンセンサスに達することを示す。
最小限のモデルであるQuantized Simplex Gossip (QSG)を導入し、この合意の微妙な起源を相互文脈学習に追従するメカニズムを明らかにする。
我々は,人口規模,通信帯域幅,文脈内適応率,エージェントの内部不確実性の関数として,ドリフト誘起偏光のスケーリング法則を導出する。
論文 参考訳（メタデータ） (2026-03-25T18:00:29Z) - When Agents See Humans as the Outgroup: Belief-Dependent Bias in LLM-Powered Agents [30.859825973762018]
本稿は、LSMによるエージェントは、人口統計バイアス(例えば、性別、宗教)だけでなく、グループ間バイアスも最小限の「us」と「them」の手がかりで示していることを示している。
エージェントは他のAIエージェントを内集団として扱うことができ、人間を外集団として扱うことができる。
論文 参考訳（メタデータ） (2026-01-01T07:18:36Z) - Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。
M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。
本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
論文 参考訳（メタデータ） (2025-09-20T01:54:20Z) - Many LLMs Are More Utilitarian Than One [12.348007064643193]
道徳的判断は、大きな言語モデル(LLM)の社会的推論に不可欠なものである。
グループ協議は、利益を最大化するが害を与える規範違反を支持する傾向にある。
エージェントが他人の利益のために個人に直接損害を与えるかどうかを判断する個人的なジレンマでは、すべてのモデルが、集団の一部として道徳的違反をより受け入れやすいものと評価した。
論文 参考訳（メタデータ） (2025-07-01T14:46:16Z) - Modeling the Q-Diversity in a Min-max Play Game for Robust Optimization [61.39201891894024]
群分布的ロバスト最適化(群 DRO)は、事前定義された群に対する最悪の損失を最小限にすることができる。
グループDROフレームワークをQ-Diversityを提案して再構築する。
インタラクティブなトレーニングモードによって特徴付けられるQ-Diversityは、アノテーションからグループ識別を緩和し、直接パラメータ化を行う。
論文 参考訳（メタデータ） (2023-05-20T07:02:27Z) - On the Complexity of Multi-Agent Decision Making: From Learning in Games
to Partial Monitoring [105.13668993076801]
マルチエージェント強化学習(MARL)理論における中心的な問題は、構造条件やアルゴリズムの原理がサンプル効率の学習保証につながるかを理解することである。
本稿では,複数のエージェントを用いた対話型意思決定のための一般的な枠組みとして,この問題について考察する。
マルチエージェント意思決定における統計的複雑性を特徴付けることは、単一エージェント決定の統計的複雑性を特徴付けることと等価であることを示す。
論文 参考訳（メタデータ） (2023-05-01T06:46:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。