論文の概要: Why LLM Agents Favor Their Group: Stakes, Observed Norms, and Reputation

• arxiv url: http://arxiv.org/abs/2610.11008v1
• Date: Wed, 07 Oct 2026 23:46:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.706222
• Title: Why LLM Agents Favor Their Group: Stakes, Observed Norms, and Reputation
• Title（参考訳）: LLMのエージェントはなぜ彼らのグループを嫌うのか: ステークス、観察されたノルム、そして批判
• Abstract要約: 言語モデルエージェントは、メンバーがお互いを好んでいるのを見て、独自のグループを好む。 好ましくない行動を引き起こすものは観察され、個人の記録はそれを上書きすることができる。 任意のグループラベル、ポイント共有10ラウンド、ワンショット決定にマッチした小さな社会でこれをテストしました。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Language-model agents favor their own group because they have watched their members favor each other. The group label alone does little once the decision has a cost; what drives favoritism is observed behavior, and an individual's own record can override it. We test this in small societies with arbitrary group labels, ten rounds of point sharing, and matched one-shot decisions across fifteen OpenAI models and three Claude models, about 4,400 societies and 3.3 million audited model calls. First, the large effect of a bare group label reported in earlier work appears only when giving others points costs the agent nothing; once the agent can keep points for itself, that effect collapses on every model that shows it. Second, under a stake, interaction history becomes the main source of favoritism: the history effect is statistically positive on 13 of 15 models, reaches about 3.5-8 points out of 10 on 11, grows with the number of rounds played, and extends to labeled strangers the agent has never met. Third, with scripted histories, favoritism falls to near zero under an egalitarian norm and reverses when the agent's own group is seen favoring the other side; stronger models side with an individual's record when it conflicts with the group. Group favoritism is thus conformity to observed group behavior, carried to strangers by the label and overridden by individual reputation. The same account predicts responses to betrayal, scandal, and a free offer to change group: public reprimand repairs betrayal better than apology or restitution, allocation punishment remains confined to the offending member, and a formed group cannot be bought but can, on weaker models, be invited away.
• Abstract（参考訳）: 言語モデルエージェントは、メンバーがお互いを好んでいるのを見て、独自のグループを好む。 グループラベルだけでは、決定にコストがかかるとほとんど行われない。好ましくない行為は観察され、個人の記録はそれを上書きすることができる。 私たちは、任意のグループラベルと10ラウンドのポイントシェアリングを備えた小さな社会でこれをテストし、15のOpenAIモデルと3つのClaudeモデル、約4400の社会、約330万の監査済みモデルコールでワンショット決定に一致しました。 第一に、以前の研究で報告された素グループラベルの大きな効果は、他の人にポイントを与えるとエージェントに何の費用もかからないときにのみ現れる;エージェントが自分自身のポイントを維持できると、その効果はそれを示すすべてのモデルに崩壊する。 歴史効果は15モデル中13モデルで統計的に肯定的であり、11モデルで10点中3.5-8点に達し、ラウンドの回数とともに成長し、エージェントが会ったことのないラベル付き見知らぬ人に拡張される。 第3に、台本のある歴史では、平等主義的な規範の下で好意はゼロに近づき、エージェント自身のグループが他方を好むと逆転する。 集団の好意は、観察された集団行動と一致し、ラベルによって見知らぬ人に運ばれ、個人の評判によって覆われている。 同じアカウントは、反逆、スキャンダル、自由な変更グループへの反応を予測している: 公の反省と修復は、謝罪や改ざんよりも反逆的な修復をし、割り当ての刑罰は、被告に限られており、結成されたグループは購入できないが、より弱いモデルでは、招待される。

関連論文リスト

• Prompted Identity Degrades Cooperation in Multi-Agent LLM Systems [10.977440059185428]
  エージェントが互いのモデルファミリを認識している場合、グループをクラスタに分割し、エージェントが同じラベルを持つ他のエージェントと対話することを好むことを示す。 我々は,この現象を,最大5つのオープンウェイトモデルファミリーから引き出された9～25個のエージェントを用いて,2つの協調ゲームと推論ベンチマークで示し,評価した。
  論文  参考訳（メタデータ） (2026-09-28T14:02:07Z)
• LLMs Trust Their Own: Identity-Dependent Conformity in Multi-Agent Systems [11.404431115724085]
  大規模言語モデルの応答が他のエージェントの社会的アイデンティティに依存するかどうかを検討する。 グループアイデンティティの双方向効果が、誤った回答への適合性に与える影響を見いだす。 コンセンサスを急激に破る人間とは異なり、モデルは多数派の同盟者によって動かされない。
  論文  参考訳（メタデータ） (2026-09-27T12:02:18Z)
• When Agents Lie: Premeditation, Persistence, and Exploitation in Repeated Games [69.060029640261]
  10ラウンドにわたる同質群と異質群の6つのゲームにおけるフロンティアモデルの評価を行った。 異なるモデルは発表を無矛盾に解釈し、いくつかはバインディングのコミットメントとして、もうひとつは安価なトークとして解釈する。
  論文  参考訳（メタデータ） (2026-07-06T14:17:59Z)
• Truth or Tribe: How In-group Favoritism Prioritize Facts in Persona Agents [11.443925621424397]
  我々は,ペルソナエージェントがグループ内で強い好意を示し,同一性同族者からの誤った回答を異性同族者よりもはるかに高い速度で受け入れていることを示した。 グループ内での好意は、絶対的な真実が存在しないような推論の文脈で現れ続けている。 グループ内の優遇を緩和する3つの介入戦略が提案されている。
  論文  参考訳（メタデータ） (2026-05-02T08:48:09Z)
• GUDA: Counterfactual Group-wise Training Data Attribution for Diffusion Models via Unlearning [83.56510119503267]
  モデルがトレーニングを欠席した場合、モデルが生成したサンプルの変化に対してどのように振る舞うか? 拡散モデルに対してGUDA(Group Unlearning-based Data Attribution)を提案する。
  論文  参考訳（メタデータ） (2026-01-30T07:10:59Z)
• Us-vs-Them bias in Large Language Models [0.569978892646475]
  基礎的大言語モデル間で、一貫した内集団陽性および外集団陰性な関連を見いだす。 調査対象者は,保守的ペルソナは対人関係が強く,リベラルなペルソナは対人関係が強かった。
  論文  参考訳（メタデータ） (2025-12-03T07:11:22Z)
• Protected group bias and stereotypes in Large Language Models [2.1122940074160357]
  本稿では,倫理と公正の領域におけるLarge Language Models(LLM)の振る舞いについて考察する。 マイノリティ化されたグループに偏見はありますが、特に性別やセクシュアリティの領域では、西洋の偏見も見られます。
  論文  参考訳（メタデータ） (2024-03-21T00:21:38Z)
• Bandit Social Learning: Exploration under Myopic Behavior [54.767961587919075]
  オンラインプラットフォーム上でのレビューによって動機付けられた社会学習のダイナミクスについて検討する。 エージェントはまとめて単純なマルチアームのバンディットプロトコルに従うが、各エージェントは探索を伴わずにミオプティカルに振る舞う。 このような振る舞いに対して,スターク学習の失敗を導出し,好意的な結果を提供する。
  論文  参考訳（メタデータ） (2023-02-15T01:57:57Z)
• Spatio-Temporal Graph Representation Learning for Fraudster Group Detection [50.779498955162644]
  企業は、偽レビューを書くために詐欺師グループを雇い、競合相手をデモしたり、自分のビジネスを宣伝したりすることができる。 そのようなグループを検出するには、詐欺師グループの静的ネットワークを表現するのが一般的なモデルである。 両レビュアーの表現学習におけるHIN-RNNの有効性を第一に活用することを提案する。
  論文  参考訳（メタデータ） (2022-01-07T08:01:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。