論文の概要: Behavior is Not Enough: A Mechanism-Based Evaluation of Social Norm Emergence in LLM Societies

• arxiv url: http://arxiv.org/abs/2609.26481v1
• Date: Tue, 22 Sep 2026 14:21:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-24 01:05:39.69239
• Title: Behavior is Not Enough: A Mechanism-Based Evaluation of Social Norm Emergence in LLM Societies
• Title（参考訳）: LLM社会における社会的ノルム発生のメカニズムに基づく評価
• Abstract要約: 我々は,行動収束に加えて,エージェントが報告した経験的,規範的期待を測定するための評価枠組みを導入する。 社会的学習は行動の安定化を図り、社会的選択はコオペレーターを確実に識別するが、行動強化は限定的である。
• 参考スコア（独自算出の注目度）: 3.866688354921775
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Social norms cannot be identified from behavior alone: the same cooperative equilibrium may reflect shared expectations, strategic incentives, or simple imitation. Yet in multi-agent large language model systems, prior work largely treats behavioral convergence as evidence of norm emergence. In this work, we introduce an evaluation framework that measures agents' reported empirical and normative expectations in addition to behavioral convergence. Through controlled ablations, we test the effect of expectation elicitation and isolate two collective mechanisms central to theories of norm formation---social learning through interaction and social selection through network-based group formation. We further test the stability of these resulting dynamics under adversarial disruption across four LLM families. We find that eliciting expectations increases cooperative contributions, while social learning stabilizes behavior, and social selection reliably identifies cooperators but provides limited behavioral reinforcement. Following disruption, normative expectations and behavioral coordination recover differently. Together, these results show that similar cooperative outcomes can arise from different underlying social processes. By making expectations observable, our framework allows us to attribute each mechanism's contribution separately, offering designers of multi-agent systems a principled basis for selecting the social processes that sustain cooperation.
• Abstract（参考訳）: 同じ協調均衡は、共通の期待、戦略的インセンティブ、あるいは単純な模倣を反映している可能性がある。 しかし、マルチエージェントな大規模言語モデルシステムでは、先行研究は主に行動収束をノルムの出現の証拠として扱う。 本研究では,行動収束に加えて,エージェントが報告した経験的,規範的期待を計測する評価枠組みを導入する。 予測誘発の効果を検証し,ネットワークに基づくグループ形成による対話と社会的選択による社会的学習を中心とした,規範形成理論を中心とした2つの集団メカニズムを分離する。 さらに,4つのLLMファミリーにまたがる敵対的破壊の下で,これらのダイナミクスの安定性を検証した。 社会的学習は行動の安定化を図り、社会的選択はコオペレーターを確実に識別するが、行動強化は限定的である。 混乱の後、規範的期待と行動調整は異なった回復を遂げる。 これらの結果は、同様の協力的な成果が、異なる社会的プロセスから生じることを示唆している。 期待を観測可能とすることで、我々のフレームワークは、各メカニズムの貢献を個別に評価することができ、マルチエージェントシステムの設計者に、協力を維持する社会的プロセスを選択するための原則的な基盤を提供する。

関連論文リスト

• A game theory for foundation models shows new paths to rational cooperation through similarity inference [56.53805518668248]
  最適計画に携わる基礎モデルエージェントは、安定的な協調に一貫して収束していることを示す。 分離された物質から埋め込まれた物質へと移行することで、これらのエージェントは自分たちが居住する宇宙の一部として自身をモデル化する。
  論文  参考訳（メタデータ） (2026-08-04T17:24:33Z)
• Emergent Relational Order in LLM Agent Societies: From Collective Affect to Authority Stratification [8.288757798319624]
  ファイ・シャオトン(Fei Xiaotong)の微分順序パターンは、農村社会を自我中心的かつ関係性的に格付けしていると特徴づけている。 本稿では,Affect Control Theory, Social Identity Theory, Durkheimian group affectを基盤としたマルチエージェントフレームワークであるCAREB-MASを提案する。 エージェントは感情倫理の連鎖を通じて推論し、動的に進化する自我中心のアイデンティティを維持する。
  論文  参考訳（メタデータ） (2026-06-22T14:25:36Z)
• Fairness over Equality: Correcting Social Incentives in Asymmetric Sequential Social Dilemmas [14.346045345458416]
  逐次社会ジレンマ(SSD)は、個人のインセンティブが集団福祉と対立するときに、協力がどのように現れるかを研究するための重要な枠組みを提供する。 既存の方法の多くは、エージェントがジレンマにおいて同一のインセンティブに直面し、公正性を評価するために他のエージェントに関するグローバル情報への継続的なアクセスを必要とすると仮定している。 我々は、よく知られたSSD環境の非対称な変種を導入し、エージェント間の自然差が協調力学にどのように影響するかを検討する。
  論文  参考訳（メタデータ） (2026-02-17T07:31:20Z)
• The Role of Social Learning and Collective Norm Formation in Fostering Cooperation in LLM Multi-Agent Systems [13.628908663240564]
  我々は、明確な報酬信号を取り除き、文化進化機構を組み込むCPRシミュレーションフレームワークを導入する。 環境および社会的初期化のグリッドである2時間2ドルの標準的進化について検討する。 本研究は,協調の維持と規範形成における系統的モデルの違いを明らかにする。
  論文  参考訳（メタデータ） (2025-10-16T07:59:31Z)
• Reciprocity as the Foundational Substrate of Society: How Reciprocal Dynamics Scale into Social Systems [0.0]
  相互性は単に局所的あるいは原始的な交換ではなく、大規模社会構造が出現するスケーラブルな基盤であると主張する。 本稿では,この出現をモデル化するための3段階の枠組みを提案する。
  論文  参考訳（メタデータ） (2025-05-13T07:50:01Z)
• Emergence of human-like polarization among large language model agents [79.96817421756668]
  我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。 人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、分極を緩和するためのもっともらしい戦略を識別するための貴重なテストベッドとして機能する可能性も持っている。
  論文  参考訳（メタデータ） (2025-01-09T11:45:05Z)
• Learning to Balance Altruism and Self-interest Based on Empathy in Mixed-Motive Games [47.8980880888222]
  マルチエージェントのシナリオは、しばしば混合モチベーションを伴い、潜在的な搾取に対する自己保護が可能な利他的エージェントを要求する。 共感に基づくアルトリズムと自己利益のバランスをとるためのLASE学習を提案する。 LASEはその報酬の一部を共同プレイヤにギフトとして割り当て、このアロケーションは社会的関係に基づいて動的に適応する。
  論文  参考訳（メタデータ） (2024-10-10T12:30:56Z)
• Exploring Collaboration Mechanisms for LLM Agents: A Social Psychology View [60.80731090755224]
  本稿では,理論的洞察を用いた実用実験により,現代NLPシステム間の協調機構を解明する。 我々は, LLMエージェントからなる4つの独特な社会をつくり, それぞれのエージェントは, 特定の特性(容易性, 過信性)によって特徴づけられ, 異なる思考パターン(議論, ふりかえり)と協調する。 以上の結果から, LLMエージェントは, 社会心理学理論を反映した, 適合性やコンセンサスリーディングといった人間的な社会的行動を示すことが明らかとなった。
  論文  参考訳（メタデータ） (2023-10-03T15:05:52Z)
• The Machine Psychology of Cooperation: Can GPT models operationalise prompts for altruism, cooperation, competitiveness and selfishness in economic games? [0.0]
  GPT-3.5大言語モデル(LLM)を用いて,協調的,競争的,利他的,利己的行動の自然言語記述を操作可能とした。 被験者と実験心理学研究で用いられるのと同様のプロトコルを用いて,課題環境を記述するためのプロンプトを用いた。 この結果から,LLM が様々な協調姿勢の自然言語記述を適切な作業行動の記述にある程度翻訳できることが示唆された。
  論文  参考訳（メタデータ） (2023-05-13T17:23:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。