論文の概要: Exploit or conform? How norm utility prompting changes the way LLMs use community beliefs

• arxiv url: http://arxiv.org/abs/2611.04048v1
• Date: Mon, 02 Nov 2026 22:43:24 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-04 17:54:38.507467
• Title: Exploit or conform? How norm utility prompting changes the way LLMs use community beliefs
• Title（参考訳）: エクスプロイト・コンフォーメーション? LLMのコミュニティ信仰の使い方をいかに変えるか
• Abstract要約: LLM(Large Language Models)は、人間の日常生活における意思決定を支援するツールであり、実験シミュレーション研究における人間のエージェントのモデルである。 ここでは,「標準実用性」がオープンウェイトLLMの戦略的意思決定に与える影響を,ワンショット,ツープレイのソーシャルジレンマで体系的に検討する。
• 参考スコア（独自算出の注目度）: 42.12420324649131
• License:
• Abstract: Large Language Models (LLMs) serve both as tools for aiding human decision-making in everyday life and as models of human agents in experimental simulation studies. Alignment on prototypical social decisions -- such as whether to cooperate on a collective action -- therefore has immediate practical consequences for researchers and for society at large. Here we systematically explore the impact of ``norm utility'' -- the non-material components of utility that account for an individual's desire to conform to social norms and to be internally consistent -- on the strategic decision-making of three open-weight LLMs in one-shot, two-player social dilemmas. We find that when a social dilemma is presented together with information about community beliefs -- but without any indication of how those beliefs should matter -- models tend to treat community belief as strategic information, so that in the Snowdrift game cooperation falls as community belief in cooperation increases. When we explicitly prompt the components of norm utility this relationship inverts, and cooperation increases with community belief, in broad agreement with the predictions of a simple norm utility model. We then show that prompting norm utility reduces the volatility of strategic decisions with respect to changes in the underlying social context, and generates more consistent reasoning habits across models. Taken together, our results suggest that prompting norm utility can help generate more human-like and consistent behavior across models and lower volatility within models.
• Abstract（参考訳）: LLM(Large Language Models)は、人間の日常生活における意思決定を支援するツールであり、実験シミュレーション研究における人間のエージェントのモデルである。 集団行動に協力するかどうかなど、原型的社会決定の調整は、研究者や社会全体にとって、直ちに実践的な結果をもたらす。 ここでは, 社会的規範に適合し, 内部的に整合性を持たせることを望むユーティリティの非物質的構成要素である ‘norm utility'' が, ワンショット2人の社会的ジレンマにおける3つのオープンウェイト LLM の戦略的意思決定に与える影響を, 体系的に検討する。 社会ジレンマがコミュニティの信念に関する情報と共に提示されると、モデルがコミュニティの信念を戦略的情報として扱う傾向にあり、Snowdriftゲーム協力においては、コミュニティの信念と協力が増加するにつれて、コミュニティの信念が減少する。 規範ユーティリティの構成要素を明示的に促すと、この関係は逆転し、単純な規範ユーティリティモデルの予測と広く一致して、コミュニティの信念と協調する。 次に、規範的ユーティリティーの促進は、基礎となる社会的文脈の変化に対する戦略的決定のボラティリティを低下させ、モデル間でより一貫性のある推論の習慣を生じさせることを示す。 我々の結果は、標準ユーティリティーの促進により、モデル間のより人間らしく一貫性のある振る舞いが生成され、モデル内のボラティリティが低下することを示唆している。

関連論文リスト

• Persuasive and Compliant Tendencies Predict Group Decision-Making in Humans and Language Models [65.21691850622413]
  大規模言語モデル(LLM)は、人間との集団意思決定にますます関与している。 本稿では,各モデルの説得性およびコンプライアンス傾向を測定するための質問紙ベースのフレームワークであるDecisionQEを紹介する。 より強い説得傾向はグループの結果を著しく改善しないが、コンプライアンス指向モデルは協調においてより安定した優位性を示す。
  論文  参考訳（メタデータ） (2026-08-08T15:50:56Z)
• Naturalistic measure of social norms alignment [2.3227870457549584]
  本稿では,自然主義的,自由形式的設定における社会規範の整合性を測定するための枠組みを提案する。 我々はデンマーク語で3kの非自明な社会ジレンマのデータセットを構築した。 この結果から,提案手法はモデルランキングの整合性を示し,異なるタイプのジレンマ間での一致のばらつきを明らかにした。
  論文  参考訳（メタデータ） (2026-05-22T09:29:18Z)
• The Role of Social Learning and Collective Norm Formation in Fostering Cooperation in LLM Multi-Agent Systems [13.628908663240564]
  我々は、明確な報酬信号を取り除き、文化進化機構を組み込むCPRシミュレーションフレームワークを導入する。 環境および社会的初期化のグリッドである2時間2ドルの標準的進化について検討する。 本研究は,協調の維持と規範形成における系統的モデルの違いを明らかにする。
  論文  参考訳（メタデータ） (2025-10-16T07:59:31Z)
• How large language models judge and influence human cooperation [82.07571393247476]
  我々は、最先端の言語モデルが協調行動をどのように判断するかを評価する。 我々は、善良な相手との協力を評価する際、顕著な合意を守ります。 モデル間の差異が協調の頻度に大きく影響を及ぼすことを示す。
  論文  参考訳（メタデータ） (2025-06-30T09:14:42Z)
• Corrupted by Reasoning: Reasoning Language Models Become Free-Riders in Public Goods Games [87.5673042805229]
  大規模言語モデルは、アライメント、堅牢性、安全なデプロイメントを保証する上で、いかに自己関心と集合的幸福のバランスをとるかが重要な課題である。 我々は、行動経済学から制度的に選択した公共財ゲームに適応し、異なるLLMがいかに社会的ジレンマをナビゲートするかを観察することができる。 意外なことに、o1シリーズのようなLCMの推論は、協調にかなり苦労している。
  論文  参考訳（メタデータ） (2025-06-29T15:02:47Z)
• Emergent social conventions and collective bias in LLM populations [0.0]
  社会的慣行は、個人が集団を形成する方法を形成する社会調整のバックボーンである。 大規模言語モデル(LLM)エージェントの分散集団における普遍的な社会慣行の自然発生を示す実験結果を示す。 そして、エージェントが個別にバイアスを示さない場合でも、このプロセス中に集団バイアスがどれだけ強く現れるかを示す。
  論文  参考訳（メタデータ） (2024-10-11T16:16:38Z)
• Training Socially Aligned Language Models on Simulated Social Interactions [99.39979111807388]
  AIシステムにおける社会的アライメントは、確立された社会的価値に応じてこれらのモデルが振舞うことを保証することを目的としている。 現在の言語モデル(LM)は、トレーニングコーパスを独立して厳格に複製するように訓練されている。 本研究は,シミュレートされた社会的相互作用からLMを学習することのできる,新しい学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-05-26T14:17:36Z)
• The Machine Psychology of Cooperation: Can GPT models operationalise prompts for altruism, cooperation, competitiveness and selfishness in economic games? [0.0]
  GPT-3.5大言語モデル(LLM)を用いて,協調的,競争的,利他的,利己的行動の自然言語記述を操作可能とした。 被験者と実験心理学研究で用いられるのと同様のプロトコルを用いて,課題環境を記述するためのプロンプトを用いた。 この結果から,LLM が様々な協調姿勢の自然言語記述を適切な作業行動の記述にある程度翻訳できることが示唆された。
  論文  参考訳（メタデータ） (2023-05-13T17:23:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。