論文の概要: Cooperation Without Adaptation: LLM Agents in a Collective-Risk Dilemma

• arxiv url: http://arxiv.org/abs/2610.22882v1
• Date: Fri, 16 Oct 2026 03:38:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.755555
• Title: Cooperation Without Adaptation: LLM Agents in a Collective-Risk Dilemma
• Title（参考訳）: 適応のない協調:集合リスクジレンマにおけるLLMエージェント
• Abstract要約: 言語モデルエージェントは、個々の決定が共有結果を形成する設定において、人々に代わって行動するためにますますデプロイされる。 5つの生産モデルがリスクの変化やパートナーの行動に寄与するか、それとも比較的固定された戦略に従うかを検討する。
• 参考スコア（独自算出の注目度）: 0.33987653854733607
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language-model agents are increasingly deployed to act on behalf of people in settings where individual decisions shape shared outcomes. We examine whether five production models adapt their contributions to changing risks and partner behaviour, or instead follow a relatively fixed strategy. In a collective-risk dilemma game (CRG), six players contribute to a shared pool over ten rounds; if the pool falls short of its target, a catastrophe may destroy their remaining resources. Four models contributed approximately an equal share at every positive risk level, and four of the five also contributed when risk was zero, even though contributing could not improve their payoff. Explicitly stating that only the agent's own payoff mattered reduced zero-risk contributions for most models, while a more neutral prompt did not. Several models correctly identified which action offered the higher expected payoff at different risk levels, yet their contributions changed little. Against fixed partners, no model consistently chose the payoff-maximising response, and in mixed-model groups, a single agent's shortfall in the final round could cause an otherwise successful group to fail. Payoff-based selection also depended on population composition: in a single six-agent group, it favoured the model that contributed least and reduced group success, whereas in larger, randomly mixed populations, it favoured an exact fair-share model at moderate and high risk. These findings show that cooperative self-play alone is not evidence of strategic adaptability. Consistent with a machine-behaviour approach, evaluations of agents in multi-agent systems should test how they respond to incentives, partner actions, and population composition.
• Abstract（参考訳）: 言語モデルエージェントは、個々の決定が共有結果を形成する設定において、人々に代わって行動するためにますますデプロイされる。 5つの生産モデルがリスクの変化やパートナーの行動に寄与するか、それとも比較的固定された戦略に従うかを検討する。 集合リスクジレンマゲーム(CRG)では、6人のプレイヤーが10ラウンド以上の共有プールに貢献する。 4つのモデルが正のリスクレベルごとにほぼ同じシェアを占め、5つのモデルのうち4つはリスクがゼロの場合にも貢献した。 明らかに、エージェント自身の支払いだけがほとんどのモデルに対するゼロリスクの貢献を減らしたが、より中立的なプロンプトはそうではなかった。 いくつかのモデルでは、どのアクションが、異なるリスクレベルでより高い期待された報酬を提供するかを正しく特定したが、彼らの貢献はほとんど変化しなかった。 固定パートナーに対して、どのモデルも常にペイオフ最大化応答を選択しておらず、混合モデルグループでは、最終ラウンドでの1人のエージェントの不足は、他の方法で成功したグループを失敗させる可能性がある。 ペイオフベースの選択は人口構成にも依存しており、単一の6歳児群では、集団の成功の最小化に寄与するモデルが好まれ、一方、大規模でランダムに混合された集団では、適度で高いリスクで正確なフェアシェアモデルが好まれていた。 これらの結果から,協調的自己プレイだけでは戦略的適応性の証拠ではないことが示唆された。 機械行動アプローチに従えば、マルチエージェントシステムにおけるエージェントの評価は、インセンティブやパートナー行動、人口構成に対してどのように反応するかをテストする必要がある。

関連論文リスト

• Group Selection Promotes Prosocial Prompts in Populations of LLM Agents [1.7004466773233589]
  グループ選択は,大規模言語モデル(LLM)エージェントの集団における協調を促進することができるかを検討する。 グループ選択では、ハイパフォーマンスなグループからのプロンプトが送信され、それによって社会性の促進と協力の安定化が促進される。 予備的な発見は、選択メカニズムを知らせると、GPT-5.4は先制的に第1世代の寄付を徐々に調整することを示している。
  論文  参考訳（メタデータ） (2026-06-22T13:47:19Z)
• Decision-Making under Combinatorial Risk [2.3557380328665265]
  リスク下での意思決定は、通常単発の宝くじ選択によって研究される。 我々は、リスク下での意思決定を調査するための投資配分タスクを導入し、そこでは、コンポーネントへの投資がその成功確率を高める。 提案手法では,誘導確率質量関数が現れる場合にのみ,その中心となる特徴を通じてリスクをナビゲートし,宝くじ評価にシフトすることを示す。
  論文  参考訳（メタデータ） (2026-06-08T19:17:26Z)
• Enhancing a Risk Model by Adding Transient Statistical Factors [90.40844650665713]
  資産収益の推定は、金融ポートフォリオの構築と評価の鍵となる要素である。 既存の因子モデルを強化するために,最大推定値に基づく体系的手法を提案する。 提案した拡張は,元のモデルに欠落したリターンの構造をキャプチャすることを示す。
  論文  参考訳（メタデータ） (2026-05-13T04:15:24Z)
• Emergent Social Intelligence Risks in Generative Multi-Agent Systems [106.60961969939676]
  マルチエージェントシステムは、実験室のプロトタイプから現実のデプロイへと急速に移行し、複雑なタスクを解決するためのリソースを共同で計画し、交渉し、割り当てている。 本稿では、共有リソースの競合、シーケンシャル・ハンドオフ・コラボレーション、集合的意思決定集約などに関わる病態における、このような創発的なマルチエージェントリスクに関する先駆的な研究について述べる。 このような集団行動は、稀なケースや病理学的ケースではなく、反復的な臨床試験や幅広い相互作用条件で頻繁に発生する。 エージェント集団が人間の社会から見慣れた障害パターンを自然に再現する社会知能リスクである。
  論文  参考訳（メタデータ） (2026-03-29T17:10:28Z)
• Among Us: Measuring and Mitigating Malicious Contributions in Model Collaboration Systems [51.95643874494937]
  悪意のあるモデルはマルチLLMシステム、特に推論と安全領域に深刻な影響を与える。 外部スーパーバイザーを駆使して、悪意あるコンポーネントの影響を軽減するための緩和戦略を提案する。
  論文  参考訳（メタデータ） (2026-02-05T01:15:06Z)
• Modeling the Q-Diversity in a Min-max Play Game for Robust Optimization [61.39201891894024]
  群分布的ロバスト最適化(群 DRO)は、事前定義された群に対する最悪の損失を最小限にすることができる。 グループDROフレームワークをQ-Diversityを提案して再構築する。 インタラクティブなトレーニングモードによって特徴付けられるQ-Diversityは、アノテーションからグループ識別を緩和し、直接パラメータ化を行う。
  論文  参考訳（メタデータ） (2023-05-20T07:02:27Z)
• Learning Collective Action under Risk Diversity [68.88688248278102]
  集団的リスクジレンマを演じることを学ぶエージェントのグループにおけるリスク多様性の結果について検討する。 リスクの多様性は、全体的な協力を著しく減らし、全体的な目標達成を妨げることを示す。 この結果から,エージェント間のリスク認識の整合性や新たな学習技術開発の必要性が浮き彫りになった。
  論文  参考訳（メタデータ） (2022-01-30T18:21:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。