論文の概要: CoopEval: Benchmarking Cooperation-Sustaining Mechanisms and LLM Agents in Social Dilemmas

• arxiv url: http://arxiv.org/abs/2604.15267v1
• Date: Thu, 16 Apr 2026 17:40:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-17 21:29:32.028915
• Title: CoopEval: Benchmarking Cooperation-Sustaining Mechanisms and LLM Agents in Social Dilemmas
• Title（参考訳）: CoopEval:社会ジレンマにおける協調維持機構とLLMエージェントのベンチマーク
• Authors: Emanuel Tewolde, Xiao Zhang, David Guzman Piedrahita, Vincent Conitzer, Zhijing Jin,
• Abstract要約: より強力な推論能力を持つLLMは、混合動機ゲームにおいて_less_協調的に振る舞う。 我々の実験では、最近のモデルは単発の社会的ジレンマに一貫して欠陥があることが示されている。 契約と仲介は、有能なLLMモデル間の協調的な結果を達成するのに最も効果的である。
• 参考スコア（独自算出の注目度）: 37.9285901060329
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: It is increasingly important that LLM agents interact effectively and safely with other goal-pursuing agents, yet, recent works report the opposite trend: LLMs with stronger reasoning capabilities behave _less_ cooperatively in mixed-motive games such as the prisoner's dilemma and public goods settings. Indeed, our experiments show that recent models -- with or without reasoning enabled -- consistently defect in single-shot social dilemmas. To tackle this safety concern, we present the first comparative study of game-theoretic mechanisms that are designed to enable cooperative outcomes between rational agents _in equilibrium_. Across four social dilemmas testing distinct components of robust cooperation, we evaluate the following mechanisms: (1) repeating the game for many rounds, (2) reputation systems, (3) third-party mediators to delegate decision making to, and (4) contract agreements for outcome-conditional payments between players. Among our findings, we establish that contracting and mediation are most effective in achieving cooperative outcomes between capable LLM models, and that repetition-induced cooperation deteriorates drastically when co-players vary. Moreover, we demonstrate that these cooperation mechanisms become _more effective_ under evolutionary pressures to maximize individual payoffs.
• Abstract（参考訳）: LLMエージェントは他の目標獲得エージェントと効果的かつ安全に相互作用することがますます重要になっているが、最近の研究は反対の傾向を報告している: より強力な推論能力を持つLSMは、囚人のジレンマや公共商品の設定のような混合動機ゲームにおいて、協調的に_less_振舞う。 実際、我々の実験は、最近のモデル ― 推論が有効か無か ― が、一発の社会的ジレンマに一貫して欠陥があることを示しています。 この安全性問題に対処するために、合理的エージェント_in平衡_間の協調的な結果を可能にするために設計されたゲーム理論機構に関する最初の比較研究を示す。 4つの社会的ジレンマにおいて,(1)多くのラウンドでゲームを繰り返すこと,(2)評判システム,(3)意思決定を委譲する第三者仲介者,(4)プレイヤー間の結果条件の支払いに関する契約契約の3つのメカニズムを検証した。 その結果,契約と仲介が有能なLLMモデル間の協調的成果の達成に最も有効であることが確認され,共同プレイヤの違いによる反復的協調が著しく悪化することが確認された。 さらに,これらの協調機構は,個々のペイオフを最大化するために,進化的圧力下で_more effective_となることを示す。

関連論文リスト

• The Collaboration Gap [28.553543260404425]
  i)協調機能を分離し,(ii)問題複雑性を変調し,(iii)スケーラブルな自動グレーディングを可能にし,(iv)出力制約を課さない協調迷路解決ベンチマークを提案する。 このフレームワークを用いて、32個のオープンソースおよびクローズドソースモデルを、単独、同種、異種ペアリングで評価する。 私たちの結果からは,“コラボレーションギャップ”が明らかになっている。
  論文  参考訳（メタデータ） (2025-11-04T16:10:57Z)
• Corrupted by Reasoning: Reasoning Language Models Become Free-Riders in Public Goods Games [87.5673042805229]
  大規模言語モデルは、アライメント、堅牢性、安全なデプロイメントを保証する上で、いかに自己関心と集合的幸福のバランスをとるかが重要な課題である。 我々は、行動経済学から制度的に選択した公共財ゲームに適応し、異なるLLMがいかに社会的ジレンマをナビゲートするかを観察することができる。 意外なことに、o1シリーズのようなLCMの推論は、協調にかなり苦労している。
  論文  参考訳（メタデータ） (2025-06-29T15:02:47Z)
• Cooperate or Collapse: Emergence of Sustainable Cooperation in a Society of LLM Agents [101.17919953243107]
  GovSimは、大規模言語モデル(LLM)における戦略的相互作用と協調的意思決定を研究するために設計された生成シミュレーションプラットフォームである。 最強のLSMエージェントを除く全てのエージェントは、GovSimの持続的均衡を達成することができず、生存率は54%以下である。 道徳的思考の理論である「大学化」に基づく推論を活用するエージェントは、持続可能性を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2024-04-25T15:59:16Z)
• Exploring Collaboration Mechanisms for LLM Agents: A Social Psychology View [60.80731090755224]
  本稿では,理論的洞察を用いた実用実験により,現代NLPシステム間の協調機構を解明する。 我々は, LLMエージェントからなる4つの独特な社会をつくり, それぞれのエージェントは, 特定の特性(容易性, 過信性)によって特徴づけられ, 異なる思考パターン(議論, ふりかえり)と協調する。 以上の結果から, LLMエージェントは, 社会心理学理論を反映した, 適合性やコンセンサスリーディングといった人間的な社会的行動を示すことが明らかとなった。
  論文  参考訳（メタデータ） (2023-10-03T15:05:52Z)
• Birds of a Feather Flock Together: A Close Look at Cooperation Emergence via Multi-Agent RL [20.22747008079794]
  インセンティブ機構に起因する二階社会ジレンマのダイナミクスについて検討する。 ホモフィリーと呼ばれる人間の典型的な傾向は、この問題を解くことができる。 インセンティブ相同性を促進するための新しい学習枠組みを提案する。
  論文  参考訳（メタデータ） (2021-04-23T08:00:45Z)
• Balancing Rational and Other-Regarding Preferences in Cooperative-Competitive Environments [4.705291741591329]
  混合環境は利己的で社会的利益の衝突で悪名高い。 個人と社会的インセンティブのバランスをとるBAROCCOを提案します。 メタアルゴリズムは、Qラーニングとアクタークリティカルの両方のフレームワークと互換性があります。
  論文  参考訳（メタデータ） (2021-02-24T14:35:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。