論文の概要: Reputation, Strategy, and Emotion Effects on Generative AI Cooperation: A Comparison Across Reasoning and Non-Reasoning Models

• arxiv url: http://arxiv.org/abs/2610.01222v1
• Date: Thu, 01 Oct 2026 07:25:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:23.965203
• Title: Reputation, Strategy, and Emotion Effects on Generative AI Cooperation: A Comparison Across Reasoning and Non-Reasoning Models
• Title（参考訳）: 生成的AI協調に対する評価・戦略・感情の影響:推論モデルと非推論モデルの比較
• Abstract要約: ジェネレーティブAI(Gen AI)システムは、経済的および社会的に連続した相互作用において、ますます自律的な役割を担っている。 囚人ジレンマを用いたフロンティアジェネラルAIモデルの協調行動について検討した。
• 参考スコア（独自算出の注目度）: 3.6245393990089956
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As generative AI (Gen AI) systems take on increasingly autonomous roles in economically and socially consequential interactions, understanding their propensity to cooperate -- and the signals that shape this propensity -- has become essential. We examine cooperative behavior in frontier Gen AI models using the iterated prisoner's dilemma, manipulating counterpart reputation (positive, unknown, negative), strategy (extortion vs. generosity), and non-verbal emotional signaling (facial expressions conveying competitive or cooperative appraisals). In a first study with non-reasoning models (Claude 3.5, Gemini 2.0 Flash, GPT-4o), cooperation was systematically shaped by all three factors, paralleling patterns long documented in human behavioral research, though models varied substantially in how heavily each factor was weighted. A second study with reasoning models (Claude 4.6, Gemini 3, GPT-5.2) revealed a more concentrated reliance on strategy and reputation, a near-elimination of the Potemkin effect observed in non-reasoning models (evidenced by near-uniform cooperation in a diagnostic harmony game), and a more conditional role for emotion consistent with a hierarchical cue-weighting strategy rather than a simple loss of social sensitivity. Reasoning models also showed heterogeneous end-game behavior, ranging from sustained cooperation to systematic last-round defection effect, revealing model-specific exploitability profiles with direct practical relevance for deployment in negotiation and other multi-round interactions. Together, these findings characterize Gen AI models as increasingly sophisticated, though heterogeneous, social actors, and underscore the practical value of developing standardized cooperation benchmarks to inform the responsible deployment of Gen AI in interactive, socially consequential settings.
• Abstract（参考訳）: ジェネレーティブAI(Gen AI)システムは、経済的および社会的に連続した相互作用において、ますます自律的な役割を担っているため、協力する確率を理解すること -- そして、この確率を形成するシグナル -- が不可欠になっている。 本研究は,受刑者のジレンマを用いたフロンティア・ジェネラル・AIモデルにおける協調行動について検討し,その評価(肯定的,未知的,否定的),戦略(強制対寛容性),非言語的感情信号(競合的・協調的評価を伝達する表情)を操作した。 非推論モデルを用いた最初の研究(Claude 3.5, Gemini 2.0 Flash, GPT-4o)において、協調は3つの要因すべてによって体系的に形成され、人間の行動研究で長年記録されてきたパターンが並列化されている。 推論モデルを用いた2つ目の研究(Claude 4.6, Gemini 3, GPT-5.2)は、戦略と評判へのより集中的な依存、非推論モデル(診断ハーモニーゲームにおけるほぼ一様協調によって生じる)で観察されるポテンキン効果のほぼ排除、そして社会的感受性の単純な喪失よりも、階層的なキュー重み付け戦略と整合した感情に対するより条件的な役割を明らかにした。 推論モデルはまた、持続的な協力から体系的な最終ラウンドの欠陥効果まで多種多様なエンドゲーム行動を示し、交渉やその他の複数ラウンドの相互作用における展開に直接的な関連性を持つモデル固有のエクスプロイラビリティプロファイルを明らかにした。 これらの発見は、Gen AIモデルを、異質な社会的アクターであるにもかかわらず、より高度なものとして特徴付け、対話的かつ社会的に連続的な設定において、Gen AIの責任ある展開を通知する標準化された協調ベンチマークを開発する実践的価値を強調している。

関連論文リスト

• Learning social norms enhances compatibility in dynamic human-AI coordination [22.247716743876214]
  人間は動的相互作用において、しばしば暗黙的に、定量化が難しい社会規範を通して、常に他人と協調する。 AIエージェントが日常生活に埋め込まれるにつれて、彼らはこのような相互作用に参加し、社会的相互作用構造を再構築する。 人間の社会的規範の根底にある3つの原則は、結果予測可能性、価値アライメント、優位性認識である。
  論文  参考訳（メタデータ） (2026-07-08T05:39:08Z)
• HRIBench: Benchmarking Interaction-Centric Human-Robot Collaboration [62.19372189311434]
  HRIBenchは,実行シナリオに基づいた意図認識型人間ロボットコラボレーションの診断ベンチマークである。 HRIBenchは、エージェントの役割、時間的依存、調整の制約、人間の振る舞いの分布を明示的にモデル化する構造化シナリオスクリプトとして、協調的なタスクを表現している。 その結果,現状の基盤ロボット政策は,操作能力が強いにもかかわらず,協調的な環境下では極めて困難であることが示唆された。
  論文  参考訳（メタデータ） (2026-07-05T09:15:35Z)
• Representational Similarity and Model Behavior in Multi-Agent Interaction [86.305731341492]
  マルチエージェントシステム設計において,表現的類似性は重要な考慮事項であることを示す。 より類似した表現空間を持つペアは、はるかに高い協調を実現するが、新規性や創造性は低下する。 このことは、これらのパターンの根底にある中心的な要素が、2つのモデルが語彙と意味的な接点を共有する範囲である可能性を示唆している。
  論文  参考訳（メタデータ） (2026-06-05T19:59:17Z)
• SODE: Analyzing Social Dynamics in LLM Agents [17.885513252130373]
  SODE(Social Dynamics Evaluation)は,AIエージェントを3つの進化的側面にわたって評価するフレームワークである。 SODEを適用すると、系統的な違いが明らかになる。 我々は「ロングホライズンフレーミング」がモデル推論における相互機能を解き放つことを実証した。
  論文  参考訳（メタデータ） (2026-05-06T14:50:07Z)
• Evaluating Generative Models as Interactive Emergent Representations of Human-Like Collaborative Behavior [1.4016147623265656]
  人間とAIの協力は、効果的な協調のために人間の行動を理解するためにAIエージェントを必要とする。 本研究は, 基礎的精神モデルを示す創発的な協調行動を示す基礎モデルエージェントについて検討する。
  論文  参考訳（メタデータ） (2026-05-05T15:20:15Z)
• The Collaboration Gap [28.553543260404425]
  i)協調機能を分離し,(ii)問題複雑性を変調し,(iii)スケーラブルな自動グレーディングを可能にし,(iv)出力制約を課さない協調迷路解決ベンチマークを提案する。 このフレームワークを用いて、32個のオープンソースおよびクローズドソースモデルを、単独、同種、異種ペアリングで評価する。 私たちの結果からは,“コラボレーションギャップ”が明らかになっている。
  論文  参考訳（メタデータ） (2025-11-04T16:10:57Z)
• Social World Model-Augmented Mechanism Design Policy Learning [58.739456918502704]
  SWM-AP (Social World Model-Augmented Mechanism Design Policy Learning) を導入する。 SWM-APは,累積報酬とサンプル効率において,モデルベースおよびモデルフリーのRLベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2025-10-22T06:01:21Z)
• PersLLM: A Personified Training Approach for Large Language Models [66.16513246245401]
  データ構築とモデルチューニングを改善するためのフレームワークPersLLMを提案する。 データ利用が不十分な場合には、Chain-of-Thoughtプロンプトやアンチインダクションといった戦略を取り入れます。 厳密な振舞いパターンを設計し,モデルの性格の特異性とダイナミズムを高めるために自動DPOを導入する。
  論文  参考訳（メタデータ） (2024-07-17T08:13:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。