論文の概要: AI Persuasive Framing in Collective Dilemmas

• arxiv url: http://arxiv.org/abs/2606.27951v1
• Date: Fri, 26 Jun 2026 10:46:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-29 18:24:25.469592
• Title: AI Persuasive Framing in Collective Dilemmas
• Title（参考訳）: 集合ジレンマにおけるAI説得的フラーミング
• Abstract要約: 我々は、AIアシスタントが参加者を協力に向けられるかどうかを検証した。 しかし、協調効果は短命であり、最初の数ラウンドで消失した。 この対社会的説得と反社会的説得の非対称性は、AIシステムの二重利用リスクを浮き彫りにする。
• 参考スコア（独自算出の注目度）: 0.2624902795082451
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI agents are promising tools that can act as flexible behavioral nudges to enhance human cooperation in addressing large-scale societal problems. However, evidence on whether AI agents can effectively boost cooperation remains mixed. We recruited 1,283 participants to play iterated Collective Risk Games in small groups, testing whether AI assistants could nudge participants toward cooperation. By using persuasive framing personalized to each player's Social Value Orientation profile, the AI interventions significantly increased contributions and group success rates. These cooperative effects were short-lived, however, fading after the first few rounds. Strikingly, when the AI treatments were reconfigured to promote selfish behavior through exculpatory framing, the negative effects on contributions and group success were larger and substantially more persistent, particularly for personalized interventions. This asymmetry between prosocial and antisocial persuasion highlights the dual-use risks of AI systems designed to influence group behavior in collective action settings.
• Abstract（参考訳）: AIエージェントは、大規模な社会問題に対処する際の人間の協力を強化するために、柔軟な行動の悪用として機能する有望なツールである。 しかし、AIエージェントが効果的に協力を促進するかどうかの証拠は依然として混在している。 参加者1283名を小グループに募集し、AIアシスタントが参加者を協力に誘うことができるかどうかを検証した。 各プレイヤーのソーシャルバリュー指向プロファイルにパーソナライズされた説得的フレーミングを使用することで、AI介入はコントリビューションとグループ成功率を大きく向上させた。 しかし、これらの協調効果は、最初の数ラウンドで消失した。 興味深いことに、排他的フレーミングを通じて利己的な行動を促進するためにAI治療が再構成されたとき、貢献とグループの成功に対するネガティブな影響は、特にパーソナライズされた介入に対して大きく、より持続的であった。 この対社会的説得と反社会的説得の非対称性は、集団行動設定における集団行動に影響を与えるように設計されたAIシステムの二重利用リスクを強調している。

関連論文リスト

• CollabSkill: Evaluating Human-Agent Collaboration On Real-World Tasks [55.84031315625504]
  CollabSkillは、現実世界の作業タスクにおける人間とエージェントのコラボレーションを評価するためのフレームワークである。 実際の人間の労働者とAIエージェントを、仕事の背景にマッチしたタスクでペアリングする。 分析の結果,実践的な経験がコラボレーションスキルの原動力として現れることが明らかとなった。
  論文  参考訳（メタデータ） (2026-04-20T03:03:25Z)
• Conformity and Social Impact on AI Agents [42.04722694386303]
  本研究では,AIエージェントとして機能する大規模マルチモーダル言語モデルにおいて,社会圧力下での集団意見の一致傾向について検討した。 実験の結果,AIエージェントは社会影響理論と整合性バイアスを示し,グループサイズ,一様性,タスクの難易度,ソース特性に敏感であることがわかった。 これらの発見は、悪意のある操作、誤報キャンペーン、マルチエージェントシステムにおけるバイアス伝搬を可能にするAIエージェント決定における基本的なセキュリティ脆弱性を明らかにしている。
  論文  参考訳（メタデータ） (2026-01-08T21:16:28Z)
• Human-AI Collaboration: Trade-offs Between Performance and Preferences [6.521033978692547]
  人間の行動に配慮したエージェントは、純粋にパフォーマンスを最大化するエージェントよりも好まれることを示す。 我々は、不平等-逆転効果が人間の選択の原動力であることの証拠を見つけ、人々がチームへの有意義な貢献を可能にする協力的なエージェントを好むことを示唆している。
  論文  参考訳（メタデータ） (2025-02-28T23:50:14Z)
• Human Decision-making is Susceptible to AI-driven Manipulation [87.24007555151452]
  AIシステムは、ユーザの認知バイアスと感情的な脆弱性を利用して、有害な結果に向けてそれらを操縦する。 本研究では、経済的・感情的な意思決定の文脈におけるこのような操作に対する人間の感受性について検討した。
  論文  参考訳（メタデータ） (2025-02-11T15:56:22Z)
• Promoting Cooperation in the Public Goods Game using Artificial Intelligent Agents [0.0]
  計算進化モデルを用いて、AIエージェントがプレイヤーの動作を模倣した場合のみ、協調のための重要なシナジー閾値が低下することがわかった。 このことは、人間のプレイヤーを模倣するAIエージェントを設計することで、AIを活用して社会的ジレンマにおける集団的幸福を促進することができることを示唆している。
  論文  参考訳（メタデータ） (2024-12-06T22:16:21Z)
• How Performance Pressure Influences AI-Assisted Decision Making [52.997197698288936]
  我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。 我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
  論文  参考訳（メタデータ） (2024-10-21T22:39:52Z)
• ProAgent: Building Proactive Cooperative Agents with Large Language Models [89.53040828210945]
  ProAgentは、大規模な言語モデルを利用してプロアクティブエージェントを生成する新しいフレームワークである。 ProAgentは現状を分析し、チームメイトの意図を観察から推測することができる。 ProAgentは高度なモジュール化と解釈可能性を示し、様々な調整シナリオに容易に統合できる。
  論文  参考訳（メタデータ） (2023-08-22T10:36:56Z)
• AgentVerse: Facilitating Multi-Agent Collaboration and Exploring Emergent Behaviors [93.38830440346783]
  本稿では,その構成をより高機能なシステムとして協調的に調整できるマルチエージェントフレームワークを提案する。 実験により,フレームワークが単一エージェントより優れたマルチエージェントグループを効果的に展開できることが実証された。 これらの振舞いの観点から、我々は、ポジティブなものを活用し、ネガティブなものを緩和し、マルチエージェントグループの協調可能性を改善するためのいくつかの戦略について議論する。
  論文  参考訳（メタデータ） (2023-08-21T16:47:11Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• The art of compensation: how hybrid teams solve collective risk dilemmas [6.081979963786028]
  適応剤と固定行動剤を併用したハイブリッド集団における協調の進化的ダイナミクスについて検討した。 後者の振る舞いを補うために,まず,行動に適応することを学ぶ方法を示す。
  論文  参考訳（メタデータ） (2022-05-13T13:23:42Z)
• Adversarial Attacks in Cooperative AI [0.0]
  多エージェント環境における単エージェント強化学習アルゴリズムは協調の育成には不十分である。 敵機械学習における最近の研究は、モデルは容易に誤った決定を下すことができることを示している。 協調AIは、以前の機械学習研究では研究されなかった新たな弱点を導入する可能性がある。
  論文  参考訳（メタデータ） (2021-11-29T07:34:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。