論文の概要: The evolutionary advantage of guilt: co-evolution of social and non-social guilt in structured populations
- arxiv url: http://arxiv.org/abs/2302.09859v2
- Date: Sat, 10 May 2025 22:09:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-13 20:21:48.49165
- Title: The evolutionary advantage of guilt: co-evolution of social and non-social guilt in structured populations
- Title（参考訳）: 罪の進化的優位性--人口構造における社会的および非社会的罪の共進化
- Authors: Theodor Cimpeanu, Luis Moniz Pereira, The Anh Han,
- Abstract要約: 倫理的機械を構築するには、彼らの行動に対して自己評価し、後悔する感情的な能力を与える必要がある。
謝罪は潜在的な戦略的相互作用を表すが、行動特性としての罪悪感の明確な進化はいまだに理解されていない。
社会的罪悪感はコストを伴い、エージェントは他人の内部状態や行動を理解するために努力する必要がある。
- 参考スコア（独自算出の注目度）: 1.1060425537315088
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Building ethical machines may involve bestowing upon them the emotional capacity to self-evaluate and repent on their actions. While apologies represent potential strategic interactions, the explicit evolution of guilt as a behavioural trait remains poorly understood. Our study delves into the co-evolution of two forms of emotional guilt: social guilt entails a cost, requiring agents to exert efforts to understand others' internal states and behaviours; and non-social guilt, which only involves awareness of one's own state, incurs no social cost. Resorting to methods from evolutionary game theory, we study analytically, and through extensive numerical and agent-based simulations, whether and how guilt can evolve and deploy, depending on the underlying structure of the systems of agents. Our findings reveal that in lattice and scale-free networks, strategies favouring emotional guilt dominate a broader range of guilt and social costs compared to non-structured well-mixed populations, so leading to higher levels of cooperation. In structured populations, both social and non-social guilt can thrive through clustering with emotionally inclined strategies, thereby providing protection against exploiters, particularly for less costly non-social strategies. These insights shed light on the complex interplay of guilt and cooperation, enhancing our understanding of ethical artificial intelligence.
- Abstract（参考訳）: 倫理的機械を構築するには、彼らの行動に自己評価し、後悔する感情的な能力を与える必要がある。
謝罪は潜在的な戦略的相互作用を表すが、行動特性としての罪悪感の明確な進化はいまだに理解されていない。
社会的罪悪感はコストを伴い、エージェントは他人の内部状態や行動を理解するために努力する必要がある。
進化ゲーム理論の手法に取って代わり、エージェントのシステムの基本構造に応じて、ギルトが進化し、どのように展開できるかを解析的に、そして、広範囲な数値的およびエージェントベースのシミュレーションを通して研究する。
その結果, 格子ネットワークやスケールフリーネットワークでは, 感情的な罪悪感を優先する戦略が, 非構造的混成集団に比べて幅広い罪悪感や社会的コストを支配しており, 協力のレベルが高くなっていることが明らかとなった。
構造化された集団では、社会的および非社会的罪悪感は、感情的に傾いた戦略で団結することで繁栄し、特にコストのかかる非社会的戦略に対してエクスプローラーに対する保護を提供する。
これらの洞察は、罪悪感と協力の複雑な相互作用に光を当て、倫理的人工知能の理解を深めた。
関連論文リスト
- Epistemic Scarcity: The Economics of Unresolvable Unknowns [0.0]
我々は、AIシステムは経済調整の中核的な機能を実行することができないと主張している。
我々は、構成主義的合理主義の拡張として、支配的な倫理的AIフレームワークを批判する。
論文 参考訳（メタデータ） (2025-07-02T08:46:24Z) - SocialSim: Towards Socialized Simulation of Emotional Support Conversation [68.5026443005566]
感情的サポートの会話をシミュレートする新しいフレームワークSocialSimを紹介する。
SocialSimは、社会的情報開示と社会的認識という、社会的相互作用の重要な側面を統合している。
大規模合成ESCコーパスであるSSConvを構築し,クラウドソーシングESCデータを超える品質を実現する。
論文 参考訳（メタデータ） (2025-06-20T05:24:40Z) - Truly Self-Improving Agents Require Intrinsic Metacognitive Learning [59.60803539959191]
自己改善エージェントは、最小限の監督で継続的に新しい能力を取得することを目的としている。
現在のアプローチは2つの重要な制限に直面している。自己改善プロセスは、しばしば厳格であり、タスクドメイン全体にわたって一般化できない。
我々は、効果的な自己改善は、エージェントの本質的な能力として定義された固有のメタ認知学習を必要とし、自身の学習プロセスを積極的に評価し、反映し、適応させる。
論文 参考訳（メタデータ） (2025-06-05T14:53:35Z) - Social Genome: Grounded Social Reasoning Abilities of Multimodal Models [61.88413918026431]
ソーシャルゲノム(Social Genome)は、マルチモーダルモデルのきめ細かいきめ細やかな社会的推論能力を示す最初のベンチマークである。
相互作用の272のビデオと、これらの相互作用に関する推論に関連する1,486人の注釈付き推論トレースを含んでいる。
社会ゲノムはまた、社会的推論における外部知識を研究するための最初のモデリング課題である。
論文 参考訳（メタデータ） (2025-02-21T00:05:40Z) - AgentSociety: Large-Scale Simulation of LLM-Driven Generative Agents Advances Understanding of Human Behaviors and Society [32.849311155921264]
本稿では,現実的な社会環境を統合した大規模社会シミュレータであるAgentSocietyを提案する。
提案したシミュレーターに基づいて,500万件のインタラクションをシミュレートし,10万件以上のエージェントの社会生活を生成する。
偏極、炎症性メッセージの普及、普遍的ベーシック・インカム・ポリシーの効果、ハリケーンなどの外部ショックの影響の4つに焦点をあてる。
論文 参考訳（メタデータ） (2025-02-12T15:27:07Z) - Emergence of human-like polarization among large language model agents [61.622596148368906]
我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。
人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、それを緩和するための有効な戦略を特定するための貴重なテストベッドとして機能する可能性も持っている。
論文 参考訳（メタデータ） (2025-01-09T11:45:05Z) - Causal Responsibility Attribution for Human-AI Collaboration [62.474732677086855]
本稿では,人間のAIシステムにおける責任を体系的に評価するために,構造因果モデル(SCM)を用いた因果的枠組みを提案する。
2つのケーススタディは、多様な人間とAIのコラボレーションシナリオにおけるフレームワークの適応性を示している。
論文 参考訳（メタデータ） (2024-11-05T17:17:45Z) - Evolutionary mechanisms that promote cooperation may not promote social welfare [1.7819574476785418]
協力度を最大化する目的と社会福祉を最大化する目的とが、しばしば不一致であることを示す。
社会・集団商品の進化的メカニズムを設計・実装する際に,社会福祉を主目的とする必要性を論じる。
論文 参考訳（メタデータ） (2024-08-09T22:51:13Z) - APTNESS: Incorporating Appraisal Theory and Emotion Support Strategies for Empathetic Response Generation [71.26755736617478]
共感反応生成は、他人の感情を理解するように設計されている。
検索強化と感情支援戦略統合を組み合わせたフレームワークを開発する。
我々の枠組みは認知的・情緒的共感の両面からLLMの共感能力を高めることができる。
論文 参考訳（メタデータ） (2024-07-23T02:23:37Z) - SocialGFs: Learning Social Gradient Fields for Multi-Agent Reinforcement Learning [58.84311336011451]
マルチエージェント強化学習のための新しい勾配に基づく状態表現を提案する。
オフラインサンプルからソーシャルグラデーションフィールド(SocialGF)を学習するために,デノジングスコアマッチングを採用している。
実際に、SocialGFをMAPPOなど、広く使われているマルチエージェント強化学習アルゴリズムに統合する。
論文 参考訳（メタデータ） (2024-05-03T04:12:19Z) - Dynamics of Moral Behavior in Heterogeneous Populations of Learning Agents [3.7414804164475983]
本研究では、道徳的に異質な集団が社会的ジレンマ環境で相互作用する学習力学について研究する。
我々は、親社会と反社会的エージェント間のいくつかの非自明な相互作用を観察する。
ある種の道徳的エージェントは、より協調的な行動に向けて利己的なエージェントを操ることができる。
論文 参考訳（メタデータ） (2024-03-07T04:12:24Z) - SOTOPIA: Interactive Evaluation for Social Intelligence in Language Agents [107.4138224020773]
人工エージェントと人間との複雑な社会的相互作用をシミュレートするオープンエンド環境であるSOTOPIAを提案する。
エージェントは、複雑な社会的目標を達成するために協調し、協力し、交換し、互いに競い合う。
GPT-4は,人間よりも目標達成率が著しく低く,社会的常識的推論や戦略的コミュニケーション能力の発揮に苦慮していることがわかった。
論文 参考訳（メタデータ） (2023-10-18T02:27:01Z) - Flexible social inference facilitates targeted social learning when
rewards are not observable [58.762004496858836]
グループは、個人が他人の成功から学べるときにより効果的にコーディネートする。
社会的推論能力は、このギャップを埋める助けとなり、個人が他人の基本的な知識に対する信念を更新し、観察可能な行動軌跡から成功することを示唆する。
論文 参考訳（メタデータ） (2022-12-01T21:04:03Z) - Social Diversity Reduces the Complexity and Cost of Fostering Fairness [63.70639083665108]
不完全な情報や公平性の柔軟な基準を前提とした干渉機構の効果について検討する。
多様性の役割を定量化し、情報収集の必要性を減らす方法を示す。
この結果から,多様性が変化し,公正性向上を目指す機関に新たなメカニズムが開放されることが示唆された。
論文 参考訳（メタデータ） (2022-11-18T21:58:35Z) - Aligning to Social Norms and Values in Interactive Narratives [89.82264844526333]
我々は、インタラクティブな物語やテキストベースのゲームにおいて、社会的に有益な規範や価値観に沿って行動するエージェントを作成することに注力する。
我々は、特別な訓練を受けた言語モデルに存在する社会的コモンセンス知識を用いて、社会的に有益な値に整合した行動にのみ、その行動空間を文脈的に制限するGAALADエージェントを紹介した。
論文 参考訳（メタデータ） (2022-05-04T09:54:33Z) - Social Neuro AI: Social Interaction as the "dark matter" of AI [0.0]
我々は、社会心理学と社会神経科学の実証結果と力学の枠組みが、よりインテリジェントな人工エージェントの開発にインスピレーションを与えることができると主張している。
論文 参考訳（メタデータ） (2021-12-31T13:41:53Z) - Social Behaviour Understanding using Deep Neural Networks: Development
of Social Intelligence Systems [2.107969466194361]
ソーシャル・コンピューティングは、ソーシャル・インテリジェンス・システムの誕生に向けて、社会情報学を超えて進化してきた。
本稿では,深層ニューラルネットワークを用いた社会的行動理解フレームワークを提案する。
うつ病の検出、活動認識、認知障害スクリーニングを含む3つのシステムは、明らかに社会的知性の重要性を示すために開発されている。
論文 参考訳（メタデータ） (2021-05-20T03:19:55Z) - Prosocial Norm Emergence in Multiagent Systems [14.431260905391138]
メンバーエージェントが適応的であるだけでなく、マルチエージェントシステム自体が適応的である設定を検討する。
我々は,社会の肯定的な成果を達成し,他人の福祉を考慮に入れて行動するためのエージェントへの指導をしばしば提供する,社会規範に焦点をあてる。
論文 参考訳（メタデータ） (2020-12-29T02:59:55Z) - Towards an Ethical Framework in the Complex Digital Era [0.0]
デジタルプラットフォームは、グローバルなカオス的で真実に依存しないシステムを構築するために使われてきた。
個々のレベルのみに基づく倫理的なフレームワークはもはや不十分です。
新しい倫理的ビジョンは、スケールと複雑な相互接続の理解を構成する必要がある。
論文 参考訳（メタデータ） (2020-10-19T15:28:04Z) - Emergent Social Learning via Multi-agent Reinforcement Learning [91.57176641192771]
社会学習は、人間と動物の知性の重要な構成要素である。
本稿では,独立系強化学習エージェントが,社会的学習を用いてパフォーマンスを向上させることを学べるかどうかを検討する。
論文 参考訳（メタデータ） (2020-10-01T17:54:14Z) - Towards Social Identity in Socio-Cognitive Agents [0.0]
認知社会フレームの概念に基づく社会認知エージェントモデルを提案する。
認知社会フレームは、社会集団を中心に構築され、社会集団のダイナミックス機構と社会的アイデンティティの構成の基礎を形成する。
論文 参考訳（メタデータ） (2020-01-20T15:27:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。