論文の概要: Why human-AI relationships need socioaffective alignment

• arxiv url: http://arxiv.org/abs/2502.02528v1
• Date: Tue, 04 Feb 2025 17:50:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-05 14:57:07.597335
• Title: Why human-AI relationships need socioaffective alignment
• Title（参考訳）: なぜ人間とAIの関係は社会影響の調整を必要とするのか
• Authors: Hannah Rose Kirk, Iason Gabriel, Chris Summerfield, Bertie Vidgen, Scott A. Hale,
• Abstract要約: 人間は、私たちの目標と整合し、私たちのコントロール下にある安全なAIシステムを設計しようと努力します。 AI能力が進歩するにつれて、私たちは新たな課題に直面します。
• 参考スコア（独自算出の注目度）: 16.283971225367537
• License:
• Abstract: Humans strive to design safe AI systems that align with our goals and remain under our control. However, as AI capabilities advance, we face a new challenge: the emergence of deeper, more persistent relationships between humans and AI systems. We explore how increasingly capable AI agents may generate the perception of deeper relationships with users, especially as AI becomes more personalised and agentic. This shift, from transactional interaction to ongoing sustained social engagement with AI, necessitates a new focus on socioaffective alignment-how an AI system behaves within the social and psychological ecosystem co-created with its user, where preferences and perceptions evolve through mutual influence. Addressing these dynamics involves resolving key intrapersonal dilemmas, including balancing immediate versus long-term well-being, protecting autonomy, and managing AI companionship alongside the desire to preserve human social bonds. By framing these challenges through a notion of basic psychological needs, we seek AI systems that support, rather than exploit, our fundamental nature as social and emotional beings.
• Abstract（参考訳）: 人間は、私たちの目標と整合し、私たちのコントロール下にある安全なAIシステムを設計しようと努力します。 しかし、AI能力が進歩するにつれ、私たちは新たな課題に直面している。 特にAIがよりパーソナライズされ、エージェント的になるにつれて、AIエージェントがユーザとの深い関係の認識をいかに高めるかを探る。 この変化は、トランザクションの相互作用から継続的なAIとのソーシャルエンゲージメントへと、AIシステムがユーザと共同で作成した社会的および心理的エコシステムの中でどのように振る舞うかという、相互の影響を通じて好みと知覚が進化する社会影響的なアライメントに新たな焦点をあてる必要がある。 これらのダイナミクスに対処するためには、即時対長期的な幸福のバランス、自律性の保護、人間の社会的結合の保存という欲求とAIの協力関係の管理など、個人内の主要なジレンマを解決することが含まれる。 これらの課題を、基本的な心理的ニーズの概念を通じてフレーミングすることで、我々は、社会的および感情的な存在としての私たちの基本的な性質を悪用するのではなく、支援するAIシステムを模索する。

関連論文リスト

• Aligning Generalisation Between Humans and Machines [74.120848518198]
  近年のAIの進歩は、科学的発見と意思決定支援において人間を支援できる技術をもたらしたが、民主主義と個人を妨害する可能性がある。 AIの責任ある使用は、ますます人間とAIのチームの必要性を示している。 これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
  論文  参考訳（メタデータ） (2024-11-23T18:36:07Z)
• Artificial Theory of Mind and Self-Guided Social Organisation [1.8434042562191815]
  人工知能(AI)が直面する課題の1つは、エージェントの集合が、単一のエージェントが到達できない目標を達成するために、どのように行動を調整するかである。 我々は、ニューラルネットワークにおける単一ニューロンの複雑さによる最近の研究に基づいて、一般的な設定での集合的知能について論じる。 社会構造が神経生理学、心理学、言語にどのように影響されているかを示す。
  論文  参考訳（メタデータ） (2024-11-14T04:06:26Z)
• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Combining Theory of Mind and Kindness for Self-Supervised Human-AI Alignment [0.0]
  現在のAIモデルは、安全よりもタスク最適化を優先しており、意図しない害のリスクにつながっている。 本稿では,これらの諸問題に対処し,競合する目標の整合化を支援することを目的とした,人間に触発された新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-10-21T22:04:44Z)
• Shifting the Human-AI Relationship: Toward a Dynamic Relational Learning-Partner Model [0.0]
  我々は、人間との対話から学ぶ学生に似た、AIを学習パートナーとして見ることへのシフトを提唱する。 我々は「第三の心」が人間とAIの協力関係を通して生まれることを示唆する。
  論文  参考訳（メタデータ） (2024-10-07T19:19:39Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• SOTOPIA: Interactive Evaluation for Social Intelligence in Language Agents [107.4138224020773]
  人工エージェントと人間との複雑な社会的相互作用をシミュレートするオープンエンド環境であるSOTOPIAを提案する。 エージェントは、複雑な社会的目標を達成するために協調し、協力し、交換し、互いに競い合う。 GPT-4は,人間よりも目標達成率が著しく低く,社会的常識的推論や戦略的コミュニケーション能力の発揮に苦慮していることがわかった。
  論文  参考訳（メタデータ） (2023-10-18T02:27:01Z)
• Reflective Hybrid Intelligence for Meaningful Human Control in Decision-Support Systems [4.1454448964078585]
  本稿では,AIシステムに対する有意義な人間制御のための自己表現型AIシステムの概念を紹介する。 心理学と哲学の知識を形式的推論手法や機械学習アプローチと統合する枠組みを提案する。 我々は、自己反射型AIシステムは、自己反射型ハイブリッドシステム(人間+AI)に繋がると主張している。
  論文  参考訳（メタデータ） (2023-07-12T13:32:24Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• AI agents for facilitating social interactions and wellbeing [0.0]
  ソーシャルインタラクションにおけるAI強化エージェントの役割について概説する。 我々は、我々の社会における幸福を促進するために、幸福なAIとリレーショナルアプローチの機会と課題について議論する。
  論文  参考訳（メタデータ） (2022-02-26T04:05:23Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。