論文の概要: Warmth and competence in human-agent cooperation

• arxiv url: http://arxiv.org/abs/2201.13448v4
• Date: Thu, 9 May 2024 03:02:50 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-10 18:44:57.920682
• Title: Warmth and competence in human-agent cooperation
• Title（参考訳）: 人間とエージェントの協調における温かみと能力
• Authors: Kevin R. McKee, Xuechunzi Bai, Susan T. Fiske,
• Abstract要約: 近年の研究では、深層強化学習で訓練されたAIエージェントが人間と協調できることが示されている。 われわれは2人プレイのソーシャルジレンマであるCoinsで深層強化学習エージェントを訓練している。 参加者の温かさと能力に対する認識は、異なるエージェントに対する表現された嗜好を予測する。
• 参考スコア（独自算出の注目度）: 0.7237068561453082
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Interaction and cooperation with humans are overarching aspirations of artificial intelligence (AI) research. Recent studies demonstrate that AI agents trained with deep reinforcement learning are capable of collaborating with humans. These studies primarily evaluate human compatibility through "objective" metrics such as task performance, obscuring potential variation in the levels of trust and subjective preference that different agents garner. To better understand the factors shaping subjective preferences in human-agent cooperation, we train deep reinforcement learning agents in Coins, a two-player social dilemma. We recruit $N = 501$ participants for a human-agent cooperation study and measure their impressions of the agents they encounter. Participants' perceptions of warmth and competence predict their stated preferences for different agents, above and beyond objective performance metrics. Drawing inspiration from social science and biology research, we subsequently implement a new ``partner choice'' framework to elicit revealed preferences: after playing an episode with an agent, participants are asked whether they would like to play the next episode with the same agent or to play alone. As with stated preferences, social perception better predicts participants' revealed preferences than does objective performance. Given these results, we recommend human-agent interaction researchers routinely incorporate the measurement of social perception and subjective preferences into their studies.
• Abstract（参考訳）: 人間との相互作用と協力は人工知能(AI)研究の構想をまとめている。 近年の研究では、深層強化学習で訓練されたAIエージェントが人間と協調できることが示されている。 これらの研究は、主に、タスクパフォーマンス、信頼水準の潜在的な変動、異なるエージェントが注目する主観的嗜好といった「客観的な」指標を通じて、人間の互換性を評価する。 人とエージェントの協調において主観的嗜好を形成する要因をよりよく理解するために,2プレイヤーの社会的ジレンマであるCoinsで深層強化学習エージェントを訓練する。 我々は、人間とエージェントの協力研究のために、N = 501$の参加者を募集し、遭遇したエージェントの印象を測定する。 参加者の温かさと能力に対する認識は、客観的なパフォーマンス指標以上の、異なるエージェントに対する表現された嗜好を予測する。 社会科学と生物学の研究からインスピレーションを得て、我々はその後、あるエージェントとエピソードをプレイした後、参加者は次のエピソードを同じエージェントでプレイしたいか、または単独でプレイしたいかを尋ねられるように、新しい「パートナー選択」フレームワークを実装した。 表現された嗜好と同様に、社会的知覚は、客観的なパフォーマンスよりも、参加者の明らかな嗜好をよりよく予測する。 これらの結果を踏まえ、人間とエージェントのインタラクション研究者は日常的に、社会的知覚と主観的嗜好の測定を研究に取り入れることを推奨する。

関連論文リスト

• Mixed-Initiative Human-Robot Teaming under Suboptimality with Online Bayesian Adaptation [0.6591036379613505]
  我々は,最適人-エージェントチームの性能向上のための計算モデルと最適化手法を開発した。 我々は,ロボットが逐次意思決定ゲームにおいて,その支援に従おうとする人々の意思を推測できるオンラインベイズアプローチを採用する。 ユーザの好みやチームのパフォーマンスは,ロボットの介入スタイルによって明らかに異なります。
  論文  参考訳（メタデータ） (2024-03-24T14:38:18Z)
• RoleInteract: Evaluating the Social Interaction of Role-Playing Agents [85.6641890712617]
  社会的相互作用の個人レベルとグループレベルの両方において、ロールプレイング・会話エージェントの社会的性を評価するために設計された最初のベンチマークを紹介する。 ベンチマークはさまざまなソースから構築され、500文字以上と6000以上の質問プロンプトをカバーする。 個人レベルで優れたエージェントは,集団レベルでの熟練度を示唆しない。
  論文  参考訳（メタデータ） (2024-03-20T15:38:36Z)
• Enhancing Human Experience in Human-Agent Collaboration: A Human-Centered Modeling Approach Based on Positive Human Gain [18.968232976619912]
  協調型AIエージェントのための「人間中心型」モデリング手法を提案する。 エージェントは、エージェントの本来の能力を維持しながら、人間がこれらの目標を達成する度合いを高めることを学ぶべきである。 マルチプレイヤーオンラインバトルアリーナ(MOBA)ゲーム「Honor of Kings」におけるRLHGエージェントの評価を行った。
  論文  参考訳（メタデータ） (2024-01-28T05:05:57Z)
• Benchmarking Multi-Agent Preference-based Reinforcement Learning for Human-AI Teaming [16.701242561345786]
  嗜好に基づく強化学習(PbRL)は研究の活発な領域であり、シングルエージェントアクターや観察者によるループのシナリオにおいて大きな進歩を遂げている。 両エージェントがチームに対する報酬関数に従って報酬を受ける2エージェント(Human-AI)の協調構成について検討する。 しかし、エージェントはそれにアクセスできず、その代わりに、人間ロボットチームにおけるロボットの目的と人間の好みを引き出すために、嗜好に基づくクエリを利用する。
  論文  参考訳（メタデータ） (2023-12-21T20:48:15Z)
• AgentCF: Collaborative Learning with Autonomous Language Agents for Recommender Systems [112.76941157194544]
  本稿では,エージェントベースの協調フィルタリングにより,レコメンデータシステムにおけるユーザとイテムのインタラクションをシミュレートするエージェントCFを提案する。 我々は、ユーザだけでなく、アイテムをエージェントとして、創造的に考慮し、両方のエージェントを同時に最適化する協調学習アプローチを開発します。 全体として、最適化されたエージェントは、ユーザ・イテム、ユーザ・ユーザ・ユーザ、アイテム・イテム、集合的インタラクションなど、フレームワーク内での多様なインタラクションの振る舞いを示す。
  論文  参考訳（メタデータ） (2023-10-13T16:37:14Z)
• ProAgent: Building Proactive Cooperative Agents with Large Language Models [89.53040828210945]
  ProAgentは、大規模な言語モデルを利用してプロアクティブエージェントを生成する新しいフレームワークである。 ProAgentは現状を分析し、チームメイトの意図を観察から推測することができる。 ProAgentは高度なモジュール化と解釈可能性を示し、様々な調整シナリオに容易に統合できる。
  論文  参考訳（メタデータ） (2023-08-22T10:36:56Z)
• Incorporating Rivalry in Reinforcement Learning for a Competitive Game [65.2200847818153]
  本研究は,競争行動の社会的影響に基づく新しい強化学習機構を提案する。 提案モデルでは, 人工エージェントの学習を調節するための競合スコアを導出するために, 客観的, 社会的認知的メカニズムを集約する。
  論文  参考訳（メタデータ） (2022-08-22T14:06:06Z)
• Assessing Human Interaction in Virtual Reality With Continually Learning Prediction Agents Based on Reinforcement Learning Algorithms: A Pilot Study [6.076137037890219]
  本研究では,人間と学習の継続する予測エージェントの相互作用が,エージェントの能力の発達とともにどのように発達するかを検討する。 我々は、強化学習(RL)アルゴリズムから学習した予測が人間の予測を増大させる仮想現実環境と時間ベースの予測タスクを開発する。 以上の結果から,人的信頼はエージェントとの早期の相互作用に影響され,信頼が戦略的行動に影響を及ぼす可能性が示唆された。
  論文  参考訳（メタデータ） (2021-12-14T22:46:44Z)
• Imitating Interactive Intelligence [24.95842455898523]
  仮想環境の簡略化を用いて、人間と自然に相互作用できる人工エージェントの設計方法を検討する。 人間とロバストに相互作用できるエージェントを構築するには、人間と対話しながらトレーニングするのが理想的です。 我々は,人間とエージェントエージェントの対話行動の相違を低減するために,逆強化学習の考え方を用いる。
  論文  参考訳（メタデータ） (2020-12-10T13:55:47Z)
• Incorporating Rivalry in Reinforcement Learning for a Competitive Game [65.2200847818153]
  本研究は、競合する社会的影響に基づく新しい学習メカニズムの提供に焦点を当てる。 本研究は,競争競合の概念に基づいて,これらのエージェントの評価を人的視点から変えられるかを検討することを目的とする。
  論文  参考訳（メタデータ） (2020-11-02T21:54:18Z)
• Learning to Incentivize Other Learning Agents [73.03133692589532]
  我々は、学習インセンティブ関数を用いて、RLエージェントに他のエージェントに直接報酬を与える能力を持たせる方法を示す。 このようなエージェントは、一般的なマルコフゲームにおいて、標準のRLと対戦型エージェントを著しく上回っている。 私たちの仕事は、マルチエージェントの未来において共通の善を確実にする道のりに沿って、より多くの機会と課題を指しています。
  論文  参考訳（メタデータ） (2020-06-10T20:12:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。