論文の概要: Explaining Decisions of Agents in Mixed-Motive Games

• arxiv url: http://arxiv.org/abs/2407.15255v1
• Date: Sun, 21 Jul 2024 19:56:04 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-23 16:40:17.786641
• Title: Explaining Decisions of Agents in Mixed-Motive Games
• Title（参考訳）: 混合運動ゲームにおけるエージェント決定の解説
• Authors: Maayan Orner, Oleg Maksimov, Akiva Kleinerman, Charles Ortiz, Sarit Kraus,
• Abstract要約: 近年,エージェントは自然言語でシームレスにコミュニケーションできるようになっている。 このような環境やシナリオは、説明可能なAIの文脈で調査されることはめったにない。 本研究では,エージェント間の競合,安価なトーク,行動による暗黙的なコミュニケーションに対処するための説明手法を設計する。
• 参考スコア（独自算出の注目度）: 11.792961910129684
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In recent years, agents have become capable of communicating seamlessly via natural language and navigating in environments that involve cooperation and competition, a fact that can introduce social dilemmas. Due to the interleaving of cooperation and competition, understanding agents' decision-making in such environments is challenging, and humans can benefit from obtaining explanations. However, such environments and scenarios have rarely been explored in the context of explainable AI. While some explanation methods for cooperative environments can be applied in mixed-motive setups, they do not address inter-agent competition, cheap-talk, or implicit communication by actions. In this work, we design explanation methods to address these issues. Then, we proceed to demonstrate their effectiveness and usefulness for humans, using a non-trivial mixed-motive game as a test case. Lastly, we establish generality and demonstrate the applicability of the methods to other games, including one where we mimic human game actions using large language models.
• Abstract（参考訳）: 近年、エージェントは自然言語を介してシームレスにコミュニケーションし、協力や競争を含む環境をナビゲートできるようになり、社会的ジレンマがもたらされる可能性がある。 協調と競争のインターリーブにより、このような環境におけるエージェントの意思決定は困難であり、人間は説明を得ることの恩恵を受けることができる。 しかし、このような環境やシナリオは、説明可能なAIの文脈で研究されることはめったにない。 協調環境のいくつかの説明法は、混合モチベーションに応用できるが、エージェント間の競争、安価なトーク、行動による暗黙のコミュニケーションには対応しない。 本研究では,これらの問題に対処するための説明手法を設計する。 そこで我々は,非自明な混合動機ゲームをテストケースとして,その有効性と有用性を示す。 最後に,本手法の汎用性を確立し,他のゲームへの適用性を実証する。

関連論文リスト

• A Dialogue Game for Eliciting Balanced Collaboration [64.61707514432533]
  本稿では、プレイヤーがゴール状態自体を交渉しなければならない2Dオブジェクト配置ゲームを提案する。 我々は,人間プレイヤーが様々な役割を担っていることを実証的に示し,バランスの取れた協調によってタスクのパフォーマンスが向上することを示した。
  論文  参考訳（メタデータ） (2024-06-12T13:35:10Z)
• CivRealm: A Learning and Reasoning Odyssey in Civilization for Decision-Making Agents [63.79739920174535]
  文明ゲームに触発された環境であるCivRealmを紹介する。 CivRealmは、意思決定エージェントにとってユニークな学習と推論の課題である。
  論文  参考訳（メタデータ） (2024-01-19T09:14:11Z)
• Leading the Pack: N-player Opponent Shaping [52.682734939786464]
  我々は、複数のコプレーヤと複数のシェーピングエージェントを含む環境に、対向型シェーピング(OS)メソッドを拡張します。 多数のコプレーヤでプレイすると,OSメソッドの相対的な性能が低下し,OSメソッドが動作しない可能性が示唆された。
  論文  参考訳（メタデータ） (2023-12-19T20:01:42Z)
• The Machine Psychology of Cooperation: Can GPT models operationalise prompts for altruism, cooperation, competitiveness and selfishness in economic games? [0.0]
  GPT-3.5大言語モデル(LLM)を用いて,協調的,競争的,利他的,利己的行動の自然言語記述を操作可能とした。 被験者と実験心理学研究で用いられるのと同様のプロトコルを用いて,課題環境を記述するためのプロンプトを用いた。 この結果から,LLM が様々な協調姿勢の自然言語記述を適切な作業行動の記述にある程度翻訳できることが示唆された。
  論文  参考訳（メタデータ） (2023-05-13T17:23:16Z)
• Hidden Agenda: a Social Deduction Game with Diverse Learned Equilibria [57.74495091445414]
  社会的推論ゲームは、個人が他人に関する潜在的に信頼できない情報を合成する方法を学ぶための道を提供する。 本研究では,未知のチームアライメントのシナリオにおいて,学習エージェントを研究するための2D環境を提供する2チームソーシャル推論ゲームであるHidden Agendaを紹介する。 Hidden Agendaで訓練された強化学習エージェントは、自然言語でのコミュニケーションを必要とせずに、協力や投票など、さまざまな行動を学ぶことができることを示した。
  論文  参考訳（メタデータ） (2022-01-05T20:54:10Z)
• Situated Language Learning via Interactive Narratives [16.67845396797253]
  本稿では,文脈的関連のある自然言語を理解し,生成する能力を持つ学習エージェントの活用方法について考察する。 このようなエージェントを作成するための2つの重要なコンポーネントは、相互作用と環境接地です。 テキストゲームのパズルのような構造と自然言語状態とアクション空間が組み合わさったユニークな課題について論じる。
  論文  参考訳（メタデータ） (2021-03-18T01:55:16Z)
• Playing Text-Based Games with Common Sense [12.561548311885671]
  エージェントに常識知識を組み込むための2つの手法を探索する。 コモンセンス推論モデルCOMETまたは言語モデルBERTで世界状態の潜在的隠れた側面を推測する。 我々は,コモンセンス推論によって世界国家に対する信念を補強するエージェントは,テキスト記述から共通要素の観察上の誤りや省略に対してより堅牢である,と結論付けた。
  論文  参考訳（メタデータ） (2020-12-04T18:22:59Z)
• On Emergent Communication in Competitive Multi-Agent Teams [116.95067289206919]
  外部のエージェントチームによるパフォーマンスの競争が社会的影響として作用するかどうかを検討する。 以上の結果から,外部競争の影響により精度と一般化が向上し,コミュニケーション言語が急速に出現することが示唆された。
  論文  参考訳（メタデータ） (2020-03-04T01:14:27Z)
• Exploration Based Language Learning for Text-Based Games [72.30525050367216]
  本研究は,テキストベースのコンピュータゲームにおいて,最先端の性能を発揮できる探索・模倣学習型エージェントを提案する。 テキストベースのコンピュータゲームは、自然言語でプレイヤーの世界を記述し、プレイヤーがテキストを使ってゲームと対話することを期待する。 これらのゲームは、言語理解、問題解決、および人工エージェントによる言語生成のためのテストベッドと見なすことができるため、興味がある。
  論文  参考訳（メタデータ） (2020-01-24T03:03:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。