論文の概要: Cooperative AI via Decentralized Commitment Devices

• arxiv url: http://arxiv.org/abs/2311.07815v1
• Date: Tue, 14 Nov 2023 00:23:21 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-15 15:54:46.073261
• Title: Cooperative AI via Decentralized Commitment Devices
• Title（参考訳）: 分散型コミットデバイスによる協調AI
• Authors: Xinyuan Sun and Davide Crapis and Matt Stephenson and Barnab\'e Monnot and Thomas Thiery and Jonathan Passerat-Palmbach
• Abstract要約: 信頼できるコミットメントデバイスは、堅牢なマルチエージェント調整のための一般的なアプローチである。 私たちが研究している協調AI技術が現実世界のインセンティブやアタックベクターに対して堅牢かどうかは不明だ。
• 参考スコア（独自算出の注目度）: 0.8796370521782165
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Credible commitment devices have been a popular approach for robust multi-agent coordination. However, existing commitment mechanisms face limitations like privacy, integrity, and susceptibility to mediator or user strategic behavior. It is unclear if the cooperative AI techniques we study are robust to real-world incentives and attack vectors. However, decentralized commitment devices that utilize cryptography have been deployed in the wild, and numerous studies have shown their ability to coordinate algorithmic agents facing adversarial opponents with significant economic incentives, currently in the order of several million to billions of dollars. In this paper, we use examples in the decentralization and, in particular, Maximal Extractable Value (MEV) (arXiv:1904.05234) literature to illustrate the potential security issues in cooperative AI. We call for expanded research into decentralized commitments to advance cooperative AI capabilities for secure coordination in open environments and empirical testing frameworks to evaluate multi-agent coordination ability given real-world commitment constraints.
• Abstract（参考訳）: 信頼できるコミットメントデバイスは、堅牢なマルチエージェント協調のための一般的なアプローチである。 しかしながら、既存のコミットメントメカニズムは、プライバシや整合性、仲介者やユーザの戦略的行動に対する感受性といった制限に直面しています。 私たちが研究している協調AI技術が現実世界のインセンティブや攻撃ベクトルに対して堅牢かどうかは不明だ。 しかし、暗号を利用する分散型のコミットメント装置が広く普及しており、多くの研究で、現在数十億ドルから数十億ドルのオーダーで、敵対する相手に直面するアルゴリズムエージェントを調整できることが示されている。 本稿では,分散化の例,特に最大抽出可能値 (mev) (arxiv:1904.05234) の文献を用いて,協調型aiにおける潜在的なセキュリティ問題を説明する。 我々は、オープン環境におけるセキュアなコーディネーションのための協力的AI能力を促進するための分散コミットメントと、実世界のコミットメント制約が与えられたマルチエージェントコーディネーション能力を評価するための実証的なテストフレームワークについて、さらなる研究を求める。

関連論文リスト

• Cognitive Insights and Stable Coalition Matching for Fostering Multi-Agent Cooperation [6.536780912510439]
  本稿では,ToMレベルの異なるエージェントの強度を利用する新しい連立機構を提案する。 我々の研究は、ToMを活用して、より高度で人間らしいコーディネーション戦略を構築する可能性を実証しています。
  論文  参考訳（メタデータ） (2024-05-28T10:59:33Z)
• Cooperative Cognitive Dynamic System in UAV Swarms: Reconfigurable Mechanism and Framework [80.39138462246034]
  UAVスワムの管理を最適化するための協調認知力学システム(CCDS)を提案する。 CCDSは階層的かつ協調的な制御構造であり、リアルタイムのデータ処理と意思決定を可能にする。 さらに、CCDSは、UAVスワムのタスクを効率的に割り当てるための生体模倣機構と統合することができる。
  論文  参考訳（メタデータ） (2024-05-18T12:45:00Z)
• Enhancing Physical Layer Communication Security through Generative AI with Mixture of Experts [80.0638227807621]
  生成人工知能(GAI)モデルは、従来のAI手法よりも優れていることを示した。 ゲート機構による予測に複数の専門家モデルを使用するMoEは、可能なソリューションを提案する。
  論文  参考訳（メタデータ） (2024-05-07T11:13:17Z)
• Reaching Consensus in Cooperative Multi-Agent Reinforcement Learning with Goal Imagination [16.74629849552254]
  本稿では,複数のエージェントを協調するモデルに基づくコンセンサス機構を提案する。 提案したMulti-Adnt Goal Imagination (MAGI) フレームワークは、エージェントがImagined Common goalとコンセンサスに達するためのガイドである。 このような効率的なコンセンサス機構は、すべてのエージェントを協調して有用な将来状態に導くことができることを示す。
  論文  参考訳（メタデータ） (2024-03-05T18:07:34Z)
• A Survey and Comparative Analysis of Security Properties of CAN Authentication Protocols [92.81385447582882]
  コントロールエリアネットワーク(CAN)バスは車内通信を本質的に安全でないものにしている。 本稿では,CANバスにおける15の認証プロトコルをレビューし,比較する。 実装の容易性に寄与する本質的な運用基準に基づくプロトコルの評価を行う。
  論文  参考訳（メタデータ） (2024-01-19T14:52:04Z)
• ProAgent: Building Proactive Cooperative Agents with Large Language Models [89.53040828210945]
  ProAgentは、大規模な言語モデルを利用してプロアクティブエージェントを生成する新しいフレームワークである。 ProAgentは現状を分析し、チームメイトの意図を観察から推測することができる。 ProAgentは高度なモジュール化と解釈可能性を示し、様々な調整シナリオに容易に統合できる。
  論文  参考訳（メタデータ） (2023-08-22T10:36:56Z)
• AdverSAR: Adversarial Search and Rescue via Multi-Agent Reinforcement Learning [4.843554492319537]
  本稿では,敵対的エージェント間コミュニケーションの存在下で,ロボットの戦略を効率的に調整するアルゴリズムを提案する。 ロボットは対象の場所について事前の知識を持っておらず、隣接するロボットのサブセットのみといつでも対話できると仮定される。 提案手法の有効性は, グリッドワールド環境のプロトタイプで実証した。
  論文  参考訳（メタデータ） (2022-12-20T08:13:29Z)
• RACA: Relation-Aware Credit Assignment for Ad-Hoc Cooperation in Multi-Agent Deep Reinforcement Learning [55.55009081609396]
  本稿では、アドホックな協調シナリオにおいてゼロショットの一般化を実現するRACA(Relation-Aware Credit Assignment)と呼ばれる新しい手法を提案する。 RACAは、エージェント間のトポロジ構造を符号化するために、グラフベースのエンコーダ関係を利用する。 提案手法は,StarCraftIIマイクロマネジメントベンチマークとアドホック協調シナリオのベースライン手法よりも優れている。
  論文  参考訳（メタデータ） (2022-06-02T03:39:27Z)
• Iterated Reasoning with Mutual Information in Cooperative and Byzantine Decentralized Teaming [0.0]
  我々は,政策グラディエント(PG)の下での最適化において,エージェントの方針がチームメイトの方針に準じることが,本質的に相互情報(MI)の下限を最大化することを示す。 我々の手法であるInfoPGは、創発的協調行動の学習におけるベースラインを上回り、分散協調型MARLタスクにおける最先端の課題を設定します。
  論文  参考訳（メタデータ） (2022-01-20T22:54:32Z)
• DSDF: An approach to handle stochastic agents in collaborative multi-agent reinforcement learning [0.0]
  ロボットの機能低下や老化によって引き起こされるエージェントの真偽が、協調の不確実性にどのように寄与するかを示す。 DSDFは不確実性に応じてエージェントの割引係数を調整し,その値を用いて個々のエージェントのユーティリティネットワークを更新する。
  論文  参考訳（メタデータ） (2021-09-14T12:02:28Z)
• F2A2: Flexible Fully-decentralized Approximate Actor-critic for Cooperative Multi-agent Reinforcement Learning [110.35516334788687]
  分散マルチエージェント強化学習アルゴリズムは複雑なアプリケーションでは実践的でないことがある。 本稿では,大規模で汎用的なマルチエージェント設定を扱える,柔軟な完全分散型アクター批判型MARLフレームワークを提案する。 当社のフレームワークは,大規模環境におけるスケーラビリティと安定性を実現し,情報伝達を低減できる。
  論文  参考訳（メタデータ） (2020-04-17T14:56:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。