Fugu-MT 論文翻訳(概要): Accumulating Risk Capital Through Investing in Cooperation

論文の概要: Accumulating Risk Capital Through Investing in Cooperation

arxiv url: http://arxiv.org/abs/2101.10305v1
Date: Mon, 25 Jan 2021 18:41:45 GMT
ステータス: 処理完了
システム内更新日: 2021-03-14 19:01:51.971097
Title: Accumulating Risk Capital Through Investing in Cooperation
Title（参考訳）: 協力投資によるリスク資本の蓄積
Authors: Charlotte Roman, Michael Dennis, Andrew Critch, Stuart Russell
Abstract要約: 安全と協力のトレードオフは厳しいものではなく、少ないリスクから協力することで指数関数的に大きな利益を得ることができることを示す。協力投資によるリスク資本の蓄積(ARCTIC)を目標とした教育方針の策定方法を提案する。
参考スコア（独自算出の注目度）: 12.053132866404972
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Recent work on promoting cooperation in multi-agent learning has resulted in many methods which successfully promote cooperation at the cost of becoming more vulnerable to exploitation by malicious actors. We show that this is an unavoidable trade-off and propose an objective which balances these concerns, promoting both safety and long-term cooperation. Moreover, the trade-off between safety and cooperation is not severe, and you can receive exponentially large returns through cooperation from a small amount of risk. We study both an exact solution method and propose a method for training policies that targets this objective, Accumulating Risk Capital Through Investing in Cooperation (ARCTIC), and evaluate them in iterated Prisoner's Dilemma and Stag Hunt.
Abstract（参考訳）: マルチエージェント学習における協力を促進する最近の取り組みは、悪意のあるアクターによる搾取に対してより脆弱になるコストで協力を促進する多くの方法をもたらしました。これは避けられないトレードオフであり、これらの懸念をバランスさせ、安全と長期協力の両立を促進する目標を提案する。さらに、安全と協力のトレードオフは深刻ではなく、少量のリスクから協力することで指数関数的に大きな利益を得ることができる。本研究は,厳密な解決方法と,この目標を目標とする政策の訓練方法,Arccumulating Risk Capital Through Investing in Cooperation (ARCTIC) について検討し,これらを反復した囚人のジレンマとスタッグハントで評価する。