Fugu-MT 論文翻訳(概要): AI safety by debate via regret minimization

論文の概要: AI safety by debate via regret minimization

arxiv url: http://arxiv.org/abs/2312.04792v1
Date: Fri, 8 Dec 2023 02:06:55 GMT
ステータス: 処理完了
システム内更新日: 2023-12-11 16:21:02.171263
Title: AI safety by debate via regret minimization
Title（参考訳）: 後悔の最小化によるAIの安全性の議論
Authors: Xinyi Chen, Angelica Chen, Dean Foster, Elad Hazan
Abstract要約: 我々は、議論によるAI安全性の設定を繰り返しゲームとみなす。内部および外部の後悔を効率的に最小化できる場合の特徴付けを行う。戦略の列が相関平衡に収束する条件で結論付ける。
参考スコア（独自算出の注目度）: 29.884051256535564
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We consider the setting of AI safety by debate as a repeated game. We consider the question of efficient regret minimization in this setting, when the players are either AIs or humans, equipped with access to computationally superior AIs. In such a setting, we characterize when internal and external regret can be minimized efficiently. We conclude with conditions in which a sequence of strategies converges to a correlated equilibrium.
Abstract（参考訳）: 我々は、議論によるAI安全性の設定を繰り返しゲームと考える。この環境では、プレイヤーがAIか人間かのいずれかであり、計算上優れたAIにアクセス可能である場合、効率的な後悔の最小化の問題を考える。このような設定では、内部および外部の後悔を効率的に最小化できる場合に特徴付ける。我々は,一連の戦略が相関均衡に収束する条件で結論づける。

関連論文リスト

DanZero+: Dominating the GuanDan Game through Reinforcement Learning [95.90682269990705]
我々は、GuanDanという、非常に複雑で人気のあるカードゲームのためのAIプログラムを開発した。私たちはまず、DanZeroという名のAIプログラムをこのゲームのために提案しました。 AIの能力をさらに強化するために、政策に基づく強化学習アルゴリズムをGuanDanに適用する。
論文参考訳（メタデータ） (2023-12-05T08:07:32Z)
Online Learning and Solving Infinite Games with an ERM Oracle [20.1330044382824]
本稿では,ERMオーラクルコールのみに依存するオンラインバイナリ分類設定のためのアルゴリズムを提案する。我々は、実現可能な設定における有限の後悔と、不可知的な設定におけるサブリニアに成長する後悔が示される。我々のアルゴリズムは二値ゲームと実値ゲームの両方に適用でき、大きなゲームを解く実践において、二重オラクルと多重オラクルのアルゴリズムを広く活用するための正当性を提供すると見なすことができる。
論文参考訳（メタデータ） (2023-07-04T12:51:21Z)
Hardness of Independent Learning and Sparse Equilibrium Computation in Markov Games [70.19141208203227]
マルコフゲームにおける分散型マルチエージェント強化学習の問題点を考察する。我々は,全てのプレイヤーが独立に実行すると,一般のサムゲームにおいて,アルゴリズムが到達しないことを示す。我々は,全てのエージェントが集中型アルゴリズムによって制御されるような,一見簡単な設定であっても,下位境界が保持されていることを示す。
論文参考訳（メタデータ） (2023-03-22T03:28:12Z)
On the Convergence of No-Regret Learning Dynamics in Time-Varying Games [89.96815099996132]
時間変化ゲームにおける楽観的勾配降下(OGD)の収束を特徴付ける。我々のフレームワークは、ゼロサムゲームにおけるOGDの平衡ギャップに対して鋭い収束境界をもたらす。また,静的ゲームにおける動的後悔の保証に関する新たな洞察も提供する。
論文参考訳（メタデータ） (2023-01-26T17:25:45Z)
Are AlphaZero-like Agents Robust to Adversarial Perturbations? [73.13944217915089]
AlphaZero(AZ)は、ニューラルネットワークベースのGo AIが人間のパフォーマンスを大きく上回ることを示した。私たちは、Go AIが驚くほど間違った行動を起こさせる可能性のある、敵対的な状態が存在するかどうか尋ねる。我々は、Go AIに対する最初の敵攻撃を開発し、探索空間を戦略的に減らし、効率よく敵の状態を探索する。
論文参考訳（メタデータ） (2022-11-07T18:43:25Z)
Public Information Representation for Adversarial Team Games [31.29335755664997]
対戦チームゲームは、プレイ中にチームメンバーが利用可能な非対称情報の中にあります。本アルゴリズムは,対戦相手を持つ逐次チームゲームから古典的な2プレイヤーゼロサムゲームに変換する。この問題のNPハード性のため、結果のパブリックチームゲームは元のゲームよりも指数関数的に大きいかもしれない。
論文参考訳（メタデータ） (2022-01-25T15:07:12Z)
Revisiting Game Representations: The Hidden Costs of Efficiency in Sequential Decision-making Algorithms [0.6749750044497732]
不完全な情報の下でのシーケンシャルな意思決定アルゴリズムの進歩は、大きなゲームで顕著な成功を収めている。これらのアルゴリズムは伝統的に広義のゲーム形式を用いてゲームを形式化する。プレイヤー固有の情報状態木に基づく特殊表現の使用が,一般的な回避策であることを示す。
論文参考訳（メタデータ） (2021-12-20T22:34:19Z)
Model-Free Online Learning in Unknown Sequential Decision Making Problems and Games [114.90723492840499]
大規模な2人プレイのゼロサム情報ゲームでは、反事実後悔最小化(cfr)の現代的な拡張がnash均衡を計算するための実用的な技術である。私たちは、戦略空間がエージェントに知られていないオンライン学習設定を形式化します。エージェントが逆の環境に直面しても、その設定に高い確率で$O(T3/4)$後悔を達成する効率的なアルゴリズムを提供します。
論文参考訳（メタデータ） (2021-03-08T04:03:24Z)
Complexity and Algorithms for Exploiting Quantal Opponents in Large Two-Player Games [16.43565579998679]
伝統的なゲーム理論の解の概念は、完全に合理的なプレイヤーを前提としており、従って、従属的な相手を活用できる能力は限られている。本稿では,通常のゲームや広角ゲームにおいて,量子的対戦相手に対する効果的で堅牢な戦略を計算するためのスケーラブルなアルゴリズムを解析し,提案することを目的とする。
論文参考訳（メタデータ） (2020-09-30T09:14:56Z)
Learning to Play Sequential Games versus Unknown Opponents [93.8672371143881]
学習者が最初にプレーするゲームと、選択した行動に反応する相手との連続的なゲームについて考察する。対戦相手の対戦相手列と対戦する際,学習者に対して新しいアルゴリズムを提案する。我々の結果には、相手の反応の正則性に依存するアルゴリズムの後悔の保証が含まれている。
論文参考訳（メタデータ） (2020-07-10T09:33:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。