論文の概要: Bridging the Human-AI Knowledge Gap: Concept Discovery and Transfer in AlphaZero

• arxiv url: http://arxiv.org/abs/2310.16410v1
• Date: Wed, 25 Oct 2023 06:49:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-26 16:19:00.137870
• Title: Bridging the Human-AI Knowledge Gap: Concept Discovery and Transfer in AlphaZero
• Title（参考訳）: 人間のAI知識ギャップのブリッジ:AlphaZeroにおける概念発見と伝達
• Authors: Lisa Schut, Nenad Tomasev, Tom McGrath, Demis Hassabis, Ulrich Paquet, Been Kim
• Abstract要約: AIシステムであるAlphaZeroから新しいチェスの概念を抽出する方法を示す。 4人のチェスのグランドマスターが提示されたコンセプトのプロトタイプ位置の解法の改善を示した結果,これらの概念はトップ・ヒューマン・エキスパートによって学習可能であることが示された。 これは、AIを活用することで人間の知識のフロンティアを前進させる上で、最初の重要なマイルストーンとなる。
• 参考スコア（独自算出の注目度）: 10.569213003371654
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial Intelligence (AI) systems have made remarkable progress, attaining super-human performance across various domains. This presents us with an opportunity to further human knowledge and improve human expert performance by leveraging the hidden knowledge encoded within these highly performant AI systems. Yet, this knowledge is often hard to extract, and may be hard to understand or learn from. Here, we show that this is possible by proposing a new method that allows us to extract new chess concepts in AlphaZero, an AI system that mastered the game of chess via self-play without human supervision. Our analysis indicates that AlphaZero may encode knowledge that extends beyond the existing human knowledge, but knowledge that is ultimately not beyond human grasp, and can be successfully learned from. In a human study, we show that these concepts are learnable by top human experts, as four top chess grandmasters show improvements in solving the presented concept prototype positions. This marks an important first milestone in advancing the frontier of human knowledge by leveraging AI; a development that could bear profound implications and help us shape how we interact with AI systems across many AI applications.
• Abstract（参考訳）: 人工知能(AI)システムは、様々な領域で超人的なパフォーマンスを実現している。 これにより、これらの高性能AIシステムに符号化された隠れた知識を活用することで、人間の知識をさらに向上し、人間の専門家のパフォーマンスを向上させる機会が得られます。 しかし、この知識を抽出することはしばしば困難であり、理解したり、そこから学ぶことは困難である。 本稿では,人間の監督なしにチェスのゲームを習得するaiシステムであるalphazeroにおいて,新たなチェス概念を抽出可能にする新しい手法を提案することで,これが可能であることを示す。 我々の分析は、alphazeroは既存の人間の知識を超えて広がる知識をエンコードするが、最終的には人間の理解を超えず、そこから学ぶことができることを示している。 4人のチェスのグランドマスターが提示されたコンセプトのプロトタイプ位置の解法の改善を示した結果,これらの概念はトップ人間の専門家によって学習可能であることが示された。 これは、AIを活用することで人間の知識のフロンティアを前進させる上で、重要な最初のマイルストーンとなる。

関連論文リスト

• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Maia-2: A Unified Model for Human-AI Alignment in Chess [10.577896749797485]
  チェスにおける人間-AIアライメントのための統一モデリング手法を提案する。 プレイヤーの強みをエンコードしたチェス位置と動的に統合する,スキルアウェアアテンション機構を導入する。 我々の結果は、人間の意思決定とAIによる指導ツールに関する深い洞察を得るための道を開いた。
  論文  参考訳（メタデータ） (2024-09-30T17:54:23Z)
• Close the Gates: How we can keep the future human by choosing not to develop superhuman general-purpose artificial intelligence [0.20919309330073077]
  今後数年で、人類は汎用AIを作成することによって、不可逆的にしきい値を越えるかもしれない。 これは、人間の社会の中核的な側面を上回り、多くの前例のないリスクを生じさせ、いくつかの意味で制御不能になる可能性がある。 まず、ニューラルネットワークのトレーニングと実行に使用できる計算に厳しい制限を課すことから始めます。 こうした制限がある中で、AIの研究と産業は、人間が理解し制御できる狭義の汎用AIと、そこから大きな利益を享受することのできる汎用AIの両方に焦点を絞ることができる。
  論文  参考訳（メタデータ） (2023-11-15T23:41:12Z)
• AI for Mathematics: A Cognitive Science Perspective [86.02346372284292]
  数学は人間によって開発された最も強力な概念体系の1つである。 AIの急速な進歩、特に大規模言語モデル(LLM)の進歩による推進により、そのようなシステム構築に対する新たな、広範な関心が生まれている。
  論文  参考訳（メタデータ） (2023-10-19T02:00:31Z)
• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)
• The Embeddings World and Artificial General Intelligence [2.28438857884398]
  我々は、このインテリジェントな世界を構築する上で、事前訓練された埋め込みが重要な役割を担っていると論じている。 我々は、事前学習した埋め込みが、人間レベルの知能のいくつかの特性を達成するのにどのように役立つかについて論じる。
  論文  参考訳（メタデータ） (2022-09-14T11:56:30Z)
• Making AI 'Smart': Bridging AI and Cognitive Science [0.0]
  認知科学の統合により、人工知能の「人工的な」特徴はすぐに「スマート」に置き換えられるかもしれない これにより、より強力なAIシステムが開発され、同時に人間の脳がどのように機能するかをよりよく理解できるようになる。 このような高度なシステムを開発するためには、まず人間の脳をよりよく理解する必要があるため、AIが人間の文明を乗っ取る可能性は低いと我々は主張する。
  論文  参考訳（メタデータ） (2021-12-31T09:30:44Z)
• Instructive artificial intelligence (AI) for human training, assistance, and explainability [0.24629531282150877]
  ニューラルネットワークが従来のAI(XAI)の代替手段として人間の研修生にどのように教えるかを示す。 AIは人間の行動を調べ、より良いパフォーマンスをもたらす人間の戦略のバリエーションを計算する。 結果は、ハナビにおける人間の意思決定と人間-AIチームを改善するAIインストラクションの能力について提示される。
  論文  参考訳（メタデータ） (2021-11-02T16:46:46Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• The MineRL BASALT Competition on Learning from Human Feedback [58.17897225617566]
  MineRL BASALTコンペティションは、この重要な種類の技術の研究を促進することを目的としている。 Minecraftでは、ハードコードされた報酬関数を書くのが難しいと期待する4つのタスクのスイートを設計しています。 これら4つのタスクのそれぞれについて、人間のデモのデータセットを提供するとともに、模擬学習ベースラインを提供する。
  論文  参考訳（メタデータ） (2021-07-05T12:18:17Z)
• Future Trends for Human-AI Collaboration: A Comprehensive Taxonomy of AI/AGI Using Multiple Intelligences and Learning Styles [95.58955174499371]
  我々は、複数の人間の知性と学習スタイルの様々な側面を説明し、様々なAI問題領域に影響を及ぼす可能性がある。 未来のAIシステムは、人間のユーザと互いにコミュニケーションするだけでなく、知識と知恵を効率的に交換できる。
  論文  参考訳（メタデータ） (2020-08-07T21:00:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。