論文の概要: Structure and Reduction of MCTS for Explainable-AI
- arxiv url: http://arxiv.org/abs/2408.05488v1
- Date: Sat, 10 Aug 2024 08:33:30 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-13 18:51:22.680247
- Title: Structure and Reduction of MCTS for Explainable-AI
- Title（参考訳）: 説明可能なAIのためのMCTSの構造と低減
- Authors: Ronit Bustin, Claudia V. Goldman,
- Abstract要約: 本稿ではモンテカルロ木探索データ構造における情報に焦点を当てる。
モンテカルロ木探索の簡易化と削減のための情報理論ツールを用いた新しい手法を提案する。
本稿では,計算コストを抑えながら,基本的な説明可能性量を計算可能であることを示す。
- 参考スコア（独自算出の注目度）: 2.608935407927351
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Complex sequential decision-making planning problems, covering infinite states' space have been shown to be solvable by AlphaZero type of algorithms. Such an approach that trains a neural model while simulating projection of futures with a Monte Carlo Tree Search algorithm were shown to be applicable to real life planning problems. As such, engineers and users interacting with the resulting policy of behavior might benefit from obtaining automated explanations about these planners' decisions offline or online. This paper focuses on the information within the Monte Carlo Tree Search data structure. Given its construction, this information contains much of the reasoning of the sequential decision-making algorithm and is essential for its explainability. We show novel methods using information theoretic tools for the simplification and reduction of the Monte Carlo Tree Search and the extraction of information. Such information can be directly used for the construction of human understandable explanations. We show that basic explainability quantities can be calculated with limited additional computational cost, as an integrated part of the Monte Carlo Tree Search construction process. We focus on the theoretical and algorithmic aspects and provide examples of how the methods presented here can be used in the construction of human understandable explanations.
- Abstract（参考訳）: 無限状態の空間をカバーする複雑な逐次決定計画問題は、AlphaZero型のアルゴリズムによって解けることが示されている。
モンテカルロ木探索アルゴリズムを用いて将来の予測をシミュレーションしながらニューラルモデルを訓練するアプローチは、実生活計画問題に適用可能であることが示された。
このように、結果として生じる行動方針と対話するエンジニアやユーザは、これらのプランナーの判断をオフラインまたはオンラインで自動で説明することの恩恵を受けるかもしれない。
本稿ではモンテカルロ木探索データ構造における情報に焦点を当てる。
その構成を考えると、この情報はシーケンシャルな意思決定アルゴリズムの推論の多くを含み、その説明可能性に不可欠である。
モンテカルロ木探索の単純化と削減と情報抽出のための情報理論ツールを用いた新しい手法を提案する。
このような情報は、人間の理解可能な説明を構築するために直接利用することができる。
モンテカルロ木探索構築プロセスの集積部分として,基本的な説明可能性量を計算コストの制限により計算可能であることを示す。
本稿では, 理論的・アルゴリズム的な側面に着目し, 人間の理解可能な説明の構築において, 提案手法の活用例を示す。
関連論文リスト
- BPP-Search: Enhancing Tree of Thought Reasoning for Mathematical Modeling Problem Solving [11.596474985695679]
我々は、完全な数学的モデリングプロセスをキャプチャする包括的ラベルを付したStructuredORデータセットをリリースする。
本稿では,強化学習をツリー・オブ・シント構造に統合するアルゴリズムであるBPP-Searchを提案する。
BPP-Searchは、Chain-of-Thought、Self-Consistency、Tree-of-Thoughtなど、最先端の手法を大幅に上回っている。
論文 参考訳（メタデータ） (2024-11-26T13:05:53Z) - Learning accurate and interpretable decision trees [27.203303726977616]
我々は、同じドメインから繰り返しデータにアクセスして決定木学習アルゴリズムを設計するためのアプローチを開発する。
本研究では,ベイズ決定木学習における事前パラメータのチューニングの複雑さについて検討し,その結果を決定木回帰に拡張する。
また、学習した決定木の解釈可能性について検討し、決定木を用いた説明可能性と精度のトレードオフを最適化するためのデータ駆動型アプローチを提案する。
論文 参考訳（メタデータ） (2024-05-24T20:10:10Z) - Explainable Data-Driven Optimization: From Context to Decision and Back
Again [76.84947521482631]
データ駆動最適化では、コンテキスト情報と機械学習アルゴリズムを使用して、不確実なパラメータによる決定問題の解決策を見つける。
本稿では,データ駆動型問題に対する解法を説明するために,対実的説明手法を提案する。
在庫管理やルーティングといった運用管理における重要な問題を説明することで,我々のアプローチを実証する。
論文 参考訳（メタデータ） (2023-01-24T15:25:16Z) - A Recursively Recurrent Neural Network (R2N2) Architecture for Learning
Iterative Algorithms [64.3064050603721]
本研究では,リカレントニューラルネットワーク (R2N2) にランゲ・クッタニューラルネットワークを一般化し,リカレントニューラルネットワークを最適化した反復アルゴリズムの設計を行う。
本稿では, 線形方程式系に対するクリロフ解法, 非線形方程式系に対するニュートン・クリロフ解法, 常微分方程式に対するルンゲ・クッタ解法と類似の繰り返しを計算問題クラスの入力・出力データに対して提案した超構造内における重みパラメータの正規化について述べる。
論文 参考訳（メタデータ） (2022-11-22T16:30:33Z) - Local Interpretable Model Agnostic Shap Explanations for machine
learning models [0.0]
局所解釈可能なモデル非依存型シェイプ説明法(LIMASE)を提案する。
提案手法は, LIMEパラダイムの下でシェープリー値を用いて, 局所的忠実かつ解釈可能な決定木モデルを用いて, シェープリー値を計算し, 視覚的に解釈可能な説明を行うことにより, 任意のモデルの予測を行う。
論文 参考訳（メタデータ） (2022-10-10T10:07:27Z) - What and How of Machine Learning Transparency: Building Bespoke
Explainability Tools with Interoperable Algorithmic Components [77.87794937143511]
本稿では,データ駆動予測モデルを説明するためのハンズオントレーニング教材について紹介する。
これらのリソースは、解釈可能な表現合成、データサンプリング、説明生成の3つのコアビルディングブロックをカバーする。
論文 参考訳（メタデータ） (2022-09-08T13:33:25Z) - Probabilistic DAG Search [29.47649645431227]
探索空間の潜伏構造を利用して探索木間で情報を共有するための確率的フレームワークを開発する。
我々は、Tic-Tac-Toeの既存の非確率的代替品と特徴選択アプリケーションとを比較検討するアルゴリズムを実証的に見出した。
論文 参考訳（メタデータ） (2021-06-16T11:35:19Z) - Information Theoretic Meta Learning with Gaussian Processes [74.54485310507336]
情報理論の概念,すなわち相互情報と情報のボトルネックを用いてメタ学習を定式化する。
相互情報に対する変分近似を用いることで、メタ学習のための汎用的かつトラクタブルな枠組みを導出する。
論文 参考訳（メタデータ） (2020-09-07T16:47:30Z) - Text Modular Networks: Learning to Decompose Tasks in the Language of
Existing Models [61.480085460269514]
本稿では,既存のモデルで解けるより単純なモデルに分解することで,複雑なタスクを解くための解釈可能なシステムを構築するためのフレームワークを提案する。
我々はこのフレームワークを用いて、ニューラルネットワークのファクトイド単一スパンQAモデルとシンボリック電卓で答えられるサブクエストに分解することで、マルチホップ推論問題に答えられるシステムであるModularQAを構築する。
論文 参考訳（メタデータ） (2020-09-01T23:45:42Z) - A general framework for scientifically inspired explanations in AI [76.48625630211943]
我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。
このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
論文 参考訳（メタデータ） (2020-03-02T10:32:21Z) - Information cartography in association rule mining [2.535671322516818]
本研究では,アソシエーションルールマイニングによって得られた情報のメトロマップの自動作成手法を開発した。
得られたメトロマップを視覚化することは、これがデータに隠された構造化された知識を示すのに適したツールであるだけでなく、ユーザーにストーリーを伝えるのにも適していることを正当化する。
論文 参考訳（メタデータ） (2020-02-29T21:57:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。