論文の概要: Interpretable and Explainable Logical Policies via Neurally Guided Symbolic Abstraction

• arxiv url: http://arxiv.org/abs/2306.01439v1
• Date: Fri, 2 Jun 2023 10:59:44 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-05 15:35:12.999332
• Title: Interpretable and Explainable Logical Policies via Neurally Guided Symbolic Abstraction
• Title（参考訳）: 神経誘導的シンボリック抽象化による解釈可能かつ説明可能な論理ポリシー
• Authors: Quentin Delfosse, Hikaru Shindo, Devendra Dhami, Kristian Kersting
• Abstract要約: ニューラルgUided Differentiable loGic policiEs (NUDGE)を紹介する。 NUDGEは、トレーニングされたニューラルネットワークベースのエージェントを使用して、候補重み付けされたロジックルールの探索をガイドし、差別化可能なロジックを使用してロジックエージェントをトレーニングする。 実験により, NUDGEエージェントは, 純粋に神経性に優れ, 初期状態や問題の大きさの異なる環境に対して良好な柔軟性を示しながら, 解釈可能かつ説明可能なポリシーを誘導できることを示した。
• 参考スコア（独自算出の注目度）: 16.331469322394558
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The limited priors required by neural networks make them the dominating choice to encode and learn policies using reinforcement learning (RL). However, they are also black-boxes, making it hard to understand the agent's behaviour, especially when working on the image level. Therefore, neuro-symbolic RL aims at creating policies that are interpretable in the first place. Unfortunately, interpretability is not explainability. To achieve both, we introduce Neurally gUided Differentiable loGic policiEs (NUDGE). NUDGE exploits trained neural network-based agents to guide the search of candidate-weighted logic rules, then uses differentiable logic to train the logic agents. Our experimental evaluation demonstrates that NUDGE agents can induce interpretable and explainable policies while outperforming purely neural ones and showing good flexibility to environments of different initial states and problem sizes.
• Abstract（参考訳）: ニューラルネットワークが必要とする制限された事前条件は、強化学習(RL)を使用してポリシーをエンコードし、学習する支配的な選択となる。 しかし、それらはブラックボックスであり、特に画像レベルで作業する場合、エージェントの振る舞いを理解するのが難しくなる。 したがって、ニューロシンボリックRLは、そもそも解釈可能なポリシーを作成することを目的としている。 残念ながら、解釈は説明できない。 両者を両立させるため,Nurally gUided Differentiable loGic policiEs (NUDGE)を導入する。 NUDGEは、トレーニングされたニューラルネットワークベースのエージェントを使用して、候補重み付けされたロジックルールの探索をガイドし、差別化可能なロジックを使用してロジックエージェントをトレーニングする。 実験により, NUDGEエージェントは, 純粋に神経性に優れ, 初期状態や問題の大きさの異なる環境に対して良好な柔軟性を示しながら, 解釈可能かつ説明可能なポリシーを誘導できることを示した。

関連論文リスト

• EXPIL: Explanatory Predicate Invention for Learning in Games [22.235094243063823]
  強化学習(Reinforcement Learning, RL)は、様々なゲームで優れたエージェントを訓練するための強力なツールであることが証明されている。 最近の研究は、事前訓練されたニューラルネットワークエージェントのガイダンスを使ってロジックベースのポリシーをエンコードすることでこの問題に対処しようとしている。 本稿では,ゲームにおける学習のための説明述語発明(Explanatory Predicate Invention for Learning in Games,EXPIL)を提案する。
  論文  参考訳（メタデータ） (2024-06-10T08:46:49Z)
• Distilling Reinforcement Learning Policies for Interpretable Robot Locomotion: Gradient Boosting Machines and Symbolic Regression [53.33734159983431]
  本稿では, ニューラルRLポリシをより解釈可能な形式に蒸留する新しい手法を提案する。 我々は、RLを用いて専門家のニューラルネットワークポリシーを訓練し、(i)GBM、(ii)EBM、(iii)シンボリックポリシーに蒸留する。
  論文  参考訳（メタデータ） (2024-03-21T11:54:45Z)
• NeuroExplainer: Fine-Grained Attention Decoding to Uncover Cortical Development Patterns of Preterm Infants [73.85768093666582]
  我々はNeuroExplainerと呼ばれる説明可能な幾何学的深層ネットワークを提案する。 NeuroExplainerは、早産に伴う幼児の皮質発達パターンの解明に使用される。
  論文  参考訳（メタデータ） (2023-01-01T12:48:12Z)
• Global Concept-Based Interpretability for Graph Neural Networks via Neuron Analysis [0.0]
  グラフニューラルネットワーク(GNN)は、さまざまなグラフ関連タスクに非常に効果的である。 解釈性と透明性が欠如している。 現在の説明可能性のアプローチは一般的にローカルで、GNNをブラックボックスとして扱う。 本稿では,ニューロンレベルの概念を用いたGNNのグローバルな説明を創出するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-08-22T21:30:55Z)
• Neuro-Symbolic Inductive Logic Programming with Logical Neural Networks [65.23508422635862]
  我々は最近提案された論理ニューラルネットワーク(LNN)を用いた学習規則を提案する。 他のものと比較して、LNNは古典的なブール論理と強く結びついている。 標準ベンチマークタスクの実験では、LNNルールが極めて解釈可能であることを確認した。
  論文  参考訳（メタデータ） (2021-12-06T19:38:30Z)
• Neuro-Symbolic Reinforcement Learning with First-Order Logic [63.003353499732434]
  論理ニューラルネットワークと呼ばれる最近のニューラルシンボリック・フレームワークを用いたテキストベースゲームのための新しいRL手法を提案する。 実験の結果,提案手法を用いたRLトレーニングは,TextWorldベンチマークにおいて,他の最先端のニューロシンボリック手法よりもはるかに高速に収束することがわかった。
  論文  参考訳（メタデータ） (2021-10-21T08:21:49Z)
• Reinforcement Learning with External Knowledge by using Logical Neural Networks [67.46162586940905]
  論理ニューラルネットワーク(LNN)と呼ばれる最近のニューラルシンボリックフレームワークは、ニューラルネットワークとシンボリックロジックの両方のキープロパティを同時に提供することができる。 外部知識ソースからのモデルフリー強化学習を可能にする統合手法を提案する。
  論文  参考訳（メタデータ） (2021-03-03T12:34:59Z)
• Explainability in Deep Reinforcement Learning [68.8204255655161]
  説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。 エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
  論文  参考訳（メタデータ） (2020-08-15T10:11:42Z)
• Analyzing Differentiable Fuzzy Logic Operators [3.4806267677524896]
  ファジィ論理文からの論理演算子の大規模な集合が、微分可能な学習環境でどのように振る舞うかを考察する。 半教師付き学習において微分可能なファジィ論理を用いることが可能であることを示し、実際に異なる演算子がどのように振る舞うかを比較する。
  論文  参考訳（メタデータ） (2020-02-14T16:11:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。