Fugu-MT 論文翻訳(概要): Causal Explanation for Reinforcement Learning: Quantifying State and Temporal Importance

論文の概要: Causal Explanation for Reinforcement Learning: Quantifying State and Temporal Importance

arxiv url: http://arxiv.org/abs/2210.13507v2
Date: Fri, 30 Jun 2023 21:34:35 GMT
ステータス: 処理完了
システム内更新日: 2023-07-04 15:30:34.784518
Title: Causal Explanation for Reinforcement Learning: Quantifying State and Temporal Importance
Title（参考訳）: 強化学習のための因果説明:状態と時間的重要性の定量化
Authors: Xiaoxiao Wang, Fanyu Meng, Xin Liu, Zhaodan Kong, Xin Chen
Abstract要約: 我々は、行動における状態の因果的重要性と時間的重要性を定量化する因果的説明機構を開発する。我々はまた、RL政策の説明の観点から、最先端のアソシエーション手法に対する我々のメカニズムの利点を実証する。
参考スコア（独自算出の注目度）: 7.763943187090314
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Explainability plays an increasingly important role in machine learning. Furthermore, humans view the world through a causal lens and thus prefer causal explanations over associational ones. Therefore, in this paper, we develop a causal explanation mechanism that quantifies the causal importance of states on actions and such importance over time. We also demonstrate the advantages of our mechanism over state-of-the-art associational methods in terms of RL policy explanation through a series of simulation studies, including crop irrigation, Blackjack, collision avoidance, and lunar lander.
Abstract（参考訳）: 説明責任は機械学習においてますます重要な役割を果たす。さらに、人間は因果レンズを通して世界を見るので、関連性のあるものよりも因果説明を好む。そこで本稿では,行動における状態の因果的重要性と時間的重要性を定量化する因果的説明機構を開発する。また, 農作物の灌水, ブラックジャック, 衝突回避, 月面着陸など, 一連のシミュレーション研究を通じて, RL政策の説明の観点から, 最先端のアソシエーション手法に対する我々のメカニズムの利点を示す。

関連論文リスト

The Odyssey of Commonsense Causality: From Foundational Benchmarks to Cutting-Edge Reasoning [70.16523526957162]
常識の因果関係を理解することは、人々が現実世界の原理をよりよく理解するのに役立ちます。その重要性にもかかわらず、このトピックの体系的な探索は特に欠落している。本研究の目的は、体系的な概要の提供、最近の進歩に関する学者の更新、初心者のための実践的なガイドを提供することである。
論文参考訳（メタデータ） (2024-06-27T16:30:50Z)
Fundamental Properties of Causal Entropy and Information Gain [0.22252684361733285]
最近の進歩は、構造因果モデル(SCM)による因果制御の定量化を可能にする因果的エントロピーと因果的情報ゲインと名付けられた尺度は、因果性が重要な役割を果たす機械学習タスクに対する既存の情報理論的アプローチの限界に対処することを目的としている。
論文参考訳（メタデータ） (2024-02-02T11:55:57Z)
Emergence and Causality in Complex Systems: A Survey on Causal Emergence and Related Quantitative Studies [12.78006421209864]
因果発生理論は出現を定量化するために因果関係の尺度を用いる。因果の出現を定量化し、データを識別する。因果表現学習,因果モデル抽象化,世界モデルに基づく強化学習によって,因果表現の出現を識別するアーキテクチャが共有されることを強調した。
論文参考訳（メタデータ） (2023-12-28T04:20:46Z)
Targeted Reduction of Causal Models [55.11778726095353]
因果表現学習(Causal Representation Learning)は、シミュレーションで解釈可能な因果パターンを明らかにするための有望な道を提供する。本稿では、複雑な相互作用可能なモデルを因果因子の簡潔な集合に凝縮する方法であるTCR(Targeted Causal Reduction)を紹介する。複雑なモデルから解釈可能な高レベルな説明を生成する能力は、玩具や機械システムで実証されている。
論文参考訳（メタデータ） (2023-11-30T15:46:22Z)
Learning Causally Disentangled Representations via the Principle of Independent Causal Mechanisms [17.074858228123706]
本稿では、因果関係の観測ラベルによって教師される因果関係の非絡み合い表現を学習するための枠組みを提案する。この枠組みは, 極めて不整合な因果関係を生じさせ, 介入の堅牢性を向上し, 反事実発生と相容れないことを示す。
論文参考訳（メタデータ） (2023-06-02T00:28:48Z)
Guiding Visual Question Answering with Attention Priors [76.21671164766073]
本稿では,言語・視覚的接地による注意機構の導出について述べる。この基礎は、クエリ内の構造化言語概念を視覚オブジェクト間の参照物に接続することで導かれる。このアルゴリズムは、注意に基づく推論モデルを調べ、関連する連想的知識を注入し、コア推論プロセスを制御する。
論文参考訳（メタデータ） (2022-05-25T09:53:47Z)
Causality in Neural Networks -- An Extended Abstract [0.0]
因果推論は、人間が使用する主要な学習および説明ツールである。因果性の概念を機械学習に導入することは、より良い学習と説明可能なモデルを提供するのに役立つ。
論文参考訳（メタデータ） (2021-06-03T09:52:36Z)
Towards Causal Representation Learning [96.110881654479]
機械学習とグラフィカル因果関係の2つの分野が生まれ、別々に発展した。現在、他分野の進歩の恩恵を受けるために、クロスポリン化と両方の分野への関心が高まっている。
論文参考訳（メタデータ） (2021-02-22T15:26:57Z)
Thinking About Causation: A Causal Language with Epistemic Operators [58.720142291102135]
我々はエージェントの状態を表すことで因果モデルの概念を拡張した。対象言語の側面には、知識を表現する演算子や、新しい情報を観察する行為が追加されます。我々は、論理の健全かつ完全な公理化を提供し、このフレームワークと因果的チーム意味論との関係について論じる。
論文参考訳（メタデータ） (2020-10-30T12:16:45Z)
Explain and Improve: LRP-Inference Fine-Tuning for Image Captioning Models [82.3793660091354]
本稿では,注意を可視化する以外に,注意機構を付加した画像キャプションモデルの予測について分析する。我々は,注意機構を備えた画像キャプションモデルに適したレイヤワイド関連伝搬(LRP)と勾配に基づく説明法を開発した。
論文参考訳（メタデータ） (2020-01-04T05:15:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。