論文の概要: Interpreting Neural Policies with Disentangled Tree Representations

• arxiv url: http://arxiv.org/abs/2210.06650v2
• Date: Sun, 12 Nov 2023 19:39:27 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-14 22:54:22.381039
• Title: Interpreting Neural Policies with Disentangled Tree Representations
• Title（参考訳）: 乱れ木表現を用いたニューラルポリシの解釈
• Authors: Tsun-Hsuan Wang, Wei Xiao, Tim Seyde, Ramin Hasani, Daniela Rus
• Abstract要約: 本稿では,コンパクトなニューラルポリシーの解釈可能性について,不整合表現レンズを用いて検討する。 決定木を利用して,ロボット学習における絡み合いの要因を抽出する。 学習したニューラルダイナミクスの絡み合いを計測する解釈可能性指標を導入する。
• 参考スコア（独自算出の注目度）: 58.769048492254555
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: The advancement of robots, particularly those functioning in complex human-centric environments, relies on control solutions that are driven by machine learning. Understanding how learning-based controllers make decisions is crucial since robots are often safety-critical systems. This urges a formal and quantitative understanding of the explanatory factors in the interpretability of robot learning. In this paper, we aim to study interpretability of compact neural policies through the lens of disentangled representation. We leverage decision trees to obtain factors of variation [1] for disentanglement in robot learning; these encapsulate skills, behaviors, or strategies toward solving tasks. To assess how well networks uncover the underlying task dynamics, we introduce interpretability metrics that measure disentanglement of learned neural dynamics from a concentration of decisions, mutual information and modularity perspective. We showcase the effectiveness of the connection between interpretability and disentanglement consistently across extensive experimental analysis.
• Abstract（参考訳）: 複雑な人間中心の環境で機能するロボットの進歩は、機械学習によって駆動される制御ソリューションに依存している。 ロボットが安全に重要なシステムであることから、学習ベースのコントローラーの意思決定方法を理解することが重要である。 これにより、ロボット学習の解釈可能性における説明的要因の形式的かつ定量的な理解が促される。 本稿では,コンパクトなニューラルポリシーの解釈可能性について,不整合表現レンズを用いて検討する。 決定木を用いて,ロボット学習におけるばらつきの要因 [1] を得る; これらの特徴は,課題解決のためのスキル,行動,戦略をカプセル化する。 ネットワークが基礎となるタスクダイナミクスをいかによく理解しているかを評価するために、我々は、決定の集中、相互情報、モジュール性の観点から学習された神経力学の絡み合いを計測する解釈可能性メトリクスを導入する。 本研究は, 広範囲な実験解析において, 解釈可能性と絡み合いの関連が一貫して有効であることを示す。

関連論文リスト

• Trustworthy Conceptual Explanations for Neural Networks in Robot Decision-Making [9.002659157558645]
  本稿では,人間に解釈可能な高レベル概念に基づく,信頼性の高い説明可能なロボット工学手法を提案する。 提案手法は、ニューラルネットワークのアクティベーションと人間の解釈可能なビジュアライゼーションをマッチングすることにより、関連する不確実性スコアを説明できる。
  論文  参考訳（メタデータ） (2024-09-16T21:11:12Z)
• Mechanistic Interpretability for AI Safety -- A Review [28.427951836334188]
  本稿では,機械的解釈可能性について概説する。 機械的解釈性は、AIシステムがより強力で精査されるにつれて、破滅的な結果を防ぐのに役立つ。
  論文  参考訳（メタデータ） (2024-04-22T11:01:51Z)
• Brain-Inspired Machine Intelligence: A Survey of Neurobiologically-Plausible Credit Assignment [65.268245109828]
  本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。 我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。 本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
  論文  参考訳（メタデータ） (2023-12-01T05:20:57Z)
• Incremental procedural and sensorimotor learning in cognitive humanoid robots [52.77024349608834]
  本研究は,手順を段階的に学習する認知エージェントを提案する。 各サブステージで必要とされる認知機能と, エージェントが未解決の課題に, 新たな機能の追加がどう対処するかを示す。 結果は、このアプローチが複雑なタスクを段階的に解くことができることを示している。
  論文  参考訳（メタデータ） (2023-04-30T22:51:31Z)
• Synergistic information supports modality integration and flexible learning in neural networks solving multiple tasks [107.8565143456161]
  本稿では,様々な認知タスクを行う単純な人工ニューラルネットワークが採用する情報処理戦略について検討する。 結果は、ニューラルネットワークが複数の多様なタスクを学習するにつれて、シナジーが増加することを示している。 トレーニング中に無作為にニューロンを停止させると、ネットワークの冗長性が増加し、ロバスト性の増加に対応する。
  論文  参考訳（メタデータ） (2022-10-06T15:36:27Z)
• Towards Benchmarking Explainable Artificial Intelligence Methods [0.0]
  我々は、ニューラルネットワークによって推進される決定を説明する方法から、科学理論の哲学を、期待できるもの、期待できないものを明らかにすることを目的として分析レンズとして利用する。 ケーススタディにより、動物とヘッドギアの2つの常在領域における説明可能性法の性能の選択について検討した。 これらの手法の有用性は、人間のドメイン知識と、理解し、一般化し、理性に頼っている、と私たちはうなずく。
  論文  参考訳（メタデータ） (2022-08-25T14:28:30Z)
• An Interactive Explanatory AI System for Industrial Quality Control [0.8889304968879161]
  我々は,ループ間対話型アプローチに向けて,欠陥検出タスクを拡張することを目的としている。 本稿では,産業品質管理環境における分類のための対話型支援システムを提案する。
  論文  参考訳（メタデータ） (2022-03-17T09:04:46Z)
• Backprop-Free Reinforcement Learning with Active Neural Generative Coding [84.11376568625353]
  動的環境におけるエラー(バックプロップ)のバックプロパゲーションを伴わない行動駆動型生成モデルの学習のための計算フレームワークを提案する。 我々は、まばらな報酬でも機能するインテリジェントエージェントを開発し、推論として計画の認知理論からインスピレーションを得ている。 我々のエージェントの堅牢な性能は、神経推論と学習のためのバックプロップフリーアプローチがゴール指向の行動を促進するという有望な証拠を提供する。
  論文  参考訳（メタデータ） (2021-07-10T19:02:27Z)
• Axiom Learning and Belief Tracing for Transparent Decision Making in Robotics [8.566457170664926]
  ロボットがその決定や信念の説明を提供する能力は、人間との効果的なコラボレーションを促進する。 我々のアーキテクチャは、非単調な論理的推論、ディープラーニング、決定木帰納の相補的な強みを兼ね備えています。 推論と学習の間、このアーキテクチャにより、ロボットはその決定、信念、仮説的行動の結果について、オンデマンドでリレーショナルな記述を提供することができる。
  論文  参考訳（メタデータ） (2020-10-20T22:09:17Z)
• Neuro-symbolic Architectures for Context Understanding [59.899606495602406]
  本稿では,データ駆動型アプローチと知識駆動型アプローチの強みを組み合わせたフレームワークとして,ハイブリッドAI手法を提案する。 具体的には、知識ベースを用いて深層ニューラルネットワークの学習過程を導く方法として、ニューロシンボリズムの概念を継承する。
  論文  参考訳（メタデータ） (2020-03-09T15:04:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。