論文の概要: Interpreting Deep Learning Model Using Rule-based Method

• arxiv url: http://arxiv.org/abs/2010.07824v1
• Date: Thu, 15 Oct 2020 15:30:00 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-07 04:45:47.771153
• Title: Interpreting Deep Learning Model Using Rule-based Method
• Title（参考訳）: ルールベース手法による深層学習モデルの解釈
• Authors: Xiaojian Wang, Jingyuan Wang, Ke Tang
• Abstract要約: 本稿では,ディープニューラルネットワークモデルに対する包括的解釈を提供するための多段階決定フレームワークを提案する。 各ニューロンに決定木を合わせ、それらを集約することにより、最初はマルチレベル決定構造(MLD)を構築する。 MNISTとNational Free Pre-Pregnancy Check-upデータセットの実験を行い、MDDフレームワークの有効性と解釈性を示した。
• 参考スコア（独自算出の注目度）: 36.01435823818395
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep learning models are favored in many research and industry areas and have reached the accuracy of approximating or even surpassing human level. However they've long been considered by researchers as black-box models for their complicated nonlinear property. In this paper, we propose a multi-level decision framework to provide comprehensive interpretation for the deep neural network model. In this multi-level decision framework, by fitting decision trees for each neuron and aggregate them together, a multi-level decision structure (MLD) is constructed at first, which can approximate the performance of the target neural network model with high efficiency and high fidelity. In terms of local explanation for sample, two algorithms are proposed based on MLD structure: forward decision generation algorithm for providing sample decisions, and backward rule induction algorithm for extracting sample rule-mapping recursively. For global explanation, frequency-based and out-of-bag based methods are proposed to extract important features in the neural network decision. Furthermore, experiments on the MNIST and National Free Pre-Pregnancy Check-up (NFPC) dataset are carried out to demonstrate the effectiveness and interpretability of MLD framework. In the evaluation process, both functionally-grounded and human-grounded methods are used to ensure credibility.
• Abstract（参考訳）: 深層学習モデルは、多くの研究や産業分野で好まれており、人間のレベルを超える精度に達している。 しかし、彼らは長い間、複雑な非線形特性のブラックボックスモデルと見なされてきた。 本稿では,ディープニューラルネットワークモデルの包括的解釈を提供するためのマルチレベル決定フレームワークを提案する。 このマルチレベル決定フレームワークでは、各ニューロンに決定木をフィッティングし、それらを集約することにより、まず、ターゲットニューラルネットワークモデルの性能を高い効率と高い忠実度で近似できるマルチレベル決定構造(mld)を構築する。 サンプルの局所的な説明に関しては,サンプル決定を行う前方決定生成アルゴリズムと,サンプル規則を再帰的に抽出する後方規則帰納アルゴリズムという,MDD構造に基づく2つのアルゴリズムを提案する。 大域的な説明のために,ニューラルネットワーク決定における重要な特徴を抽出するために,周波数ベースおよびアウトオブバッグ方式を提案する。 さらに,MNISTとNational Free Pre-Pregnancy Check-up (NFPC)データセットの実験を行い,MDDフレームワークの有効性と解釈性を示した。 評価プロセスでは,機能的グラウンド法と人的グラウンド法の両方を用いて信頼性を確保する。

関連論文リスト

• Finding Patterns in Ambiguity: Interpretable Stress Testing in the Decision~Boundary [3.66599628097164]
  本稿では,深層二元分類器の解釈可能性を高める新しい手法を提案する。 決定境界から代表サンプルを選択し,モデル後説明アルゴリズムを適用した。 私たちの研究は、信頼性の高い機械学習システムの開発と展開に寄与します。
  論文  参考訳（メタデータ） (2024-08-12T17:14:41Z)
• Learning by the F-adjoint [0.0]
  本研究では、フィードフォワードニューラルネットワークのための教師付き学習アルゴリズムを改善するための理論的枠組みを開発し、検討する。 我々の主な結果は、勾配降下法と組み合わせた神経力学モデルを導入することにより、平衡F-随伴過程を導出したことである。 MNISTとFashion-MNISTデータセットの実験結果は、提案手法が標準バックプロパゲーショントレーニング手順を大幅に改善することを示した。
  論文  参考訳（メタデータ） (2024-07-08T13:49:25Z)
• Deep Learning and genetic algorithms for cosmological Bayesian inference speed-up [0.0]
  本稿では,ネストサンプリングアルゴリズムに特化してベイズ推論を高速化する新しい手法を提案する。 提案手法は,ベイズ推論過程における確率関数を動的に近似するために,フィードフォワードニューラルネットワークを用いてディープラーニングのパワーを利用する。 この実装はネストサンプリングアルゴリズムと統合され、単純な宇宙学のダークエネルギーモデルと多様な観測データセットの両方を用いて徹底的に評価されている。
  論文  参考訳（メタデータ） (2024-05-06T09:14:58Z)
• Manipulating Feature Visualizations with Gradient Slingshots [54.31109240020007]
  本稿では,モデルの決定過程に大きな影響を及ぼすことなく,特徴可視化(FV)を操作する新しい手法を提案する。 ニューラルネットワークモデルにおける本手法の有効性を評価し,任意の選択したニューロンの機能を隠蔽する能力を示す。
  論文  参考訳（メタデータ） (2024-01-11T18:57:17Z)
• GEC: A Unified Framework for Interactive Decision Making in MDP, POMDP, and Beyond [101.5329678997916]
  対話型意思決定の一般的な枠組みの下で, サンプル高能率強化学習(RL)について検討した。 本稿では,探索とエクスプロイトの基本的なトレードオフを特徴付ける,新しい複雑性尺度である一般化エルダー係数(GEC)を提案する。 低 GEC の RL 問題は非常にリッチなクラスであり、これは低ベルマン楕円体次元問題、双線型クラス、低証人ランク問題、PO-双線型クラス、一般化正規PSR を仮定する。
  論文  参考訳（メタデータ） (2022-11-03T16:42:40Z)
• Model-Based Deep Learning: On the Intersection of Deep Learning and Optimization [101.32332941117271]
  決定アルゴリズムは様々なアプリケーションで使われている。 数理モデルに頼らずにデータから調整された高度パラメトリックアーキテクチャを使用するディープラーニングアプローチが、ますます人気が高まっている。 モデルに基づく最適化とデータ中心のディープラーニングは、しばしば異なる規律とみなされる。
  論文  参考訳（メタデータ） (2022-05-05T13:40:08Z)
• Acceleration techniques for optimization over trained neural network ensembles [1.0323063834827415]
  本研究では, 線形単位活性化の補正されたフィードフォワードニューラルネットワークを用いて, 目的関数をモデル化する最適化問題について検討する。 本稿では,1つのニューラルネットワークを最適化するために,既存のBig-M$の定式化をベースとした混合整数線形プログラムを提案する。
  論文  参考訳（メタデータ） (2021-12-13T20:50:54Z)
• Improving a neural network model by explanation-guided training for glioma classification based on MRI data [0.0]
  解釈可能性の手法は、ディープラーニングモデルの意思決定プロセスに関する洞察を得るための一般的な方法となっている。 本稿では,LRP(Layer-wise Relevance propagation)技術を用いた説明誘導学習手法を提案する。 我々は,低次・高次グリオーマ分類問題に対する畳み込みニューラルネットワーク(CNN)モデルについて実験的に検証した。
  論文  参考訳（メタデータ） (2021-07-05T13:27:28Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Provably Efficient Neural Estimation of Structural Equation Model: An Adversarial Approach [144.21892195917758]
  一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。 線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。 提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
  論文  参考訳（メタデータ） (2020-07-02T17:55:47Z)
• Deep Unfolding Network for Image Super-Resolution [159.50726840791697]
  本稿では,学習に基づく手法とモデルに基づく手法の両方を活用する,エンドツーエンドのトレーニング可能なアンフォールディングネットワークを提案する。 提案するネットワークは, モデルベース手法の柔軟性を継承し, 一つのモデルを用いて, 異なるスケール要因に対する, 曖昧でノイズの多い画像の超解像化を行う。
  論文  参考訳（メタデータ） (2020-03-23T17:55:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。