論文の概要: Interpreting Deep Learning Model Using Rule-based Method
- arxiv url: http://arxiv.org/abs/2010.07824v1
- Date: Thu, 15 Oct 2020 15:30:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-07 04:45:47.771153
- Title: Interpreting Deep Learning Model Using Rule-based Method
- Title(参考訳): ルールベース手法による深層学習モデルの解釈
- Authors: Xiaojian Wang, Jingyuan Wang, Ke Tang
- Abstract要約: 本稿では,ディープニューラルネットワークモデルに対する包括的解釈を提供するための多段階決定フレームワークを提案する。
各ニューロンに決定木を合わせ、それらを集約することにより、最初はマルチレベル決定構造(MLD)を構築する。
MNISTとNational Free Pre-Pregnancy Check-upデータセットの実験を行い、MDDフレームワークの有効性と解釈性を示した。
- 参考スコア(独自算出の注目度): 36.01435823818395
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning models are favored in many research and industry areas and have
reached the accuracy of approximating or even surpassing human level. However
they've long been considered by researchers as black-box models for their
complicated nonlinear property. In this paper, we propose a multi-level
decision framework to provide comprehensive interpretation for the deep neural
network model.
In this multi-level decision framework, by fitting decision trees for each
neuron and aggregate them together, a multi-level decision structure (MLD) is
constructed at first, which can approximate the performance of the target
neural network model with high efficiency and high fidelity. In terms of local
explanation for sample, two algorithms are proposed based on MLD structure:
forward decision generation algorithm for providing sample decisions, and
backward rule induction algorithm for extracting sample rule-mapping
recursively. For global explanation, frequency-based and out-of-bag based
methods are proposed to extract important features in the neural network
decision. Furthermore, experiments on the MNIST and National Free Pre-Pregnancy
Check-up (NFPC) dataset are carried out to demonstrate the effectiveness and
interpretability of MLD framework. In the evaluation process, both
functionally-grounded and human-grounded methods are used to ensure
credibility.
- Abstract(参考訳): 深層学習モデルは、多くの研究や産業分野で好まれており、人間のレベルを超える精度に達している。
しかし、彼らは長い間、複雑な非線形特性のブラックボックスモデルと見なされてきた。
本稿では,ディープニューラルネットワークモデルの包括的解釈を提供するためのマルチレベル決定フレームワークを提案する。
このマルチレベル決定フレームワークでは、各ニューロンに決定木をフィッティングし、それらを集約することにより、まず、ターゲットニューラルネットワークモデルの性能を高い効率と高い忠実度で近似できるマルチレベル決定構造(mld)を構築する。
サンプルの局所的な説明に関しては,サンプル決定を行う前方決定生成アルゴリズムと,サンプル規則を再帰的に抽出する後方規則帰納アルゴリズムという,MDD構造に基づく2つのアルゴリズムを提案する。
大域的な説明のために,ニューラルネットワーク決定における重要な特徴を抽出するために,周波数ベースおよびアウトオブバッグ方式を提案する。
さらに,MNISTとNational Free Pre-Pregnancy Check-up (NFPC)データセットの実験を行い,MDDフレームワークの有効性と解釈性を示した。
評価プロセスでは,機能的グラウンド法と人的グラウンド法の両方を用いて信頼性を確保する。
関連論文リスト
- Understanding the (Extra-)Ordinary: Validating Deep Model Decisions with
Prototypical Concept-based Explanations [14.86291010519662]
本稿では, 実例的(地域的)かつクラス的(グローバル的)な意思決定戦略をプロトタイプを通じて伝達する, ポストホックなコンセプトベースXAIフレームワークを提案する。
我々は,3つのデータセットにまたがるアウト・オブ・ディストリビューション・サンプル,突発的なモデル行動,データ品質問題同定におけるアプローチの有効性を実証する。
論文 参考訳(メタデータ) (2023-11-28T10:53:26Z) - An automatic selection of optimal recurrent neural network architecture
for processes dynamics modelling purposes [0.0]
この研究には、ニューラルネットワークアーキテクチャ検索専用のアルゴリズムの提案が4つ含まれている。
アルゴリズムは進化的アルゴリズムや勾配降下法のようなよく知られた最適化手法に基づいている。
この研究は、加圧水型原子炉で発生した高速過程の数学的モデルから生成されたデータに基づく、拡張された検証研究を含む。
論文 参考訳(メタデータ) (2023-09-25T11:06:35Z) - The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。
FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。
我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
論文 参考訳(メタデータ) (2023-03-17T02:01:11Z) - GEC: A Unified Framework for Interactive Decision Making in MDP, POMDP,
and Beyond [101.5329678997916]
対話型意思決定の一般的な枠組みの下で, サンプル高能率強化学習(RL)について検討した。
本稿では,探索とエクスプロイトの基本的なトレードオフを特徴付ける,新しい複雑性尺度である一般化エルダー係数(GEC)を提案する。
低 GEC の RL 問題は非常にリッチなクラスであり、これは低ベルマン楕円体次元問題、双線型クラス、低証人ランク問題、PO-双線型クラス、一般化正規PSR を仮定する。
論文 参考訳(メタデータ) (2022-11-03T16:42:40Z) - Model-Based Deep Learning: On the Intersection of Deep Learning and
Optimization [101.32332941117271]
決定アルゴリズムは様々なアプリケーションで使われている。
数理モデルに頼らずにデータから調整された高度パラメトリックアーキテクチャを使用するディープラーニングアプローチが、ますます人気が高まっている。
モデルに基づく最適化とデータ中心のディープラーニングは、しばしば異なる規律とみなされる。
論文 参考訳(メタデータ) (2022-05-05T13:40:08Z) - Exploring layerwise decision making in DNNs [1.766593834306011]
ノードの離散的なサンプルアクティベーション値をバイナリ表現として符号化することにより、決定木を抽出できることが示される。
次に、モデルの各レイヤの解釈を生成するために、これらの決定木と既存の特徴属性技術を組み合わせる。
論文 参考訳(メタデータ) (2022-02-01T11:38:59Z) - Acceleration techniques for optimization over trained neural network
ensembles [1.0323063834827415]
本研究では, 線形単位活性化の補正されたフィードフォワードニューラルネットワークを用いて, 目的関数をモデル化する最適化問題について検討する。
本稿では,1つのニューラルネットワークを最適化するために,既存のBig-M$の定式化をベースとした混合整数線形プログラムを提案する。
論文 参考訳(メタデータ) (2021-12-13T20:50:54Z) - Improving a neural network model by explanation-guided training for
glioma classification based on MRI data [0.0]
解釈可能性の手法は、ディープラーニングモデルの意思決定プロセスに関する洞察を得るための一般的な方法となっている。
本稿では,LRP(Layer-wise Relevance propagation)技術を用いた説明誘導学習手法を提案する。
我々は,低次・高次グリオーマ分類問題に対する畳み込みニューラルネットワーク(CNN)モデルについて実験的に検証した。
論文 参考訳(メタデータ) (2021-07-05T13:27:28Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳(メタデータ) (2021-06-17T17:26:31Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z) - Deep Unfolding Network for Image Super-Resolution [159.50726840791697]
本稿では,学習に基づく手法とモデルに基づく手法の両方を活用する,エンドツーエンドのトレーニング可能なアンフォールディングネットワークを提案する。
提案するネットワークは, モデルベース手法の柔軟性を継承し, 一つのモデルを用いて, 異なるスケール要因に対する, 曖昧でノイズの多い画像の超解像化を行う。
論文 参考訳(メタデータ) (2020-03-23T17:55:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。