論文の概要: Interpretation and Simplification of Deep Forest
- arxiv url: http://arxiv.org/abs/2001.04721v4
- Date: Sat, 12 Dec 2020 04:35:05 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-11 11:58:33.789278
- Title: Interpretation and Simplification of Deep Forest
- Title(参考訳): 深い森林の解釈と簡易化
- Authors: Sangwon Kim, Mira Jeong, Byoung Chul Ko
- Abstract要約: 完全訓練深部RFの特徴量と周波数を決定規則の形で定量化することを検討する。
モデルの単純化は、機能のコントリビューションを測定することによって不要なルールを排除することで達成される。
実験結果から,ブラックボックスモデルでは,ルールセットを定量的に解釈するために,機能コントリビューション分析を分解できることが確認された。
- 参考スコア(独自算出の注目度): 4.576379639081977
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper proposes a new method for interpreting and simplifying a black box
model of a deep random forest (RF) using a proposed rule elimination. In deep
RF, a large number of decision trees are connected to multiple layers, thereby
making an analysis difficult. It has a high performance similar to that of a
deep neural network (DNN), but achieves a better generalizability. Therefore,
in this study, we consider quantifying the feature contributions and frequency
of the fully trained deep RF in the form of a decision rule set. The feature
contributions provide a basis for determining how features affect the decision
process in a rule set. Model simplification is achieved by eliminating
unnecessary rules by measuring the feature contributions. Consequently, the
simplified model has fewer parameters and rules than before. Experiment results
have shown that a feature contribution analysis allows a black box model to be
decomposed for quantitatively interpreting a rule set. The proposed method was
successfully applied to various deep RF models and benchmark datasets while
maintaining a robust performance despite the elimination of a large number of
rules.
- Abstract(参考訳): 本稿では,ルール除去手法を用いて,深部ランダム林(RF)のブラックボックスモデルを解釈し,単純化する手法を提案する。
深いrfでは、多数の決定木が複数の層に接続されており、解析が困難になる。
ディープニューラルネットワーク(dnn)と同様の高性能だが、より汎用性が向上している。
そこで本研究では,完全訓練された深層rfの特徴量と頻度を決定規則セットとして定量化することを検討する。
機能コントリビューションは、ルールセットにおける決定プロセスにどのように影響するかを決定する基盤を提供する。
モデルの単純化は、機能のコントリビューションを測定することによって不要なルールを排除することで達成される。
その結果、単純化されたモデルは以前よりもパラメータやルールが少ない。
実験の結果、特徴寄与分析により、規則セットを定量的に解釈するためにブラックボックスモデルを分解できることが示されている。
提案手法は,多数のルールの排除に拘わらず,頑健な性能を維持しつつ,様々な深部RFモデルやベンチマークデータセットに適用できた。
関連論文リスト
- DeforestVis: Behavior Analysis of Machine Learning Models with Surrogate
Decision Stumps [49.97564931094598]
複雑なMLモデルの振る舞いをユーザフレンドリに要約するビジュアル分析ツールであるDeforestVisを提案する。
DeforestVisは、より多くの切り株をインクリメンタルに生成することで、複雑さとフィデリティのトレードオフを探索するのに役立つ。
DeforestVisの適用性と有用性について,2つのユースケースと,データアナリストとモデル開発者とのエキスパートインタビューで紹介する。
論文 参考訳(メタデータ) (2023-03-31T21:17:15Z) - Fuzzy Rough Sets Based on Fuzzy Quantification [1.4213973379473654]
ファジィ量化器に基づくファジィ粗集合(FQFRS)を導入する。
FQFRSはファジィラフ集合の直感的な一般化である。
既存のモデルがこの一般化にどのように適合するか、また新しいモデルにどのように影響するかを示す。
論文 参考訳(メタデータ) (2022-12-06T19:59:57Z) - Deep Learning for the Benes Filter [91.3755431537592]
本研究では,メッシュのないニューラルネットワークによるベンズモデルの解の密度の表現に基づく新しい数値計算法を提案する。
ニューラルネットワークの領域選択におけるフィルタリングモデル方程式における非線形性の役割について論じる。
論文 参考訳(メタデータ) (2022-03-09T14:08:38Z) - Integrating Regular Expressions with Neural Networks via DFA [40.09868407372605]
より優れたパフォーマンスを実現するハイブリッドモデルを構築するためには、ルール知識をニューラルネットワークに統合することが非常に重要です。
具体的には、人間設計規則は正規表現(res)として定式化される。
本稿では、MDFAを中間モデルとして用いて、一致したREパターンを各入力文のルールベースの特徴として捉えることを提案する。
論文 参考訳(メタデータ) (2021-09-07T05:48:51Z) - On Explaining Random Forests with SAT [3.5408022972081685]
ランダムフォレスト(RF)は機械学習(ML)分類器として最も広く使われている。
RFは解釈できないが、RFの説明を計算するための専門的な非ヒューリスティックなアプローチは存在しない。
本稿では,RFの計算説明のコントラスト化のための命題符号化を提案し,SATソルバによるPI説明の発見を可能にする。
論文 参考訳(メタデータ) (2021-05-21T11:05:14Z) - Interpreting Deep Learning Model Using Rule-based Method [36.01435823818395]
本稿では,ディープニューラルネットワークモデルに対する包括的解釈を提供するための多段階決定フレームワークを提案する。
各ニューロンに決定木を合わせ、それらを集約することにより、最初はマルチレベル決定構造(MLD)を構築する。
MNISTとNational Free Pre-Pregnancy Check-upデータセットの実験を行い、MDDフレームワークの有効性と解釈性を示した。
論文 参考訳(メタデータ) (2020-10-15T15:30:00Z) - Diverse Rule Sets [20.170305081348328]
ルールベースのシステムは、直感的なif-then表現のためにルネッサンスを経験しています。
本稿では,ルール間の重なり合いを最適化することで,多様なルールセットを推定する新しい手法を提案する。
次に、高い差別性を持ち、重複が少ない規則をサンプリングする効率的なランダム化アルゴリズムを考案する。
論文 参考訳(メタデータ) (2020-06-17T14:15:25Z) - Explainable Matrix -- Visualization for Global and Local
Interpretability of Random Forest Classification Ensembles [78.6363825307044]
本研究では,ランダムフォレスト (RF) 解釈のための新しい可視化手法である Explainable Matrix (ExMatrix) を提案する。
単純なマトリックスのようなメタファで、行はルール、列は特徴、セルはルールを述語する。
ExMatrixの適用性は、異なる例を通じて確認され、RFモデルの解釈可能性を促進するために実際にどのように使用できるかを示している。
論文 参考訳(メタデータ) (2020-05-08T21:03:48Z) - Lower bounds in multiple testing: A framework based on derandomized
proxies [107.69746750639584]
本稿では, 各種コンクリートモデルへの適用例を示す, デランドマイズに基づく分析戦略を提案する。
これらの下界のいくつかを数値シミュレーションし、Benjamini-Hochberg (BH) アルゴリズムの実際の性能と密接な関係を示す。
論文 参考訳(メタデータ) (2020-05-07T19:59:51Z) - Deep Unfolding Network for Image Super-Resolution [159.50726840791697]
本稿では,学習に基づく手法とモデルに基づく手法の両方を活用する,エンドツーエンドのトレーニング可能なアンフォールディングネットワークを提案する。
提案するネットワークは, モデルベース手法の柔軟性を継承し, 一つのモデルを用いて, 異なるスケール要因に対する, 曖昧でノイズの多い画像の超解像化を行う。
論文 参考訳(メタデータ) (2020-03-23T17:55:42Z) - Beyond Dropout: Feature Map Distortion to Regularize Deep Neural
Networks [107.77595511218429]
本稿では,ディープニューラルネットワークの中間層に関連する実験的なRademacher複雑性について検討する。
上記の問題に対処するための特徴歪み法(Disout)を提案する。
より高い試験性能を有するディープニューラルネットワークを作製するための特徴写像歪みの優位性を解析し、実証した。
論文 参考訳(メタデータ) (2020-02-23T13:59:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。