論文の概要: Interpretation and Simplification of Deep Forest

• arxiv url: http://arxiv.org/abs/2001.04721v4
• Date: Sat, 12 Dec 2020 04:35:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-11 11:58:33.789278
• Title: Interpretation and Simplification of Deep Forest
• Title（参考訳）: 深い森林の解釈と簡易化
• Authors: Sangwon Kim, Mira Jeong, Byoung Chul Ko
• Abstract要約: 完全訓練深部RFの特徴量と周波数を決定規則の形で定量化することを検討する。 モデルの単純化は、機能のコントリビューションを測定することによって不要なルールを排除することで達成される。 実験結果から,ブラックボックスモデルでは,ルールセットを定量的に解釈するために,機能コントリビューション分析を分解できることが確認された。
• 参考スコア（独自算出の注目度）: 4.576379639081977
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper proposes a new method for interpreting and simplifying a black box model of a deep random forest (RF) using a proposed rule elimination. In deep RF, a large number of decision trees are connected to multiple layers, thereby making an analysis difficult. It has a high performance similar to that of a deep neural network (DNN), but achieves a better generalizability. Therefore, in this study, we consider quantifying the feature contributions and frequency of the fully trained deep RF in the form of a decision rule set. The feature contributions provide a basis for determining how features affect the decision process in a rule set. Model simplification is achieved by eliminating unnecessary rules by measuring the feature contributions. Consequently, the simplified model has fewer parameters and rules than before. Experiment results have shown that a feature contribution analysis allows a black box model to be decomposed for quantitatively interpreting a rule set. The proposed method was successfully applied to various deep RF models and benchmark datasets while maintaining a robust performance despite the elimination of a large number of rules.
• Abstract（参考訳）: 本稿では,ルール除去手法を用いて,深部ランダム林(RF)のブラックボックスモデルを解釈し,単純化する手法を提案する。 深いrfでは、多数の決定木が複数の層に接続されており、解析が困難になる。 ディープニューラルネットワーク(dnn)と同様の高性能だが、より汎用性が向上している。 そこで本研究では,完全訓練された深層rfの特徴量と頻度を決定規則セットとして定量化することを検討する。 機能コントリビューションは、ルールセットにおける決定プロセスにどのように影響するかを決定する基盤を提供する。 モデルの単純化は、機能のコントリビューションを測定することによって不要なルールを排除することで達成される。 その結果、単純化されたモデルは以前よりもパラメータやルールが少ない。 実験の結果、特徴寄与分析により、規則セットを定量的に解釈するためにブラックボックスモデルを分解できることが示されている。 提案手法は,多数のルールの排除に拘わらず,頑健な性能を維持しつつ,様々な深部RFモデルやベンチマークデータセットに適用できた。

関連論文リスト

• A Scalable Matrix Visualization for Understanding Tree Ensemble Classifiers [20.416696003269674]
  本稿では,数万のルールを含む木アンサンブル分類法を説明するために,拡張性のある視覚解析手法を提案する。 我々は,これらのルールを階層レベルで優先順位付けするための,異常バイアスモデル削減手法を開発した。 本手法は,共通ルールと異常ルールの両方を深く理解し,包括性を犠牲にすることなく解釈性を向上させる。
  論文  参考訳（メタデータ） (2024-09-05T01:48:11Z)
• Revisiting SMoE Language Models by Evaluating Inefficiencies with Task Specific Expert Pruning [78.72226641279863]
  SMOE(Sparse Mixture of Expert)モデルは、言語モデリングにおける高密度モデルに代わるスケーラブルな代替品として登場した。 本研究は,SMoEアーキテクチャの設計に関する意思決定を行うために,タスク固有のモデルプルーニングについて検討する。 適応型タスク対応プルーニング手法 UNCURL を導入し,MoE 層当たりの専門家数をオフラインで学習する手法を提案する。
  論文  参考訳（メタデータ） (2024-09-02T22:35:03Z)
• A survey and taxonomy of methods interpreting random forest models [0.0]
  ランダムフォレスト(RF)モデルの解釈可能性は、機械学習(ML)コミュニティへの関心が高まりつつある研究トピックである。 RF生成モデルは、多くの深い決定木のために「ブラックボックス」と見なされている。 本論文は、RF結果モデルの解釈に文献で使用される手法について、広範囲にレビューすることを目的とする。
  論文  参考訳（メタデータ） (2024-07-17T17:33:32Z)
• Forest-ORE: Mining Optimal Rule Ensemble to interpret Random Forest models [0.0]
  本研究では,局所的およびグローバル的解釈のための最適化されたルールアンサンブル(ORE)を用いて,ランダムフォレスト(RF)を解釈可能にする手法であるフォレスト-OREを提案する。 良く知られた手法の比較分析は、フォレスト-OREが予測性能、解釈可能性カバレッジ、モデルサイズの間の優れたトレードオフを提供することを示している。
  論文  参考訳（メタデータ） (2024-03-26T10:54:07Z)
• Deep Learning for the Benes Filter [91.3755431537592]
  本研究では,メッシュのないニューラルネットワークによるベンズモデルの解の密度の表現に基づく新しい数値計算法を提案する。 ニューラルネットワークの領域選択におけるフィルタリングモデル方程式における非線形性の役割について論じる。
  論文  参考訳（メタデータ） (2022-03-09T14:08:38Z)
• Interpreting Deep Learning Model Using Rule-based Method [36.01435823818395]
  本稿では,ディープニューラルネットワークモデルに対する包括的解釈を提供するための多段階決定フレームワークを提案する。 各ニューロンに決定木を合わせ、それらを集約することにより、最初はマルチレベル決定構造(MLD)を構築する。 MNISTとNational Free Pre-Pregnancy Check-upデータセットの実験を行い、MDDフレームワークの有効性と解釈性を示した。
  論文  参考訳（メタデータ） (2020-10-15T15:30:00Z)
• Diverse Rule Sets [20.170305081348328]
  ルールベースのシステムは、直感的なif-then表現のためにルネッサンスを経験しています。 本稿では,ルール間の重なり合いを最適化することで,多様なルールセットを推定する新しい手法を提案する。 次に、高い差別性を持ち、重複が少ない規則をサンプリングする効率的なランダム化アルゴリズムを考案する。
  論文  参考訳（メタデータ） (2020-06-17T14:15:25Z)
• Explainable Matrix -- Visualization for Global and Local Interpretability of Random Forest Classification Ensembles [78.6363825307044]
  本研究では,ランダムフォレスト (RF) 解釈のための新しい可視化手法である Explainable Matrix (ExMatrix) を提案する。 単純なマトリックスのようなメタファで、行はルール、列は特徴、セルはルールを述語する。 ExMatrixの適用性は、異なる例を通じて確認され、RFモデルの解釈可能性を促進するために実際にどのように使用できるかを示している。
  論文  参考訳（メタデータ） (2020-05-08T21:03:48Z)
• Lower bounds in multiple testing: A framework based on derandomized proxies [107.69746750639584]
  本稿では, 各種コンクリートモデルへの適用例を示す, デランドマイズに基づく分析戦略を提案する。 これらの下界のいくつかを数値シミュレーションし、Benjamini-Hochberg (BH) アルゴリズムの実際の性能と密接な関係を示す。
  論文  参考訳（メタデータ） (2020-05-07T19:59:51Z)
• Deep Unfolding Network for Image Super-Resolution [159.50726840791697]
  本稿では,学習に基づく手法とモデルに基づく手法の両方を活用する,エンドツーエンドのトレーニング可能なアンフォールディングネットワークを提案する。 提案するネットワークは, モデルベース手法の柔軟性を継承し, 一つのモデルを用いて, 異なるスケール要因に対する, 曖昧でノイズの多い画像の超解像化を行う。
  論文  参考訳（メタデータ） (2020-03-23T17:55:42Z)
• Beyond Dropout: Feature Map Distortion to Regularize Deep Neural Networks [107.77595511218429]
  本稿では,ディープニューラルネットワークの中間層に関連する実験的なRademacher複雑性について検討する。 上記の問題に対処するための特徴歪み法(Disout)を提案する。 より高い試験性能を有するディープニューラルネットワークを作製するための特徴写像歪みの優位性を解析し、実証した。
  論文  参考訳（メタデータ） (2020-02-23T13:59:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。