論文の概要: Interpretable Machine Learning with an Ensemble of Gradient Boosting Machines

• arxiv url: http://arxiv.org/abs/2010.07388v1
• Date: Wed, 14 Oct 2020 20:18:40 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-07 12:54:05.336475
• Title: Interpretable Machine Learning with an Ensemble of Gradient Boosting Machines
• Title（参考訳）: グラディエントブースティングマシンの組合わせによる解釈可能な機械学習
• Authors: Andrei V. Konstantinov and Lev V. Utkin
• Abstract要約: 勾配昇降機(GBM)のアンサンブルを用いた手法 合成および実データセットに提案手法を実装したアルゴリズムを用いた数値実験は、局所的および大域的解釈の効率性と特性を実証する。
• 参考スコア（独自算出の注目度）: 5.482532589225552
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A method for the local and global interpretation of a black-box model on the basis of the well-known generalized additive models is proposed. It can be viewed as an extension or a modification of the algorithm using the neural additive model. The method is based on using an ensemble of gradient boosting machines (GBMs) such that each GBM is learned on a single feature and produces a shape function of the feature. The ensemble is composed as a weighted sum of separate GBMs resulting a weighted sum of shape functions which form the generalized additive model. GBMs are built in parallel using randomized decision trees of depth 1, which provide a very simple architecture. Weights of GBMs as well as features are computed in each iteration of boosting by using the Lasso method and then updated by means of a specific smoothing procedure. In contrast to the neural additive model, the method provides weights of features in the explicit form, and it is simply trained. A lot of numerical experiments with an algorithm implementing the proposed method on synthetic and real datasets demonstrate its efficiency and properties for local and global interpretation.
• Abstract（参考訳）: 良く知られた一般化加法モデルに基づくブラックボックスモデルの局所的および大域的解釈法を提案する。 これは、ニューラル加算モデルを用いてアルゴリズムの拡張または修正と見なすことができる。 本手法は,1つの特徴に基づいて各GBMを学習し,その特徴の形状関数を生成するように,勾配昇降機(GBM)のアンサンブルを用いて構成する。 アンサンブルは、一般化加法モデルを形成する形状関数の重み付け和となる別々のGBMの重み付け和として構成される。 GBMは、非常に単純なアーキテクチャを提供する深さ1のランダム化決定木を用いて並列に構築される。 GBMの重量と特徴は、ラッソ法を用いて各反復で計算され、特定の平滑化手順によって更新される。 神経添加モデルとは対照的に、この方法は明示的な形式の特徴の重みを与え、単に訓練される。 合成および実データセットに提案手法を実装したアルゴリズムを用いた数値実験は、局所的および大域的解釈の効率性と特性を実証する。

関連論文リスト

• Universal Neural Functionals [67.80283995795985]
  多くの現代の機械学習タスクでは、ウェイトスペース機能を処理することが難しい問題である。 最近の研究は、単純なフィードフォワードネットワークの置換対称性に同値な有望な重み空間モデルを開発した。 本研究は,任意の重み空間に対する置換同変モデルを自動的に構築するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-02-07T20:12:27Z)
• Dual feature-based and example-based explanation methods [2.024925013349319]
  地域的・グローバルな説明に対する新たなアプローチが提案されている。 これは、説明されたインスタンスの周りの有限個の点に対して構築された凸包を選択することに基づいている。 提案されたアルゴリズムのコードは利用可能である。
  論文  参考訳（メタデータ） (2024-01-29T16:53:04Z)
• Computing SHAP Efficiently Using Model Structure Information [3.6626323701161665]
  本稿では, SHAP を時間的あるいはより高速に計算する手法を提案し, 付加性とダミーの仮定を満たす SHAP の定義を提案する。 最初のケースでは、加算特性と低次機能成分からSHAPを計算する方法を示す。 第2のケースでは、時間内にSHAPを計算できる式を導出します。
  論文  参考訳（メタデータ） (2023-09-05T17:48:09Z)
• Generalizing Backpropagation for Gradient-Based Interpretability [103.2998254573497]
  モデルの勾配は、半環を用いたより一般的な定式化の特別な場合であることを示す。 この観測により、バックプロパゲーションアルゴリズムを一般化し、他の解釈可能な統計を効率的に計算することができる。
  論文  参考訳（メタデータ） (2023-07-06T15:19:53Z)
• Interpretable Ensembles of Hyper-Rectangles as Base Models [5.482532589225552]
  ベースモデル(HRBM)として一様に生成された軸並列超矩形を持つアンサンブルモデルを提案する。 勾配昇降機(GBM)にHRBMを組み込むことが提案されている。
  論文  参考訳（メタデータ） (2023-03-15T13:50:36Z)
• Symbolic Metamodels for Interpreting Black-boxes Using Primitive Functions [15.727276506140878]
  ブラックボックス機械学習モデルを解釈する1つのアプローチは、単純な解釈可能な関数を使ってモデルのグローバルな近似を見つけることである。 本研究では,解釈可能なメタモデルを見つけるための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-02-09T17:30:43Z)
• Feature Weighted Non-negative Matrix Factorization [92.45013716097753]
  本稿では,FNMF(Feature weighted Non- negative Matrix Factorization)を提案する。 FNMFはその重要性に応じて特徴の重みを適応的に学習する。 提案する最適化アルゴリズムを用いて効率的に解くことができる。
  論文  参考訳（メタデータ） (2021-03-24T21:17:17Z)
• Model Fusion with Kullback--Leibler Divergence [58.20269014662046]
  異種データセットから学習した後続分布を融合する手法を提案する。 我々のアルゴリズムは、融合モデルと個々のデータセット後部の両方に対する平均場仮定に依存している。
  論文  参考訳（メタデータ） (2020-07-13T03:27:45Z)
• The data-driven physical-based equations discovery using evolutionary approach [77.34726150561087]
  与えられた観測データから数学的方程式を発見するアルゴリズムについて述べる。 このアルゴリズムは遺伝的プログラミングとスパース回帰を組み合わせたものである。 解析方程式の発見や偏微分方程式(PDE)の発見にも用いられる。
  論文  参考訳（メタデータ） (2020-04-03T17:21:57Z)
• Particle-Gibbs Sampling For Bayesian Feature Allocation Models [77.57285768500225]
  最も広く使われているMCMC戦略は、特徴割り当て行列のギブス更新に頼っている。 単一移動で特徴割り当て行列の全行を更新できるギブスサンプリング器を開発した。 このサンプルは、計算複雑性が特徴数で指数関数的にスケールするにつれて、多数の特徴を持つモデルにとって実用的ではない。 我々は,行ワイズギブズ更新と同じ分布を目標としたパーティクルギブズサンプルの開発を行うが,特徴数でのみ線形に増大する計算複雑性を有する。
  論文  参考訳（メタデータ） (2020-01-25T22:11:51Z)
• Analysis of Bayesian Inference Algorithms by the Dynamical Functional Approach [2.8021833233819486]
  学生自明なシナリオにおいて,大ガウス潜在変数モデルを用いて近似推論のアルゴリズムを解析する。 完全データモデルマッチングの場合、レプリカ法から派生した静的順序パラメータの知識により、効率的なアルゴリズム更新が得られる。
  論文  参考訳（メタデータ） (2020-01-14T17:22:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。