論文の概要: Using Model-Based Trees with Boosting to Fit Low-Order Functional ANOVA Models

• arxiv url: http://arxiv.org/abs/2207.06950v1
• Date: Thu, 14 Jul 2022 14:23:14 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-15 13:10:38.310047
• Title: Using Model-Based Trees with Boosting to Fit Low-Order Functional ANOVA Models
• Title（参考訳）: 低次機能ANOVAモデルへのブースティングによるモデルベースツリーの利用
• Authors: Linwei Hu, Jie Chen, Vijayan N. Nair
• Abstract要約: 低次関数型ANOVAモデルは、本質的に解釈可能な機械学習の目的のもと、機械学習(ML)コミュニティで再発見された。 我々は,EMMに類似する新しいアルゴリズムであるGAMI-Treeを提案する。 我々は、シミュレーションと実データを用いて、GAMI-Treeの性能と解釈可能性をEMMとGAMI-Netと比較する。
• 参考スコア（独自算出の注目度）: 8.124889883036813
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Low-order functional ANOVA (fANOVA) models have been rediscovered in the machine learning (ML) community under the guise of inherently interpretable machine learning. Explainable Boosting Machines or EBM (Lou et al. 2013) and GAMI-Net (Yang et al. 2021) are two recently proposed ML algorithms for fitting functional main effects and second-order interactions. We propose a new algorithm, called GAMI-Tree, that is similar to EBM, but has a number of features that lead to better performance. It uses model-based trees as base learners and incorporates a new interaction filtering method that is better at capturing the underlying interactions. In addition, our iterative training method converges to a model with better predictive performance, and the embedded purification ensures that interactions are hierarchically orthogonal to main effects. The algorithm does not need extensive tuning, and our implementation is fast and efficient. We use simulated and real datasets to compare the performance and interpretability of GAMI-Tree with EBM and GAMI-Net.
• Abstract（参考訳）: 低階関数型ANOVA(fANOVA)モデルは、本質的に解釈可能な機械学習の目的のもと、機械学習(ML)コミュニティで再発見された。 Explainable Boosting Machines (Lou et al. 2013) と GAMI-Net (Yang et al. 2021) は、関数的主効果と二階相互作用に適合するMLアルゴリズムである。 我々は,EMMに類似する新しいアルゴリズムであるGAMI-Treeを提案する。 モデルベースツリーをベースラーナーとして使用し、基礎となるインタラクションをキャプチャする上で優れた新しいインタラクションフィルタリング手法を取り入れている。 さらに, 反復学習法は予測性能のよいモデルに収束し, 組込み浄化により, 相互作用が主効果に対して階層的に直交していることを保証する。 このアルゴリズムは広範なチューニングは必要とせず、実装は高速で効率的です。 シミュレーションと実データを用いて,GAMI-Treeの性能と解釈性を比較した。

関連論文リスト

• Attribute-to-Delete: Machine Unlearning via Datamodel Matching [65.13151619119782]
  機械学習 -- 事前訓練された機械学習モデルで、小さな"ターゲットセット"トレーニングデータを効率的に削除する -- は、最近関心を集めている。 最近の研究では、機械学習技術はこのような困難な環境では耐えられないことが示されている。
  論文  参考訳（メタデータ） (2024-10-30T17:20:10Z)
• Inherently Interpretable Tree Ensemble Learning [7.868733904112288]
  浅い決定木をベース学習として使用すると、アンサンブル学習アルゴリズムが本質的に解釈可能であることを示す。 木アンサンブルを固有の解釈可能性を持つ機能的ANOVA表現に変換する解釈アルゴリズムを開発した。 シミュレーションと実世界のデータセットを用いた実験により,提案手法はモデル解釈と予測性能のトレードオフを良くすることを示した。
  論文  参考訳（メタデータ） (2024-10-24T18:58:41Z)
• Monotone Tree-Based GAMI Models by Adapting XGBoost [4.566028525473582]
  本稿では、$f(x)=sum_j,kf_j,k(x_j,x_k)$という形のモデルを検討し、モノトンGAMI-Treeと呼ばれるモノトンツリーベースのGAMIモデルを開発する。 XGBoostのオプションを使って、モノトーンモデルを$f(x)$に適合させることは簡単である。 i) 重要な相互作用を決定するためにフィルタリング手法を使用し、(i) 選択した相互作用にモノトーンXGBoostアルゴリズムを適合させる。
  論文  参考訳（メタデータ） (2023-09-05T17:54:37Z)
• Interpretable Machine Learning based on Functional ANOVA Framework: Algorithms and Comparisons [9.10422407200807]
  機械学習(ML)の初期は、最高の予測性能を達成するための複雑なアルゴリズムの開発に重点が置かれていた。 近年、研究者は予測性能の小さな向上に挑戦し、本質的に解釈可能なアルゴリズムを開発した。 本稿では,ESMなどの木を用いたGAMI-Lin-Tという新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-05-25T02:40:52Z)
• Unboxing Tree Ensembles for interpretability: a hierarchical visualization tool and a multivariate optimal re-built tree [0.34530027457862006]
  我々は,木組モデルの解釈可能な表現を開発し,その振る舞いに関する貴重な洞察を提供する。 提案モデルは,木組決定関数を近似した浅い解釈可能な木を得るのに有効である。
  論文  参考訳（メタデータ） (2023-02-15T10:43:31Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
  変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。 GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。 本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
  論文  参考訳（メタデータ） (2021-01-06T17:36:26Z)
• Surrogate Locally-Interpretable Models with Supervised Machine Learning Algorithms [8.949704905866888]
  近年,従来の統計的手法よりも予測性能が優れているため,機械学習アルゴリズムが普及している。 主な焦点は解釈可能性であり、結果として得られるサロゲートモデルは、合理的に優れた予測性能を持つ。
  論文  参考訳（メタデータ） (2020-07-28T23:46:16Z)
• Interpretable Learning-to-Rank with Generalized Additive Models [78.42800966500374]
  ラーニング・ツー・ランクのモデルの解釈可能性は、非常に重要でありながら、比較的過小評価されている研究分野である。 解釈可能なランキングモデルの最近の進歩は、主に既存のブラックボックスランキングモデルに対するポストホックな説明の生成に焦点を当てている。 一般化加法モデル(GAM)をランキングタスクに導入することにより,本質的に解釈可能な学習 to ランクの基盤を築いた。
  論文  参考訳（メタデータ） (2020-05-06T01:51:30Z)
• MPLP++: Fast, Parallel Dual Block-Coordinate Ascent for Dense Graphical Models [96.1052289276254]
  この研究は、人気のあるDual Block-Coordinate Ascent原則に基づく新しいMAP-solverを導入している。 驚いたことに、性能の低い解法に小さな変更を加えることで、既存の解法を大きなマージンで大幅に上回る新しい解法MPLP++を導出します。
  論文  参考訳（メタデータ） (2020-04-16T16:20:53Z)
• Revisiting Graph based Collaborative Filtering: A Linear Residual Graph Convolutional Network Approach [55.44107800525776]
  グラフ畳み込みネットワーク(GCN)は、最先端のグラフベースの表現学習モデルである。 本稿では、GCNベースの協調フィルタリング(CF)ベースのレコメンダシステム(RS)について再検討する。 単純なグラフ畳み込みネットワークの理論と整合して,非線形性を取り除くことで推奨性能が向上することを示す。 本稿では,ユーザ・イテム相互作用モデリングを用いたCF用に特別に設計された残差ネットワーク構造を提案する。
  論文  参考訳（メタデータ） (2020-01-28T04:41:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。