論文の概要: Multi-rules mining algorithm for combinatorially exploded decision trees with modified Aitchison-Aitken function-based Bayesian optimization

• arxiv url: http://arxiv.org/abs/2310.02633v1
• Date: Wed, 4 Oct 2023 07:55:51 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-05 16:10:40.958725
• Title: Multi-rules mining algorithm for combinatorially exploded decision trees with modified Aitchison-Aitken function-based Bayesian optimization
• Title（参考訳）: 改良Aitchison-Aitken関数に基づくベイズ最適化を用いた複合爆発決定木のマルチルールマイニングアルゴリズム
• Authors: Yuto Omae, Masaya Mori, Yohei Kakimoto
• Abstract要約: 推定性能の高い木を戦略的に構築する"MAABO-MT"と"GS-MRM"アルゴリズム。 提案手法の有効性を解析するために,複数のオープンデータセットを用いて実験を行った。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Decision trees offer the benefit of easy interpretation because they allow the classification of input data based on if--then rules. However, as decision trees are constructed by an algorithm that achieves clear classification with minimum necessary rules, the trees possess the drawback of extracting only minimum rules, even when various latent rules exist in data. Approaches that construct multiple trees using randomly selected feature subsets do exist. However, the number of trees that can be constructed remains at the same scale because the number of feature subsets is a combinatorial explosion. Additionally, when multiple trees are constructed, numerous rules are generated, of which several are untrustworthy and/or highly similar. Therefore, we propose "MAABO-MT" and "GS-MRM" algorithms that strategically construct trees with high estimation performance among all possible trees with small computational complexity and extract only reliable and non-similar rules, respectively. Experiments are conducted using several open datasets to analyze the effectiveness of the proposed method. The results confirm that MAABO-MT can discover reliable rules at a lower computational cost than other methods that rely on randomness. Furthermore, the proposed method is confirmed to provide deeper insights than single decision trees commonly used in previous studies. Therefore, MAABO-MT and GS-MRM can efficiently extract rules from combinatorially exploded decision trees.
• Abstract（参考訳）: 決定木は、if-thenルールに基づいた入力データの分類を可能にするため、簡単な解釈の利点を提供する。 しかし、決定木は最小限のルールで明確な分類を行うアルゴリズムによって構築されるため、データに様々な潜在ルールが存在する場合でも、最小限のルールだけを抽出する欠点がある。 ランダムに選択された特徴部分集合を用いて複数の木を構築するアプローチが存在する。 しかし、特徴部分集合の数は組合せ爆発であるので、構築可能な木の数は同じ規模に留まっている。 さらに、複数の木が作られると、多くのルールが生成され、そのうちのいくつかは信頼できないか、あるいは非常に類似している。 そこで本研究では,計算量が少ない木に対して高い推定性能を持つ木を戦略的に構築し,信頼度の高い木と非類似のルールのみを抽出する「maabo-mt」と「gs-mrm」アルゴリズムを提案する。 提案手法の有効性を解析するために,複数のオープンデータセットを用いて実験を行った。 その結果,maabo-mtはランダム性に依存する他の手法よりも低い計算コストで信頼性の高いルールを発見できることが確認された。 さらに,提案手法は,従来の研究で一般的に用いられてきた単一の決定木よりも深い洞察を与える。 したがって、MAABO-MTとGS-MRMは組合せ爆発決定木から規則を効率的に抽出することができる。

関連論文リスト

• A Unified Approach to Extract Intepretable Rules from Tree Ensembles via Integer Programming [2.1408617023874443]
  木アンサンブル法は、教師付き分類と回帰タスクにおいて有効であることが知られている。 我々の研究は、訓練された木アンサンブルから最適化されたルールのリストを抽出することを目的としており、利用者に凝縮された解釈可能なモデルを提供する。
  論文  参考訳（メタデータ） (2024-06-30T22:33:47Z)
• LiteSearch: Efficacious Tree Search for LLM [70.29796112457662]
  本研究では,動的ノード選択とノードレベルの探索予算を備えた新しいガイド付き木探索アルゴリズムを提案する。 GSM8KおよびTabMWPデータセットを用いて行った実験により,本手法はベースライン法に比べて計算コストが大幅に低いことを示した。
  論文  参考訳（メタデータ） (2024-06-29T05:14:04Z)
• Online Learning of Decision Trees with Thompson Sampling [12.403737756721467]
  決定木は解釈可能な機械学習のための顕著な予測モデルである。 オンライン環境で最適な決定木を生成できるモンテカルロ木探索アルゴリズムを考案した。
  論文  参考訳（メタデータ） (2024-04-09T15:53:02Z)
• Learning a Decision Tree Algorithm with Transformers [80.49817544396379]
  本稿では,従来のアルゴリズムから出力されたフィルタを用いてトランスフォーマーモデルを用いて,分類のための強力な決定木を生成するメタトレーについて紹介する。 次にMetaTreeをトレーニングして、強力な一般化パフォーマンスを実現するツリーを生成します。
  論文  参考訳（メタデータ） (2024-02-06T07:40:53Z)
• TreeDQN: Learning to minimize Branch-and-Bound tree [78.52895577861327]
  Branch-and-Boundは、Mixed Linear Programsという形で最適化タスクを解決するための便利なアプローチである。 解法の効率は、分割する変数を選択するのに使用される分岐に依存する。 分岐を効率的に学習できる強化学習法を提案する。
  論文  参考訳（メタデータ） (2023-06-09T14:01:26Z)
• On Computing Optimal Tree Ensembles [8.941441654913644]
  ランダム林や、より一般的には(決定ノブレイクダッシュ-)ツリーアンサンブルは、分類と回帰の方法として広く使われている。 最近のアルゴリズムの進歩は、そのサイズや深さなどの様々な測定に最適な決定木を計算することができる。 2つの新しいアルゴリズムと対応する下位境界を提供する。
  論文  参考訳（メタデータ） (2023-06-07T13:30:43Z)
• Permutation Decision Trees [3.089408984959925]
  Effort-To-Compress (ETC) は、新しい不純物尺度として初めて複雑性尺度である。 置換決定木と様々な実世界のデータセットにおける古典的決定木の性能比較を行う。
  論文  参考訳（メタデータ） (2023-06-05T06:31:14Z)
• Regularized impurity reduction: Accurate decision trees with complexity guarantees [20.170305081348328]
  本稿では,木複雑性の対数近似を保証する木推論アルゴリズムを提案する。 改良されたアルゴリズムは予測精度と木の複雑さのバランスが良好である。
  論文  参考訳（メタデータ） (2022-08-23T13:15:19Z)
• An Efficient Adversarial Attack for Tree Ensembles [91.05779257472675]
  傾斜促進決定木(DT)や無作為林(RF)などの木に基づくアンサンブルに対する敵対的攻撃 提案手法は,従来のMILP (Mixed-integer linear programming) よりも数千倍高速であることを示す。 私たちのコードはhttps://chong-z/tree-ensemble- attackで利用可能です。
  論文  参考訳（メタデータ） (2020-10-22T10:59:49Z)
• Convex Polytope Trees [57.56078843831244]
  コンベックスポリトープ木(CPT)は、決定境界の解釈可能な一般化によって決定木の系統を拡張するために提案される。 木構造が与えられたとき,木パラメータに対するCPTおよび拡張性のあるエンドツーエンドトレーニングアルゴリズムを効率的に構築する。
  論文  参考訳（メタデータ） (2020-10-21T19:38:57Z)
• MurTree: Optimal Classification Trees via Dynamic Programming and Search [61.817059565926336]
  動的プログラミングと探索に基づいて最適な分類木を学習するための新しいアルゴリズムを提案する。 当社のアプローチでは,最先端技術が必要とする時間のごく一部しか使用せず,数万のインスタンスでデータセットを処理することが可能です。
  論文  参考訳（メタデータ） (2020-07-24T17:06:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。