論文の概要: Learning a Decision Tree Algorithm with Transformers

• arxiv url: http://arxiv.org/abs/2402.03774v1
• Date: Tue, 6 Feb 2024 07:40:53 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-07 15:52:10.168984
• Title: Learning a Decision Tree Algorithm with Transformers
• Title（参考訳）: 変圧器を用いた決定木アルゴリズムの学習
• Authors: Yufan Zhuang, Liyuan Liu, Chandan Singh, Jingbo Shang, Jianfeng Gao
• Abstract要約: 本稿では,従来のアルゴリズムから出力されたフィルタを用いてトランスフォーマーモデルを用いて,分類のための強力な決定木を生成するメタトレーについて紹介する。 次にMetaTreeをトレーニングして、強力な一般化パフォーマンスを実現するツリーを生成します。
• 参考スコア（独自算出の注目度）: 80.49817544396379
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Decision trees are renowned for their interpretability capability to achieve high predictive performance, especially on tabular data. Traditionally, they are constructed through recursive algorithms, where they partition the data at every node in a tree. However, identifying the best partition is challenging, as decision trees optimized for local segments may not bring global generalization. To address this, we introduce MetaTree, which trains a transformer-based model on filtered outputs from classical algorithms to produce strong decision trees for classification. Specifically, we fit both greedy decision trees and optimized decision trees on a large number of datasets. We then train MetaTree to produce the trees that achieve strong generalization performance. This training enables MetaTree to not only emulate these algorithms, but also to intelligently adapt its strategy according to the context, thereby achieving superior generalization performance.
• Abstract（参考訳）: 決定木は、特に表データにおいて高い予測性能を達成するための解釈能力で有名である。 伝統的に、それらは再帰的なアルゴリズムによって構築され、ツリーの各ノードでデータを分割する。 しかし、ローカルセグメントに最適化された決定木がグローバルな一般化をもたらすことはないため、最良の分割を特定することは難しい。 これに対処するために,古典アルゴリズムからのフィルタ出力に基づいてトランスフォーマティブベースのモデルをトレーニングし,分類のための強い決定木を生成するメタツリーを提案する。 具体的には、多くのデータセットにグリージーな決定木と最適化された決定木の両方を適合させます。 次にMetaTreeをトレーニングして、強力な一般化パフォーマンスを実現するツリーを生成します。 このトレーニングにより、MetaTreeはこれらのアルゴリズムをエミュレートするだけでなく、コンテキストに応じてその戦略をインテリジェントに適応させることができる。

関連論文リスト

• Learning accurate and interpretable decision trees [27.203303726977616]
  我々は、同じドメインから繰り返しデータにアクセスして決定木学習アルゴリズムを設計するためのアプローチを開発する。 本研究では,ベイズ決定木学習における事前パラメータのチューニングの複雑さについて検討し,その結果を決定木回帰に拡張する。 また、学習した決定木の解釈可能性について検討し、決定木を用いた説明可能性と精度のトレードオフを最適化するためのデータ駆動型アプローチを提案する。
  論文  参考訳（メタデータ） (2024-05-24T20:10:10Z)
• Boosting-Based Sequential Meta-Tree Ensemble Construction for Improved Decision Trees [1.8749305679160366]
  決定木は、機械学習分野における最も一般的なアプローチの1つである。 近年,過度に深化した木による過剰適合の問題を解決するために,メタツリーが提案されている。 メタツリーはベイズ決定理論に基づく統計的最適性を保証する。
  論文  参考訳（メタデータ） (2024-02-09T13:08:21Z)
• ViTree: Single-path Neural Tree for Step-wise Interpretable Fine-grained Visual Categorization [56.37520969273242]
  細かな視覚分類のための新しいアプローチであるViTreeを紹介する。 ツリーパスをトラバースすることで、ViTreeは変換処理された機能からパッチを効果的に選択し、情報のあるローカルリージョンをハイライトする。 このパッチとパスの選択性は、ViTreeのモデルの解釈可能性を高め、モデルの内部動作に関するより良い洞察を可能にする。
  論文  参考訳（メタデータ） (2024-01-30T14:32:25Z)
• Tree in Tree: from Decision Trees to Decision Graphs [2.2336243882030025]
  Tree in Tree decision graph (TnT)は、従来の決定木をより汎用的で強力な非巡回グラフに拡張するフレームワークである。 提案するモデルは,広く用いられている決定木に代わる,新しい,より効率的かつ正確な代替手段である。
  論文  参考訳（メタデータ） (2021-10-01T13:20:05Z)
• Growing Deep Forests Efficiently with Soft Routing and Learned Connectivity [79.83903179393164]
  この論文は、いくつかの重要な側面で深い森林のアイデアをさらに拡張します。 我々は、ノードがハードバイナリ決定ではなく、確率的ルーティング決定、すなわちソフトルーティングを行う確率的ツリーを採用する。 MNISTデータセットの実験は、私たちの力のある深部森林が[1]、[3]よりも優れたまたは匹敵するパフォーマンスを達成できることを示しています。
  論文  参考訳（メタデータ） (2020-12-29T18:05:05Z)
• Convex Polytope Trees [57.56078843831244]
  コンベックスポリトープ木(CPT)は、決定境界の解釈可能な一般化によって決定木の系統を拡張するために提案される。 木構造が与えられたとき,木パラメータに対するCPTおよび拡張性のあるエンドツーエンドトレーニングアルゴリズムを効率的に構築する。
  論文  参考訳（メタデータ） (2020-10-21T19:38:57Z)
• MurTree: Optimal Classification Trees via Dynamic Programming and Search [61.817059565926336]
  動的プログラミングと探索に基づいて最適な分類木を学習するための新しいアルゴリズムを提案する。 当社のアプローチでは,最先端技術が必要とする時間のごく一部しか使用せず,数万のインスタンスでデータセットを処理することが可能です。
  論文  参考訳（メタデータ） (2020-07-24T17:06:55Z)
• Generalized and Scalable Optimal Sparse Decision Trees [56.35541305670828]
  様々な目的に対して最適な決定木を生成する手法を提案する。 また,連続変数が存在する場合に最適な結果が得られるスケーラブルなアルゴリズムも導入する。
  論文  参考訳（メタデータ） (2020-06-15T19:00:11Z)
• Sparsity in Optimal Randomized Classification Trees [3.441021278275805]
  斜め切断に基づく疎い最適分類木を構築するための連続最適化手法を提案する。 空間性、すなわち局所性と大域性は、多面体ノルムの正規化によってモデル化される。 グリーディーアプローチと異なり、我々の分類精度の一部で容易に取引できる能力は、グローバル・スパシティーの獲得に寄与する。
  論文  参考訳（メタデータ） (2020-02-21T09:09:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。