論文の概要: Learning Sparse Decision Trees via Transformer Variational Auto-Encoders
- arxiv url: http://arxiv.org/abs/2609.01430v1
- Date: Tue, 01 Sep 2026 15:40:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:36.824565
- Title: Learning Sparse Decision Trees via Transformer Variational Auto-Encoders
- Title(参考訳): 変分自動エンコーダを用いたスパース決定木学習
- Authors: Giacomo Fidone, Alessio Cascione, Riccardo Guidotti,
- Abstract要約: 本稿では,複雑な目的に対して決定木を学習するためのTREVISを提案する。
決定木を潜在表現にマッピングすることで、TREVISは離散探索空間を連続的に置き換える。
その結果、TREVISは、既存の近似アルゴリズムの予測性能と一致する決定木を発見した。
- 参考スコア(独自算出の注目度): 2.2748974006378933
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Decision trees are among the most widely used models in machine learning, largely due to their transparent decision logic, making them well-suited for high-stakes decision-making contexts. However, most existing learning algorithms focus on predictive performance, overlooking the joint optimization of other desirable properties, such as structural sparsity. In this work we propose TREVIS, an approach for learning decision trees with respect to complex objectives, based on the exploration of the latent space of a Tree Transformer Variational Auto-Encoder (TTVAE). By mapping decision trees onto latent representations, TREVIS replaces the discrete search space with a continuous one, enabling gradient-based optimization via a differentiable surrogate model. We experiment with TREVIS for learning decision trees that jointly optimize predictive performance and sparsity. Results show that TREVIS discovers decision trees matching the predictive performance of existing near-optimal algorithms while improving their structural sparsity.
- Abstract(参考訳): 決定木は機械学習で最も広く使われているモデルの一つであり、主に透明な決定論理のため、高い意思決定コンテキストに適している。
しかし、既存の学習アルゴリズムのほとんどは予測性能に重点を置いており、構造的疎性のような他の望ましい特性の協調最適化を見越している。
本研究では,TTVAE(Tree Transformer Variational Auto-Encoder)の潜伏空間を探索し,複雑な目的に対して決定木を学習するTREVISを提案する。
決定木を潜在表現にマッピングすることにより、TREVISは離散探索空間を連続的に置き換え、微分可能なサロゲートモデルによる勾配に基づく最適化を可能にする。
我々はTREVISを用いて予測性能と分散性を協調的に最適化する決定木を学習する実験を行った。
その結果、TREVISは、既存の近似アルゴリズムの予測性能に適合する決定木を発見し、その構造的疎性を改善した。
関連論文リスト
- A novel gradient-based method for decision trees optimizing arbitrary differential loss functions [2.4861619769660637]
本研究では、任意の微分可微分損失関数を最適化する勾配に基づく決定木を構築する新しい手法を提案する。
本手法の分類・回帰・生存分析への適用性を示す。
この方法の実装は公開されており、研究者や実践者に実用的なツールを提供している。
論文 参考訳(メタデータ) (2025-03-22T20:25:30Z) - Decision Tree Induction Through LLMs via Semantically-Aware Evolution [53.0367886783772]
遺伝的プログラミング(GP)に基づく決定木誘導のための進化的最適化手法を提案する。
私たちの重要なイノベーションは、セマンティックな事前情報と、検索空間に関するドメイン固有の知識をアルゴリズムに統合することです。
これは、構造化された自然言語プロンプトを扱う新しい遺伝子操作子によって操作される。
論文 参考訳(メタデータ) (2025-03-18T12:52:03Z) - WCDT: Systematic WCET Optimization for Decision Tree Implementations [4.95559363788634]
安全な操作を確保するためには、機械学習モデルの最悪の実行時間(WCET)が必要である。
決定木実装のWCET最適化のための体系的アプローチを開発する。
我々は,サロゲートモデルとWCET最適化アルゴリズムの両方を実験的に評価した。
論文 参考訳(メタデータ) (2025-01-29T06:01:39Z) - Optimizing Interpretable Decision Tree Policies for Reinforcement Learning [10.68128849363198]
決定木は、その固有の解釈可能性について教師あり学習において注目を集めている。
本稿では、強化学習環境におけるニューラルネットワークを置き換えるために、解釈可能な決定木ポリシーを最適化する問題を考察する。
論文 参考訳(メタデータ) (2024-08-21T14:04:00Z) - Optimized Feature Generation for Tabular Data via LLMs with Decision Tree Reasoning [53.241569810013836]
本稿では,大規模言語モデル(LLM)を用いて,効率的な特徴生成ルールを同定するフレームワークを提案する。
我々は、自然言語で容易に表現できるため、この推論情報を伝達するために決定木を使用します。
OCTreeは様々なベンチマークで様々な予測モデルの性能を継続的に向上させる。
論文 参考訳(メタデータ) (2024-06-12T08:31:34Z) - Learning accurate and interpretable tree-based models [27.203303726977616]
我々は、同じドメインからデータに繰り返しアクセスする木に基づく学習アルゴリズムを設計するためのアプローチを開発する。
本稿では,よく使われるエントロピーとジニ不純物に基づく基準を補間するトップダウンアルゴリズムにおいて,ノード分割基準の新しいパラメータ化クラスを提案する。
我々は、ランダムな森林や傾斜した木など、一般的な木に基づくアンサンブルのチューニングに結果を拡張した。
論文 参考訳(メタデータ) (2024-05-24T20:10:10Z) - ViTree: Single-path Neural Tree for Step-wise Interpretable Fine-grained
Visual Categorization [56.37520969273242]
細かな視覚分類のための新しいアプローチであるViTreeを紹介する。
ツリーパスをトラバースすることで、ViTreeは変換処理された機能からパッチを効果的に選択し、情報のあるローカルリージョンをハイライトする。
このパッチとパスの選択性は、ViTreeのモデルの解釈可能性を高め、モデルの内部動作に関するより良い洞察を可能にする。
論文 参考訳(メタデータ) (2024-01-30T14:32:25Z) - MurTree: Optimal Classification Trees via Dynamic Programming and Search [61.817059565926336]
動的プログラミングと探索に基づいて最適な分類木を学習するための新しいアルゴリズムを提案する。
当社のアプローチでは,最先端技術が必要とする時間のごく一部しか使用せず,数万のインスタンスでデータセットを処理することが可能です。
論文 参考訳(メタデータ) (2020-07-24T17:06:55Z) - Generalized and Scalable Optimal Sparse Decision Trees [56.35541305670828]
様々な目的に対して最適な決定木を生成する手法を提案する。
また,連続変数が存在する場合に最適な結果が得られるスケーラブルなアルゴリズムも導入する。
論文 参考訳(メタデータ) (2020-06-15T19:00:11Z) - ENTMOOT: A Framework for Optimization over Ensemble Tree Models [57.98561336670884]
ENTMOOTは、ツリーモデルをより大きな最適化問題に統合するためのフレームワークである。
ENTMOOTは、ツリーモデルの意思決定とブラックボックス最適化への単純な統合を可能にしていることを示す。
論文 参考訳(メタデータ) (2020-03-10T14:34:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。