論文の概要: MotherTree: Meta-learning on synthetic data improves decision tree training

• arxiv url: http://arxiv.org/abs/2610.10832v1
• Date: Wed, 07 Oct 2026 19:34:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.643656
• Title: MotherTree: Meta-learning on synthetic data improves decision tree training
• Title（参考訳）: MotherTree: 合成データによるメタ学習は意思決定ツリーのトレーニングを改善する
• Abstract要約: マザートレー (MotherTree) は, 合成先行分布から決定木を誘導するトランスフォーマーである。 MotherTreeは、ゼロスクラッチの勾配に基づく学習を継続的に改善し、強力なイニシャライザとして機能する。 これらの結果から,メタラーニングはスタンドアローンの小さな決定木分類器の学習に有効な帰納的バイアスを与える可能性が示唆された。
• 参考スコア（独自算出の注目度）: 18.14622002965564
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Conventional decision tree algorithms produce effective, transparent models that can be audited, communicated, and deployed independently of the training data, but require learning every new task from scratch. In contrast, tabular foundation models demonstrate that meta-learning from a synthetic prior distribution enables strong in-context prediction for previously unseen tasks, especially in small-sample regimes. However, this approach does not produce a standalone model that can be inspected in isolation. We introduce MotherTree, a tabular transformer that meta-learns decision tree induction: given a training set for a new task, it outputs a hard, axis-aligned decision tree, equivalent in form to classically trained trees, in a single forward pass. MotherTree is pre-trained on a synthetic prior using stochastic gradient descent without requiring reference trees for supervision. On established benchmarks with controlled sample size, the approach is competitive with size-matched trees from common algorithms: recursive partitioning, gradient-based tree learning, globally optimal trees, and distillation from tabular foundation models. Notably, MotherTree consistently improves over from-scratch gradient-based learning and acts as a strong initializer: task-specific tuning of the generated tree outperforms the corresponding from-scratch learner on all benchmarks and sample sizes. These results show that meta-learning can provide effective inductive biases for learning stand-alone, small decision tree classifiers.
• Abstract（参考訳）: 従来の決定木アルゴリズムは、トレーニングデータとは独立して監査、コミュニケーション、デプロイが可能な効果的で透明なモデルを生成するが、スクラッチからすべての新しいタスクを学ぶ必要がある。 これとは対照的に、表形式の基礎モデルでは、合成前の分布からメタラーニングを行うことで、特に小さなサンプル状態において、以前は目に見えないタスクに対して、強い文脈での予測が可能になることが示されている。 しかし、このアプローチは独立して検査できるスタンドアロンモデルを生成しない。 新しいタスクのトレーニングセットが与えられたら、単一のフォワードパスで古典的に訓練された木に等価な、硬い軸に沿った決定ツリーを出力します。 MotherTreeは、参照ツリーを監督することなく、確率的勾配降下を使用して、合成事前に事前訓練される。 サンプルサイズを制御した確立されたベンチマークでは、再帰的分割(recursive partitioning)、勾配木学習(gradient-based tree learning)、大域的最適木(global optimal tree)、および表層基礎モデルからの蒸留など、一般的なアルゴリズムによるサイズマッチングツリーと競合する。 生成されたツリーのタスク固有のチューニングは、すべてのベンチマークとサンプルサイズで対応するin-scratch学習者よりも優れています。 これらの結果から,メタラーニングはスタンドアローンの小さな決定木分類器の学習に有効な帰納的バイアスを与える可能性が示唆された。

関連論文リスト

• Entropy-Tree: Tree-Based Decoding with Entropy-Guided Exploration [52.52685988964061]
  Entropy-Treeは、分岐決定の信号としてエントロピーを利用するツリーベースのデコード手法である。 単一の復号処理において、効率的な構造化された探索と信頼性の高い不確実性推定を統一する。
  論文  参考訳（メタデータ） (2026-01-02T07:14:05Z)
• ZTree: A Subgroup Identification Based Decision Tree Learning Framework [3.119681354260829]
  本稿では,新しい決定木学習フレームワークZTreeを提案する。 CARTの伝統的な純度に基づく分割を統計学的に原則化されたサブグループ識別に置き換える。 ZTreeは、特に低データレシエーションにおいて、一貫して強力なパフォーマンスを提供する。
  論文  参考訳（メタデータ） (2025-09-16T05:25:16Z)
• Experiments with Optimal Model Trees [1.3750624267664155]
  我々は,世界規模で最適なモデル木が,非常に小さな木と競合する精度を達成できることを示した。 また、古典的最適かつ優雅に成長した決定木、ランダムな森林、およびサポートベクターマシンと比較した。
  論文  参考訳（メタデータ） (2025-03-17T08:03:47Z)
• Learning Decision Trees as Amortized Structure Inference [59.65621207449269]
  本稿では,予測決定木アンサンブルを学習するためのハイブリッドアモータイズされた構造推論手法を提案する。 提案手法であるDT-GFNは,標準分類ベンチマークにおける最先端決定木やディープラーニング手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-03-10T07:05:07Z)
• Learning accurate and interpretable tree-based models [27.203303726977616]
  我々は、同じドメインからデータに繰り返しアクセスする木に基づく学習アルゴリズムを設計するためのアプローチを開発する。 本稿では,よく使われるエントロピーとジニ不純物に基づく基準を補間するトップダウンアルゴリズムにおいて,ノード分割基準の新しいパラメータ化クラスを提案する。 我々は、ランダムな森林や傾斜した木など、一般的な木に基づくアンサンブルのチューニングに結果を拡張した。
  論文  参考訳（メタデータ） (2024-05-24T20:10:10Z)
• Learning a Decision Tree Algorithm with Transformers [75.96920867382859]
  メタ学習によってトレーニングされたトランスフォーマーベースのモデルであるMetaTreeを導入し、強力な決定木を直接生成する。 我々は、多くのデータセットに欲求決定木とグローバルに最適化された決定木の両方を適合させ、MetaTreeを訓練して、強力な一般化性能を実現する木のみを生成する。
  論文  参考訳（メタデータ） (2024-02-06T07:40:53Z)
• RLET: A Reinforcement Learning Based Approach for Explainable QA with Entailment Trees [47.745218107037786]
  本稿では,強化学習に基づくEntailment Tree生成フレームワークであるRLETを提案する。 RLETは文の選択と推論生成モジュールによる単一ステップ推論を反復的に行う。 EntailmentBankデータセットの3つの設定の実験では、RLフレームワークを使用することの強みが示されている。
  論文  参考訳（メタデータ） (2022-10-31T06:45:05Z)
• MurTree: Optimal Classification Trees via Dynamic Programming and Search [61.817059565926336]
  動的プログラミングと探索に基づいて最適な分類木を学習するための新しいアルゴリズムを提案する。 当社のアプローチでは,最先端技術が必要とする時間のごく一部しか使用せず,数万のインスタンスでデータセットを処理することが可能です。
  論文  参考訳（メタデータ） (2020-07-24T17:06:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。