論文の概要: A Moving-Horizon Approximate Branch-and-Reduce Method for Deep Classification Trees
- arxiv url: http://arxiv.org/abs/2609.38194v1
- Date: Fri, 18 Sep 2026 05:50:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-05 14:48:16.299155
- Title: A Moving-Horizon Approximate Branch-and-Reduce Method for Deep Classification Trees
- Title(参考訳): 深部分類木に対する移動水平近似分岐生成法
- Abstract要約: 本稿では,大規模データセット上での準最適深層分類木を学習するための移動水平近似分岐還元法を提案する。
階層的なルート・サブツリー最適化フレームワーク上に構築され、greedysを用いて誘導されたサブツリー問題を近似しながら、ブランチ・アンド・リデュースによりルートレベルの問題を解く。
- 参考スコア(独自算出の注目度): 11.389415521098114
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite the importance for interpretability, decision trees face severe scalability challenges. Existing global optimal methods are often limited by binary feature selection and shallow tree depths, whereas traditional heuristic approaches frequently sacrifice predictive accuracy. To overcome these limitations, this paper proposes a moving-horizon approximate branch-and-reduce method to train near-optimal deep classification trees on large-scale datasets with continuous features. Built on a hierarchical root-subtree optimization framework, the method solves the root-level problem via branch-and-reduce while approximating the induced subtree problem using greedy heuristics. Although the underlying framework is capable of guaranteeing global optimality, the approximation, which functions as a lookahead rollout in a reinforcement learning context, significantly boosts efficiency for deeper structures. A low-cost moving-horizon strategy is then employed to iteratively refine model accuracy. Extensive numerical results demonstrate that our method exceeds the testing accuracy of existing heuristic baselines while offering significantly greater scalability, in terms of both dataset size and tree depth, than global optimal solvers.
- Abstract(参考訳): 解釈可能性の重要性にもかかわらず、決定木は厳しいスケーラビリティの課題に直面している。
既存のグローバルな最適手法は、二分的特徴選択と浅い木の深さによって制限されることが多いが、従来のヒューリスティックアプローチは予測精度を犠牲にすることが多い。
これらの制約を克服するため,本論文では,大規模データセットに連続的な特徴を持つ近最適深部分類木を学習するための移動水平近似分岐・再現法を提案する。
階層的なルート・サブツリー最適化フレームワーク上に構築されたこの手法は、誘導されたサブツリー問題をグリーディ・ヒューリスティックスを用いて近似しながら、ブランチ・アンド・リデュースにより根レベル問題を解く。
基盤となるフレームワークは、グローバルな最適性を保証することができるが、強化学習コンテキストにおけるルックアヘッドロールアウトとして機能する近似は、より深い構造の効率を大幅に向上させる。
次に、モデル精度を反復的に洗練するために、低コストの移動水平戦略を用いる。
その結果,本手法は,大域的最適解法よりも,データセットサイズと木深度の両方において,拡張性が高く,既存のヒューリスティックベースラインの試験精度をはるかに上回っていることがわかった。
関連論文リスト
- Interpretable clustering via optimal multiway-split decision trees [1.8224668251608893]
最適マルチウェイ分割決定木に基づく解釈可能なクラスタリング手法を提案する。
提案手法の重要な特徴は,連続変数の離散化のための一次元K平均アルゴリズムの統合である。
提案手法は,様々な評価指標の競合性能を維持しつつ,高精度な決定規則付きマルチウェイ分割決定木を生成する。
論文 参考訳(メタデータ) (2026-02-14T04:08:52Z) - TreePO: Bridging the Gap of Policy Optimization and Efficacy and Inference Efficiency with Heuristic Tree-based Modeling [65.46347858249295]
TreePOは自己誘導型ロールアウトアルゴリズムで、シーケンス生成を木構造検索プロセスとして見る。
TreePOは基本的に、探索の多様性を保存または強化しながら、更新毎の計算負担を削減します。
論文 参考訳(メタデータ) (2025-08-24T16:52:37Z) - Multi-Armed Bandits-Based Optimization of Decision Trees [0.0]
本稿では,マルチアーマッドバンド (MAB) に基づくプルーニング手法,強化学習 (RL) に基づく手法を提案する。
そこで我々はMABアルゴリズムを用いて各プルーニング動作からのフィードバックに基づいて最適な分岐ノードを見つける。
論文 参考訳(メタデータ) (2025-08-08T02:43:45Z) - Learning Deep Tree-based Retriever for Efficient Recommendation: Theory and Method [76.31185707649227]
効率的なレコメンデーションのために,Deep Tree-based Retriever (DTR)を提案する。
DTRは、トレーニングタスクを、同じレベルでツリーノード上のソフトマックスベースのマルチクラス分類としてフレーム化している。
非リーフノードのラベル付けによって引き起こされる準最適性を緩和するため、損失関数の補正法を提案する。
論文 参考訳(メタデータ) (2024-08-21T05:09:53Z) - Quant-BnB: A Scalable Branch-and-Bound Method for Optimal Decision Trees
with Continuous Features [5.663538370244174]
本稿では,分岐とバウンド(BnB)に基づく新たな離散最適化手法を提案する。
提案アルゴリズムのQuant-BnBは,様々な実データセット上での浅い最適木に対する既存手法と比較して,大幅な高速化を示す。
論文 参考訳(メタデータ) (2022-06-23T17:19:29Z) - Layer-adaptive sparsity for the Magnitude-based Pruning [88.37510230946478]
本稿では,LAMP(Layer-Adaptive magnitude-based pruning)スコアを用いたグローバルプルーニングの新たな重要点を提案する。
LAMPは、階層的な空間選択のための一般的なスキームを一貫して上回っている。
論文 参考訳(メタデータ) (2020-10-15T09:14:02Z) - MurTree: Optimal Classification Trees via Dynamic Programming and Search [61.817059565926336]
動的プログラミングと探索に基づいて最適な分類木を学習するための新しいアルゴリズムを提案する。
当社のアプローチでは,最先端技術が必要とする時間のごく一部しか使用せず,数万のインスタンスでデータセットを処理することが可能です。
論文 参考訳(メタデータ) (2020-07-24T17:06:55Z) - Discretization-Aware Architecture Search [81.35557425784026]
本稿では,離散化対応アーキテクチャサーチ(DAtextsuperscript2S)を提案する。
中心となる考え方は、超ネットワークを所望のトポロジの構成に向けることであり、離散化による精度損失がほとんど軽減される。
標準画像分類ベンチマークの実験は、我々のアプローチの優位性を実証している。
論文 参考訳(メタデータ) (2020-07-07T01:18:58Z) - Generalized and Scalable Optimal Sparse Decision Trees [56.35541305670828]
様々な目的に対して最適な決定木を生成する手法を提案する。
また,連続変数が存在する場合に最適な結果が得られるスケーラブルなアルゴリズムも導入する。
論文 参考訳(メタデータ) (2020-06-15T19:00:11Z) - Sparsity in Optimal Randomized Classification Trees [3.441021278275805]
斜め切断に基づく疎い最適分類木を構築するための連続最適化手法を提案する。
空間性、すなわち局所性と大域性は、多面体ノルムの正規化によってモデル化される。
グリーディーアプローチと異なり、我々の分類精度の一部で容易に取引できる能力は、グローバル・スパシティーの獲得に寄与する。
論文 参考訳(メタデータ) (2020-02-21T09:09:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。