論文の概要: ArborEnum: Decision Tree Rashomon Sets over Continuous Features
- arxiv url: http://arxiv.org/abs/2608.04310v1
- Date: Wed, 05 Aug 2026 00:40:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.666706
- Title: ArborEnum: Decision Tree Rashomon Sets over Continuous Features
- Title（参考訳）: ArborEnum: 継続的機能に関する決定木Rashomonの設定
- Authors: Zakk Heile, Hayden McTavish, Margo Seltzer, Cynthia Rudin,
- Abstract要約: 羅生門集合は、正規化損失がほぼ最適であるすべてのモデルの集合である。
決定木は、羅生門セットを完全に列挙できる数少ないモデルクラスの1つである。
本稿では,連続的な特徴の順序構造を利用して決定木である羅生門集合を列挙するアルゴリズムを提案する。
- 参考スコア（独自算出の注目度）: 21.921639033742903
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Rashomon effect describes the phenomenon that many models can achieve nearly equivalent performance on the same learning task, with significant ramifications for robustness, feature importance, and customizability. These use cases motivate the computation of Rashomon sets: the set of all models whose regularized loss is near-optimal. Decision trees are one of the few model classes for which Rashomon sets can be fully enumerated, but this computation has always been conditional on a binarization of the original data, either restricting which splits each tree is allowed to make or substantially increasing the complexity of an already difficult combinatorial problem. We introduce the first algorithm that exactly enumerates decision-tree Rashomon sets while exploiting the ordered structure of continuous features. We further develop a relaxation for approximate enumeration and an anytime algorithm that progressively refines the set of candidate thresholds, producing increasingly detailed approximations that converge to the continuous-feature Rashomon set. Experiments show that coarse binarization can miss many trees, important features, and predictive multiplicity; our algorithms achieve orders-of-magnitude speedups over existing enumeration methods, with approximations providing further speedups while maintaining near-perfect recall.
- Abstract（参考訳）: 羅生門効果は、多くのモデルが同じ学習課題においてほぼ同等のパフォーマンスを達成でき、堅牢性、特徴の重要性、カスタマイズ性に大きな影響を与えている現象を記述している。
これらのユースケースは、正規化された損失がほぼ最適であるすべてのモデルの集合であるラショモン集合の計算を動機付けている。
決定木は、羅生門集合を完全に列挙できる数少ないモデルクラスの1つであるが、この計算は常に元のデータの双対化に条件づけられている。
本稿では,連続的特徴の順序構造を利用して決定木である羅生門集合を正確に列挙するアルゴリズムを提案する。
さらに、近似列挙の緩和と、候補しきい値の集合を漸進的に洗練する任意のアルゴリズムを開発し、連続函数の羅生門集合に収束するより詳細な近似を生成する。
実験により、粗い二項化は、多くの木、重要な特徴、予測的乗算性を欠く可能性があることが示され、我々のアルゴリズムは、既存の列挙法よりも高次精度を達成し、近似は、ほぼ完全なリコールを維持しながらさらなるスピードアップを提供する。
関連論文リスト
- Multistage Defer Trees for Hybrid Interpretability: If at First You Can't Succeed, Tree Again [21.921639033742903]
多段階デファーツリー(Multi stage Defer Trees)は、スパース決定木の列であり、それぞれがほとんどのサンプルに対して予測を行う。
我々は、このモデルクラスを、複雑なツリーベースのアンサンブルのパフォーマンスに合わせて訓練し、ほとんどのサンプルを1つまたは少数のスパース決定ツリーにルーティングできることを実証した。
論文 参考訳（メタデータ） (2026-06-30T00:15:00Z) - REALITrees: Rashomon Ensemble Active Learning for Interpretable Trees [21.32484182551777]
Rashomon Ensembled Active Learning (REAL) は、すべてのほぼ最適モデルのRashomon Setを徹底的に列挙して委員会を構成する。
雑音の多い環境下では,REALはランダム化アンサンブルよりも優れていた。
論文 参考訳（メタデータ） (2026-03-24T03:27:44Z) - SORTeD Rashomon Sets of Sparse Decision Trees: Anytime Enumeration [4.567122178196833]
SORTDはスケーラビリティを改善し、目的値の順にRashomonセットのツリーを列挙する新しいフレームワークである。
実験の結果,SORTDは技術状況と比較して,実行時間を最大2桁削減できることがわかった。
論文 参考訳（メタデータ） (2025-11-05T10:25:08Z) - A Unified Approach to Extract Interpretable Rules from Tree Ensembles via Integer Programming [2.1408617023874443]
ツリーアンサンブルは非常に人気のある機械学習モデルであり、教師付き分類と回帰タスクの有効性で知られている。
我々の研究は、訓練された木アンサンブルから最適化されたルールのリストを抽出することを目的としており、ユーザーは完全なモデルの予測力をほとんど保持する凝縮された解釈可能なモデルを提供する。
我々の広範な計算実験は,木アンサンブルに対する予測性能と忠実度の観点から,本手法が他のルール抽出法と競合することを示す統計的に有意な証拠を提供する。
論文 参考訳（メタデータ） (2024-06-30T22:33:47Z) - Compositional Generalization without Trees using Multiset Tagging and
Latent Permutations [121.37328648951993]
まず、各入力トークンに複数の出力トークンをタグ付けします。
次に、新しいパラメータ化法と置換予測法を用いて、トークンを出力シーケンスに配置する。
我々のモデルは、事前訓練されたセq2seqモデルと、現実的なセマンティック解析タスクに関する先行研究より優れている。
論文 参考訳（メタデータ） (2023-05-26T14:09:35Z) - Exploring the Whole Rashomon Set of Sparse Decision Trees [23.136590456299007]
ラショーモン集合は、ほぼ最適モデル全体の成す集合であることを示す。
粗い決定木のための羅生門セットを完全に列挙する最初の手法を提供する。
これにより、ユーザーはモデル選択に対して前例のないレベルの制御を行うことができる。
論文 参考訳（メタデータ） (2022-09-16T16:37:26Z) - Tree ensemble kernels for Bayesian optimization with known constraints
over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。
ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。
我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文 参考訳（メタデータ） (2022-07-02T16:59:37Z) - Partial Order in Chaos: Consensus on Feature Attributions in the
Rashomon Set [50.67431815647126]
ポストホックなグローバル/ローカルな特徴属性法は、機械学習モデルを理解するために徐々に採用されている。
この手法により局所的・言語的特徴の半順序が生じることを示す。
これらの部分的な順序に現れる特徴間の関係は、既存のアプローチによって提供されたランクにも当てはまることを示す。
論文 参考訳（メタデータ） (2021-10-26T02:53:14Z) - Complex Event Forecasting with Prediction Suffix Trees: Extended
Technical Report [70.7321040534471]
複合イベント認識(CER)システムは、イベントのリアルタイムストリーム上のパターンを"即時"検出する能力によって、過去20年間に人気が高まっている。
このような現象が実際にCERエンジンによって検出される前に、パターンがいつ発生するかを予測する方法が不足している。
複雑なイベント予測の問題に対処しようとする形式的なフレームワークを提案する。
論文 参考訳（メタデータ） (2021-09-01T09:52:31Z) - Efficient Pure Exploration for Combinatorial Bandits with Semi-Bandit
Feedback [51.21673420940346]
コンビナーシャルバンディットはマルチアームバンディットを一般化し、エージェントが腕のセットを選択し、選択したセットに含まれる各腕の騒々しい報酬を観察します。
我々は, 最善の腕を一定の信頼度で識別する純粋爆発問題と, 応答集合の構造が動作集合の1つと異なるような, より一般的な設定に注目する。
有限多面体に対するプロジェクションフリーオンライン学習アルゴリズムに基づいて、凸的に最適であり、競争力のある経験的性能を持つ最初の計算効率の良いアルゴリズムである。
論文 参考訳（メタデータ） (2021-01-21T10:35:09Z) - Predicting Temporal Sets with Deep Neural Networks [50.53727580527024]
本稿では,時間集合予測のためのディープニューラルネットワークに基づく統合解を提案する。
ユニークな視点は、セットレベルの共起グラフを構築することで要素関係を学ぶことである。
我々は,要素や集合の時間依存性を適応的に学習するアテンションベースのモジュールを設計する。
論文 参考訳（メタデータ） (2020-06-20T03:29:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。