論文の概要: Partially Interpretable Decision Trees
- arxiv url: http://arxiv.org/abs/2611.06428v1
- Date: Wed, 04 Nov 2026 12:31:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:58.106198
- Title: Partially Interpretable Decision Trees
- Title(参考訳): 部分解釈可能な決定木
- Abstract要約: 部分解釈可能なモデルは単純な解釈可能なモデルを拡張し、複雑な入力を正確には解釈できないブラックボックスモデルに延期するオプションがある。
本稿では,木を最適化するための厳密な探索を行う既存分岐アルゴリズムの部分的に解釈可能な拡張,計算効率のよい標準CART上で実行される変換アルゴリズム,木を成長させながら遅延するオプションを考慮した分割基準を考慮した一般化CARTの3つのアルゴリズムを提案する。
意外なことに、3つのアルゴリズムのパフォーマンスは多くの現実世界のデータセットで類似している。
- 参考スコア(独自算出の注目度): 6.727833825191844
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Partially interpretable models extend simple interpretable models with the option to defer complicated inputs to an accurate but uninterpretable black-box model. By deferring more inputs, the model gets more accurate; by deferring fewer, it gets more interpretable. Existing procedures to train such partially interpretable models build on linear models or decision rules. We propose three algorithms for decision trees: a partially interpretable extension of the existing Branches algorithm, which performs exact search to optimize the tree; a conversion algorithm that we run on top of standard CART, which is computationally more efficient; and a generalized CART whose splitting criterion takes into account the option to defer while growing the tree. Perhaps surprisingly, the performance of the three algorithms is similar across many realworld datasets. We can explain this through a formal bound on the potential gain of smart tree construction, provided the black box accuracy is sufficiently homogeneous across the domain. We also construct a synthetic dataset where the accuracy of the black box is deliberately inhomogeneous. There, our deferral-aware generalization of CART does outperform regular CART and matches the performance of exact search. Finally, we evaluate an application to concept bottleneck models. Partially interpretable decision trees can replace uninterpretable neural networks after the bottleneck. On undeferred inputs, the model is fully interpretable, and deferring preserves accuracy.
- Abstract(参考訳): 部分解釈可能なモデルは単純な解釈可能なモデルを拡張し、複雑な入力を正確には解釈できないブラックボックスモデルに延期するオプションがある。
より多くのインプットを遅延させることで、モデルはより正確になる。
そのような部分的に解釈可能なモデルをトレーニングするための既存の手順は、線形モデルや決定規則に基づいて構築される。
本稿では,木を最適化するための厳密な探索を行う既存分岐アルゴリズムの部分的に解釈可能な拡張,計算効率のよい標準CART上で実行される変換アルゴリズム,木を成長させながら遅延するオプションを考慮した分割基準を考慮した一般化CARTの3つのアルゴリズムを提案する。
意外なことに、3つのアルゴリズムのパフォーマンスは多くの現実世界のデータセットで類似している。
ブラックボックスの精度が領域全体にわたって十分に均一であるならば、このことはスマートツリー構築の潜在的利益に公式な境界によって説明できる。
また,ブラックボックスの精度が意図的に不均一な合成データセットを構築した。
そこで,CARTの遅延認識一般化は通常のCARTよりも優れており,正確な探索性能と一致している。
最後に、ボトルネックモデルの概念へのアプリケーションの評価を行う。
部分的に解釈可能な決定木は、ボトルネックの後、解釈不能なニューラルネットワークを置き換えることができる。
遅延しない入力では、モデルは完全に解釈可能であり、遅延は精度を保っている。
関連論文リスト
- SPaR: Self-Play with Tree-Search Refinement to Improve Instruction-Following in Large Language Models [88.29990536278167]
SPaRは、木探索の自己精製を統合して、有効かつ同等な選好ペアを得るセルフプレイフレームワークである。
実験により,SPaRで誘導された3回の反復で訓練されたLLaMA3-8Bモデルが,一般機能を失うことなくIFEvalベンチマークでGPT-4-Turboを上回った。
論文 参考訳(メタデータ) (2024-12-16T09:47:43Z) - Sparse Concept Bottleneck Models: Gumbel Tricks in Contrastive Learning [86.15009879251386]
概念ボトルネックモデル(CBM)を用いた新しいアーキテクチャと説明可能な分類法を提案する。
CBMには、さらなる概念のセットが必要である。
CLIPをベースとしたボトルネックモデルにおいて,スパース隠れ層を用いた精度の大幅な向上を示す。
論文 参考訳(メタデータ) (2024-04-04T09:43:43Z) - Efficient Computation of Counterfactual Bounds [44.4263314637532]
我々は,構造因果モデルのサブクラスにおけるクレダルネットのアルゴリズムを用いて,正確な反ファクト境界を計算する。
近似の精度を信頼性のある間隔で評価する。
論文 参考訳(メタデータ) (2023-07-17T07:59:47Z) - An Interpretable Loan Credit Evaluation Method Based on Rule
Representation Learner [8.08640000394814]
我々は、Lending ClubデータセットのRRL(Rule Representation)に基づいて、本質的に解釈可能なモデルを設計する。
トレーニング中、私たちは以前の研究から、バイナリウェイトを効果的にトレーニングするためのトリックを学びました。
本モデルは,ポストホック法により生成された説明の正当性を検証するために用いられる。
論文 参考訳(メタデータ) (2023-04-03T05:55:04Z) - Unboxing Tree Ensembles for interpretability: a hierarchical
visualization tool and a multivariate optimal re-built tree [0.34530027457862006]
我々は,木組モデルの解釈可能な表現を開発し,その振る舞いに関する貴重な洞察を提供する。
提案モデルは,木組決定関数を近似した浅い解釈可能な木を得るのに有効である。
論文 参考訳(メタデータ) (2023-02-15T10:43:31Z) - Regularized impurity reduction: Accurate decision trees with complexity
guarantees [20.170305081348328]
本稿では,木複雑性の対数近似を保証する木推論アルゴリズムを提案する。
改良されたアルゴリズムは予測精度と木の複雑さのバランスが良好である。
論文 参考訳(メタデータ) (2022-08-23T13:15:19Z) - Fast Interpretable Greedy-Tree Sums [8.268938983372452]
Fast Interpretable Greedy-Tree Sums (FIGS) は、CARTアルゴリズムを一般化し、要約において柔軟な数の木を成長させる。
G-FIGSは、ドメイン知識を反映し、感度や解釈性を犠牲にすることなく(CARTよりも20%も向上した)特異性を享受するCDIを導出する。
Bagging-FIGSは、現実世界のデータセット上でランダムなフォレストやXGBoostと競合するパフォーマンスを享受している。
論文 参考訳(メタデータ) (2022-01-28T04:50:37Z) - Rationales for Sequential Predictions [117.93025782838123]
シーケンスモデルは現代のNLPシステムにおいて重要な要素であるが、それらの予測は説明が難しい。
モデル説明は有理だが、個々のモデル予測を説明できる文脈のサブセットを考える。
この目的を近似する効率的なグリードアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-09-14T01:25:15Z) - MurTree: Optimal Classification Trees via Dynamic Programming and Search [61.817059565926336]
動的プログラミングと探索に基づいて最適な分類木を学習するための新しいアルゴリズムを提案する。
当社のアプローチでは,最先端技術が必要とする時間のごく一部しか使用せず,数万のインスタンスでデータセットを処理することが可能です。
論文 参考訳(メタデータ) (2020-07-24T17:06:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。