論文の概要: Woodelf++: A Fast and Unified Partial Dependence Plot Algorithm for Decision Tree Ensembles
- arxiv url: http://arxiv.org/abs/2605.14578v1
- Date: Thu, 14 May 2026 08:49:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-15 21:45:34.730784
- Title: Woodelf++: A Fast and Unified Partial Dependence Plot Algorithm for Decision Tree Ensembles
- Title(参考訳): Woodelf++: 決定木アンサンブルのための高速で統一された部分依存プロットアルゴリズム
- Authors: Ron Wettenstein, Alexander Nadel, Udi Boker,
- Abstract要約: Woodelf++は、効率的なSHAP計算のアルゴリズムであるWoodelfをベースにしている。
PDPは、1つの機能の変更が平均モデル予測にどのように影響するかを視覚化する。
共同PDPは、このアイデアを一連の機能に拡張し、組み合わせた効果を明らかにした。
PDIVはデータセットの全行にわたるすべての機能サブセットに対するこれらのインタラクションを計算します。
- 参考スコア(独自算出の注目度): 41.99844472131922
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Partial Dependence Plots (PDPs) visualize how changes in a single feature affect the average model prediction. They are widely used in practice to interpret decision tree ensembles and other machine learning models. Joint-PDPs extend this idea to pairs of features, revealing their combined effect. Partial Dependence Interaction Values (PDIVs) measure feature interactions. The Any-Order-PDIVs task computes these interactions for every feature subset across all rows of the dataset. We introduce Woodelf++, a unified and efficient approach for computing all these useful explainability tools on decision tree ensembles, building on Woodelf, an algorithm for efficient SHAP computation. By deriving suitable metrics over pseudo-Boolean functions, Woodelf++ can compute PDPs (exact and approximate), Joint-PDPs, and Any-Order-PDIVs in a unified framework. Our method delivers substantial complexity improvements over the state of the art, including an exponential gain for Any-Order-PDIVs. Additionally, we introduce and efficiently compute Full PDPs, which leverage the model's split thresholds to faithfully capture its behavior across all possible feature values. Woodelf++ is implemented in pure Python and supports GPU acceleration. On a dataset with 400,000 rows, Woodelf++ computes PDP and Joint-PDP up to 6x faster than the state of the art and up to five orders of magnitude faster than scikit-learn. For Any-Order-PDIVs, the gap is even larger: Woodelf++ computes all interaction values in 5 minutes, while the state of the art is estimated to require over 1,000,000 years.
- Abstract(参考訳): PDP(Partial Dependence Plots)は、ひとつの機能の変更が平均モデル予測にどのように影響するかを視覚化する。
これらは実際に、決定木アンサンブルやその他の機械学習モデルを理解するために広く使用されている。
共同PDPは、このアイデアを一連の機能に拡張し、組み合わせた効果を明らかにした。
部分依存相互作用値(PDIV)は、特徴的相互作用を測定する。
Any-Order-PDIVsタスクは、データセットの全行にわたるすべての機能サブセットに対するこれらのインタラクションを計算します。
Woodelf++は,効率的なSHAP計算アルゴリズムであるWoodelf上に構築された,決定木アンサンブルに関するこれらの有用な説明可能性ツールを,統一的で効率的な計算手法として導入する。
擬ブール関数よりも適切なメトリクスを導出することにより、Woodelf++は統一されたフレームワークでPDP(正確には近似)、Joint-PDP、Any-Order-PDIVを計算できる。
提案手法は,Any-Order-PDIVの指数的ゲインを含む,最先端技術に対する大幅な複雑性向上を実現する。
さらに,モデルのスプリットしきい値を利用して可能なすべての特徴値の振る舞いを忠実に把握するフルPDPを導入し,効率よく計算する。
Woodelf++は純粋なPythonで実装されており、GPUアクセラレーションをサポートしている。
400,000行のデータセット上で、Woodelf++はPDPとJoint-PDPを最先端の最大6倍、Scikit-learnより最大5桁高速に計算する。
Woodelf++は5分ですべてのインタラクション値を計算しますが、最先端技術は10万年以上必要と見積もられています。
関連論文リスト
- From Decision Trees to Boolean Logic: A Fast and Unified SHAP Algorithm [45.88028371034407]
我々は、決定木、ゲーム理論、ブール論理を統一したフレームワークに統合するSHAPアルゴリズムであるWOODELFを紹介する。
WoodELFはCPUやGPUのハードウェアでも効率的に動作するように設計されている。
論文 参考訳(メタデータ) (2025-11-12T14:43:27Z) - RO-FIGS: Efficient and Expressive Tree-Based Ensembles for Tabular Data [10.610270769561811]
ツリーベースモデルは非形式的特徴に対して堅牢であり、非滑らかで複雑な決定境界を正確に捉えることができる。
我々はRandom oblique Fast Interpretable Greedy-Tree Sums (RO-FIGS)を提案する。
RO-FIGSはFast Interpretable Greedy-Tree Sumsの上に構築され、斜めまたは多変量分割で木を学習することで拡張する。
RO-FIGSを22の実世界のデータセット上で評価し、他の木とニューラルネットワークに基づく手法よりも優れた性能とはるかに小さなモデルを示す。
論文 参考訳(メタデータ) (2025-04-09T14:35:24Z) - Fast Estimation of Partial Dependence Functions using Trees [5.962392128252415]
我々は,任意の部分依存関数を効率的に推定する木に基づく新しい推定器,textttFastPDを提案する。
任意の特徴部分集合に対するPD関数を推定することにより、 textttFastPD は SHAP や PD プロット、高次相互作用効果などの PD ベースの解釈を抽出することができる。
論文 参考訳(メタデータ) (2024-10-17T11:21:47Z) - OmniBal: Towards Fast Instruction-Tuning for Vision-Language Models via Omniverse Computation Balance [67.37017498784748]
視覚言語命令チューニングモデルにおける大規模3D並列トレーニングは、異なるデバイス間で不均衡な計算負荷をもたらす。
我々は、データ、モデル、メモリの観点から計算負荷を再均衡させ、デバイス間でよりバランスのとれた計算を実現する。
提案手法の有効性と一般化性は,様々なモデルやデータセットにまたがってさらに検証される。
論文 参考訳(メタデータ) (2024-07-30T12:02:58Z) - Beyond TreeSHAP: Efficient Computation of Any-Order Shapley Interactions
for Tree Ensembles [6.664930499708017]
シェープリー値(Shapley value, SV)は、予測の付加的特徴属性を定量化するための説明可能な人工知能(XAI)研究における概念である。
TreeSHAP-IQは木モデル予測のための任意の順序加法シャプリー相互作用を効率的に計算する手法である。
論文 参考訳(メタデータ) (2024-01-22T16:08:41Z) - Provably Efficient Representation Learning with Tractable Planning in
Low-Rank POMDP [81.00800920928621]
部分的に観測可能なマルコフ決定過程(POMDP)における表現学習の研究
まず,不確実性(OFU)に直面した最大推定(MLE)と楽観性を組み合わせた復調性POMDPのアルゴリズムを提案する。
次に、このアルゴリズムをより広範な$gamma$-observable POMDPのクラスで機能させる方法を示す。
論文 参考訳(メタデータ) (2023-06-21T16:04:03Z) - Latent Bottlenecked Attentive Neural Processes [71.18817592128207]
LBANP(Latent Bottlenecked Attentive Neural Processs)について
LBANPは、コンテキストデータポイントの数によらず、クエリ処理の複雑さを持つ。
LBANPは,メタ回帰,画像補完,コンテキスト的マルチアームバンディットに関する最先端技術と競合する結果が得られることを示す。
論文 参考訳(メタデータ) (2022-11-15T19:21:41Z) - Scaling Structured Inference with Randomization [64.18063627155128]
本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。
我々の手法は古典的DPベースの推論に広く適用できる。
また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-12-07T11:26:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。