論文の概要: Optimal Counterfactual Search in Tree Ensembles: A Study Across Modeling and Solution Paradigms
- arxiv url: http://arxiv.org/abs/2605.06561v1
- Date: Thu, 07 May 2026 16:54:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:12.012802
- Title: Optimal Counterfactual Search in Tree Ensembles: A Study Across Modeling and Solution Paradigms
- Title(参考訳): ツリーアンサンブルにおける最適対実探索:モデリングと解パラダイムの横断的検討
- Authors: Awa Khouna, Youssouf Emine, Julien Ferry, Thibaut Vidal,
- Abstract要約: 本研究では,木組の最適対実的説明を,可否制約と行動可能性制約の下で計算する問題について検討する。
これは問題である: 固定モデルの場合、反事実探索は、一貫した分岐決定と、距離目標の下でしきい値定義された領域を選択することに沸騰する。
我々は、この構造をCPCF(制約プログラミング)の定式化によって利用し、数値的特徴を分割しきい値によって誘導される区間領域として符号化する。
- 参考スコア(独自算出の注目度): 6.9087441566570105
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Trust in counterfactual explanations depends critically on whether their recommended changes are truly minimal: suboptimal explanations may vastly overshoot the actual changes needed to alter a decision, and heuristic errors can affect individuals unevenly, giving some users relevant recourse while assigning others unnecessarily costly recommendations. Consequently, we study the problem of computing optimal counterfactual explanations for tree ensembles under plausibility and actionability constraints. This is a combinatorial problem: for a fixed model, counterfactual search boils down to selecting consistent branching decisions and threshold-defined regions under a distance objective. We exploit this structure through CPCF, a constraint programming (CP) formulation in which numerical features are encoded as interval domains induced by split thresholds, while discrete features retain native finite-domain representations. This yields a compact finite-domain formulation that supports multiple distance objectives without continuous split-boundary search. We then place CPCF in a broader comparison across mathematical programming paradigms: we extend a maximum Boolean satisfiability (MaxSAT) formulation, originally designed for hard-voting random forests, to soft-voting ensembles, and compare against the current state-of-the-art mixed-integer linear programming (MILP) optimal approach. Across ten datasets and three types of tree ensembles, we analyze scalability, anytime performance, and sensitivity to distance metrics. We observe that CP achieves the best overall performance. More importantly, our results identify regimes in which the specific strengths of each paradigm make it best suited: CP is most versatile overall, MaxSAT handles hard-voting ensembles particularly well, and MILP remains competitive in amortized inference settings with a moderate number of split levels.
- Abstract(参考訳): 副次的な説明は、決定を変更するのに必要な実際の変更を著しく過大にオーバーシュートし、ヒューリスティックな誤りは個人に不均一に影響を与え、一部のユーザに対して、不必要にコストのかかる推奨事項を割り当てる。
そこで本研究では,木アンサンブルの妥当性および動作性制約下での最適対実的説明の計算問題について検討する。
これは組合せ問題であり、固定モデルの場合、反事実探索は、一貫した分岐決定と、距離目標の下でしきい値定義された領域を選択するために沸騰する。
この構造をCPCF(制約プログラミング)の定式化によって利用し、数値的特徴を分割しきい値によって誘導される区間領域として符号化し、離散的特徴はネイティブ有限領域表現を保持する。
これにより、連続的な分割境界探索なしで複数の距離目標をサポートするコンパクトな有限領域定式化が得られる。
そこで我々はCPCFを数学プログラミングのパラダイムにおいてより広範な比較に位置づける:我々は、もともとハードボッティングのランダムな森のために設計された最大ブール満足度(MaxSAT)の定式化をソフトボッティングのアンサンブルに拡張し、現在最先端の混合整数線形プログラミング(MILP)の最適アプローチと比較する。
10のデータセットと3種類のツリーアンサンブルにまたがって、スケーラビリティ、常時パフォーマンス、距離メトリクスに対する感度を分析します。
CPが最高の全体的な性能を達成するのを観察する。
CPは総合的に最も多用途であり,MaxSATは特にハードボイティングアンサンブルを扱い,MILPは適度な数の分割レベルを持つ償却推論設定において競争力を維持している。
関連論文リスト
- Global Optimization: A Machine Learning Approach [7.052596485478637]
Bertsimas と Ozturk (2023) は、ブラックボックスのグローバル最適化問題を解決する方法として OCTHaGOn を提案した。
我々は、他のMIO表現可能なMLモデルを用いて、元の問題を近似することで、このアプローチの拡張を提供する。
多くの場合において、ソリューションの実現可能性と最適性の改善を示す。
論文 参考訳(メタデータ) (2023-11-03T06:33:38Z) - BOtied: Multi-objective Bayesian optimization with tied multivariate ranks [33.414682601242006]
本稿では,非支配解と結合累積分布関数の極端量子化との自然な関係を示す。
このリンクにより、我々はPareto対応CDFインジケータと関連する取得関数BOtiedを提案する。
種々の合成および実世界の問題に対する実験により,BOtied は最先端MOBO 取得関数より優れていることが示された。
論文 参考訳(メタデータ) (2023-06-01T04:50:06Z) - Optimization and Optimizers for Adversarial Robustness [10.279287131070157]
本稿では,汎用的制約最適化解法と制約Foldingを融合した新しいフレームワークを提案する。
信頼性に関して、PWCFは、ソリューションの品質を評価するための定常度測定と実現可能性テストのソリューションを提供する。
さらに、損失、摂動モデル、最適化アルゴリズムの様々な組み合わせを用いて、これらの問題を解決するための解の異なるパターンについて検討する。
論文 参考訳(メタデータ) (2023-03-23T16:22:59Z) - Tree ensemble kernels for Bayesian optimization with known constraints
over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。
ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。
我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文 参考訳(メタデータ) (2022-07-02T16:59:37Z) - Efficient semidefinite bounds for multi-label discrete graphical models [6.226454551201676]
このようなモデルにおける主要なクエリの1つは、Posteri(MAP)ネットワークのコストに関するSDPWCSP関数を特定することである。
従来の二重化制約手法と,行ごとの更新に基づく専用SDP/Monteiroスタイルの手法を検討する。
論文 参考訳(メタデータ) (2021-11-24T13:38:34Z) - Robust Optimal Classification Trees Against Adversarial Examples [5.254093731341154]
本稿では,ユーザが特定した攻撃モデルに対して最適に堅牢な決定木を訓練する手法の集合を提案する。
逆学習において生じるmin-max最適化問題は、単一最小化定式化を用いて解くことができることを示す。
また,両部マッチングを用いた任意のモデルに対して,上界の対角精度を決定する手法を提案する。
論文 参考訳(メタデータ) (2021-09-08T18:10:49Z) - Efficient semidefinite-programming-based inference for binary and
multi-class MRFs [83.09715052229782]
分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。
一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
論文 参考訳(メタデータ) (2020-12-04T15:36:29Z) - Stochastic Optimization Forests [60.523606291705214]
標準的なランダムな森林アルゴリズムのように予測精度を向上させるために分割するのではなく、分割を選択した木を栽培し、下流の意思決定品質を直接最適化することで、森林決定政策の訓練方法を示す。
概略分割基準は、各候補分割に対して正確に最適化された森林アルゴリズムに近い性能を保ちながら、100倍のランニング時間を短縮できることを示す。
論文 参考訳(メタデータ) (2020-08-17T16:56:06Z) - Generalized and Scalable Optimal Sparse Decision Trees [56.35541305670828]
様々な目的に対して最適な決定木を生成する手法を提案する。
また,連続変数が存在する場合に最適な結果が得られるスケーラブルなアルゴリズムも導入する。
論文 参考訳(メタデータ) (2020-06-15T19:00:11Z) - Polynomial-Time Exact MAP Inference on Discrete Models with Global
Dependencies [83.05591911173332]
ジャンクションツリーアルゴリズムは、実行時の保証と正確なMAP推論のための最も一般的な解である。
本稿では,ノードのクローン化による新たなグラフ変換手法を提案する。
論文 参考訳(メタデータ) (2019-12-27T13:30:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。