論文の概要: Conditional Inference Trees and Forests for Feature Selection
- arxiv url: http://arxiv.org/abs/2607.01417v1
- Date: Wed, 01 Jul 2026 19:23:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-03 19:45:08.576844
- Title: Conditional Inference Trees and Forests for Feature Selection
- Title（参考訳）: 特徴選択のための条件推論木と森林
- Abstract要約: 条件推論木 (CIT) と条件推論林 (CIF) は, 分割しきい値を選択する前に, テスト特徴による分割選択バイアスを低減する。
我々は,CITとCIFを,実データベンチマーク,ランタイムアブリゲーション,合成機能回復実験を用いて,下流予測のための上位k$の機能評価手法として検討する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Conditional inference trees (CIT) and conditional inference forests (CIF) reduce split-selection bias by testing features before choosing split thresholds, but repeated permutation tests and threshold searches can make these methods computationally expensive. We study CIT and CIF as top-$k$ feature-ranking methods for downstream prediction using real-data benchmarks, runtime ablations, and synthetic feature-recovery experiments. At a fixed node, if the features and permutation budget do not depend on the node responses, Bonferroni-corrected $+1$ Monte Carlo permutation $p$-values control nodewise rejection under the complete permutation null. CIF ranks 4th among 17 classification methods on 22 datasets and 3rd among 18 regression methods on 8 datasets. With Bonferroni correction held fixed, the CIF runtime ablations indicate that adaptive stopping and the number of thresholds searched have the largest measured effect on runtime: turning off adaptive stopping and using exact threshold search increase fitting time by 4.0--8.4$\times$ and 1.9--10.8$\times$, respectively, while downstream score changes are at most 0.011. Sparse high-$p$ simulations indicate that forest feature sampling can leave informative features out of many split decisions. Overall, the results support CIF as a top-$k$ feature-ranking method in the evaluated downstream prediction benchmarks.
- Abstract（参考訳）: 条件推論木(CIT)と条件推論林(CIF)は、分割しきい値を選択する前に特徴をテストすることによって分割選択バイアスを低減するが、繰り返し置換テストとしきい値探索はこれらの手法を計算的に高価にすることができる。
我々は,CITとCIFを,実データベンチマーク,ランタイムアブリゲーション,合成機能回復実験を用いて,下流予測のための上位k$の機能評価手法として検討する。
固定ノードでは、機能と置換予算がノード応答に依存しない場合、Bonferroniが修正した$+1$ Monte Carlo permutation $p$-values 完全な置換 null の下でノード右の拒否を制御する。
CIFは、22データセットの17の分類法のうち4位、および8データセットの18の回帰法では3位である。
ボニフェロニ補正が固定された場合、CIFランタイムの短縮は、適応停止と探索された閾値の数がランタイム上で最大の測定効果を持つことを示している: 適応停止をオフにし、正確なしきい値探索を使用すると、それぞれ4.0--8.4$\times$と1.9--10.8$\times$が適用され、ダウンストリームスコアの変化は0.011である。
比較的高額なp$シミュレーションは、森林の特徴サンプリングが多くの分割決定から情報的特徴を残していることを示している。
全体として、評価された下流予測ベンチマークでは、CIFが上位k$の機能レベルメソッドとしてサポートされている。
関連論文リスト
- From Truncation to Commitment: Persistent Context in Uniform Discrete Diffusion [5.2262942936091905]
均一状態の離散拡散モデルは、すべての位置を変更可能にしながら、すべてのトークンを並列に更新する。
我々は、選択したargmaxトークンを格納し、その後のモデル入力に挿入する訓練不要なサンプルである、コミット露光サンプリング(CRS)を提案する。
論文 参考訳（メタデータ） (2026-09-01T10:43:24Z) - Adaptive $k$ Nearest Neighbors Classifier via Granular Ball Computing [60.23863579199315]
k$-Nearest Neighbor(KNN)アルゴリズムは様々なタスクで広く使われている。
本稿では,粒度計算による適応的かつ効率的なKNN手法を提案する。
論文 参考訳（メタデータ） (2026-08-13T07:39:46Z) - Finding Most Influential Sets [0.0]
ディンケルバッハの手法は、反復ごとに$mathcalO(n)$コストと有限終了のアルゴリズムを生成する。
本手法は,これまで計算不能であった正確なMISを復元する。
論文 参考訳（メタデータ） (2026-06-04T09:24:26Z) - WARP: A Benchmark for Primal-Dual Warm-Starting of Interior-Point Solvers [0.3058685580689604]
成長する仕事の体は、機械学習を使って原始的なウォームスタートのイテレーションを予測し、30-46%の減少を報告している。
これらの報告は不適切な評価基準に当てはまることを示す。
実験により、完全原始二重バリア状態 $(x*, *, z*, *)$ はIPOPTイテレーションを 23 から 3 に減少させる。
論文 参考訳（メタデータ） (2026-05-07T06:19:16Z) - Efficient Test-Time Inference via Deterministic Exploration of Truncated Decoding Trees [68.04613115686509]
自己整合性は、複数の推論トレースを並列にサンプリングし、投票することで、推論時間のパフォーマンスを向上させる。
そこで本研究では,切り落された標本を伐採木として扱う決定論的復号法であるDLE(Distinct Leafion)を提案する。
DLEは高品質な推論トレースを調査し、数学、コーディング、一般的な推論タスクのパフォーマンスを向上させる。
論文 参考訳（メタデータ） (2026-04-22T12:42:03Z) - Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。
シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
論文 参考訳（メタデータ） (2026-04-11T10:47:22Z) - Closing the Approximation Gap of Partial AUC Optimization: A Tale of Two Formulations [121.39938773554523]
ROC曲線の下の領域(AUC)は、クラス不均衡と決定制約の両方を持つ実世界のシナリオにおける重要な評価指標である。
PAUC最適化の近似ギャップを埋めるために,2つの簡単なインスタンス単位のミニマックス修正を提案する。
得られたアルゴリズムは、サンプルサイズと典型的な一方方向と双方向のPAUCに対して$O(-2/3)$の収束率の線形パーイテレーション計算複雑性を享受する。
論文 参考訳（メタデータ） (2025-12-01T02:52:33Z) - Data Selection for ERMs [67.57726352698933]
我々は、$mathcalA$が、少なくとも$nll N$のデータポイントで訓練された時に、いかにうまく機能するかを研究する。
結果は,平均推定,線形分類,線形回帰に対する最適データ選択境界を含む。
論文 参考訳（メタデータ） (2025-04-20T11:26:01Z) - The Conditioning Bias in Binary Decision Trees and Random Forests and
Its Elimination [0.0]
格子特性を持つ特徴が存在する場合の条件付き演算子の選択によって生じるバイアスについて検討する。
我々は、このバイアスを排除し、決定木によるさらなる予測を必要とし、無作為な森林のコストを発生させない手法を提案する。
論文 参考訳（メタデータ） (2023-12-17T12:56:39Z) - Simplification of Forest Classifiers and Regressors [1.8275108630751844]
本研究では,森林分類器や回帰器の枝分かれ条件をできるだけ多く共有する問題について検討する。
本稿では,この問題を効率的に解くアルゴリズムを用いて,元問題に対するアルゴリズムを提案する。
本手法の有効性は,21個のデータセットを用いた総合的な実験によって実証された。
論文 参考訳（メタデータ） (2022-12-14T08:49:02Z) - Neural Greedy Pursuit for Feature Selection [72.4121881681861]
我々は,非線形予測問題に対する$P$入力機能のうち,$N$重要な特徴を選択するための欲求アルゴリズムを提案する。
ニューラルネットワークをアルゴリズムの予測子として使用し、損失を計算します。
論文 参考訳（メタデータ） (2022-07-19T16:39:16Z) - Conditional Uncorrelation and Efficient Non-approximate Subset Selection
in Sparse Regression [72.84177488527398]
相関性の観点からスパース回帰を考察し,条件付き非相関式を提案する。
提案手法により、計算複雑性は、スパース回帰における各候補部分集合に対して$O(frac16k3+mk2+mkd)$から$O(frac16k3+frac12mk2)$に削減される。
論文 参考訳（メタデータ） (2020-09-08T20:32:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。