論文の概要: Truncated Out-of-Bag Probability Gain: A Noise-Robust Criterion for Random-Forest Wrapper Feature Selection
- arxiv url: http://arxiv.org/abs/2610.29195v1
- Date: Wed, 21 Oct 2026 04:35:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.205965
- Title: Truncated Out-of-Bag Probability Gain: A Noise-Robust Criterion for Random-Forest Wrapper Feature Selection
- Title(参考訳): 拘束外確率ゲイン:ランダムフォレストラッパーの特徴選択のためのノイズローバスト基準
- Abstract要約: ランダム-フォレストの特徴選択は、OOB推定ノイズを蓄積する各ステップを決定する基準を蓄積するバリデーション信号として、OOB予測(out-of-bag)を使用することができる。
ToP-Gain は実クラスの OOB 確率を平均値で増加させ,0 で減算する。
26のOpenML-CC18データセットで事前登録されたベンチマークで、TOP-Gainは、ROC曲線(ROC-AUC)、正確性、マクロF1の領域で最高ランクを達成した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Random-Forest wrapper feature selection can use out-of-bag (OOB) predictions as a built-in validation signal, but the criteria that decide each forward step accumulate OOB estimation noise. We propose TOP-Gain (Truncated Out-of-bag Probability Gain), which scores a candidate feature by the mean sample-level increase in the OOB probability of the true class, with decreases truncated at zero. Under a simple noise model, truncation removes about two-thirds of the noise variance contributed by unaffected samples while preserving the signal, and it makes the ranking of candidate features markedly more reproducible. In a pre-registered benchmark on 26 OpenML-CC18 datasets, TOP-Gain achieved the best mean rank in area under the ROC curve (ROC-AUC), accuracy and Macro-F1 among 15 methods; it was significantly better than 13 of 14 baselines and matched the accuracy of VSURF with 21 times less single-core computation. Within an identical wrapper, it selected significantly more stable feature sets than net-gain, Brier, log-loss and accuracy criteria without loss of accuracy. A confirmatory study on 24 further datasets replicated the advantage over all baselines. The accuracy gains were broad rather than tied to specific dataset characteristics, and, as pre-registered, the stability gain grew as relevant features became sparser
- Abstract(参考訳): ランダム・フォレスト・ラッパーの特徴選択は、OOB推定ノイズを蓄積する各ステップを決定する基準を組み込んだバリデーション信号として、アウト・オブ・バグ(OOB)予測を使用することができる。
ToP-Gain (Truncated Out-of-bag Probability Gain) を提案する。
単純なノイズモデルの下では、信号の保存中に影響のないサンプルが寄与するノイズの約3分の2をトランケーションが除去し、候補特徴のランク付けを著しく再現性を高める。
26のOpenML-CC18データセットで事前登録されたベンチマークで、TOP-Gainは、ROC曲線(ROC-AUC)、精度、マクロF1の領域で最高のランクを達成し、14のベースラインのうち13よりも大幅に向上し、VSURFの精度を21倍のシングルコア計算で比較した。
同一のラッパー内では、ネットゲイン、ブライア、ログロス、精度基準よりも、精度を損なうことなく、かなり安定した特徴セットを選択した。
さらに24のデータセットに関する確認研究は、すべてのベースラインに対する優位性を再現した。
精度向上は特定のデータセットの特徴と結びつくのではなく、幅広いものであり、事前登録されると、関連する特徴がスペーサーになるにつれて安定性向上が増大する。
関連論文リスト
- Density-Ratio Rescoring for Imbalanced Classification Using Raking Duals and Classifier Scores [6.0125559514824545]
density-Ratio Rescoringは、サーベイレーキングデュアルスコアで元のクラスでトレーニングされた分類器を増強する。
DRRは双対と基底のスコアを極端に標準化し、固定重量の半減と組み合わせる。
30回の試行と5回のベースラーニングで評価された24のベンチマークでは、D=128のランダムフェール設定でのDRRは、データセット毎の標準化ベースの平均精度を改善している。
論文 参考訳(メタデータ) (2026-09-20T23:00:03Z) - EDGE: a closed-form directed test for the calibration of probabilistic binary classifiers [0.0]
本稿では,正規確率分類器の校正テストであるEDGEを提案し,ロジスティック回帰法を提案する。
EDGEは、同一のビン付き予測観測テーブルを信頼性図のプロットとして読み出し、その標準化されたビン残差をスムーズなキャリブレーション歪みの小さな前提に投影する。
リンクと特徴の相違により、既定のデフォルトが22のシナリオのうち、19のシナリオで全ての競合するビン付きテストに導かれるか、あるいは結び付けられ、再適合ベースのStukelスコアテストが20%から28%のサンプルで分離される場合、計算可能のままであった。
論文 参考訳(メタデータ) (2026-08-20T19:06:05Z) - Understanding Context Sampling in TabPFN on Small Tabular Datasets [0.40611352512781873]
15個のOpenMLデータセットの繰り返しコンテキストサンプリングを用いて,コンテキストが予測安定性,精度,選択コストに与える影響について検討した。
AUC係数はk=16で約6~18%から、大きなコンテキストサイズでは1~4%に低下する。
混合効果分析は、特徴平均マッチングよりも多様性とカバレッジを、精度のより強い予測因子として識別する。
論文 参考訳(メタデータ) (2026-07-29T08:54:45Z) - Generating Bearing Vibration Signals at User-Specified Fault Probabilities Using PR-GAN and Counterfactual Methods [0.0]
振動データセットを持つ場合、ほとんどの試料は0または1に近い予測された断層確率を受ける。
本稿では, 予測故障確率が目標確率0.25, 0.50, 0.75と一致する振動信号を生成する2つの手法を提案する。
ケース・ウェスタン・リザーブ大学 (CWRU) とパダーボルン大学 (Paderborn) の2つの評価法について検討した。
論文 参考訳(メタデータ) (2026-07-21T14:45:57Z) - Entropy Across the Bridge: Conditional-Marginal Discretization for Flow and Schrödinger Samplers [68.9946633641494]
フローマッチングとシュルディンガーブリッジは確率を定義するが、その推論格子は通常一点拡散から受け継がれる。
終端条件付き橋梁形状を境界流の進化から分離し, 橋梁を識別する条件付きエントロピーレートを導出する。
EDM/CIFAR-10では、エントロピックな時間分散は5段階のFID(186.3 pm 4.0対200.5 pm 2.9対cosineの238.0 pm 5.3)が最適である。
論文 参考訳(メタデータ) (2026-05-15T16:11:10Z) - vAttention: Verified Sparse Attention [100.98210818821688]
vAttentionは、ユーザが指定した$(epsilon, delta)$の近似精度保証(thus, confirmed)を備えた実用的なスパースアテンションメカニズムである。
vAttentionはデータセット間のスパースアテンションの質を大幅に改善することを示す。
モデルの品質を損なうことなく高速なデコードを実現するために、推論シナリオにデプロイすることができる。
論文 参考訳(メタデータ) (2025-10-07T08:46:08Z) - Robust Conformal Prediction with a Single Binary Certificate [58.450154976190795]
コンフォーマル予測(CP)は、任意のモデルの出力を、真のラベルを(調整可能な)高い確率でカバーすることを保証した予測セットに変換する。
我々は,MCサンプルが著しく低い場合でも,より小さな集合を生成する頑健な共形予測を提案する。
論文 参考訳(メタデータ) (2025-03-07T08:41:53Z) - Less is More: Fewer Interpretable Region via Submodular Subset Selection [54.07758302264416]
本稿では,上述の画像帰属問題を部分モジュラ部分選択問題として再モデル化する。
我々は、より正確な小さな解釈領域を発見するために、新しい部分モジュラー関数を構築する。
正しく予測されたサンプルに対しては,HSIC-Attributionに対する平均4.9%と2.5%の利得で,Deletion and Insertionスコアを改善した。
論文 参考訳(メタデータ) (2024-02-14T13:30:02Z) - The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [85.85160896547698]
ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。
入力にノイズ注入を頼りに、認証された半径を持つ効率的な分類器を設計する方法を示す。
新たな認証手法により、ランダムな平滑化による事前学習モデルの使用が可能となり、ゼロショット方式で現在の認証半径を効果的に改善できる。
論文 参考訳(メタデータ) (2023-09-28T22:41:47Z) - Robust Outlier Rejection for 3D Registration with Variational Bayes [70.98659381852787]
我々は、ロバストアライメントのための新しい変分非局所ネットワークベース外乱除去フレームワークを開発した。
そこで本稿では, 投票に基づく不整合探索手法を提案し, 変換推定のための高品質な仮説的不整合をクラスタリングする。
論文 参考訳(メタデータ) (2023-04-04T03:48:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。