論文の概要: When to Truncate a Feature Ranking: A Residual-Overlap Stopping Rule for Subset Selection
- arxiv url: http://arxiv.org/abs/2606.31686v1
- Date: Tue, 30 Jun 2026 14:00:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.243565
- Title: When to Truncate a Feature Ranking: A Residual-Overlap Stopping Rule for Subset Selection
- Title(参考訳): 特徴ランク付けをトリニケートする時--サブセット選択のための残差オーバーラップ停止規則
- Abstract要約: 本稿では,教師付き特徴ランクをクラスに依存しないサブセットに変換するための分散フレームワークを開発する。
高次元ゲノムデータセットに対する実証的な比較は、この規則が数万の変数を数ダースに削減できることを示している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Feature rankings are widely used in supervised feature selection because they are simple, scalable and easy to interpret. Variables are first ranked by a relevance score, and a subset is then obtained by retaining the top-ranked variables. Although the first stage has been extensively studied, the second is often governed by an arbitrary cardinality, an empirical threshold or cross-validation, without a direct interpretation. This raises a basic question: given a feature ranking, when is there enough accumulated class-separation evidence to stop selecting features? This paper develops a distributional framework for transforming supervised feature rankings into class-independent subsets through an explicit risk-calibrated stopping rule. For each variable and each pair of classes, marginal separation is measured by the Bhattacharyya coefficient between the corresponding class-conditional distributions. The proposed method selects a single global subset shared by all classes by retaining the shortest prefix of a ranking whose residual product overlap falls below a prescribed threshold for every relevant class contrast. We derive binary and multiclass Bayes-risk bounds for the labelled product marginal problem, and obtain prior-dependent and prior-free calibrations of the residual-overlap threshold from a target all-pairs risk level. An empirical comparison on high-dimensional genomic datasets illustrates that the rule can reduce tens of thousands of variables to a few dozen while maintaining predictive performance statistically comparable to the all-features baseline. As the stopping rule only requires one-dimensional marginal overlap estimates and scans a precomputed ranking, it is well suited to very high-dimensional settings where exhaustive subset search is infeasible and interpretable truncation of feature rankings is essential.
- Abstract(参考訳): 機能ランキングは、シンプルで、スケーラブルで、解釈しやすいため、教師付き機能選択で広く使用されている。
変数はまず関連スコアでランク付けされ、次に上位の変数を保持することでサブセットを得る。
第1段階は広く研究されているが、第2段階は直接の解釈なしに、任意の基数、経験的しきい値、またはクロスバリデーションによって統治されることが多い。
機能ランキングを考えると、いつ機能の選択を止めるのに十分なクラス分離の証拠が蓄積されているのか?
本稿では,教師付き特徴ランクをクラスに依存しないサブセットに,明示的なリスク校正停止規則により変換する分散フレームワークを開発する。
各変数と各クラスについて、境界分離は、対応するクラス条件分布の間のバッタリア係数によって測定される。
提案手法は,すべてのクラスが共有する単一グローバルサブセットを,残積オーバーラップが各クラスコントラストに対して所定の閾値以下となるランキングの最短プレフィックスを保持することによって選択する。
ラベル付き製品境界問題に対して二値および多値のベイズリスク境界を導出し、対象のオールペアリスクレベルから残オーラップ閾値の事前依存および事前自由キャリブレーションを得る。
高次元ゲノムデータセットに対する実証的な比較では、この規則は数万の変数を数ダースに減らし、予測性能は全機能ベースラインと統計的に比較できることを示している。
停止規則は1次元の残差重なり推定しか必要とせず、事前計算されたランクをスキャンするので、排他的部分探索が不可能であり、特徴ランクの解釈可能な切り離しが不可欠である非常に高次元設定に適している。
関連論文リスト
- How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。
因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。
本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
論文 参考訳(メタデータ) (2026-06-10T21:07:49Z) - Fair Decisions from Calibrated Scores: Achieving Optimal Classification While Satisfying Sufficiency [2.0686600920324163]
予測確率(スコア)に基づくバイナリ分類は、教師付き機械学習の基本的なタスクである。
群校正スコアの有限集合を仮定して、十分条件下での最適二項分類の正確な解を提案する。
論文 参考訳(メタデータ) (2026-02-07T00:26:40Z) - The Multiclass Score-Oriented Loss (MultiSOL) on the Simplex [4.014524824655106]
教師付きバイナリ分類では、トレーニングフェーズ中に選択したパフォーマンスメトリックを直接最適化する目的でスコア指向の損失が導入された。
本稿では、最近導入された多次元しきい値に基づく分類フレームワークを用いて、スコア指向の損失をマルチクラス分類に拡張する。
いくつかの分類実験でも示されているように、この損失の族は二進法で観測される主な利点を維持するために設計されている。
論文 参考訳(メタデータ) (2025-11-27T16:20:55Z) - Beyond Uncertainty Sets: Leveraging Optimal Transport to Extend Conformal Predictive Distribution to Multivariate Settings [0.14504054468850666]
コンフォーマル予測(CP)は、有限サンプルカバレッジを保証するモデル出力に対する不確実性集合を構成する。
最適な割り当ては、スコア空間の固定された多面体分割において一括的に一定であることを示す。
これにより、予測セット全体を魅力的に特徴付けることができ、予測セットのより深い制限に対処するための機械を提供する。
論文 参考訳(メタデータ) (2025-11-19T05:59:01Z) - A comparative analysis of rank aggregation methods for the partial label ranking problem [13.081896295252832]
ラベルランキング問題は、学習者が与えられた入力インスタンスのクラスラベルの総順序を予測する教師付き学習シナリオである。
本稿では、スコアベースおよび非パラメトリック確率的ランクアグリゲーションアプローチを含む、この重要なステップに対するいくつかの代替アグリゲーション手法について検討する。
論文 参考訳(メタデータ) (2025-02-24T11:44:43Z) - Probably Approximately Precision and Recall Learning [60.00180898830079]
機械学習における重要な課題は、一方的なフィードバックの頻度である。
本稿では,確率的近似(PAC)フレームワークを導入し,各入力をラベルの集合にマッピングする仮説を定めている。
我々は、正のデータのみから学習する新しいアルゴリズムを開発し、実現可能な場合において最適なサンプル複雑性を実現する。
論文 参考訳(メタデータ) (2024-11-20T04:21:07Z) - Generalization bounds for regression and classification on adaptive covering input domains [1.4141453107129398]
一般化誤差の上限となる一般化境界に着目する。
分類タスクの場合、対象関数を1ホット、ピースワイド定数関数として扱い、誤差測定に0/1ロスを用いる。
論文 参考訳(メタデータ) (2024-07-29T05:40:08Z) - Generating Unbiased Pseudo-labels via a Theoretically Guaranteed
Chebyshev Constraint to Unify Semi-supervised Classification and Regression [57.17120203327993]
分類におけるしきい値と擬似ラベルプロセス(T2L)は、ラベルの品質を決定するために信頼性を使用する。
本質的には、レグレッションは高品質なラベルを生成するためにバイアスのない方法も必要である。
チェビシェフの不等式に基づく不偏ラベルを生成するための理論的に保証された制約を提案する。
論文 参考訳(メタデータ) (2023-11-03T08:39:35Z) - Deep Imbalanced Regression via Hierarchical Classification Adjustment [50.19438850112964]
コンピュータビジョンにおける回帰タスクは、しばしば、対象空間をクラスに定量化することで分類される。
トレーニングサンプルの大多数は目標値の先頭にあるが、少数のサンプルは通常より広い尾幅に分布する。
不均衡回帰タスクを解くために階層型分類器を構築することを提案する。
不均衡回帰のための新しい階層型分類調整(HCA)は,3つのタスクにおいて優れた結果を示す。
論文 参考訳(メタデータ) (2023-10-26T04:54:39Z) - Mitigating Word Bias in Zero-shot Prompt-based Classifiers [55.60306377044225]
一致したクラス先行は、オラクルの上界性能と強く相関していることを示す。
また,NLPタスクに対するプロンプト設定において,一貫したパフォーマンス向上を示す。
論文 参考訳(メタデータ) (2023-09-10T10:57:41Z) - Binary Classification from Multiple Unlabeled Datasets via Surrogate Set
Classification [94.55805516167369]
我々は m 個の U 集合を $mge2$ で二進分類する新しい手法を提案する。
我々のキーとなる考え方は、サロゲート集合分類(SSC)と呼ばれる補助的分類タスクを考えることである。
論文 参考訳(メタデータ) (2021-02-01T07:36:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。