論文の概要: Multiclass Classification with Rare Useful Features: Fundamental Limits and the Optimality of Diversity Pursuit Higher Criticism Thresholding

• arxiv url: http://arxiv.org/abs/2611.02255v1
• Date: Sun, 01 Nov 2026 22:19:49 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:18:09.971651
• Title: Multiclass Classification with Rare Useful Features: Fundamental Limits and the Optimality of Diversity Pursuit Higher Criticism Thresholding
• Title（参考訳）: 有意義な特徴を用いた多クラス分類 : 基本的限界と多様性保護の最適性
• Abstract要約: 高次元の特徴空間における分類について考察する。 我々は,ほとんどの特徴が役に立たない稀な特徴多様性モデルに焦点をあてるが,少数の特徴は,機能ごとの多様性テストによって検出可能な方法で,クラス間の差別を促進する。
• 参考スコア（独自算出の注目度）: 3.724127405825709
• License:
• Abstract: We consider classification in high-dimensional feature spaces where only a vanishing fraction of features are useful and the number of classes may be large. While this rare-and-weak useful-feature regime is well understood in the binary setting, its multiclass version raises new questions: a feature can be useful for class discrimination without separating any specific pair of classes. We focus on a rare feature diversity model, in which most features are useless, but a small fraction promote discrimination among classes in a way that can be detected by a per-feature diversity test, such as one-way ANOVA or the Kruskal-Wallis test. For this setting, we propose Diversity Pursuit Higher Criticism Thresholding (DP-HCT), a feature-screening procedure that applies a higher-criticism threshold to the collection of p-values obtained from per-feature diversity tests. We justify DP-HCT under a Gaussian multiclass Rare-and-Weak Useful Feature model with class-mean contrasts of fixed magnitude in random directions, extending the binary model of Donoho and Jin (2008). When the number of classes is fixed, our model recovers the binary phase transition. When the number of classes grows logarithmically with the number of features, however, we derive a new and strictly harder phase transition, driven by the growing degrees of freedom and their effect on the useful-feature tail rate. We show that whenever classification beyond chance is possible, DP-HCT with ANOVA, followed by a simple classifier based on similarity to class means, achieves asymptotically perfect accuracy. Experiments on real multiclass classification benchmarks demonstrate substantial improvements, and numerical simulations confirm that the derived phase-transition curve accurately predicts the finite-sample behavior of DP-HCT in the growing-class regime.
• Abstract（参考訳）: 高次元特徴空間の分類について考察するが、その特徴の欠落分だけは有用であり、クラスの数も大きい可能性がある。 この稀で弱い有用な機能体制はバイナリ設定でよく理解されているが、そのマルチクラスバージョンは、新しい疑問を提起している。 我々は,ほとんどの特徴が役に立たない稀な特徴多様性モデルに焦点をあてるが,一方通行のANOVAやKruskal-Wallisテストなど,機能ごとの多様性テストによって検出可能な方法で,クラス間の差別を促進することは少ない。 そこで本研究では, 機能ごとの多様性検査から得られたp値の収集に高批判閾値を適用した特徴スクリーニング手法であるDiversity Pursuit Higher Criticism Thresholding (DP-HCT)を提案する。 DP-HCT はガウス的多クラス Rare-and-Weak Useful Feature モデルの下で,ランダムな方向における一定等級のクラス平均コントラストで正当化し,ドノホとジンのバイナリモデルを拡張した(2008)。 クラスの数が固定されると、モデルがバイナリフェーズ遷移を回復します。 しかし、特徴数とともにクラス数が対数的に増加すると、自由度の増加と有用なテールレートに対するそれらの影響によって、新しいより厳密な位相遷移が導かれる。 ANOVAを用いたDP-HCTでは,確率を超える分類が可能であればいつでも,クラス平均と類似性に基づく単純な分類器が,漸近的に完全であることを示す。 実マルチクラス分類ベンチマーク実験により, 位相遷移曲線がDP-HCTの有限サンプル挙動を正確に予測できることを数値シミュレーションにより確認した。

関連論文リスト

• CoinSeg: Contrast Inter- and Intra- Class Representations for Incremental Segmentation [85.13209973293229]
  クラスインクリメンタルセマンティックセグメンテーションは、モデルの安定性と可塑性のバランスをとることを目的としている。 インクリメンタル(CoinSeg)のためのコントラスト間およびクラス内表現を提案する。
  論文  参考訳（メタデータ） (2023-10-10T07:08:49Z)
• FeCAM: Exploiting the Heterogeneity of Class Distributions in Exemplar-Free Continual Learning [21.088762527081883]
  Exemplar-free class-incremental learning (CIL)は、以前のタスクからのデータのリハーサルを禁止しているため、いくつかの課題がある。 第1タスクの後に特徴抽出器を凍結して分類器を漸進的に学習する手法が注目されている。 凍結した特徴抽出器を用いて新しいクラスプロトタイプを生成するCILのプロトタイプネットワークを探索し,プロトタイプとのユークリッド距離に基づいて特徴を分類する。
  論文  参考訳（メタデータ） (2023-09-25T11:54:33Z)
• A Multi-Class SWAP-Test Classifier [0.0]
  この研究は、そのバイナリ前駆体と最近の研究におけるラベル状態の使用に触発された最初のマルチクラスSWAP-Test分類器を示す。 従来の研究とは対照的に、必要な量子ビット数、測定戦略、使用する回路の位相はクラス数に不変である。 解析結果と数値シミュレーションの両方で、この分類器は多様な分類問題に適用されるだけでなく、特定の雑音に対して堅牢であることが示された。
  論文  参考訳（メタデータ） (2023-02-06T18:31:43Z)
• Parametric Classification for Generalized Category Discovery: A Baseline Study [70.73212959385387]
  Generalized Category Discovery (GCD)は、ラベル付きサンプルから学習した知識を用いて、ラベルなしデータセットで新しいカテゴリを発見することを目的としている。 パラメトリック分類器の故障を調査し,高品質な監視が可能であった場合の過去の設計選択の有効性を検証し,信頼性の低い疑似ラベルを重要課題として同定する。 エントロピー正規化の利点を生かし、複数のGCDベンチマークにおける最先端性能を実現し、未知のクラス数に対して強いロバスト性を示す、単純で効果的なパラメトリック分類法を提案する。
  論文  参考訳（メタデータ） (2022-11-21T18:47:11Z)
• Exploring Category-correlated Feature for Few-shot Image Classification [27.13708881431794]
  本稿では,従来の知識として,新しいクラスとベースクラスのカテゴリ相関を探索し,シンプルで効果的な特徴補正手法を提案する。 提案手法は, 広く使用されている3つのベンチマークにおいて, 一定の性能向上が得られる。
  論文  参考訳（メタデータ） (2021-12-14T08:25:24Z)
• When in Doubt: Improving Classification Performance with Alternating Normalization [57.39356691967766]
  分類のための非パラメトリック後処理ステップである交互正規化(CAN)を用いた分類を導入する。 CANは、予測されたクラス確率分布を再調整することで、挑戦的な例の分類精度を向上させる。 多様な分類課題にまたがってその効果を実証的に示す。
  論文  参考訳（メタデータ） (2021-09-28T02:55:42Z)
• Improving Calibration for Long-Tailed Recognition [68.32848696795519]
  このようなシナリオにおけるキャリブレーションとパフォーマンスを改善する2つの方法を提案します。 異なるサンプルによるデータセットバイアスに対して,シフトバッチ正規化を提案する。 提案手法は,複数の長尾認識ベンチマークデータセットに新しいレコードをセットする。
  論文  参考訳（メタデータ） (2021-04-01T13:55:21Z)
• Learning Class Regularized Features for Action Recognition [68.90994813947405]
  本稿では,階層活性化のクラスベース正規化を行うクラス正規化手法を提案する。 動作認識に最先端CNNアーキテクチャのクラス正規化ブロックを用いることで,Kineetics,UCF-101,HMDB-51データセットにおいて,それぞれ1.8%,1.2%,1.4%の体系的改善が得られた。
  論文  参考訳（メタデータ） (2020-02-07T07:27:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。