論文の概要: Random Feature Pruning for Multi-Class Classification

• arxiv url: http://arxiv.org/abs/2610.15101v1
• Date: Sat, 10 Oct 2026 18:21:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 02:34:15.705313
• Title: Random Feature Pruning for Multi-Class Classification
• Title（参考訳）: 複数クラス分類のためのランダム・フィーチャー・プルーニング
• Abstract要約: ランダムキッチンシンクの重み付け和(W-RKS)は、教師付き学習タスクにおいて一般的に用いられる特徴抽出手法である。 この方法の大きな欠点は、多くの抽出されたランダムな特徴の冗長性と非効率性である。 本稿では,多クラス分類問題における冗長性を低減するための効率的な手法について検討する。
• 参考スコア（独自算出の注目度）: 19.17140426467948
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Weighted sums of random kitchen sinks (W-RKS) is a commonly used feature extraction technique for supervised learning tasks. A major drawback of this method is the redundancy and ineffectiveness of many extracted random features. This paper investigates efficient methods for reducing such redundancy in multi-class classification problems. We specifically formulate feature selection as a variant of the sequentially nested model selection problem and introduce the Successive Empirical Excess Risk Difference Maximization (SEED-MAX) algorithm. It recursively computes empirical risks to identify the most parsimonious yet informative set of features. We derive an analytical lower bound for the probability of correct feature selection by the SEED-MAX algorithm. This lower bound on the probability of correct feature selection can be made arbitrarily close to one by increasing the training dataset size. To further enhance the rate of pruning, we evaluate the features retained by SEED-MAX using the Fisher test (F-Test). Empirical evaluations on UCR time-series classification datasets show that the sequential application of SEED-MAX with the Fisher test achieves approximately 92 percent rate of pruning with negligible degradation in classification accuracy. Implementations of the SEED-MAX and SEED-MAX-F-Test methods are available at https://github.com/OmidiAmin/seed-max-ftest.
• Abstract（参考訳）: ランダムキッチンシンクの重み付け和(W-RKS)は、教師付き学習タスクにおいて一般的に用いられる特徴抽出手法である。 この方法の大きな欠点は、多くの抽出されたランダムな特徴の冗長性と非効率性である。 本稿では,多クラス分類問題における冗長性を低減するための効率的な手法について検討する。 具体的には、連続ネストモデル選択問題の変種として特徴選択を定式化し、逐次的経験的リスク差最大化(SEED-MAX)アルゴリズムを導入する。 経験的リスクを再帰的に計算し、最も同義的だが情報に富んだ特徴を識別する。 また,SEED-MAXアルゴリズムを用いて,正しい特徴選択の確率に対する解析的下界を導出する。 この、正しい特徴選択の確率の低い境界は、トレーニングデータセットサイズを増大させることで、任意に1に近づくことができる。 刈り取り速度をさらに高めるため,Fisher test (F-Test) を用いてSEED-MAXが保持する特徴を評価した。 UCR時系列分類データセットの実証評価により,SEED-MAXのフィッシャー試験による逐次適用は,分類精度が無視できるほど劣化し,約92%のプルーニングを達成できた。 SEED-MAXとSEED-MAX-F-Testメソッドの実装はhttps://github.com/OmidiAmin/seed-max-ftestで公開されている。

関連論文リスト

• Probabilistic Multi-Source Data Selection via Learnable Categorical Priors: Variance Reduction and Guaranteed Derandomization [59.701780470926074]
  バイレベルデータ選択は、機械学習と統計学における多くの応用における基本的なタスクである。 本稿では,マルチソースバイレベルデータ選択問題に対する新しい確率緩和法を提案する。 我々のキーとなる考え方は、複数の学習可能なカテゴリ先を導入し、実現可能なデータサブセットでのみサポートされている確率分布をパラメータ化することである。
  論文  参考訳（メタデータ） (2026-10-10T14:14:34Z)
• Fast Model Selection and Stable Optimization for Softmax-Gated Multinomial-Logistic Mixture of Experts Models [40.216463162163976]
  我々は,ソフトマックスゲート型マルチミリ波観測用MoEのバッチ最小化最適化アルゴリズムを開発した。 また,条件密度推定とパラメータ回復のための有限サンプル率も証明した。 生物学的タンパク質-タンパク質相互作用予測実験は、完全なパイプラインを検証する。
  論文  参考訳（メタデータ） (2026-02-08T14:45:41Z)
• Adaptive Sampled Softmax with Inverted Multi-Index: Methods, Theory and Applications [79.53938312089308]
  MIDX-Samplerは、逆多重インデックスアプローチに基づく新しい適応型サンプリング戦略である。 本手法は, サンプリングバイアス, 勾配バイアス, 収束速度, 一般化誤差境界などの重要な問題に対処するため, 厳密な理論的解析によって裏付けられている。
  論文  参考訳（メタデータ） (2025-01-15T04:09:21Z)
• Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
  凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。 このような問題は医学、物理学、機械学習で発生する。 両種類の雑音下で提案アルゴリズムの収束保証を行う。
  論文  参考訳（メタデータ） (2024-11-21T10:26:17Z)
• Efficient Learning of Minimax Risk Classifiers in High Dimensions [3.093890460224435]
  高次元データは、医療やゲノム学など、数万もの特徴を持つ領域で一般的である。 本稿では,このような手法を用いて,最近提案されたミニマックスリスク分類器の効率的な学習アルゴリズムを提案する。 複数の高次元データセットに対する実験により,提案アルゴリズムは高次元シナリオにおいて効率的であることが示された。
  論文  参考訳（メタデータ） (2023-06-11T11:08:20Z)
• Generalized Differentiable RANSAC [95.95627475224231]
  $nabla$-RANSACは、ランダム化された堅牢な推定パイプライン全体を学ぶことができる、微分可能なRANSACである。 $nabla$-RANSACは、精度という点では最先端のシステムよりも優れているが、精度は低い。
  論文  参考訳（メタデータ） (2022-12-26T15:13:13Z)
• Distinction Maximization Loss: Efficiently Improving Classification Accuracy, Uncertainty Estimation, and Out-of-Distribution Detection Simply Replacing the Loss and Calibrating [2.262407399039118]
  我々は、DisMax損失を用いた決定論的深層ニューラルネットワークのトレーニングを提案する。 DisMaxは通常、分類精度、不確実性推定、推論効率、アウト・オブ・ディストリビューション検出において、全ての現在のアプローチを同時に上回る。
  論文  参考訳（メタデータ） (2022-05-12T04:37:35Z)
• Robust Multi-class Feature Selection via $l_{2,0}$-Norm Regularization Minimization [6.41804410246642]
  特徴選択は、データマイニングと機械学習において重要な計算処理である。 本稿では,複数クラスの特徴選択における最小二乗問題の解法として,ホモシーハードしきい値(HIHT)に基づく新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-08T02:06:06Z)
• Adaptive Sampling for Best Policy Identification in Markov Decision Processes [79.4957965474334]
  本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。 最先端アルゴリズムの利点を論じ、解説する。
  論文  参考訳（メタデータ） (2020-09-28T15:22:24Z)
• Stepwise Model Selection for Sequence Prediction via Deep Kernel Learning [100.83444258562263]
  本稿では,モデル選択の課題を解決するために,新しいベイズ最適化(BO)アルゴリズムを提案する。 結果として得られる複数のブラックボックス関数の最適化問題を協調的かつ効率的に解くために,ブラックボックス関数間の潜在的な相関を利用する。 我々は、シーケンス予測のための段階的モデル選択(SMS)の問題を初めて定式化し、この目的のために効率的な共同学習アルゴリズムを設計し、実証する。
  論文  参考訳（メタデータ） (2020-01-12T09:42:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。