論文の概要: Random Forest Variable Importance-based Selection Algorithm in Class Imbalance Problem

• arxiv url: http://arxiv.org/abs/2312.10573v1
• Date: Sun, 17 Dec 2023 01:11:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-19 15:41:54.544647
• Title: Random Forest Variable Importance-based Selection Algorithm in Class Imbalance Problem
• Title（参考訳）: クラス不均衡問題におけるランダムフォレスト変数重要度に基づく選択アルゴリズム
• Authors: Yunbi Nam and Sunwoo Han
• Abstract要約: クラスバランスがRF変数の重要度に及ぼす影響について検討する。 RF変数の重要度とその信頼区間を利用した変数選択アルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Random Forest is a machine learning method that offers many advantages, including the ability to easily measure variable importance. Class balancing technique is a well-known solution to deal with class imbalance problem. However, it has not been actively studied on RF variable importance. In this paper, we study the effect of class balancing on RF variable importance. Our simulation results show that over-sampling is effective in correctly measuring variable importance in class imbalanced situations with small sample size, while under-sampling fails to differentiate important and non-informative variables. We then propose a variable selection algorithm that utilizes RF variable importance and its confidence interval. Through an experimental study using many real and artificial datasets, we demonstrate that our proposed algorithm efficiently selects an optimal feature set, leading to improved prediction performance in class imbalance problem.
• Abstract（参考訳）: Random Forestは、変数の重要度を簡単に測定する機能を含む、多くの利点を提供する機械学習手法である。 クラスバランシングテクニックは、クラス不均衡問題に対処するためのよく知られたソリューションです。 しかし、RF変数の重要性について活発に研究されていない。 本稿では,クラスバランスがRF変動重要度に及ぼす影響について検討する。 シミュレーションの結果,アンダーサンプリングは重要変数と非情報変数の区別に失敗する一方で,クラス不均衡状況における変数重要度を小サンプルサイズで正確に測定する上で有効であることが示された。 次に、RF変数の重要度とその信頼区間を利用した変数選択アルゴリズムを提案する。 多くの実データと人工データを用いた実験により,提案アルゴリズムは最適な特徴集合を効率よく選択し,クラス不均衡問題における予測性能を向上することを示した。

関連論文リスト

• Model-independent variable selection via the rule-based variable priority [1.2771542695459488]
  モデルに依存しない新しいアプローチである可変優先度(VarPro)を導入する。 VarProは、人工データを生成したり、予測エラーを評価することなく、ルールを活用する。 VarProはノイズ変数に対して一貫したフィルタリング特性を持つことを示す。
  論文  参考訳（メタデータ） (2024-09-13T17:32:05Z)
• An Adaptive Cost-Sensitive Learning and Recursive Denoising Framework for Imbalanced SVM Classification [12.986535715303331]
  カテゴリー不均衡は、分類分野において最も人気があり重要な問題の一つである。 不均衡データセットに基づいてトレーニングされた感情分類モデルは、容易に信頼性の低い予測につながる。
  論文  参考訳（メタデータ） (2024-03-13T09:43:14Z)
• Optimizing for ROC Curves on Class-Imbalanced Data by Training over a Family of Loss Functions [3.06506506650274]
  重度のクラス不均衡の下で信頼性の高い分類器を訓練することは、コンピュータビジョンにおいて難しい問題である。 近年の研究では、損失関数や最適化方法の変更により、不均衡下でのトレーニングの効果を緩和する手法が提案されている。 単一損失関数ではなく、損失関数の族に対するトレーニングを提案する。
  論文  参考訳（メタデータ） (2024-02-08T04:31:21Z)
• Adaptive Robust Learning using Latent Bernoulli Variables [50.223140145910904]
  破損したトレーニングセットから学習するための適応的なアプローチを提案する。 我々は,潜伏したベルヌーイ変数を持つ崩壊した非破壊標本を同定した。 結果の問題は変分推論によって解決される。
  論文  参考訳（メタデータ） (2023-12-01T13:50:15Z)
• Effect of hyperparameters on variable selection in random forests [0.0]
  ランダムフォレスト(RF)は、高次元オミクス研究において、予測モデリングと変分選択によく適している。 理論的分布と経験的遺伝子発現データを用いた2つのシミュレーション研究に基づいて,VitaおよびBoruta変数選択法の効果を評価する。
  論文  参考訳（メタデータ） (2023-09-13T13:26:10Z)
• Improve Noise Tolerance of Robust Loss via Noise-Awareness [60.34670515595074]
  本稿では,NARL-Adjuster(NARL-Adjuster for brevity)と呼ばれる,ハイパーパラメータ予測関数を適応的に学習するメタラーニング手法を提案する。 4つのSOTAロバストな損失関数を我々のアルゴリズムに統合し,提案手法の一般性および性能をノイズ耐性と性能の両面で検証した。
  論文  参考訳（メタデータ） (2023-01-18T04:54:58Z)
• A Computational Exploration of Emerging Methods of Variable Importance Estimation [0.0]
  変数の重要性を推定することは、現代の機械学習において必須のタスクである。 本稿では,変数重要度推定の新しい手法の計算的および理論的検討を提案する。 この結果から,PERFは相関性の高いデータでは最高の性能を示した。
  論文  参考訳（メタデータ） (2022-08-05T20:00:56Z)
• CMW-Net: Learning a Class-Aware Sample Weighting Mapping for Robust Deep Learning [55.733193075728096]
  現代のディープニューラルネットワークは、破損したラベルやクラス不均衡を含むバイアス付きトレーニングデータに容易に適合する。 サンプル再重み付け手法は、このデータバイアス問題を緩和するために一般的に使用されている。 本稿では,データから直接明示的な重み付け方式を適応的に学習できるメタモデルを提案する。
  論文  参考訳（メタデータ） (2022-02-11T13:49:51Z)
• Can Active Learning Preemptively Mitigate Fairness Issues? [66.84854430781097]
  データセットバイアスは、機械学習における不公平な原因の1つです。 不確実性に基づくALで訓練されたモデルが保護クラスの決定において公平であるかどうかを検討する。 また,勾配反転(GRAD)やBALDなどのアルゴリズム的公正性手法の相互作用についても検討する。
  論文  参考訳（メタデータ） (2021-04-14T14:20:22Z)
• Sampling-free Variational Inference for Neural Networks with Multiplicative Activation Noise [51.080620762639434]
  サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。 提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
  論文  参考訳（メタデータ） (2021-03-15T16:16:18Z)
• Hidden Cost of Randomized Smoothing [72.93630656906599]
  本稿では、現在のランダム化平滑化による副作用を指摘する。 具体的には,1)スムーズな分類器の決定境界が小さくなり,クラスレベルでの精度の相違が生じること,2)学習過程における雑音増強の適用は,一貫性のない学習目的による縮小問題を必ずしも解決しない,という2つの主要なポイントを具体化し,証明する。
  論文  参考訳（メタデータ） (2020-03-02T23:37:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。