論文の概要: AFS-BM: Enhancing Model Performance through Adaptive Feature Selection with Binary Masking

• arxiv url: http://arxiv.org/abs/2401.11250v1
• Date: Sat, 20 Jan 2024 15:09:41 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-23 17:19:16.253390
• Title: AFS-BM: Enhancing Model Performance through Adaptive Feature Selection with Binary Masking
• Title（参考訳）: AFS-BM: バイナリマスキングによる適応的特徴選択によるモデル性能の向上
• Authors: Mehmet Y. Turali, Mehmet E. Lorasdagi, Ali T. Koc and Suleyman S. Kozat
• Abstract要約: 連立マスキングによる適応的特徴選択(AFS-BM)について紹介する トレーニングプロセス中に特徴セットとモデルパラメータを継続的に適応するために、共同最適化とバイナリマスキングを実施します。 以上の結果から,AFS-BMの精度は大幅に向上し,計算量も大幅に削減された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study the problem of feature selection in general machine learning (ML) context, which is one of the most critical subjects in the field. Although, there exist many feature selection methods, however, these methods face challenges such as scalability, managing high-dimensional data, dealing with correlated features, adapting to variable feature importance, and integrating domain knowledge. To this end, we introduce the ``Adaptive Feature Selection with Binary Masking" (AFS-BM) which remedies these problems. AFS-BM achieves this by joint optimization for simultaneous feature selection and model training. In particular, we do the joint optimization and binary masking to continuously adapt the set of features and model parameters during the training process. This approach leads to significant improvements in model accuracy and a reduction in computational requirements. We provide an extensive set of experiments where we compare AFS-BM with the established feature selection methods using well-known datasets from real-life competitions. Our results show that AFS-BM makes significant improvement in terms of accuracy and requires significantly less computational complexity. This is due to AFS-BM's ability to dynamically adjust to the changing importance of features during the training process, which an important contribution to the field. We openly share our code for the replicability of our results and to facilitate further research.
• Abstract（参考訳）: 本稿では,機械学習(ml)コンテキストにおける特徴選択の問題について検討する。 しかし,これらの手法はスケーラビリティ,高次元データ管理,特徴の相関処理,特徴の多様性への適応,ドメイン知識の統合といった課題に直面している。 この目的のために,これらの問題を是正する「二項マスキングによる適応的特徴選択(AFS-BM)」を導入する。 AFS-BMは、同時特徴選択とモデルトレーニングのための共同最適化によってこれを達成している。 特に、トレーニングプロセス中に特徴とモデルパラメータの集合を継続的に適応させるために、共同最適化とバイナリマスクを行う。 このアプローチはモデル精度の大幅な向上と計算要件の削減につながる。 afs-bmと確立された特徴選択法を比較し,実生活の競争から得られたよく知られたデータセットを用いて実験を行った。 以上の結果から,AFS-BMの精度は大幅に向上し,計算量も大幅に削減された。 これは、AFS-BMが訓練過程における機能の重要性の変化を動的に調整できるためであり、この分野に重要な貢献をしている。 結果の複製性に関するコードをオープンに共有し、さらなる研究を促進する。

関連論文リスト

• FedCAda: Adaptive Client-Side Optimization for Accelerated and Stable Federated Learning [57.38427653043984]
  フェデレートラーニング(FL)は、分散クライアント間の機械学習モデルの協調トレーニングにおいて、顕著なアプローチとして登場した。 我々は,この課題に対処するために設計された,革新的なクライアント適応アルゴリズムであるFedCAdaを紹介する。 我々はFedCAdaが適応性、収束性、安定性、全体的な性能の点で最先端の手法より優れていることを実証する。
  論文  参考訳（メタデータ） (2024-05-20T06:12:33Z)
• LESS: Selecting Influential Data for Targeted Instruction Tuning [64.78894228923619]
  本稿では,データの影響を推定し,命令データ選択のための低ランクグレーディエント類似度探索を行うアルゴリズムであるLESSを提案する。 LESS選択したデータの5%のトレーニングは、さまざまなダウンストリームタスクにわたる完全なデータセットでのトレーニングよりも優れています。 我々の方法は、意図した下流アプリケーションに必要な推論スキルを識別するために、表面的なフォームキューを超えています。
  論文  参考訳（メタデータ） (2024-02-06T19:18:04Z)
• Embedded feature selection in LSTM networks with multi-objective evolutionary ensemble learning for time series forecasting [49.1574468325115]
  本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。 本手法はLSTMの重みと偏りを分割的に最適化する。 イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
  論文  参考訳（メタデータ） (2023-12-29T08:42:10Z)
• FAStEN: An Efficient Adaptive Method for Feature Selection and Estimation in High-Dimensional Functional Regressions [7.674715791336311]
  本稿では,スパース関数オン・ファンクション回帰問題において特徴選択を行うための,新しい,柔軟な,超効率的なアプローチを提案する。 我々はそれをスカラー・オン・ファンクション・フレームワークに拡張する方法を示す。 AOMIC PIOP1による脳MRIデータへの応用について述べる。
  論文  参考訳（メタデータ） (2023-03-26T19:41:17Z)
• Learning to Maximize Mutual Information for Dynamic Feature Selection [13.821253491768168]
  本稿では,現在利用可能な情報に基づいてモデルを逐次クエリする動的特徴選択(DFS)問題を考察する。 条件付き相互情報に基づいて,特徴を欲求的に選択する,よりシンプルなアプローチについて検討する。 提案手法は,最適性を訓練した際の欲求を回復し,既存の特徴選択法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-02T08:31:56Z)
• Traceable Automatic Feature Transformation via Cascading Actor-Critic Agents [25.139229855367088]
  特徴変換は機械学習(ML)の有効性と解釈可能性を高めるための必須課題である 特徴変換タスクを、特徴生成と選択の反復的、ネストされたプロセスとして定式化する。 高次元データにおけるSOTAとロバスト性と比較すると,F1スコアの24.7%の改善が見られた。
  論文  参考訳（メタデータ） (2022-12-27T08:20:19Z)
• Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
  マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。 我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。 コア最適化問題の実用的なパラメトリゼーションを提供する。
  論文  参考訳（メタデータ） (2021-07-08T18:01:02Z)
• A User-Guided Bayesian Framework for Ensemble Feature Selection in Life Science Applications (UBayFS) [0.0]
  本稿では,ベイズ統計フレームワークに組み込んだアンサンブル特徴選択手法UBayFSを提案する。 提案手法は,データとドメイン知識の2つの情報源を考慮し,特徴選択のプロセスを強化する。 標準的な機能セレクタとの比較では、UBayFSは競争力のあるパフォーマンスを実現し、ドメイン知識を組み込むための柔軟性を提供する。
  論文  参考訳（メタデータ） (2021-04-30T06:51:33Z)
• Optimization-driven Machine Learning for Intelligent Reflecting Surfaces Assisted Wireless Networks [82.33619654835348]
  インテリジェントサーフェス(IRS)は、個々の散乱素子の位相シフトを制御して無線チャネルを再形成するために用いられる。 散乱素子の規模が大きいため、受動ビームフォーミングは一般に高い計算複雑性によって挑戦される。 本稿では、IRS支援無線ネットワークの性能向上のための機械学習(ML)アプローチに焦点を当てる。
  論文  参考訳（メタデータ） (2020-08-29T08:39:43Z)
• Deep Multi-task Multi-label CNN for Effective Facial Attribute Classification [53.58763562421771]
  DMM-CNN(ディープ・マルチタスク・マルチラベル・CNN)による効果的な顔属性分類(FAC)を提案する。 具体的には、DMM-CNNは、2つの密接に関連するタスク(顔のランドマーク検出とFAC)を共同で最適化し、マルチタスク学習を活用することにより、FACの性能を向上させる。 2つの異なるネットワークアーキテクチャは2つの属性のグループの特徴を抽出するために設計され、トレーニング中に各顔属性に損失重みを自動的に割り当てる新しい動的重み付け方式が提案されている。
  論文  参考訳（メタデータ） (2020-02-10T12:34:16Z)
• Feature Selection Library (MATLAB Toolbox) [1.2058143465239939]
  Feature Selection Library (FSLib) には、FSアルゴリズムの包括的なスイートが導入されている。 FSLibは次元の呪いに対処し、計算負荷を減らし、モデルの一般化性を高める。 FSLibは、重要な特徴を明らかにし、パターン認識と理解を支援することで、データの解釈可能性に貢献している。
  論文  参考訳（メタデータ） (2016-07-05T16:50:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。