論文の概要: Feature Importance Ranking for Deep Learning

• arxiv url: http://arxiv.org/abs/2010.08973v1
• Date: Sun, 18 Oct 2020 12:20:27 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-06 03:49:21.320810
• Title: Feature Importance Ranking for Deep Learning
• Title（参考訳）: 深層学習における重要度ランキング
• Authors: Maksymilian Wojtas and Ke Chen
• Abstract要約: 固定サイズの最適特徴部分集合を探索するための演算子とセレクタからなる新しいデュアルネットアーキテクチャを提案する。 学習中、オペレータは、セレクタによって生成された最適な特徴サブセット候補を介して教師付き学習タスクのために訓練される。 デプロイメントでは、セレクタが最適な特徴サブセットを生成し、機能の重要性をランク付けする一方、オペレータはテストデータの最適なサブセットに基づいて予測を行う。
• 参考スコア（独自算出の注目度）: 7.287652818214449
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Feature importance ranking has become a powerful tool for explainable AI. However, its nature of combinatorial optimization poses a great challenge for deep learning. In this paper, we propose a novel dual-net architecture consisting of operator and selector for discovery of an optimal feature subset of a fixed size and ranking the importance of those features in the optimal subset simultaneously. During learning, the operator is trained for a supervised learning task via optimal feature subset candidates generated by the selector that learns predicting the learning performance of the operator working on different optimal subset candidates. We develop an alternate learning algorithm that trains two nets jointly and incorporates a stochastic local search procedure into learning to address the combinatorial optimization challenge. In deployment, the selector generates an optimal feature subset and ranks feature importance, while the operator makes predictions based on the optimal subset for test data. A thorough evaluation on synthetic, benchmark and real data sets suggests that our approach outperforms several state-of-the-art feature importance ranking and supervised feature selection methods. (Our source code is available: https://github.com/maksym33/FeatureImportanceDL)
• Abstract（参考訳）: 機能の重要度ランキングは、説明可能なAIの強力なツールになっている。 しかし、組合せ最適化の性質はディープラーニングにとって大きな課題となる。 本稿では,固定サイズの最適特徴部分集合の発見と,それらの特徴の重要性を同時にランク付けするための演算子とセレクタからなる,新しいデュアルネットアーキテクチャを提案する。 学習中、オペレータは、異なる最適なサブセット候補に取り組んでいるオペレータの学習性能を予測するセレクタによって生成された最適な特徴サブセット候補を介して教師付き学習タスクのために訓練される。 本研究では,2つのネットを共同で学習し,確率的局所探索手順を学習に組み込んだ学習アルゴリズムを開発した。 配置では、セレクタは最適な機能サブセットを生成し、特徴の重要性をランク付けし、オペレータはテストデータに最適なサブセットに基づいて予測を行う。 合成,ベンチマーク,実データに関する徹底的な評価から,提案手法は,最先端の機能重要度ランキングや教師付き機能選択手法よりも優れていることが示唆された。 (ソースコードはhttps://github.com/maksym33/featureimportancedl)

関連論文リスト

• Optimally Improving Cooperative Learning in a Social Setting [4.200480236342444]
  個人所有の分類器を持つネットワークエージェントの集合を動的に更新する協調学習シナリオを考察する。 本稿では,集合目的関数を最適化するための時間アルゴリズムを示し,平等目的関数の最適化がNPハードであることを示す。 全てのアルゴリズムの性能は数学的解析によって保証され、合成データと実データの実験によって裏付けられている。
  論文  参考訳（メタデータ） (2024-05-31T14:07:33Z)
• Feature Selection as Deep Sequential Generative Learning [50.00973409680637]
  本研究では, 逐次再構成, 変分, 性能評価器の損失を伴って, 深部変分変圧器モデルを構築した。 提案モデルでは,特徴選択の知識を抽出し,連続的な埋め込み空間を学習し,特徴選択決定シーケンスをユーティリティスコアに関連付けられた埋め込みベクトルにマッピングする。
  論文  参考訳（メタデータ） (2024-03-06T16:31:56Z)
• Exact Combinatorial Optimization with Temporo-Attentional Graph Neural Networks [17.128882942475]
  本稿では,機械学習アルゴリズムの時間的特徴と注意点の2つの重要な側面について検討する。 分岐とバウンド(B&B)アルゴリズムにおける変数選択のタスクでは、時間情報と二部グラフの注意を組み込むことで、解法の性能が向上すると主張している。
  論文  参考訳（メタデータ） (2023-11-23T08:07:15Z)
• SortNet: Learning To Rank By a Neural-Based Sorting Algorithm [5.485151775727742]
  本稿では、ニューラルネットワークをコンパレータとしてオブジェクトを順序付けする適応的なランキングアルゴリズムであるSoltNetを提案する。 提案アルゴリズムをLETORデータセット上で評価し,他の手法と比較して有望な性能を示す。
  論文  参考訳（メタデータ） (2023-11-03T12:14:26Z)
• Representation Learning with Multi-Step Inverse Kinematics: An Efficient and Optimal Approach to Rich-Observation RL [106.82295532402335]
  既存の強化学習アルゴリズムは、計算的難易度、強い統計的仮定、最適なサンプルの複雑さに悩まされている。 所望の精度レベルに対して、レート最適サンプル複雑性を実現するための、最初の計算効率の良いアルゴリズムを提供する。 我々のアルゴリズムMusIKは、多段階の逆運動学に基づく表現学習と体系的な探索を組み合わせる。
  論文  参考訳（メタデータ） (2023-04-12T14:51:47Z)
• Improved Algorithms for Neural Active Learning [74.89097665112621]
  非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。 本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
  論文  参考訳（メタデータ） (2022-10-02T05:03:38Z)
• Meta-Wrapper: Differentiable Wrapping Operator for User Interest Selection in CTR Prediction [97.99938802797377]
  クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。 近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。 そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-06-28T03:28:15Z)
• Compactness Score: A Fast Filter Method for Unsupervised Feature Selection [66.84571085643928]
  本稿では,CSUFS (Compactness Score) と呼ばれる高速な教師なし特徴選択手法を提案する。 提案アルゴリズムは既存のアルゴリズムよりも正確で効率的である。
  論文  参考訳（メタデータ） (2022-01-31T13:01:37Z)
• Automated Human Activity Recognition by Colliding Bodies Optimization-based Optimal Feature Selection with Recurrent Neural Network [0.0]
  HAR(Human Activity Recognition)は、センサの読み取りから広範に計算を行う上で、効率的なモデルであると考えられている。 本稿では,UC Irvine Machine Learning Repository(UCI)で公開されているスマートセンサから収集したデータを用いて,ディープラーニングを用いたHARシステムの実装を誘致する。
  論文  参考訳（メタデータ） (2020-10-07T10:58:46Z)
• Fast Few-Shot Classification by Few-Iteration Meta-Learning [173.32497326674775]
  数ショット分類のための高速な最適化に基づくメタラーニング手法を提案する。 我々の戦略はメタ学習において学習すべき基礎学習者の目的の重要な側面を可能にする。 我々は、我々のアプローチの速度と効果を実証し、総合的な実験分析を行う。
  論文  参考訳（メタデータ） (2020-10-01T15:59:31Z)
• Outlier Detection Ensemble with Embedded Feature Selection [42.8338013000469]
  組込み特徴選択(ODEFS)を用いた外乱検出アンサンブルフレームワークを提案する。 各ランダムなサブサンプリングベースの学習コンポーネントに対して、ODEFSは、特徴選択と外れ値検出をペアのランキング式に統一する。 我々は、特徴選択と例選択を同時に最適化するために閾値付き自己評価学習を採用する。
  論文  参考訳（メタデータ） (2020-01-15T13:14:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。