Fugu-MT 論文翻訳(概要): Supervised Feature Selection with Neuron Evolution in Sparse Neural Networks

論文の概要: Supervised Feature Selection with Neuron Evolution in Sparse Neural Networks

arxiv url: http://arxiv.org/abs/2303.07200v2
Date: Tue, 14 Mar 2023 08:17:19 GMT
ステータス: 処理完了
システム内更新日: 2023-03-15 11:11:01.437219
Title: Supervised Feature Selection with Neuron Evolution in Sparse Neural Networks
Title（参考訳）: スパースニューラルネットワークにおけるニューロン進化による特徴選択の監督
Authors: Zahra Atashgahi, Xuhao Zhang, Neil Kichler, Shiwei Liu, Lu Yin, Mykola Pechenizkiy, Raymond Veldhuis, Decebal Constantin Mocanu
Abstract要約: スパースニューラルネットワークを用いた資源効率の高い新しい特徴選択法を提案する。スクラッチからトレーニングされたスパースニューラルネットワークの入力層から、不定形的特徴を徐々に抜き取ることにより、NeuroFSは、機能の情報的サブセットを効率的に導き出す。 NeuroFSは、最先端の教師付き特徴選択モデルの中で最上位のスコアを達成している。
参考スコア（独自算出の注目度）: 17.12834153477201
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Feature selection that selects an informative subset of variables from data not only enhances the model interpretability and performance but also alleviates the resource demands. Recently, there has been growing attention on feature selection using neural networks. However, existing methods usually suffer from high computational costs when applied to high-dimensional datasets. In this paper, inspired by evolution processes, we propose a novel resource-efficient supervised feature selection method using sparse neural networks, named \enquote{NeuroFS}. By gradually pruning the uninformative features from the input layer of a sparse neural network trained from scratch, NeuroFS derives an informative subset of features efficiently. By performing several experiments on $11$ low and high-dimensional real-world benchmarks of different types, we demonstrate that NeuroFS achieves the highest ranking-based score among the considered state-of-the-art supervised feature selection models. The code is available on GitHub.
Abstract（参考訳）: データから変数の有益サブセットを選択する機能選択は、モデル解釈性と性能を向上させるだけでなく、リソース要求を緩和する。近年,ニューラルネットワークを用いた特徴選択に注目が集まっている。しかし、既存の手法は通常、高次元データセットに適用すると高い計算コストを被る。本稿では,進化過程にインスパイアされたスパースニューラルネットワークを用いた資源効率の高い新しい特徴選択法である「enquote{NeuroFS}」を提案する。 NeuroFSは、スクラッチからトレーニングされたスパースニューラルネットワークの入力層から、不定形特徴を徐々に抜き取ることで、機能の情報サブセットを効率的に導き出す。異なるタイプの低次元および高次元の実世界のベンチマークを数回実施することにより、NeuroFSが最先端の教師付き特徴選択モデルの中で最高のスコアを獲得することを示す。コードはGitHubで入手できる。

関連論文リスト

Constraints on the design of neuromorphic circuits set by the properties of neural population codes [61.15277741147157]
脳内では、情報はコード化され、伝達され、行動を伝えるために使用される。ニューロモルフィック回路は、脳内のニューロンの集団が使用するものと互換性のある方法で情報を符号化する必要がある。
論文参考訳（メタデータ） (2022-12-08T15:16:04Z)
Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a Polynomial Net Study [55.12108376616355]
NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
論文参考訳（メタデータ） (2022-09-16T06:36:06Z)
A Synapse-Threshold Synergistic Learning Approach for Spiking Neural Networks [1.8556712517882232]
スパイキングニューラルネットワーク(SNN)は、さまざまなインテリジェントなシナリオにおいて優れた機能を示している。我々は,SNNにおけるシナプス重みとスパイク閾値を同時に訓練する新しいシナジスティック学習手法を開発した。
論文参考訳（メタデータ） (2022-06-10T06:41:36Z)
Neuroevolutionary Multi-objective approaches to Trajectory Prediction in Autonomous Vehicles [2.9552300389898094]
我々は、神経進化と進化的多目的最適化の共通点に焦点を当てる。本稿では,CNNとLong-Short Term Memoryネットワークからなる畳み込みニューラルネットワークについて検討する。これらの目的が、自律走行車における軌道予測のための神経進化において、肯定的または有害な効果を持つかを示す。
論文参考訳（メタデータ） (2022-05-04T15:03:26Z)
SIT: A Bionic and Non-Linear Neuron for Spiking Neural Network [12.237928453571636]
スパイキングニューラルネットワーク(SNN)は、時間的情報処理能力と消費電力の低さから、研究者の関心を喚起している。現在の最先端の手法は、ニューロンが単純な Leaky-Integrate-and-Fire (LIF) モデルに基づいて構築されているため、生物学的な可視性と性能を制限している。高レベルの動的複雑さのため、現代のニューロンモデルがSNNの実践で実装されることはめったにない。
論文参考訳（メタデータ） (2022-03-30T07:50:44Z)
Generalizable Machine Learning in Neuroscience using Graph Neural Networks [0.0]
ニューラルネットワークは、ニューロンレベルの動的予測と行動状態の分類の両方において、非常によく機能することを示す。実験の結果, グラフニューラルネットワークは構造モデルよりも優れ, 目に見えない生物の一般化に優れていた。
論文参考訳（メタデータ） (2020-10-16T18:09:46Z)
Complexity-based speciation and genotype representation for neuroevolution [81.21462458089142]
本稿では、進化するネットワークを隠されたニューロンの数に基づいて種に分類する神経進化の種分化原理を提案する。提案された種分化原理は、種および生態系全体における多様性の促進と保存を目的として設計されたいくつかの技術で採用されている。
論文参考訳（メタデータ） (2020-10-11T06:26:56Z)
Exploiting Heterogeneity in Operational Neural Networks by Synaptic Plasticity [87.32169414230822]
最近提案されたネットワークモデルであるオペレーショナルニューラルネットワーク(ONN)は、従来の畳み込みニューラルネットワーク(CNN)を一般化することができる。本研究では, 生体ニューロンにおける本質的な学習理論を示すSynaptic Plasticityパラダイムに基づいて, ネットワークの隠蔽ニューロンに対する最強演算子集合の探索に焦点をあてる。高難易度問題に対する実験結果から、神経細胞や層が少なくても、GISベースのONNよりも優れた学習性能が得られることが示された。
論文参考訳（メタデータ） (2020-08-21T19:03:23Z)
Modeling from Features: a Mean-field Framework for Over-parameterized Deep Neural Networks [54.27962244835622]
本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
論文参考訳（メタデータ） (2020-07-03T01:37:16Z)
Effective and Efficient Computation with Multiple-timescale Spiking Recurrent Neural Networks [0.9790524827475205]
本稿では,新しいタイプの適応スパイクリカレントニューラルネットワーク(SRNN)が,最先端の性能を実現する方法を示す。我々は、従来のRNNよりも難しいタスクにおいて、SRNNの100倍のエネルギー改善を計算します。
論文参考訳（メタデータ） (2020-05-24T01:04:53Z)
Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
XOR論理関数を100%精度で学習し, 標準的なニューロンに新しいアピカルデンドライト活性化(ADA)が続くことを示す。コンピュータビジョン,信号処理,自然言語処理の5つのベンチマークデータセットについて実験を行った。
論文参考訳（メタデータ） (2020-02-02T21:09:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。