論文の概要: Automatic Input Feature Relevance via Spectral Neural Networks
- arxiv url: http://arxiv.org/abs/2406.01183v2
- Date: Mon, 05 May 2025 07:48:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-06 18:49:34.961916
- Title: Automatic Input Feature Relevance via Spectral Neural Networks
- Title(参考訳): スペクトルニューラルネットワークによる自動入力特徴関連性
- Authors: Lorenzo Chicchi, Lorenzo Buffoni, Diego Febbe, Lorenzo Giambagli, Raffaele Marino, Duccio Fanelli,
- Abstract要約: 機械学習の実践では、より効率的な数値処理のためのコンパクトデータセットを得るために、関連する入力特徴を特定するのが有用であることが多い。
本稿では,ディープニューラルネットワークにおける入力成分の相対的重要性を推定する新しい手法を提案する。
- 参考スコア(独自算出の注目度): 0.9236074230806581
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In machine learning practice it is often useful to identify relevant input features, so as to obtain compact dataset for more efficient numerical handling. On the other hand, by isolating key input elements, ranked according their respective degree of relevance, can help to elaborate on the process of decision making. Here, we propose a novel method to estimate the relative importance of the input components for a Deep Neural Network. This is achieved by leveraging on a spectral re-parametrization of the optimization process. Eigenvalues associated to input nodes provide in fact a robust proxy to gauge the relevance of the supplied entry features. Notably, the spectral features ranking is performed automatically, as a byproduct of the network training, with no additional processing to be carried out. The technique is successfully challenged against both synthetic and real data.
- Abstract(参考訳): 機械学習の実践では、より効率的な数値処理のためのコンパクトデータセットを得るために、関連する入力特徴を特定するのが有用であることが多い。
一方、それぞれの関連度に応じてランク付けされたキー入力要素を分離することで、意思決定の過程を詳細に知ることができる。
本稿では,ディープニューラルネットワークにおける入力成分の相対的重要性を推定する新しい手法を提案する。
これは最適化プロセスのスペクトル再パラメータ化を活用することで達成される。
入力ノードに関連する固有値は、実際に供給されたエントリ特徴の関連性を評価するための堅牢なプロキシを提供する。
特に、ネットワークトレーニングの副産物として、スペクトル特徴ランキングを自動的に実行し、追加処理を行わない。
この手法は、合成データと実データの両方に対してうまく挑戦されている。
関連論文リスト
- Research on Optimizing Real-Time Data Processing in High-Frequency Trading Algorithms using Machine Learning [19.43972851292453]
本研究の目的は、高周波トレーディングアルゴリズムにおいて、データのリアルタイム処理を最適化することである。
動的特徴選択メカニズムは、市場データをリアルタイムで監視および分析する責任がある。
軽量ニューラルネットワークはモジュラー方式で設計されており、高速な畳み込み層とプルーニング技術を備えている。
論文 参考訳(メタデータ) (2024-12-02T02:46:10Z) - Iterative Feature Boosting for Explainable Speech Emotion Recognition [17.568724398229232]
本稿では,効率的な特徴工学手法に基づく新しい教師付きSER手法を提案する。
特徴の関連性を評価し,特徴セットを洗練させるために,結果の説明可能性に特に注意を払っている。
提案手法は,TESSデータセット上での感情認識において,ヒトレベルのパフォーマンス(HLP)および最先端の機械学習手法より優れる。
論文 参考訳(メタデータ) (2024-05-30T15:44:27Z) - Neural Network Pruning by Gradient Descent [7.427858344638741]
我々は,Gumbel-Softmaxテクニックを取り入れた,新しい,かつ簡単なニューラルネットワークプルーニングフレームワークを提案する。
ネットワークパラメータの0.15%しか持たないMNISTデータセット上で、高い精度を維持しながら、例外的な圧縮能力を実証する。
我々は,ディープラーニングプルーニングと解釈可能な機械学習システム構築のための,有望な新たな道を開くと信じている。
論文 参考訳(メタデータ) (2023-11-21T11:12:03Z) - Deep Feature Learning for Wireless Spectrum Data [0.5809784853115825]
本稿では,無線通信クラスタリングのための特徴表現を教師なしで学習する手法を提案する。
自動表現学習は,無線伝送バーストの形状を含む微細なクラスタを抽出できることを示す。
論文 参考訳(メタデータ) (2023-08-07T12:27:19Z) - Incrementally-Computable Neural Networks: Efficient Inference for
Dynamic Inputs [75.40636935415601]
ディープラーニングは、センサーデータやユーザ入力などの動的入力を効率的に処理するという課題に直面していることが多い。
インクリメンタルな計算アプローチを採用し、入力の変化に応じて計算を再利用する。
本稿では,この手法をトランスフォーマーアーキテクチャに適用し,修正入力の分数に比例した複雑性を持つ効率的なインクリメンタル推論アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-07-27T16:30:27Z) - Deep networks for system identification: a Survey [56.34005280792013]
システム識別は、入力出力データから動的システムの数学的記述を学習する。
同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。
我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
論文 参考訳(メタデータ) (2023-01-30T12:38:31Z) - MARS: Meta-Learning as Score Matching in the Function Space [79.73213540203389]
本稿では,一連の関連するデータセットから帰納バイアスを抽出する手法を提案する。
機能的ベイズニューラルネットワーク推論を用いて、前者をプロセスとみなし、関数空間で推論を行う。
本手法は,データ生成プロセスのスコア関数をメタラーニングすることにより,複雑な事前知識をシームレスに獲得し,表現することができる。
論文 参考訳(メタデータ) (2022-10-24T15:14:26Z) - Deep Equilibrium Assisted Block Sparse Coding of Inter-dependent
Signals: Application to Hyperspectral Imaging [71.57324258813675]
相互依存信号のデータセットは、列が強い依存を示す行列として定義される。
ニューラルネットワークは、事前に構造として機能し、基礎となる信号相互依存性を明らかにするために使用される。
ディープ・アンローリングとディープ・平衡に基づくアルゴリズムが開発され、高度に解釈可能で簡潔なディープ・ラーニング・ベース・アーキテクチャを形成する。
論文 参考訳(メタデータ) (2022-03-29T21:00:39Z) - Simultaneous Learning of the Inputs and Parameters in Neural
Collaborative Filtering [5.076419064097734]
入力のゼロでない要素は学習可能なパラメータであり、ユーザ/イテム埋め込みを組み合わせる際の重みを決定する。
本稿では,入力のゼロでない要素の値をニューラルネットワークパラメータと組み合わせて学習することを提案する。
論文 参考訳(メタデータ) (2022-03-14T19:47:38Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - ITSA: An Information-Theoretic Approach to Automatic Shortcut Avoidance
and Domain Generalization in Stereo Matching Networks [14.306250516592305]
ステレオマッチングネットワークにおける特徴表現の学習は,合成データアーチファクトに大きく影響されていることを示す。
我々は,情報理論的ショートカット回避(ITSA)アプローチを提案し,ショートカット関連情報を特徴表現にエンコードすることを自動的に制限する。
この手法を用いることで、合成データに基づいて純粋に訓練された最先端のステレオマッチングネットワークを効果的に一般化し、以前には見つからなかった実際のデータシナリオを実現することができることを示す。
論文 参考訳(メタデータ) (2022-01-06T22:03:50Z) - Fine-Grained Neural Network Explanation by Identifying Input Features
with Predictive Information [53.28701922632817]
入力領域における予測情報を用いて特徴を識別する手法を提案する。
我々の手法の中核となる考え方は、予測潜在機能に関連する入力機能のみを通過させる入力のボトルネックを活用することである。
論文 参考訳(メタデータ) (2021-10-04T14:13:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。