論文の概要: Automatic Input Feature Relevance via Spectral Neural Networks

• arxiv url: http://arxiv.org/abs/2406.01183v1
• Date: Mon, 3 Jun 2024 10:39:12 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 01:28:45.149697
• Title: Automatic Input Feature Relevance via Spectral Neural Networks
• Title（参考訳）: スペクトルニューラルネットワークによる自動入力特徴関連性
• Authors: Lorenzo Chicchi, Lorenzo Buffoni, Diego Febbe, Lorenzo Giambagli, Raffaele Marino, Duccio Fanelli,
• Abstract要約: 本稿では,ディープニューラルネットワークにおける入力成分の相対的重要性を推定する新しい手法を提案する。 これは最適化プロセスのスペクトル再パラメータ化を活用することで達成される。 この手法は、合成データと実データの両方に対してうまく挑戦されている。
• 参考スコア（独自算出の注目度）: 0.9236074230806581
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Working with high-dimensional data is a common practice, in the field of machine learning. Identifying relevant input features is thus crucial, so as to obtain compact dataset more prone for effective numerical handling. Further, by isolating pivotal elements that form the basis of decision making, one can contribute to elaborate on - ex post - models' interpretability, so far rather elusive. Here, we propose a novel method to estimate the relative importance of the input components for a Deep Neural Network. This is achieved by leveraging on a spectral re-parametrization of the optimization process. Eigenvalues associated to input nodes provide in fact a robust proxy to gauge the relevance of the supplied entry features. Unlike existing techniques, the spectral features ranking is carried out automatically, as a byproduct of the network training. The technique is successfully challenged against both synthetic and real data.
• Abstract（参考訳）: 機械学習の分野では、高次元データを扱うことが一般的なプラクティスである。 したがって、より効率的な数値処理を行うために、よりコンパクトなデータセットを得るために、関連する入力特徴を特定することが重要である。 さらに、意思決定の基盤となる重要な要素を分離することで、モデルによる解釈可能性に関する詳細化に寄与することができる。 本稿では,ディープニューラルネットワークにおける入力成分の相対的重要性を推定する新しい手法を提案する。 これは最適化プロセスのスペクトル再パラメータ化を活用することで達成される。 入力ノードに関連する固有値は、実際に供給されたエントリ特徴の関連性を評価するための堅牢なプロキシを提供する。 既存の技術とは異なり、スペクトル特徴ランキングはネットワークトレーニングの副産物として自動的に実行される。 この手法は、合成データと実データの両方に対してうまく挑戦されている。

関連論文リスト

• Iterative Feature Boosting for Explainable Speech Emotion Recognition [17.568724398229232]
  本稿では,効率的な特徴工学手法に基づく新しい教師付きSER手法を提案する。 特徴の関連性を評価し,特徴セットを洗練させるために,結果の説明可能性に特に注意を払っている。 提案手法は,TESSデータセット上での感情認識において,ヒトレベルのパフォーマンス(HLP)および最先端の機械学習手法より優れる。
  論文  参考訳（メタデータ） (2024-05-30T15:44:27Z)
• Neural Network Pruning by Gradient Descent [7.427858344638741]
  我々は,Gumbel-Softmaxテクニックを取り入れた,新しい,かつ簡単なニューラルネットワークプルーニングフレームワークを提案する。 ネットワークパラメータの0.15%しか持たないMNISTデータセット上で、高い精度を維持しながら、例外的な圧縮能力を実証する。 我々は,ディープラーニングプルーニングと解釈可能な機械学習システム構築のための,有望な新たな道を開くと信じている。
  論文  参考訳（メタデータ） (2023-11-21T11:12:03Z)
• Deep Feature Learning for Wireless Spectrum Data [0.5809784853115825]
  本稿では,無線通信クラスタリングのための特徴表現を教師なしで学習する手法を提案する。 自動表現学習は,無線伝送バーストの形状を含む微細なクラスタを抽出できることを示す。
  論文  参考訳（メタデータ） (2023-08-07T12:27:19Z)
• Incrementally-Computable Neural Networks: Efficient Inference for Dynamic Inputs [75.40636935415601]
  ディープラーニングは、センサーデータやユーザ入力などの動的入力を効率的に処理するという課題に直面していることが多い。 インクリメンタルな計算アプローチを採用し、入力の変化に応じて計算を再利用する。 本稿では,この手法をトランスフォーマーアーキテクチャに適用し,修正入力の分数に比例した複雑性を持つ効率的なインクリメンタル推論アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-07-27T16:30:27Z)
• Deep networks for system identification: a Survey [56.34005280792013]
  システム識別は、入力出力データから動的システムの数学的記述を学習する。 同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。 我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
  論文  参考訳（メタデータ） (2023-01-30T12:38:31Z)
• MARS: Meta-Learning as Score Matching in the Function Space [79.73213540203389]
  本稿では,一連の関連するデータセットから帰納バイアスを抽出する手法を提案する。 機能的ベイズニューラルネットワーク推論を用いて、前者をプロセスとみなし、関数空間で推論を行う。 本手法は,データ生成プロセスのスコア関数をメタラーニングすることにより,複雑な事前知識をシームレスに獲得し,表現することができる。
  論文  参考訳（メタデータ） (2022-10-24T15:14:26Z)
• Deep Equilibrium Assisted Block Sparse Coding of Inter-dependent Signals: Application to Hyperspectral Imaging [71.57324258813675]
  相互依存信号のデータセットは、列が強い依存を示す行列として定義される。 ニューラルネットワークは、事前に構造として機能し、基礎となる信号相互依存性を明らかにするために使用される。 ディープ・アンローリングとディープ・平衡に基づくアルゴリズムが開発され、高度に解釈可能で簡潔なディープ・ラーニング・ベース・アーキテクチャを形成する。
  論文  参考訳（メタデータ） (2022-03-29T21:00:39Z)
• Simultaneous Learning of the Inputs and Parameters in Neural Collaborative Filtering [5.076419064097734]
  入力のゼロでない要素は学習可能なパラメータであり、ユーザ/イテム埋め込みを組み合わせる際の重みを決定する。 本稿では,入力のゼロでない要素の値をニューラルネットワークパラメータと組み合わせて学習することを提案する。
  論文  参考訳（メタデータ） (2022-03-14T19:47:38Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• ITSA: An Information-Theoretic Approach to Automatic Shortcut Avoidance and Domain Generalization in Stereo Matching Networks [14.306250516592305]
  ステレオマッチングネットワークにおける特徴表現の学習は,合成データアーチファクトに大きく影響されていることを示す。 我々は,情報理論的ショートカット回避(ITSA)アプローチを提案し,ショートカット関連情報を特徴表現にエンコードすることを自動的に制限する。 この手法を用いることで、合成データに基づいて純粋に訓練された最先端のステレオマッチングネットワークを効果的に一般化し、以前には見つからなかった実際のデータシナリオを実現することができることを示す。
  論文  参考訳（メタデータ） (2022-01-06T22:03:50Z)
• Fine-Grained Neural Network Explanation by Identifying Input Features with Predictive Information [53.28701922632817]
  入力領域における予測情報を用いて特徴を識別する手法を提案する。 我々の手法の中核となる考え方は、予測潜在機能に関連する入力機能のみを通過させる入力のボトルネックを活用することである。
  論文  参考訳（メタデータ） (2021-10-04T14:13:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。