論文の概要: Weight Predictor Network with Feature Selection for Small Sample Tabular Biomedical Data

• arxiv url: http://arxiv.org/abs/2211.15616v1
• Date: Mon, 28 Nov 2022 18:17:10 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-29 15:55:43.043183
• Title: Weight Predictor Network with Feature Selection for Small Sample Tabular Biomedical Data
• Title（参考訳）: 小口径バイオメディカルデータに対する特徴選択による重み予測ネットワーク
• Authors: Andrei Margeloiu, Nikola Simidjievski, Pietro Lio, Mateja Jamnik
• Abstract要約: 本研究では,高次元および小型サンプルデータからニューラルネットワークを学習するための特徴選択付き重み予測器ネットワークを提案する。 実世界の9つのバイオメディカルデータセットを評価し、WPFSが他の標準や最近の手法よりも優れていることを示す。
• 参考スコア（独自算出の注目度）: 7.923088041693465
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Tabular biomedical data is often high-dimensional but with a very small number of samples. Although recent work showed that well-regularised simple neural networks could outperform more sophisticated architectures on tabular data, they are still prone to overfitting on tiny datasets with many potentially irrelevant features. To combat these issues, we propose Weight Predictor Network with Feature Selection (WPFS) for learning neural networks from high-dimensional and small sample data by reducing the number of learnable parameters and simultaneously performing feature selection. In addition to the classification network, WPFS uses two small auxiliary networks that together output the weights of the first layer of the classification model. We evaluate on nine real-world biomedical datasets and demonstrate that WPFS outperforms other standard as well as more recent methods typically applied to tabular data. Furthermore, we investigate the proposed feature selection mechanism and show that it improves performance while providing useful insights into the learning task.
• Abstract（参考訳）: タブラルバイオメディカルデータはしばしば高次元であるが、非常に少数のサンプルを持つ。 最近の研究は、よく規則化された単純なニューラルネットワークが、グラフデータ上のより洗練されたアーキテクチャよりも優れていることを示したが、それでも多くの潜在的に無関係な機能を持つ小さなデータセットに過度に適合する傾向にある。 これらの問題に対処するために,ニューラルネットワークを高次元および小サンプルデータから学習するための重み予測器ネットワーク(WPFS)を提案し,学習可能なパラメータの数を削減し,同時に特徴選択を行う。 分類ネットワークに加えて、WPFSは2つの小さな補助ネットワークを使用して分類モデルの第一層の重みを出力する。 我々は9つの実世界のバイオメディカルデータセットを評価し、wpfが他の標準よりも優れており、表データに適用するより最近の方法であることを示す。 さらに,提案する特徴選択機構について検討し,学習課題に対する有用な洞察を提供しながら,性能の向上を示す。

関連論文リスト

• Unveiling the Power of Sparse Neural Networks for Feature Selection [60.50319755984697]
  スパースニューラルネットワーク(SNN)は、効率的な特徴選択のための強力なツールとして登場した。 動的スパーストレーニング(DST)アルゴリズムで訓練されたSNNは、平均して50%以上のメモリと55%以上のFLOPを削減できることを示す。 以上の結果から,DSTアルゴリズムで訓練したSNNによる特徴選択は,平均して50ドル以上のメモリと55%のFLOPを削減できることがわかった。
  論文  参考訳（メタデータ） (2024-08-08T16:48:33Z)
• Just How Flexible are Neural Networks in Practice? [89.80474583606242]
  ニューラルネットワークは、パラメータを持つ少なくとも多くのサンプルを含むトレーニングセットに適合できると広く信じられている。 しかし実際には、勾配や正規化子など、柔軟性を制限したトレーニング手順によるソリューションしか見つからない。
  論文  参考訳（メタデータ） (2024-06-17T12:24:45Z)
• Data Augmentations in Deep Weight Spaces [89.45272760013928]
  そこで本研究では,Mixup法に基づく新しい拡張手法を提案する。 既存のベンチマークと新しいベンチマークでこれらのテクニックのパフォーマンスを評価する。
  論文  参考訳（メタデータ） (2023-11-15T10:43:13Z)
• Supervised Feature Selection with Neuron Evolution in Sparse Neural Networks [17.12834153477201]
  スパースニューラルネットワークを用いた資源効率の高い新しい特徴選択法を提案する。 スクラッチからトレーニングされたスパースニューラルネットワークの入力層から、不定形的特徴を徐々に抜き取ることにより、NeuroFSは、機能の情報的サブセットを効率的に導き出す。 NeuroFSは、最先端の教師付き特徴選択モデルの中で最上位のスコアを達成している。
  論文  参考訳（メタデータ） (2023-03-10T17:09:55Z)
• Transfer Learning with Deep Tabular Models [66.67017691983182]
  上流データにより、グラフニューラルネットワークはGBDTモデルよりも決定的な優位性を示す。 そこで本研究では,表在化学習のための現実的な診断ベンチマークを提案する。 上流と下流の特徴セットが異なる場合の擬似特徴法を提案する。
  論文  参考訳（メタデータ） (2022-06-30T14:24:32Z)
• Recurrent neural networks that generalize from examples and optimize by dreaming [0.0]
  オンライン学習のためのHebbの処方則に従って,ニューロン間のペア結合が構築される一般化されたホップフィールドネットワークを導入する。 ネットワークエクスペリエンスは、パターン毎にノイズの多いサンプルのサンプルで構成されたデータセットに過ぎません。 注目すべきは、睡眠メカニズムが常に正しく一般化するために必要なデータセットサイズを著しく削減することです。
  論文  参考訳（メタデータ） (2022-04-17T08:40:54Z)
• CvS: Classification via Segmentation For Small Datasets [52.821178654631254]
  本稿では,分類ラベルをセグメントマップの予測から導出する小型データセットのコスト効率の高い分類器であるCvSを提案する。 我々は,CvSが従来の手法よりもはるかに高い分類結果が得られることを示す多種多様な問題に対して,本フレームワークの有効性を評価する。
  論文  参考訳（メタデータ） (2021-10-29T18:41:15Z)
• Feature Selection Based on Sparse Neural Network Layer with Normalizing Constraints [0.0]
  本論文では,2つの制約を導入したニューラルネットワークに基づく特徴選択手法を提案する。 その結果,Sparse Neural Network Layer with Normalizing Constraints (SNEL-FS) に基づく特徴選択は,従来の FS 方式に比べて重要な特徴の選択が可能であり,優れた性能が得られることがわかった。
  論文  参考訳（メタデータ） (2020-12-11T14:14:33Z)
• Convolution Neural Networks for Semantic Segmentation: Application to Small Datasets of Biomedical Images [0.0]
  この論文は、小さなバイオメディカルデータセットに適用した場合、畳み込みニューラルネットワーク(CNN)によって生成されたセグメンテーション結果が互いにどう異なるかを研究する。 2つのワーキングデータセットは、生物医学的な研究領域から来ている。
  論文  参考訳（メタデータ） (2020-11-01T19:09:12Z)
• Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype Prediction [55.94378672172967]
  本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。 新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。 我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
  論文  参考訳（メタデータ） (2020-09-02T02:50:30Z)
• FsNet: Feature Selection Network on High-dimensional Biological Data [16.212816276636087]
  本研究では,高次元かつ少数のサンプルデータを対象とした特徴選択ネットワーク(FsNet)と呼ばれる,ディープニューラルネットワーク(DNN)に基づく非線形特徴選択手法を提案する。 FsNetは、特徴を選択する選択層と、トレーニングを安定化する再構築層で構成される。 選択層と再構成層における多数のパラメータが、限られたサンプル数で容易に過度に適合するので、我々は2つの小さなネットワークを用いて、選択層と再構成層の巨大で仮想的な重み行列を予測する。
  論文  参考訳（メタデータ） (2020-01-23T00:49:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。