論文の概要: UDRN: Unified Dimensional Reduction Neural Network for Feature Selection
and Feature Projection
- arxiv url: http://arxiv.org/abs/2207.03809v1
- Date: Fri, 8 Jul 2022 10:30:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-11 14:34:53.838475
- Title: UDRN: Unified Dimensional Reduction Neural Network for Feature Selection
and Feature Projection
- Title（参考訳）: UDRN:特徴選択と特徴投影のための統一次元還元ニューラルネットワーク
- Authors: Zelin Zang and Yongjie Xu and Yulan Geng and Siyuan Li and Stan Z. Li
- Abstract要約: 次元還元(DR)は、高次元データを最小定義された最適化目標を持つ低次元潜在空間にマッピングする。
FSは次元の重要なサブセットの選択に重点を置いているが、データ分散(構造)を破壊するリスクがある
FPは全ての入力特徴を低次元空間に結合し、データ構造を維持することを目的としている。
我々は、FSとFPをエンドツーエンドで統合する統一的なフレームワークUDRN(Unified dimensional Reduction Neural-network)を開発した。
- 参考スコア（独自算出の注目度）: 37.03465340777392
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Dimensional reduction~(DR) maps high-dimensional data into a lower dimensions
latent space with minimized defined optimization objectives. The DR method
usually falls into feature selection~(FS) and feature projection~(FP). FS
focuses on selecting a critical subset of dimensions but risks destroying the
data distribution (structure). On the other hand, FP combines all the input
features into lower dimensions space, aiming to maintain the data structure;
but lacks interpretability and sparsity. FS and FP are traditionally
incompatible categories; thus, they have not been unified into an amicable
framework. We propose that the ideal DR approach combines both FS and FP into a
unified end-to-end manifold learning framework, simultaneously performing
fundamental feature discovery while maintaining the intrinsic relationships
between data samples in the latent space. In this work, we develop a unified
framework, Unified Dimensional Reduction Neural-network~(UDRN), that integrates
FS and FP in a compatible, end-to-end way. We improve the neural network
structure by implementing FS and FP tasks separately using two stacked
sub-networks. In addition, we designed data augmentation of the DR process to
improve the generalization ability of the method when dealing with extensive
feature datasets and designed loss functions that can cooperate with the data
augmentation. Extensive experimental results on four image and four biological
datasets, including very high-dimensional data, demonstrate the advantages of
DRN over existing methods~(FS, FP, and FS\&FP pipeline), especially in
downstream tasks such as classification and visualization.
- Abstract（参考訳）: 次元縮小~(DR)は、高次元データを最小定義された最適化目標を持つ低次元潜在空間にマッピングする。
DR法は通常、特徴選択〜(FS)と特徴投影〜(FP)に該当する。
FSは次元の重要なサブセットの選択に重点を置いているが、データ分散(構造)を破壊するリスクがある。
一方、fpは全ての入力機能を低次元空間に結合し、データ構造の維持を目指しているが、解釈可能性やスパーシティに欠ける。
FS と FP は伝統的に非互換なカテゴリである。
本稿では,FS と FP の両手法が統合されたエンドツーエンドの多様体学習フレームワークに組み合わさって,潜在空間におけるデータサンプル間の本質的な関係を維持しつつ,基本的特徴発見を同時に行うことを提案する。
本研究では,fs と fp を互換性のあるエンドツーエンドの方法で統合した統一的なフレームワーク,unified dimensional reduction neural-network~(udrn)を開発した。
2つのスタックされたサブネットワークを用いてFSタスクとFPタスクを別々に実装することで、ニューラルネットワーク構造を改善する。
さらに、DRプロセスのデータ拡張を設計し、広範な特徴データセットを扱う際のメソッドの一般化能力を向上し、データ拡張に協力可能な損失関数を設計した。
超高次元データを含む4つの画像と4つの生物学的データセットに関する大規模な実験結果は、特に分類や可視化といった下流タスクにおいて、既存の手法(FS、FP、FS\&FPパイプライン)よりもDRNの利点を示す。
関連論文リスト
- Geometric Neural Process Fields [58.77241763774756]
幾何学的ニューラル・プロセス・フィールド(Geometric Neural Process Fields, G-NPF)は、ニューラル・ラディアンス・フィールドの確率的フレームワークである。
これらの基盤の上に構築された階層型潜在変数モデルにより、G-NPFは複数の空間レベルにまたがる構造情報を統合できる。
3次元シーンと2次元画像と1次元信号レグレッションの新規ビュー合成実験により,本手法の有効性を実証した。
論文 参考訳（メタデータ） (2025-02-04T14:17:18Z) - Imbalance-Aware Culvert-Sewer Defect Segmentation Using an Enhanced Feature Pyramid Network [1.7466076090043157]
本稿では,不均衡なデータセット内での変質管と下水道管のセマンティックセグメンテーションの深層学習モデルを提案する。
このモデルは、データセットの不均衡に対応するために、クラス分解やデータ拡張のような戦略を採用している。
E-FPNが最先端の手法より優れていることを示す。
論文 参考訳（メタデータ） (2024-08-19T17:40:18Z) - Efficient Parametric Approximations of Neural Network Function Space
Distance [6.117371161379209]
モデルパラメータとトレーニングデータの重要な特性をコンパクトに要約して、データセット全体を保存または/または反復することなく後で使用できるようにすることが、しばしば有用である。
我々は,FSD(Function Space Distance)をトレーニングセット上で推定することを検討する。
本稿では、線形化活性化TRick (LAFTR) を提案し、ReLUニューラルネットワークに対するFSDの効率的な近似を導出する。
論文 参考訳（メタデータ） (2023-02-07T15:09:23Z) - Transformer-based Context Condensation for Boosting Feature Pyramids in
Object Detection [77.50110439560152]
現在の物体検出器は、通常マルチレベル特徴融合(MFF)のための特徴ピラミッド(FP)モジュールを持つ。
我々は,既存のFPがより優れたMFF結果を提供するのに役立つ,新しい,効率的なコンテキストモデリング機構を提案する。
特に,包括的文脈を2種類の表現に分解・凝縮して高効率化を図っている。
論文 参考訳（メタデータ） (2022-07-14T01:45:03Z) - Deep Neural Network Classifier for Multi-dimensional Functional Data [4.340040784481499]
我々は,多次元関数型データを分類するFDNN(Functional Deep Neural Network)と呼ばれる新しい手法を提案する。
具体的には、将来のデータ関数のクラスラベルを予測するために使用されるトレーニングデータの原則コンポーネントに基づいて、ディープニューラルネットワークをトレーニングする。
論文 参考訳（メタデータ） (2022-05-17T19:22:48Z) - Vertical Federated Principal Component Analysis and Its Kernel Extension
on Feature-wise Distributed Data [35.72930187906397]
本稿では,垂直分割データセット設定下での教師なしフェデレーション学習について検討する。
本稿では,垂直分割データセット (VFedPCA) 法における連合主成分分析法を提案する。
また, 非線形次元減少の利点を生かし, 垂直結合型先進カーネル主成分分析法(VFedAKPCA)を提案する。
論文 参考訳（メタデータ） (2022-03-03T14:58:29Z) - Deep Recursive Embedding for High-Dimensional Data [9.611123249318126]
本稿では,DNN(Deep Neural Network)と高次元データ埋め込みのための数学誘導埋め込みルールを組み合わせることを提案する。
本稿では,高次元空間から低次元空間へのパラメトリックマッピングを学習可能な汎用ディープ埋め込みネットワーク(DEN)フレームワークを提案する。
論文 参考訳（メタデータ） (2021-10-31T23:22:33Z) - Shared Space Transfer Learning for analyzing multi-site fMRI data [83.41324371491774]
マルチボクセルパターン解析(MVPA)は、タスクベース機能磁気共鳴画像(fMRI)データから予測モデルを学習する。
MVPAはよく設計された機能セットと十分なサンプルサイズで機能する。
ほとんどのfMRIデータセットはノイズが多く、高次元で、収集するのに高価で、サンプルサイズも小さい。
本稿では,新しい伝達学習手法として共有空間移動学習(SSTL)を提案する。
論文 参考訳（メタデータ） (2020-10-24T08:50:26Z) - Dual-constrained Deep Semi-Supervised Coupled Factorization Network with
Enriched Prior [80.5637175255349]
本稿では、DS2CF-Netと呼ばれる、拡張された事前制約付きDual-Constrained Deep Semi-Supervised Coupled Factorization Networkを提案する。
隠れた深い特徴を抽出するために、DS2CF-Netは、深い構造と幾何学的な構造に制約のあるニューラルネットワークとしてモデル化される。
我々のネットワークは、表現学習とクラスタリングのための最先端の性能を得ることができる。
論文 参考訳（メタデータ） (2020-09-08T13:10:21Z) - When Residual Learning Meets Dense Aggregation: Rethinking the
Aggregation of Deep Neural Networks [57.0502745301132]
我々は,グローバルな残差学習と局所的なマイクロセンスアグリゲーションを備えた新しいアーキテクチャであるMicro-Dense Netsを提案する。
我々のマイクロセンスブロックはニューラルアーキテクチャ検索に基づくモデルと統合して性能を向上させることができる。
論文 参考訳（メタデータ） (2020-04-19T08:34:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。