論文の概要: Adaptive Graph-based Generalized Regression Model for Unsupervised
Feature Selection
- arxiv url: http://arxiv.org/abs/2012.13892v1
- Date: Sun, 27 Dec 2020 09:07:26 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-24 20:14:15.248585
- Title: Adaptive Graph-based Generalized Regression Model for Unsupervised
Feature Selection
- Title(参考訳): 教師なし特徴選択のための適応グラフに基づく一般化回帰モデル
- Authors: Yanyong Huang, Zongxin Shen, Fuxu Cai, Tianrui Li, Fengmao Lv
- Abstract要約: 非相関的かつ識別的特徴の選択は、教師なしの機能選択の重要な問題である。
非相関制約と $ell_2,1$-norm 正規化によって課される新しい一般化回帰モデルを提案する。
それは同時に同じ近所に属するこれらのデータ ポイントの分散を減らすこと無相関および差別的な特徴を選ぶことができます。
- 参考スコア(独自算出の注目度): 11.214334712819396
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised feature selection is an important method to reduce dimensions of
high dimensional data without labels, which is benefit to avoid ``curse of
dimensionality'' and improve the performance of subsequent machine learning
tasks, like clustering and retrieval. How to select the uncorrelated and
discriminative features is the key problem of unsupervised feature selection.
Many proposed methods select features with strong discriminant and high
redundancy, or vice versa. However, they only satisfy one of these two
criteria. Other existing methods choose the discriminative features with low
redundancy by constructing the graph matrix on the original feature space.
Since the original feature space usually contains redundancy and noise, it will
degrade the performance of feature selection. In order to address these issues,
we first present a novel generalized regression model imposed by an
uncorrelated constraint and the $\ell_{2,1}$-norm regularization. It can
simultaneously select the uncorrelated and discriminative features as well as
reduce the variance of these data points belonging to the same neighborhood,
which is help for the clustering task. Furthermore, the local intrinsic
structure of data is constructed on the reduced dimensional space by learning
the similarity-induced graph adaptively. Then the learnings of the graph
structure and the indicator matrix based on the spectral analysis are
integrated into the generalized regression model. Finally, we develop an
alternative iterative optimization algorithm to solve the objective function. A
series of experiments are carried out on nine real-world data sets to
demonstrate the effectiveness of the proposed method in comparison with other
competing approaches.
- Abstract(参考訳): 教師なしの特徴選択はラベルのない高次元データの次元を減少させる重要な手法であり、これは‘次元の帰結’を避け、クラスタリングや検索のようなその後の機械学習タスクの性能を改善するのに役立つ。
非相関的かつ識別的特徴の選択は、教師なしの機能選択の重要な問題である。
多くの提案手法は、強い識別性と高い冗長性を持つ特徴を選択する。
しかし、これら2つの基準のうち1つしか満たしていない。
他の既存の手法では、元の特徴空間上にグラフ行列を構築することにより、冗長性の低い識別的特徴を選択する。
オリジナルの特徴空間は、通常冗長性とノイズを含むため、特徴選択の性能は低下する。
これらの問題に対処するために、まず非相関制約と$\ell_{2,1}$-norm正規化によって課される新しい一般化回帰モデルを示す。
相関的でない特徴と識別的特徴を同時に選択し、同じ近傍に属するデータポイントの分散を低減し、クラスタリングタスクの助けとなる。
さらに、類似性誘発グラフを適応的に学習することにより、縮小次元空間上にデータの局所固有構造を構築する。
次に、スペクトル解析に基づくグラフ構造と指標行列の学習を一般化回帰モデルに統合する。
最後に,目的関数を解くための新しい反復最適化アルゴリズムを開発した。
9つの実世界のデータセットで一連の実験を行い、他の競合手法と比較して提案手法の有効性を実証した。
関連論文リスト
- Feature Selection as Deep Sequential Generative Learning [50.00973409680637]
本研究では, 逐次再構成, 変分, 性能評価器の損失を伴って, 深部変分変圧器モデルを構築した。
提案モデルでは,特徴選択の知識を抽出し,連続的な埋め込み空間を学習し,特徴選択決定シーケンスをユーティリティスコアに関連付けられた埋め込みベクトルにマッピングする。
論文 参考訳(メタデータ) (2024-03-06T16:31:56Z) - Feature Selection Based on Orthogonal Constraints and Polygon Area [10.587608254638667]
特徴選択の目的は、各特徴の重要性を評価することにより、認識タスクにおける特徴の最適なサブセットを選択することである。
本稿では,特徴ラベルを拡張した依存関係間の非単調線形探索を提案する。
実験結果から,本手法は識別依存を効果的にとらえるだけでなく,次元分類性能を低下させる従来の手法よりも優れていることが示された。
論文 参考訳(メタデータ) (2024-02-25T08:20:05Z) - Causal Feature Selection via Transfer Entropy [59.999594949050596]
因果発見は、観察データによる特徴間の因果関係を特定することを目的としている。
本稿では,前向きと後向きの機能選択に依存する新たな因果的特徴選択手法を提案する。
精度および有限サンプルの場合の回帰誤差と分類誤差について理論的に保証する。
論文 参考訳(メタデータ) (2023-10-17T08:04:45Z) - Nonlinear Feature Aggregation: Two Algorithms driven by Theory [45.3190496371625]
現実世界の機械学習アプリケーションは、膨大な機能によって特徴付けられ、計算やメモリの問題を引き起こす。
一般集約関数を用いて特徴量の非線形変換を集約する次元還元アルゴリズム(NonLinCFA)を提案する。
また、アルゴリズムを合成および実世界のデータセット上でテストし、回帰および分類タスクを実行し、競合性能を示す。
論文 参考訳(メタデータ) (2023-06-19T19:57:33Z) - Sparse Quadratic Optimisation over the Stiefel Manifold with Application
to Permutation Synchronisation [71.27989298860481]
二次目的関数を最大化するスティーフェル多様体上の行列を求める非最適化問題に対処する。
そこで本研究では,支配的固有空間行列を求めるための,単純かつ効果的なスパーシティプロモーティングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-09-30T19:17:35Z) - Low-rank Dictionary Learning for Unsupervised Feature Selection [11.634317251468968]
低ランク表現に辞書学習のアイデアを適用することで、教師なしの新たな特徴選択手法を導入する。
非教師付き特徴選択のための統一目的関数は、$ell_2,1$-norm正規化によってスパースな方法で提案される。
実験の結果,提案手法は最先端のアルゴリズムよりも優れていることがわかった。
論文 参考訳(メタデータ) (2021-06-21T13:39:10Z) - Top-$k$ Regularization for Supervised Feature Selection [11.927046591097623]
教師付き特徴選択のための新しい,シンプルで効果的な正規化手法である Top-k$ regularization を導入する。
上位$kの正規化は、教師付き特徴選択に有効で安定であることを示す。
論文 参考訳(メタデータ) (2021-06-04T01:12:47Z) - Auto-weighted Multi-view Feature Selection with Graph Optimization [90.26124046530319]
グラフ学習に基づく新しい教師なしマルチビュー特徴選択モデルを提案する。
1) 特徴選択過程において, 異なる視点で共有されたコンセンサス類似度グラフが学習される。
各種データセットを用いた実験により,提案手法が最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-04-11T03:25:25Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Joint Adaptive Graph and Structured Sparsity Regularization for
Unsupervised Feature Selection [6.41804410246642]
本稿では,共同適応グラフと構造付き空間正規化unsupervised feature selection (JASFS)法を提案する。
最適な機能のサブセットがグループで選択され、選択された機能の数が自動的に決定される。
8つのベンチマーク実験の結果,提案手法の有効性と有効性を示した。
論文 参考訳(メタデータ) (2020-10-09T08:17:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。