論文の概要: Sparse Linear Centroid-Encoder: A Convex Method for Feature Selection
- arxiv url: http://arxiv.org/abs/2306.04824v2
- Date: Fri, 9 Jun 2023 04:06:36 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-12 10:08:04.266984
- Title: Sparse Linear Centroid-Encoder: A Convex Method for Feature Selection
- Title(参考訳): Sparse Linear Centroid-Encoder:特徴選択のための凸法
- Authors: Tomojit Ghosh, Michael Kirby, Karim Karimov
- Abstract要約: 本稿では,Sparse Centroid-Encoder (SLCE) を提案する。
このアルゴリズムは線形ネットワークを使用して、ニューラルネットワークを同時に再構築する。
- 参考スコア(独自算出の注目度): 1.057079240576682
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present a novel feature selection technique, Sparse Linear
Centroid-Encoder (SLCE). The algorithm uses a linear transformation to
reconstruct a point as its class centroid and, at the same time, uses the
$\ell_1$-norm penalty to filter out unnecessary features from the input data.
The original formulation of the optimization problem is nonconvex, but we
propose a two-step approach, where each step is convex. In the first step, we
solve the linear Centroid-Encoder, a convex optimization problem over a matrix
$A$. In the second step, we only search for a sparse solution over a diagonal
matrix $B$ while keeping $A$ fixed. Unlike other linear methods, e.g., Sparse
Support Vector Machines and Lasso, Sparse Linear Centroid-Encoder uses a single
model for multi-class data. We present an in-depth empirical analysis of the
proposed model and show that it promotes sparsity on various data sets,
including high-dimensional biological data. Our experimental results show that
SLCE has a performance advantage over some state-of-the-art neural
network-based feature selection techniques.
- Abstract(参考訳): 本稿では,新しい特徴選択手法であるSparse Linear Centroid-Encoder (SLCE)を提案する。
このアルゴリズムは、ある点をそのクラスセントロイドとして再構成するために線形変換を使用し、同時に$\ell_1$-normペナルティを用いて入力データから不要な特徴をフィルタリングする。
最適化問題の元々の定式化は非凸であるが、各ステップが凸である2段階のアプローチを提案する。
最初のステップでは、行列 $A$ 上の凸最適化問題である線形 Centroid-Encoder を解く。
2番目のステップでは、$A$を固定しながら、対角行列の$B$上のスパース解のみを探索する。
Sparse Support Vector MachinesやLassoのような他の線形手法とは異なり、Sparse Linear Centroid-Encoderはマルチクラスデータに単一モデルを使用する。
本稿では,提案モデルの詳細な実験分析を行い,高次元生体データを含む各種データセットのスパーシティを促進することを示す。
実験の結果、slceは最先端のニューラルネットワークに基づく特徴選択技術よりも優れた性能を示すことがわかった。
関連論文リスト
- Feature Selection using Sparse Adaptive Bottleneck Centroid-Encoder [1.2487990897680423]
2つ以上のクラスで識別される特徴を決定するために,新しい非線形モデル SABCE (Sparse Adaptive Bottleneckid-Encoder) を導入する。
このアルゴリズムは、高次元生物学的、画像、音声、加速度センサデータなど、様々な実世界のデータセットに適用される。
論文 参考訳(メタデータ) (2023-06-07T21:37:21Z) - Leverage Score Sampling for Tensor Product Matrices in Input Sparsity
Time [54.65688986250061]
我々は,$q$-foldカラムワイドテンソル積の$q$行列に対応するグラム行列を近似するための入力空間時間サンプリングアルゴリズムを提案する。
我々のサンプリング技術は、合計時間でデータセット$X$に同時に適用できる$q$部分相関ランダムプロジェクションのコレクションに依存している。
論文 参考訳(メタデータ) (2022-02-09T15:26:03Z) - Sparse Centroid-Encoder: A Nonlinear Model for Feature Selection [1.2487990897680423]
我々はCentro Sparseid-Encoderと呼ばれる非線形データ削減と可視化のためのCentroid-Encoderのスパース実装を開発した。
また、各特徴をその発生によってランク付けする特徴選択フレームワークも提供し、検証セットを用いて最適な特徴数を選択する。
このアルゴリズムは、単細胞生物データ、高次元感染症データ、ハイパースペクトルデータ、画像データ、音声データを含む幅広いデータセットに適用される。
論文 参考訳(メタデータ) (2022-01-30T20:46:24Z) - Nearly Optimal Linear Convergence of Stochastic Primal-Dual Methods for
Linear Programming [5.126924253766052]
提案手法は,高い確率で鋭いインスタンスを解くための線形収束率を示す。
また、制約のない双線型問題に対する効率的な座標ベースのオラクルを提案する。
論文 参考訳(メタデータ) (2021-11-10T04:56:38Z) - Sparse Quadratic Optimisation over the Stiefel Manifold with Application
to Permutation Synchronisation [71.27989298860481]
二次目的関数を最大化するスティーフェル多様体上の行列を求める非最適化問題に対処する。
そこで本研究では,支配的固有空間行列を求めるための,単純かつ効果的なスパーシティプロモーティングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-09-30T19:17:35Z) - Hybrid Trilinear and Bilinear Programming for Aligning Partially
Overlapping Point Sets [85.71360365315128]
多くの応用において、部分重なり合う点集合が対応するRPMアルゴリズムに不変であるようなアルゴリズムが必要である。
まず、目的が立方体有界関数であることを示し、次に、三線型および双線型単相変換の凸エンベロープを用いて、その下界を導出する。
次に、変換変数上の分岐のみを効率よく実行するブランチ・アンド・バウンド(BnB)アルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-01-19T04:24:23Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - On the Adversarial Robustness of LASSO Based Feature Selection [72.54211869067979]
検討されたモデルでは、悪意のある敵がデータセット全体を観察し、レスポンス値やフィーチャーマトリックスを慎重に修正する。
両レベルの最適化問題として、敵の修正戦略を定式化する。
合成および実データを用いた数値的な例は,本手法が効率的かつ効果的であることを示している。
論文 参考訳(メタデータ) (2020-10-20T05:51:26Z) - Robust Multi-class Feature Selection via $l_{2,0}$-Norm Regularization
Minimization [6.41804410246642]
特徴選択は、データマイニングと機械学習において重要な計算処理である。
本稿では,複数クラスの特徴選択における最小二乗問題の解法として,ホモシーハードしきい値(HIHT)に基づく新しい手法を提案する。
論文 参考訳(メタデータ) (2020-10-08T02:06:06Z) - Learning nonlinear dynamical systems from a single trajectory [102.60042167341956]
我々は、$x_t+1=sigma(Thetastarx_t)+varepsilon_t$という形の非線形力学系を学ぶアルゴリズムを導入する。
最適なサンプル複雑性と線形ランニング時間を持つ単一軌道から重み行列$Thetastar$を復元するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-04-30T10:42:48Z) - Efficient Algorithms for Multidimensional Segmented Regression [42.046881924063044]
多次元回帰を用いた固定設計の基本問題について検討する。
我々は任意の固定次元におけるこの問題に対する最初のサンプルと計算効率のよいアルゴリズムを提供する。
提案アルゴリズムは,多次元的条件下では新規な,単純なマージ反復手法に依存している。
論文 参考訳(メタデータ) (2020-03-24T19:39:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。