論文の概要: Bi-Sparse Unsupervised Feature Selection
- arxiv url: http://arxiv.org/abs/2412.16819v2
- Date: Thu, 14 Aug 2025 01:54:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-15 13:42:22.853875
- Title: Bi-Sparse Unsupervised Feature Selection
- Title(参考訳): Bi-Sparse Unsupervised Feature Selection
- Authors: Xianchao Xiu, Chenyi Huang, Pan Shang, Wanquan Liu,
- Abstract要約: 両スパースPCA解析のための統合フレームワークBSUFSを提案する。
本稿では,BSUFSが合成および実世界のデータセットに与える影響について述べる。
その結果、選択における双スパース最適化の利点を明らかにし、画像処理における他の分野の可能性を示した。
- 参考スコア(独自算出の注目度): 9.541908550559361
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: To deal with high-dimensional unlabeled datasets in many areas, principal component analysis (PCA) has become a rising technique for unsupervised feature selection (UFS). However, most existing PCA-based methods only consider the structure of datasets by embedding a single sparse regularization or constraint on the transformation matrix. In this paper, we introduce a novel bi-sparse method called BSUFS to improve the performance of UFS. The core idea of BSUFS is to incorporate $\ell_{2,p}$-norm and $\ell_q$-norm into the classical PCA, which enables our method to select relevant features and filter out irrelevant noises, thereby obtaining discriminative features. Here, the parameters $p$ and $q$ are within the range of $[0, 1)$. Therefore, BSUFS not only constructs a unified framework for bi-sparse optimization, but also includes some existing works as special cases. To solve the resulting non-convex model, we propose an efficient proximal alternating minimization (PAM) algorithm using Stiefel manifold optimization and sparse optimization techniques. In addition, the computational complexity analysis is presented. Extensive numerical experiments on synthetic and real-world datasets demonstrate the effectiveness of our proposed BSUFS. The results reveal the advantages of bi-sparse optimization in feature selection and show its potential for other fields in image processing. Our code is available at https://github.com/xianchaoxiu/BSUFS.
- Abstract(参考訳): 多くの分野において、高次元のラベルなしデータセットを扱うために、主成分分析(PCA)は教師なし特徴選択(UFS)の上昇技術となっている。
しかし、既存のPCAベースの手法の多くは、単一のスパース正規化や制約を変換行列に埋め込むことでデータセットの構造を考慮しているだけである。
本稿では,UFSの性能向上を図るために,BSUFSと呼ばれる新しい二スパース方式を提案する。
BSUFSの中核となる考え方は、$\ell_{2,p}$-norm と $\ell_q$-norm を古典的PCAに組み込むことである。
ここで、$p$と$q$は$[0, 1)$の範囲内である。
したがって、BSUFSは双スパース最適化のための統一されたフレームワークを構築するだけでなく、いくつかの既存の作業も特別なケースとして含んでいる。
結果の非凸モデルを解決するために,Stiefel 多様体最適化とスパース最適化手法を用いた効率の良い近似交互最小化 (PAM) アルゴリズムを提案する。
さらに,計算複雑性解析について述べる。
合成および実世界のデータセットに対する大規模な数値実験により,提案したBSUFSの有効性が示された。
その結果、特徴選択における双スパース最適化の利点を明らかにし、画像処理における他の分野の可能性を示した。
私たちのコードはhttps://github.com/xianchaoxiu/BSUFSで利用可能です。
関連論文リスト
- Bi-Level Unsupervised Feature Selection [11.383408944117804]
本稿では,クラスタリングレベルと特徴レベルを含む2レベル非教師付き特徴選択(BLUFS)手法を提案する。
クラスタリングレベルでは、スペクトルクラスタリングを用いてデータ構造を表現する擬似ラベルを生成し、連続線形回帰モデルを用いてプロジェクション行列を学習する。
機能レベルでは、$ell_2,0$-norm制約がプロジェクションマトリックスに課され、より効果的に機能を選択する。
論文 参考訳(メタデータ) (2025-05-26T22:52:31Z) - Enhancing Unsupervised Feature Selection via Double Sparsity Constrained Optimization [6.342485512772862]
教師なし単一特徴選択(UFS)は機械学習やパターン認識に広く応用されている。
既存の手法のほとんどはスパーシリティしか考慮していないため、サブセットを選択し、元のサブセットと区別することは困難である。
本稿では,DSCOFSと呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2025-01-01T05:05:46Z) - Optimizing Posterior Samples for Bayesian Optimization via Rootfinding [2.94944680995069]
我々は,グローバルなルートフィンディングに基づく後方サンプルの効率的な大域的最適化手法を提案する。
注目すべきは、各集合から 1 点しか持たなくても、大域的最適度は大抵の場合発見されることである。
提案手法は,エントロピー探索の変種など,他の後部サンプルベース獲得関数の性能も向上する。
論文 参考訳(メタデータ) (2024-10-29T17:57:16Z) - DFedADMM: Dual Constraints Controlled Model Inconsistency for
Decentralized Federated Learning [52.83811558753284]
分散学習(DFL)は、中央サーバーを捨て、分散通信ネットワークを確立する。
既存のDFL手法は依然として、局所的な矛盾と局所的な過度なオーバーフィッティングという2つの大きな課題に悩まされている。
論文 参考訳(メタデータ) (2023-08-16T11:22:36Z) - Learning Regions of Interest for Bayesian Optimization with Adaptive
Level-Set Estimation [84.0621253654014]
本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。
理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
論文 参考訳(メタデータ) (2023-07-25T09:45:47Z) - Beyond Discrete Selection: Continuous Embedding Space Optimization for
Generative Feature Selection [34.32619834917906]
我々は、特徴選択問題を深い微分可能な最適化タスクとして再構成する。
本稿では,離散的特徴部分集合を連続的な埋め込み空間として概念化する,新しい原理的な研究視点を提案する。
具体的には、強化特徴選択学習を利用して、多種多様な高品質なトレーニングデータを生成する。
論文 参考訳(メタデータ) (2023-02-26T03:18:45Z) - Large-scale Optimization of Partial AUC in a Range of False Positive
Rates [51.12047280149546]
ROC曲線 (AUC) の下の領域は、機械学習において最も広く使われている分類モデルのパフォーマンス指標の1つである。
近年の封筒平滑化技術に基づく効率的な近似勾配降下法を開発した。
提案アルゴリズムは,効率のよい解法を欠くランク付けされた範囲損失の和を最小化するためにも利用できる。
論文 参考訳(メタデータ) (2022-03-03T03:46:18Z) - Fully Convolutional Networks for Panoptic Segmentation with Point-based
Supervision [88.71403886207071]
そこで我々は,Panoptic FCNと呼ばれる,完全かつ弱教師付きパノプティカルセグメンテーションのための,概念的にシンプルで強力で効率的なフレームワークを提案する。
我々のアプローチは、統一された完全な畳み込みパイプラインにおいて、前景や背景を表現し、予測することを目的としています。
Panoptic FCNは、提案したカーネルジェネレータで各オブジェクトのインスタンスやもののカテゴリをエンコードし、高解像度の機能を直接変換することで予測を生成する。
論文 参考訳(メタデータ) (2021-08-17T15:28:53Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Stochastic Optimization of Areas Under Precision-Recall Curves with
Provable Convergence [66.83161885378192]
ROC(AUROC)と精度リコール曲線(AUPRC)の下の領域は、不均衡問題に対する分類性能を評価するための一般的な指標である。
本稿では,深層学習のためのAUPRCの最適化手法を提案する。
論文 参考訳(メタデータ) (2021-04-18T06:22:21Z) - FedPD: A Federated Learning Framework with Optimal Rates and Adaptivity
to Non-IID Data [59.50904660420082]
フェデレートラーニング(FL)は、分散データから学ぶための一般的なパラダイムになっています。
クラウドに移行することなく、さまざまなデバイスのデータを効果的に活用するために、Federated Averaging(FedAvg)などのアルゴリズムでは、"Computation then aggregate"(CTA)モデルを採用している。
論文 参考訳(メタデータ) (2020-05-22T23:07:42Z) - Practical Bayesian Optimization of Objectives with Conditioning
Variables [1.0497128347190048]
ユーザが複数の問題に直面している場合、状態変数に対してそれぞれを条件付きで最適化する必要がある場合を考える。
目的間の類似性は、それぞれの目的を2つの方法で最適化する。
本稿では条件最適化のためのフレームワークであるConBOを提案する。
論文 参考訳(メタデータ) (2020-02-23T22:06:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。