論文の概要: Deflation-Free Optimal Scoring
- arxiv url: http://arxiv.org/abs/2604.25664v1
- Date: Tue, 28 Apr 2026 13:59:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-29 16:49:17.889993
- Title: Deflation-Free Optimal Scoring
- Title(参考訳): ディフレレーションフリー最適スコーリング
- Authors: Sharmin Afroz, Brendan Ames,
- Abstract要約: SOS(Sparse Optimal Scoring)は、線形判別分析を再構成し、弾性ネット正則化による特徴選択を可能にする。
既存のSOS手法の多くはデフレに基づく戦略を用いて、識別ベクトルを逐次的に計算し、エラーを伝播し、準最適解を生成することができる。
そこで本研究では,全判別ベクトルを大域直交制約の下で同時に推定する手法を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sparse Optimal Scoring (SOS) reformulates linear discriminant analysis to enable feature selection through elastic net regularization, making it well-suited for high-dimensional settings where the number of features exceeds observations. Most existing SOS methods use deflation-based strategies that compute discriminant vectors sequentially, which can propagate errors and produce suboptimal solutions. We propose a novel approach that estimates all discriminant vectors simultaneously under an explicit global orthogonality constraint, which we call Deflation-Free Sparse Optimal Scoring (DFSOS). DFSOS combines Bregman iteration with orthogonality-constrained optimization, decomposing the problem into tractable subproblems for scoring vectors, discriminant vectors, and orthogonality enforcement. We establish convergence to stationary points of the augmented Lagrangian under mild conditions. Extensive experiments using synthetic data and real-world time series data demonstrate that DFSOS achieves classification accuracy comparable to or better than existing deflation-based methods. These results indicate that deflation-free approaches offer a robust and effective framework for sparse discriminant analysis in high-dimensional problems.
- Abstract(参考訳): SOS(Sparse Optimal Scoring)は、線形判別分析を再構成し、弾性ネット正則化による特徴選択を可能にする。
既存のSOS手法の多くはデフレに基づく戦略を用いて、識別ベクトルを逐次的に計算し、エラーを伝播し、準最適解を生成することができる。
本研究では,全判別ベクトルをグローバル直交制約の下で同時に推定する手法を提案し,この手法をDFSOS(Deeflation-Free Sparse Optimal Scoring)と呼ぶ。
DFSOSは、ブレグマンの反復と直交制約付き最適化を組み合わせることで、問題をベクトルのスコアリング、判別ベクトル、直交強制のためのトラクタブルなサブプロブレムに分解する。
緩やかな条件下では、拡張ラグランジアンの定常点への収束を確立する。
合成データと実世界の時系列データを用いた大規模な実験は、DFSOSが既存のデフレ法と同等以上の分類精度を達成することを示した。
これらの結果は、デフレフリーアプローチが高次元問題におけるスパース判別分析のための堅牢で効果的なフレームワークを提供することを示している。
関連論文リスト
- Approximate Gradient Coding for Distributed Learning with Heterogeneous Stragglers [8.873449722727026]
分散学習におけるストラグラー問題を軽減するため,最適に構造化された勾配符号化方式を提案する。
提案手法はストラグラーの影響を著しく低減し,既存の手法と比較して収束を加速する。
論文 参考訳(メタデータ) (2025-10-26T05:32:18Z) - Neural Optimal Transport Meets Multivariate Conformal Prediction [58.43397908730771]
条件付きベクトル回帰(CVQR)のためのフレームワークを提案する。
CVQRは、ニューラルネットワークの最適輸送と量子化された最適化を組み合わせて、予測に適用する。
論文 参考訳(メタデータ) (2025-09-29T19:50:19Z) - Efficient Computation of Sparse and Robust Maximum Association Estimators [0.4588028371034406]
ロバスト統計推定器は経験的精度を提供するが、しばしば高次元スパース設定において計算的に困難である。
現代のアソシエーション推定手法は、他のロバストな手法に対してレジリエンスを課すことなく、外れ値に利用される。
論文 参考訳(メタデータ) (2023-11-29T11:57:50Z) - Constrained Optimization via Exact Augmented Lagrangian and Randomized
Iterative Sketching [55.28394191394675]
等式制約付き非線形非IBS最適化問題に対する適応的不正確なニュートン法を開発した。
ベンチマーク非線形問題,LVMのデータによる制約付きロジスティック回帰,PDE制約問題において,本手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-05-28T06:33:37Z) - The Novel Adaptive Fractional Order Gradient Decent Algorithms Design
via Robust Control [5.5491171448159715]
バニラ分数次降下は、目的関数が強く凸である場合には、正確な最小点に収束する代わりに、大域最小点の周りの領域に振動的に収束することがある。
この問題に対処するために,新しい適応分数次降下法 (AFDOG) と新しい分数次降下法 (AFOAGD) を提案する。
論文 参考訳(メタデータ) (2023-03-08T02:03:30Z) - Optimal Rates for Random Order Online Optimization [60.011653053877126]
敵が損失関数を選択できるカテットガルバー2020onlineについて検討するが、一様にランダムな順序で提示される。
2020onlineアルゴリズムが最適境界を達成し,安定性を著しく向上することを示す。
論文 参考訳(メタデータ) (2021-06-29T09:48:46Z) - Piecewise linear regression and classification [0.20305676256390928]
本稿では,線形予測器を用いた多変量回帰と分類問題の解法を提案する。
本論文で記述されたアルゴリズムのpython実装は、http://cse.lab.imtlucca.it/bemporad/parcで利用可能である。
論文 参考訳(メタデータ) (2021-03-10T17:07:57Z) - Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。
本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文 参考訳(メタデータ) (2020-12-09T20:19:32Z) - Efficient Methods for Structured Nonconvex-Nonconcave Min-Max
Optimization [98.0595480384208]
定常点に収束する一般化外空間を提案する。
このアルゴリズムは一般の$p$ノルド空間だけでなく、一般の$p$次元ベクトル空間にも適用される。
論文 参考訳(メタデータ) (2020-10-31T21:35:42Z) - Provably Convergent Working Set Algorithm for Non-Convex Regularized
Regression [0.0]
本稿では、収束保証付き非正則正規化器のためのワーキングセットアルゴリズムを提案する。
その結果,ブロックコーディネートや勾配ソルバの完全解法と比較して高い利得を示した。
論文 参考訳(メタデータ) (2020-06-24T07:40:31Z) - Implicit differentiation of Lasso-type models for hyperparameter
optimization [82.73138686390514]
ラッソ型問題に適した行列逆転のない効率的な暗黙微分アルゴリズムを提案する。
提案手法は,解の空間性を利用して高次元データにスケールする。
論文 参考訳(メタデータ) (2020-02-20T18:43:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。