論文の概要: Efficient Computation of Sparse and Robust Maximum Association
Estimators
- arxiv url: http://arxiv.org/abs/2311.17563v2
- Date: Mon, 19 Feb 2024 16:33:49 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-21 04:19:47.572183
- Title: Efficient Computation of Sparse and Robust Maximum Association
Estimators
- Title(参考訳): スパース・ロバスト最大結合推定器の効率的な計算
- Authors: Pia Pfeiffer and Andreas Alfons and Peter Filzmoser
- Abstract要約: 高次元経験例は、この手順の有用性を裏付けるものである。
ラグランジアンアルゴリズムとスパース降下の組み合わせはスパース空間の誘導に適した制約を含むように実装されている。
- 参考スコア(独自算出の注目度): 0.5156484100374059
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Although robust statistical estimators are less affected by outlying
observations, their computation is usually more challenging. This is
particularly the case in high-dimensional sparse settings. The availability of
new optimization procedures, mainly developed in the computer science domain,
offers new possibilities for the field of robust statistics. This paper
investigates how such procedures can be used for robust sparse association
estimators. The problem can be split into a robust estimation step followed by
an optimization for the remaining decoupled, (bi-)convex problem. A combination
of the augmented Lagrangian algorithm and adaptive gradient descent is
implemented to also include suitable constraints for inducing sparsity. We
provide results concerning the precision of the algorithm and show the
advantages over existing algorithms in this context. High-dimensional empirical
examples underline the usefulness of this procedure. Extensions to other robust
sparse estimators are possible.
- Abstract(参考訳): ロバストな統計推定器は外部からの観測の影響は少ないが、計算はより困難である。
これは特に高次元スパース設定の場合である。
コンピュータ科学領域で主に開発された新しい最適化手順の可用性は、堅牢な統計学分野に新たな可能性をもたらす。
本稿では,このような手法をロバストなスパース連想推定器に対してどのように利用できるかを検討する。
この問題はロバストな推定ステップに分割でき、残りの分離された(bi-)凸問題に対する最適化を行うことができる。
拡張ラグランジアンアルゴリズムと適応勾配勾配の組合せは、スパーシリティの誘導に適した制約を含むように実装されている。
本稿では,アルゴリズムの精度に関する結果を提供し,この文脈における既存アルゴリズムの利点を示す。
高次元経験例は、この手順の有用性を裏付けるものである。
他の堅牢なスパース推定器への拡張は可能である。
関連論文リスト
- Stochastic Optimization for Non-convex Problem with Inexact Hessian
Matrix, Gradient, and Function [99.31457740916815]
信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。
TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
論文 参考訳(メタデータ) (2023-10-18T10:29:58Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳(メタデータ) (2023-07-08T15:41:48Z) - Data-Driven Minimax Optimization with Expectation Constraints [9.373649142701803]
本稿では,最小値予測制約問題に対処するために,効率的な原始双対アルゴリズムのクラスを提案する。
我々のアルゴリズムは$mathcalO(frac1sqrtN)$の最適速度で収束することを示す。
論文 参考訳(メタデータ) (2022-02-16T05:23:27Z) - Gaining Outlier Resistance with Progressive Quantiles: Fast Algorithms
and Theoretical Studies [1.6457778420360534]
任意の損失関数を強固化するために, 外部抵抗推定の枠組みを導入する。
通常のデータセットでは、データ再見積の回数を大幅に削減できるような、開始点の要件を緩和する新しい手法が提案されている。
得られた推定器は、必ずしも大域的でも大域的でもなくても、両方の低次元において最適性を楽しむことができる。
論文 参考訳(メタデータ) (2021-12-15T20:35:21Z) - Outlier-Robust Sparse Estimation via Non-Convex Optimization [73.18654719887205]
空間的制約が存在する場合の高次元統計量と非破壊的最適化の関連について検討する。
これらの問題に対する新規で簡単な最適化法を開発した。
結論として、効率よくステーションに収束する一階法は、これらのタスクに対して効率的なアルゴリズムを導出する。
論文 参考訳(メタデータ) (2021-09-23T17:38:24Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z) - A Dynamical Systems Approach for Convergence of the Bayesian EM
Algorithm [59.99439951055238]
我々は、(離散時間)リアプノフ安定性理論が、必ずしも勾配ベースではない最適化アルゴリズムの分析(および潜在的な設計)において、いかに強力なツールとして役立つかを示す。
本稿では,不完全データベイズフレームワークにおけるパラメータ推定を,MAP-EM (maximum a reari expectation-maximization) と呼ばれる一般的な最適化アルゴリズムを用いて行うことに着目したML問題について述べる。
高速収束(線形あるいは二次的)が達成され,S&Cアプローチを使わずに発表することが困難であった可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-23T01:34:18Z) - Bayesian Optimization with Output-Weighted Optimal Sampling [0.0]
我々は、探索アルゴリズムを最小化すべき目的関数が異常に小さい値を仮定する入力空間の領域へ誘導する可能性比の利用を提唱する。
この研究で導入された "likelihood-weighted" 取得関数は、多くのアプリケーションにおいて、その非重みのないものよりも優れていることが判明した。
論文 参考訳(メタデータ) (2020-04-22T14:38:39Z) - Second-Order Guarantees in Centralized, Federated and Decentralized
Nonconvex Optimization [64.26238893241322]
単純なアルゴリズムは、多くの文脈において優れた経験的結果をもたらすことが示されている。
いくつかの研究は、非最適化問題を研究するための厳密な分析的正当化を追求している。
これらの分析における重要な洞察は、摂動が局所的な降下アルゴリズムを許容する上で重要な役割を担っていることである。
論文 参考訳(メタデータ) (2020-03-31T16:54:22Z) - Stochastic Optimization for Regularized Wasserstein Estimators [10.194798773447879]
ワッサーシュタイン推定器勾配の正規化版を、自然次元のサブ線形なステップ毎の時間で解くアルゴリズムを導入する。
このアルゴリズムは他のタスクにも拡張可能であることを示し、その中にはWasserstein Barycentersの推定も含まれる。
論文 参考訳(メタデータ) (2020-02-20T12:04:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。