論文の概要: Best Subset Selection in Reduced Rank Regression
- arxiv url: http://arxiv.org/abs/2211.15889v1
- Date: Tue, 29 Nov 2022 02:51:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-30 18:09:22.088963
- Title: Best Subset Selection in Reduced Rank Regression
- Title(参考訳): 低いランク回帰における最良サブセット選択
- Authors: Canhong Wen, Ruipeng Dong, Xueqin Wang, Weiyu Li, Heping Zhang
- Abstract要約: 提案アルゴリズムは,有意な確率でランク推定を行うことができることを示す。
がん研究における数値的研究と応用は、有効性と拡張性を示している。
- 参考スコア(独自算出の注目度): 1.4699455652461724
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sparse reduced rank regression is an essential statistical learning method.
In the contemporary literature, estimation is typically formulated as a
nonconvex optimization that often yields to a local optimum in numerical
computation. Yet, their theoretical analysis is always centered on the global
optimum, resulting in a discrepancy between the statistical guarantee and the
numerical computation. In this research, we offer a new algorithm to address
the problem and establish an almost optimal rate for the algorithmic solution.
We also demonstrate that the algorithm achieves the estimation with a
polynomial number of iterations. In addition, we present a generalized
information criterion to simultaneously ensure the consistency of support set
recovery and rank estimation. Under the proposed criterion, we show that our
algorithm can achieve the oracle reduced rank estimation with a significant
probability. The numerical studies and an application in the ovarian cancer
genetic data demonstrate the effectiveness and scalability of our approach.
- Abstract(参考訳): 簡素な階位回帰は重要な統計的学習法である。
現代の文献では、推定は典型的には非凸最適化として定式化され、数値計算においてしばしば局所最適となる。
しかし、その理論解析は常に大域的最適度に重点を置いており、統計的保証と数値計算の相違が生じる。
本研究では,この問題に対処し,アルゴリズム解に対するほぼ最適な確率を確立するための新しいアルゴリズムを提案する。
また,このアルゴリズムが多項式数を繰り返して推定できることを実証した。
さらに,サポートセットの回復とランク推定の一貫性を同時に確保する汎用情報基準を提案する。
提案した基準の下では,本アルゴリズムが有意な確率でオラクル還元ランク推定を実現できることを示す。
卵巣癌遺伝データの数値的研究と応用は,我々のアプローチの有効性と拡張性を示している。
関連論文リスト
- Eliminating Ratio Bias for Gradient-based Simulated Parameter Estimation [0.7673339435080445]
本稿では、可能性関数が解析的に利用できないモデルにおけるパラメータキャリブレーションの課題に対処する。
本稿では,最大推定と後続密度推定の両問題において,比バイアスの問題に対処するマルチタイムスケールを応用した勾配に基づくシミュレーションパラメータ推定フレームワークを提案する。
論文 参考訳(メタデータ) (2024-11-20T02:46:15Z) - Exploring the Algorithm-Dependent Generalization of AUPRC Optimization
with List Stability [107.65337427333064]
AUPRC(Area Under the Precision-Recall Curve)の最適化は、機械学習にとって重要な問題である。
本研究では, AUPRC最適化の単依存一般化における最初の試行について述べる。
3つの画像検索データセットの実験は、我々のフレームワークの有効性と健全性に言及する。
論文 参考訳(メタデータ) (2022-09-27T09:06:37Z) - Gaining Outlier Resistance with Progressive Quantiles: Fast Algorithms
and Theoretical Studies [1.6457778420360534]
任意の損失関数を強固化するために, 外部抵抗推定の枠組みを導入する。
通常のデータセットでは、データ再見積の回数を大幅に削減できるような、開始点の要件を緩和する新しい手法が提案されている。
得られた推定器は、必ずしも大域的でも大域的でもなくても、両方の低次元において最適性を楽しむことができる。
論文 参考訳(メタデータ) (2021-12-15T20:35:21Z) - Amortized Implicit Differentiation for Stochastic Bilevel Optimization [53.12363770169761]
決定論的条件と決定論的条件の両方において、二段階最適化問題を解決するアルゴリズムのクラスについて検討する。
厳密な勾配の推定を補正するために、ウォームスタート戦略を利用する。
このフレームワークを用いることで、これらのアルゴリズムは勾配の偏りのない推定値にアクセス可能な手法の計算複雑性と一致することを示す。
論文 参考訳(メタデータ) (2021-11-29T15:10:09Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-06-22T16:07:02Z) - Linear regression with partially mismatched data: local search with
theoretical guarantees [9.398989897176953]
本稿では,予測と応答のペアが部分的に一致しない線形回帰の重要な変種について検討する。
最適化定式化を用いて、基礎となる回帰係数とミスマッチに対応する置換を同時に学習する。
我々は,局所探索アルゴリズムが線形速度でほぼ最適解に収束することを証明した。
論文 参考訳(メタデータ) (2021-06-03T23:32:12Z) - Estimating leverage scores via rank revealing methods and randomization [50.591267188664666]
任意のランクの正方形密度あるいはスパース行列の統計レバレッジスコアを推定するアルゴリズムについて検討した。
提案手法は,高密度およびスパースなランダム化次元性還元変換の合成と階調明細化法を組み合わせることに基づく。
論文 参考訳(メタデータ) (2021-05-23T19:21:55Z) - Towards Optimal Problem Dependent Generalization Error Bounds in
Statistical Learning Theory [11.840747467007963]
我々は,「ベスト勾配仮説」で評価された分散,有効損失誤差,ノルムとほぼ最適にスケールする問題依存率について検討する。
一様局所収束(uniform localized convergence)と呼ばれる原理的枠組みを導入する。
我々は,既存の一様収束と局所化解析のアプローチの基本的制約を,我々のフレームワークが解決していることを示す。
論文 参考訳(メタデータ) (2020-11-12T04:07:29Z) - An Asymptotically Optimal Primal-Dual Incremental Algorithm for
Contextual Linear Bandits [129.1029690825929]
複数の次元に沿った最先端技術を改善する新しいアルゴリズムを提案する。
非文脈線形帯域の特別な場合において、学習地平線に対して最小限の最適性を確立する。
論文 参考訳(メタデータ) (2020-10-23T09:12:47Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳(メタデータ) (2020-05-22T22:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。