論文の概要: Lasso Universality Under Linearly Dependent Covariates in the Sparse Regime
- arxiv url: http://arxiv.org/abs/2608.08390v1
- Date: Sun, 09 Aug 2026 00:59:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.799986
- Title: Lasso Universality Under Linearly Dependent Covariates in the Sparse Regime
- Title(参考訳): スパース・レジームにおける線形従属共変量の下でのラッソ普遍性
- Abstract要約: 我々はスパース体制における普遍性に対する普遍性定理を証明する。
我々の設定は、以前の文献の多くで扱われたものよりも広い行と列依存構造を許容する。
- 参考スコア(独自算出の注目度): 5.736588561666141
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Throughout the last decade, Gaussian universality has been widely studied for high-dimensional estimation problems. Most of the literature focuses on i.i.d. sensing matrices or accounts for special forms of dependence, such as block dependence or other specific row/column dependencies. More general simultaneous row and column mixing has not yet been fully studied. In this paper, we focus on that setting. We prove a Gaussian universality theorem for the lasso in the sparse regime, where the non- Gaussian covariates have linearly dependent rows and columns. To the best of our knowledge, our setting permits a broader simultaneous row and column dependence structure than those treated in much of the prior universality literature. Numerical illustrations for various sparse profiles support the universality claims of this paper.
- Abstract(参考訳): この10年間、ガウスの普遍性は高次元推定問題に対して広く研究されてきた。
文献の多くは、ブロック依存やその他の特定の行/列依存など、行列の検知や依存の特別な形態の説明に焦点が当てられている。
より一般的な行と列の混合は、まだ十分に研究されていない。
本稿では,その設定に焦点をあてる。
スパース状態におけるラッソに対するガウス普遍性定理(英語版)を証明し、非ガウス共変体は線型従属行と列を持つ。
我々の知識を最大限に活用するために、我々の設定は、以前の普遍性文学の多くで扱われるものよりも、より広い同時行と列依存構造を許容する。
各種スパースプロファイルの数値図示は,本論文の普遍性を裏付けるものである。
関連論文リスト
- LieBN: Batch Normalization over Lie Groups [75.83671298040186]
We propose LieBN, a framework for Batch Normalization (RBN) over Lie group。
我々は、リーBNを9つの異なる測地にわたってインスタンス化する。
新たに右不変距離を導入し、既存のリー群構造を3つ拡張する。
論文 参考訳(メタデータ) (2026-06-13T07:06:42Z) - Multivariate Distributional Reinforcement Learning Using Sliced Divergences [37.5115685757579]
Sliced Distributional Reinforcement Learningは、抽出可能な1次元の発散を持ち上げ、射影を通して多変量帰還分布を導出する。
We analyze Wasserstein, Cramér, and Maximum Mean Discrepancy (MMD)
我々は,おもちゃチェーン問題とグリッドワールドイメージベース環境,およびアタリゲームのサブセットに対するSDRLの評価を行った。
論文 参考訳(メタデータ) (2026-05-29T12:26:45Z) - Principled Multimodal Representation Learning [99.53621521696051]
マルチモーダル表現学習は、多様なデータモダリティを統合することにより、統一された表現空間を作ろうとする。
最近の進歩は、複数のモードの同時アライメントを調査しているが、いくつかの課題が残っている。
複数モーダルの同時アライメントを実現する新しいフレームワークであるPMRL(Principled Multimodal Representation Learning)を提案する。
論文 参考訳(メタデータ) (2025-07-23T09:12:25Z) - Understanding Matrix Function Normalizations in Covariance Pooling through the Lens of Riemannian Geometry [63.694184882697435]
グローバル共分散プーリング(GCP)は、高レベルの表現の2階統計を利用して、ディープニューラルネットワーク(DNN)の性能を向上させることが実証されている。
本稿では、リーマン幾何学の観点から行列対数とパワーの包括的かつ統一的な理解を提供する。
論文 参考訳(メタデータ) (2024-07-15T07:11:44Z) - Generalization in Kernel Regression Under Realistic Assumptions [41.345620270267446]
共通カーネルや任意の正規化、ノイズ、任意の入力次元、サンプル数に対して厳密な境界を提供する。
以上の結果から,高入力次元における過剰適合,固定次元におけるほぼ誘電過剰適合,正規化回帰に対する明示的な収束率が示唆された。
副産物として、カーネルシステムで訓練されたニューラルネットワークの時間依存境界を得る。
論文 参考訳(メタデータ) (2023-12-26T10:55:20Z) - Ito Diffusion Approximation of Universal Ito Chains for Sampling, Optimization and Boosting [64.0722630873758]
我々は、ある微分方程式のオイラー・マルヤマ離散化のように見える、より一般で幅広いマルコフ連鎖、伊藤鎖を考える。
伊藤鎖の法則と微分方程式の間の$W_2$-距離の有界性を証明する。
論文 参考訳(メタデータ) (2023-10-09T18:38:56Z) - Generalized Leverage Scores: Geometric Interpretation and Applications [15.86621510551207]
我々は、行列の列を特異ベクトルの任意の部分集合に関連付けるためにレバレッジスコアの定義を拡張する。
この結果を用いて、2つのよく知られた問題に対する証明可能な保証付き近似アルゴリズムを設計する。
論文 参考訳(メタデータ) (2022-06-16T10:14:08Z) - Gaussian Universality of Linear Classifiers with Random Labels in
High-Dimension [24.503842578208268]
高次元における生成モデルから得られるデータは、ガウスデータと対応するデータ共分散の最小限の訓練損失を持つことを示す。
特に,同質なガウス雲と多モード生成ニューラルネットワークの任意の混合によって生成されたデータについて述べる。
論文 参考訳(メタデータ) (2022-05-26T12:25:24Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z) - Dimension Free Generalization Bounds for Non Linear Metric Learning [61.193693608166114]
我々はスパース体制と非スパース体制という2つの体制に対して一様一般化境界を提供する。
解の異なる新しい性質を頼りにすることで、次元自由一般化保証を提供することができることを示す。
論文 参考訳(メタデータ) (2021-02-07T14:47:00Z) - Sub-Gaussian Matrices on Sets: Optimal Tail Dependence and Applications [6.034622792544481]
ガウス行列が集合上の近距離等距離となる場合について検討する。
我々は、ガウス以下のノルムに対するこれまでの最もよく知られた依存は準最適であることを示した。
また、部分指数確率変数に対する新しいベルンシュタイン型不等式や、準ガウス確率変数の二次形式に対する新しいハンソン-ライト不等式も開発する。
論文 参考訳(メタデータ) (2020-01-28T23:06:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。