論文の概要: Sufficient Dimesion Reduction via Generalized Stein's Lemma
- arxiv url: http://arxiv.org/abs/2608.15121v1
- Date: Sat, 15 Aug 2026 08:46:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.204009
- Title: Sufficient Dimesion Reduction via Generalized Stein's Lemma
- Title(参考訳): 一般化ステインレンマによる十分蒸散低減
- Authors: Ye Tian,
- Abstract要約: 一般化されたシュタインの補題に基づくSDRフレームワークを提案する。
提案手法は線形性条件に頼らず,行列逆転を回避し,ラベルのないデータを活用する。
提案手法は,様々な設定において既存手法より一貫して優れていることを示す。
- 参考スコア(独自算出の注目度): 2.791614311130759
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sufficient dimension reduction (SDR) seeks the minimal subspace of the predictors that captures the full conditional distribution of the response, which is known as the central subspace (CS). When the response is multivariate, the problem becomes considerably more challenging, particularly when the sample size is limited. Existing methods face different limitations:inverse regression approaches rely on strong distributional assumptions and matrix inversion, and their multi-response extensions suffer from severe slice sparsity; forward regression methods depend on computationally intensive iterative smoothing whose cost grows with the response dimension; and deep learning-based approaches demand large amounts of labeled data. To circumvent these shortcomings, we propose an SDR framework based on the generalized Stein's lemma. Our method constructs a cross-moment matrix between the multivariate response and the marginal score function of the predictors, and recovers the CS via its singular value decomposition. The proposed method does not rely on the linearity condition, avoids matrix inversion as well as iterative smoothing, and can leverage unlabeled data when available. We establish convergence guarantees for the proposed estimator under standard regularity conditions. Moreover, we propose a practical rank-selection algorithm to estimate the dimension of the CS. Extensive simulation studies and a real data application demonstrate that the proposed methods consistently outperform existing approaches across a variety of settings, particularly in moderate-dimensional, label-scarce scenarios with high noise levels.
- Abstract(参考訳): 十分次元還元(SDR)は、中央部分空間(CS)と呼ばれる応答の完全な条件分布を捉える予測器の最小部分空間を求める。
応答が多変量である場合、特にサンプルサイズが制限された場合、問題はかなり困難になる。
既存の回帰手法は、強い分布仮定と行列の逆転に依存し、その多重応答拡張は厳しいスライス空間に悩まされ、前方回帰法は、応答次元とともにコストが増大する計算的に集中的な反復的平滑化に依存し、深層学習に基づくアプローチは大量のラベル付きデータを要求する。
これらの欠点を回避するために、一般化されたスタインの補題に基づくSDRフレームワークを提案する。
本手法は,多変量応答と予測器の限界スコア関数とのクロスモーメント行列を構築し,その特異値分解によりCSを復元する。
提案手法は線形性条件に依存しず, 行列の逆転や反復的平滑化を回避し, 利用可能であればラベルのないデータを活用することができる。
標準正則条件下で提案した推定器の収束保証を確立する。
さらに,CSの寸法を推定する実用的なランク選択アルゴリズムを提案する。
大規模なシミュレーション研究と実データ応用により、提案手法は様々な設定、特に高騒音レベルの中等次元のラベルスカースシナリオにおいて、既存の手法を一貫して上回ることを示す。
関連論文リスト
- Out-of-Distribution generalization of quantile regression with heavy tailed inputs: an SVM approach [2.135617967945777]
極端量子レグレッションのためのSVM(Support Vector Machine)フレームワークを提案する。
軽度規則性仮定の下で有限サンプル学習保証を確立する。
ドナウ川流域の河川流動データに関する実証的研究により,本研究を補完する。
論文 参考訳(メタデータ) (2026-05-29T18:52:13Z) - Robust low-rank estimation with multiple binary responses using pairwise AUC loss [0.0]
複数のバイナリ応答は、多くの現代のデータ分析問題に現れる。
低ランクモデルはタスク間の遅延依存をエンコードする自然な方法を提供する。
既存のバイナリデータの方法は概ね可能性ベースであり、ポイントワイズ分類に重点を置いている。
論文 参考訳(メタデータ) (2026-01-13T15:00:10Z) - Discretization-free Multicalibration through Loss Minimization over Tree Ensembles [22.276913140687725]
深度2の決定木をアンサンブルする離散化のない多重校正法を提案する。
本アルゴリズムは,データ分布が損失飽和と呼ばれる技術的条件を満たすことを前提として,マルチキャリブレーションを確実に達成する。
論文 参考訳(メタデータ) (2025-05-23T03:29:58Z) - Modeling High-Dimensional Dependent Data in the Presence of Many Explanatory Variables and Weak Signals [0.0]
本稿では,多数の説明変数が利用可能であり,信号対雑音比が低い場合に,高次元依存データをモデル化する手法について考察する。
論文 参考訳(メタデータ) (2024-12-06T02:54:31Z) - Total Uncertainty Quantification in Inverse PDE Solutions Obtained with Reduced-Order Deep Learning Surrogate Models [50.90868087591973]
機械学習サロゲートモデルを用いて得られた逆PDE解の総不確かさを近似したベイズ近似法を提案する。
非線型拡散方程式に対する反復的アンサンブルスムーズおよび深層アンサンブル法との比較により,提案手法を検証した。
論文 参考訳(メタデータ) (2024-08-20T19:06:02Z) - Multistage Stochastic Optimization via Kernels [3.7565501074323224]
我々は,多段階最適化問題に対する非パラメトリック,データ駆動,トラクタブルアプローチを開発した。
本稿では,提案手法が最適に近い平均性能で決定ルールを生成することを示す。
論文 参考訳(メタデータ) (2023-03-11T23:19:32Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Random Forest Weighted Local Fréchet Regression with Random Objects [18.128663071848923]
本稿では,新しいランダム森林重み付き局所Fr'echet回帰パラダイムを提案する。
最初の方法は、これらの重みを局所平均として、条件付きFr'echet平均を解くことである。
第二の手法は局所線形Fr'echet回帰を行い、どちらも既存のFr'echet回帰法を大幅に改善した。
論文 参考訳(メタデータ) (2022-02-10T09:10:59Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。