論文の概要: Sufficient Dimesion Reduction via Generalized Stein's Lemma
- arxiv url: http://arxiv.org/abs/2608.15121v1
- Date: Sat, 15 Aug 2026 08:46:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.204009
- Title: Sufficient Dimesion Reduction via Generalized Stein's Lemma
- Title(参考訳): 一般化ステインレンマによる十分蒸散低減
- Abstract要約: 一般化されたシュタインの補題に基づくSDRフレームワークを提案する。
提案手法は線形性条件に頼らず,行列逆転を回避し,ラベルのないデータを活用する。
提案手法は,様々な設定において既存手法より一貫して優れていることを示す。
- 参考スコア(独自算出の注目度): 2.791614311130759
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sufficient dimension reduction (SDR) seeks the minimal subspace of the predictors that captures the full conditional distribution of the response, which is known as the central subspace (CS). When the response is multivariate, the problem becomes considerably more challenging, particularly when the sample size is limited. Existing methods face different limitations:inverse regression approaches rely on strong distributional assumptions and matrix inversion, and their multi-response extensions suffer from severe slice sparsity; forward regression methods depend on computationally intensive iterative smoothing whose cost grows with the response dimension; and deep learning-based approaches demand large amounts of labeled data. To circumvent these shortcomings, we propose an SDR framework based on the generalized Stein's lemma. Our method constructs a cross-moment matrix between the multivariate response and the marginal score function of the predictors, and recovers the CS via its singular value decomposition. The proposed method does not rely on the linearity condition, avoids matrix inversion as well as iterative smoothing, and can leverage unlabeled data when available. We establish convergence guarantees for the proposed estimator under standard regularity conditions. Moreover, we propose a practical rank-selection algorithm to estimate the dimension of the CS. Extensive simulation studies and a real data application demonstrate that the proposed methods consistently outperform existing approaches across a variety of settings, particularly in moderate-dimensional, label-scarce scenarios with high noise levels.
- Abstract(参考訳): 十分次元還元(SDR)は、中央部分空間(CS)と呼ばれる応答の完全な条件分布を捉える予測器の最小部分空間を求める。
応答が多変量である場合、特にサンプルサイズが制限された場合、問題はかなり困難になる。
既存の回帰手法は、強い分布仮定と行列の逆転に依存し、その多重応答拡張は厳しいスライス空間に悩まされ、前方回帰法は、応答次元とともにコストが増大する計算的に集中的な反復的平滑化に依存し、深層学習に基づくアプローチは大量のラベル付きデータを要求する。
これらの欠点を回避するために、一般化されたスタインの補題に基づくSDRフレームワークを提案する。
本手法は,多変量応答と予測器の限界スコア関数とのクロスモーメント行列を構築し,その特異値分解によりCSを復元する。
提案手法は線形性条件に依存しず, 行列の逆転や反復的平滑化を回避し, 利用可能であればラベルのないデータを活用することができる。
標準正則条件下で提案した推定器の収束保証を確立する。
さらに,CSの寸法を推定する実用的なランク選択アルゴリズムを提案する。
大規模なシミュレーション研究と実データ応用により、提案手法は様々な設定、特に高騒音レベルの中等次元のラベルスカースシナリオにおいて、既存の手法を一貫して上回ることを示す。
関連論文リスト
- Out-of-Distribution generalization of quantile regression with heavy tailed inputs: an SVM approach [2.135617967945777]
極端量子レグレッションのためのSVM(Support Vector Machine)フレームワークを提案する。
軽度規則性仮定の下で有限サンプル学習保証を確立する。
ドナウ川流域の河川流動データに関する実証的研究により,本研究を補完する。
論文 参考訳(メタデータ) (2026-05-29T18:52:13Z) - Robust low-rank estimation with multiple binary responses using pairwise AUC loss [0.0]
複数のバイナリ応答は、多くの現代のデータ分析問題に現れる。
低ランクモデルはタスク間の遅延依存をエンコードする自然な方法を提供する。
既存のバイナリデータの方法は概ね可能性ベースであり、ポイントワイズ分類に重点を置いている。
論文 参考訳(メタデータ) (2026-01-13T15:00:10Z) - Discretization-free Multicalibration through Loss Minimization over Tree Ensembles [22.276913140687725]
深度2の決定木をアンサンブルする離散化のない多重校正法を提案する。
本アルゴリズムは,データ分布が損失飽和と呼ばれる技術的条件を満たすことを前提として,マルチキャリブレーションを確実に達成する。
論文 参考訳(メタデータ) (2025-05-23T03:29:58Z) - RieszBoost: Gradient Boosting for Riesz Regression [49.737777802061984]
本稿では,Riesz表現子を直接推定するために,その明示的な解析形式を必要とせず,新たな勾配向上アルゴリズムを提案する。
提案アルゴリズムは,様々な関数を対象とした間接推定手法と同等以上の性能を示す。
論文 参考訳(メタデータ) (2025-01-08T23:04:32Z) - Modeling High-Dimensional Dependent Data in the Presence of Many Explanatory Variables and Weak Signals [0.0]
本稿では,多数の説明変数が利用可能であり,信号対雑音比が低い場合に,高次元依存データをモデル化する手法について考察する。
論文 参考訳(メタデータ) (2024-12-06T02:54:31Z) - Total Uncertainty Quantification in Inverse PDE Solutions Obtained with Reduced-Order Deep Learning Surrogate Models [50.90868087591973]
機械学習サロゲートモデルを用いて得られた逆PDE解の総不確かさを近似したベイズ近似法を提案する。
非線型拡散方程式に対する反復的アンサンブルスムーズおよび深層アンサンブル法との比較により,提案手法を検証した。
論文 参考訳(メタデータ) (2024-08-20T19:06:02Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳(メタデータ) (2024-06-05T13:36:38Z) - Multistage Stochastic Optimization via Kernels [3.7565501074323224]
我々は,多段階最適化問題に対する非パラメトリック,データ駆動,トラクタブルアプローチを開発した。
本稿では,提案手法が最適に近い平均性能で決定ルールを生成することを示す。
論文 参考訳(メタデータ) (2023-03-11T23:19:32Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Faster One-Sample Stochastic Conditional Gradient Method for Composite
Convex Minimization [61.26619639722804]
滑らかで非滑らかな項の和として形成される凸有限サム目標を最小化するための条件勾配法(CGM)を提案する。
提案手法は, 平均勾配 (SAG) 推定器を備え, 1回に1回のサンプルしか必要としないが, より高度な分散低減技術と同等の高速収束速度を保証できる。
論文 参考訳(メタデータ) (2022-02-26T19:10:48Z) - Random Forest Weighted Local Fréchet Regression with Random Objects [18.128663071848923]
本稿では,新しいランダム森林重み付き局所Fr'echet回帰パラダイムを提案する。
最初の方法は、これらの重みを局所平均として、条件付きFr'echet平均を解くことである。
第二の手法は局所線形Fr'echet回帰を行い、どちらも既存のFr'echet回帰法を大幅に改善した。
論文 参考訳(メタデータ) (2022-02-10T09:10:59Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z) - Reinforcement Learning for Adaptive Mesh Refinement [63.7867809197671]
マルコフ決定過程としてのAMRの新規な定式化を提案し,シミュレーションから直接改良政策を訓練するために深部強化学習を適用した。
これらのポリシーアーキテクチャのモデルサイズはメッシュサイズに依存しないため、任意に大きく複雑なシミュレーションにスケールします。
論文 参考訳(メタデータ) (2021-03-01T22:55:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。