論文の概要: Minimax Additive Regression under Unknown Dependent Designs
- arxiv url: http://arxiv.org/abs/2609.39212v1
- Date: Wed, 30 Sep 2026 07:55:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.409166
- Title: Minimax Additive Regression under Unknown Dependent Designs
- Title(参考訳): 未知の依存設計下でのMinimax付加回帰
- Abstract要約: 我々は$[0,1]d$で、潜在的に非積ランダムな設計の下で加法回帰を研究する。
境界密度と密度重み付き加法的成分の正則性を別々に制御する結合滑らか度クラスを導入する。
重み付けされた付加成分は, 付加的な誤差の順序を伴わずに, 同一の累積加算率で回収可能であることを示す。
- 参考スコア(独自算出の注目度): 3.2371089062298317
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study additive regression under a potentially non-product random design on $[0,1]^d$, allowing the dimension $d$ to grow with the sample size $n$. We introduce coupled smoothness classes that separately control the regularity of the marginal densities and the density-weighted additive components. To handle dependence, we adapt a Riesz-basis construction for functional ANOVA models and establish compatibility bounds with constants independent of the dimension under uniform bounds on the joint density. We construct thresholded least-squares estimators and establish matching minimax upper and lower bounds for prediction with known or unknown marginal densities, under suitable dimension-growth conditions. When the marginal densities are at least as smooth as the weighted components, the unknown-density problem attains the known-density minimax rate. When the densities are less smooth, their regularity determines the minimax rate over the coupled class. Finally, we show that the centered additive components can be recovered at the same aggregate upper rate, without an additional order of error.
- Abstract(参考訳): 我々は、[0,1]^d$ で潜在的に生成しないランダムな設計の下で加法回帰を研究し、サンプルサイズ$n$ で次元 $d$ を成長させることができる。
境界密度と密度重み付き加法的成分の正則性を別々に制御する結合滑らか度クラスを導入する。
依存に対処するため、機能的ANOVAモデルに対してリース基底構造を適用し、関節密度の均一な境界の下で次元に依存しない定数との整合性境界を確立する。
しきい値付き最小二乗推定器を構築し, 等次元成長条件下で, 未知あるいは未知の辺縁密度で予測するための最小限上限と下限値の整合性を確立した。
辺密度が加重成分と同じくらい滑らかな場合、未知密度問題は既知の密度のミニマックスレートに達する。
密度がより滑らかでないとき、それらの正則性は結合クラス上のミニマックス率を決定する。
最後に, 重み付けされた付加成分は, 付加的な誤差の順序を伴わずに, 同一のアグリゲート・アッパーレートで回収可能であることを示す。
関連論文リスト
- Tail-Weight Control and Localized Generalization in Nearly Low-Rank Adversarial Classification [8.110061989547228]
実験的なランプ取り付けは、人口が最適に無視しても純粋ノイズの特徴に重みを割り当てることができる。
このギャップをガウス信号と雑音によるノルム制約付き逆数分類の定量化を行う。
論文 参考訳(メタデータ) (2026-09-20T15:00:02Z) - Characterizing Heterogeneous Rates in Finite Mixture Estimation via Partial Optimal Transport [88.55403215843967]
改良された局所および大域収束保証を得るためのボロノイ系部分最適輸送(VPOT)は、混合測定の最大極大推定器である。
結果は、混合比例が真の混合成分の数についてのゼロまたは以前の知識から一様に制限されることなく、任意の固定次元で保持される。
論文 参考訳(メタデータ) (2026-09-15T04:32:53Z) - On the Geometry of Separation in Finite Gaussian Mixtures [93.28335398145147]
有限ガウス混合系のパラメータ推定の収束率に及ぼす最小成分分離の影響について検討した。
我々は、新しいヘリンガー下界に基づく統一的な幾何学的枠組みを開発する。
我々は、点次と一様推定法の間で連続的に補間される分離依存収束率を得る。
論文 参考訳(メタデータ) (2026-06-15T03:49:33Z) - Why SGD is not Brownian Motion: A New Perspective on Stochastic Dynamics [92.39053980710702]
グラディエント・Descent (SGD) は通常ランゲヴィン過程としてモデル化され、ミニバッチノイズがブラウン運動として働くと仮定される。
この近似は、連続時間制限と、離散的なSGD更新を有限学習率で一致しないsqrt(eta)ノイズスケーリングに依存している。
ミニバッチサンプリングによって誘導されるゆらぎのある損失景観における決定論的力学としてのSGDの別の定式化を提案する。
論文 参考訳(メタデータ) (2026-05-21T15:50:40Z) - Robust Regression with Adaptive Contamination in Response: Optimal Rates and Computational Barriers [65.58071581164043]
本研究では, 共変剤を清潔にし, 応答を適応的に劣化させる汚染モデルの下で, 頑健な回帰について検討する。
本研究では,ハマー汚染下で達成可能なものよりも優れた推定率を持つ推定器を構築するために,追加情報を慎重に活用できることを示す。
情報理論の観点からは、ハマーモデルよりも改善されているにもかかわらず、この問題が強い情報計算ギャップを示すという公式な証拠を提供する。
論文 参考訳(メタデータ) (2026-04-05T19:07:24Z) - Regulating Model Reliance on Non-Robust Features by Smoothing Input Marginal Density [93.32594873253534]
信頼できる機械学習は、非ロバストな特徴に依存するモデルの厳密な規制を必要とする。
本稿では,モデル予測を入力に関連付けることによって,そのような特徴を記述・規制するフレームワークを提案する。
論文 参考訳(メタデータ) (2024-07-05T09:16:56Z) - Batches Stabilize the Minimum Norm Risk in High Dimensional Overparameterized Linear Regression [12.443289202402761]
最小ノルム過パラメータ線形回帰モデルのレンズによるバッチ分割の利点を示す。
最適なバッチサイズを特徴付け、ノイズレベルに逆比例することを示す。
また,Weiner係数と同等の係数によるバッチ最小ノルム推定器の縮小がさらに安定化し,全ての設定において2次リスクを低くすることを示した。
論文 参考訳(メタデータ) (2023-06-14T11:02:08Z) - Deep Neural Networks for Nonparametric Interaction Models with Diverging
Dimension [6.939768185086753]
成長次元シナリオ (d$ grows with $n$ but at a slow rate) と高次元 (dgtrsim n$) の両方において、$kth$オーダーの非パラメトリック相互作用モデルを分析する。
特定の標準仮定の下では、デバイアスドディープニューラルネットワークは、$(n, d)$の両面において、極小値の最適値を達成している。
論文 参考訳(メタデータ) (2023-02-12T04:19:39Z) - Non asymptotic estimation lower bounds for LTI state space models with
Cram\'er-Rao and van Trees [1.14219428942199]
本研究では,未知の共分散のガウス励起を持つ線形時間不変(LTI)状態空間モデルに対する推定問題について検討する。
予測される推定誤差と最小二乗推定器の平均二乗推定リスクに対して非下界を与える。
その結果, 推定リスクを期待して, 既存の下限を下限に拡張し, 改善した。
論文 参考訳(メタデータ) (2021-09-17T15:00:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。