Fugu-MT 論文翻訳(概要): The noise level in linear regression with dependent data

論文の概要: The noise level in linear regression with dependent data

arxiv url: http://arxiv.org/abs/2305.11165v2
Date: Fri, 27 Oct 2023 16:34:44 GMT
ステータス: 処理完了
システム内更新日: 2023-10-30 18:20:24.749110
Title: The noise level in linear regression with dependent data
Title（参考訳）: 依存データを用いた線形回帰における雑音レベル
Authors: Ingvar Ziemann, Stephen Tu, George J. Pappas, Nikolai Matni
Abstract要約: 従属データ(beta$-mixing)を用いてランダム設計線形回帰の上限を導出する。定値要因まで、我々の分析は中央極限定理によって予測される分散項を正しく復元する。
参考スコア（独自算出の注目度）: 36.252641692809924
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We derive upper bounds for random design linear regression with dependent ($\beta$-mixing) data absent any realizability assumptions. In contrast to the strictly realizable martingale noise regime, no sharp instance-optimal non-asymptotics are available in the literature. Up to constant factors, our analysis correctly recovers the variance term predicted by the Central Limit Theorem -- the noise level of the problem -- and thus exhibits graceful degradation as we introduce misspecification. Past a burn-in, our result is sharp in the moderate deviations regime, and in particular does not inflate the leading order term by mixing time factors.
Abstract（参考訳）: 任意の実現可能性仮定を欠いた従属($-mixing)データを持つランダム設計線形回帰の上限を導出する。厳密に実現可能なマーチンゲールノイズとは対照的に、鋭いインスタンス最適化非漸近は文献では利用できない。一定因子まで,中央極限定理によって予測される分散項 -- 問題の雑音レベル -- を正しく復元し,不特定化を導入することで優雅な劣化を示す。バーンインを過ぎると、中程度の偏差が顕著になり、特に時間因子を混合することで先行順序項が膨らむことはない。

関連論文リスト

High-probability Convergence Bounds for Nonlinear Stochastic Gradient Descent Under Heavy-tailed Noise [59.25598762373543]
重み付き雑音の存在下でのストリーミングデータにおける学習の精度保証について検討した。解析的に、与えられた問題に対する設定の選択に$ta$を使うことができることを実証する。
論文参考訳（メタデータ） (2023-10-28T18:53:41Z)
Model-Based Uncertainty in Value Functions [89.31922008981735]
MDP上の分布によって引き起こされる値の分散を特徴付けることに重点を置いている。従来の作業は、いわゆる不確実性ベルマン方程式を解くことで、値よりも後方の分散を境界にしている。我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式を提案する。
論文参考訳（メタデータ） (2023-02-24T09:18:27Z)
Asymptotic consistency of the WSINDy algorithm in the limit of continuum data [0.0]
非線形力学アルゴリズム(WSINDy)の弱形式スパース同定の整合性について検討する。弱形式方程式学習の雑音に対する観測されたロバスト性について数学的に厳密な説明を行う。
論文参考訳（メタデータ） (2022-11-29T07:49:34Z)
Nonlinear gradient mappings and stochastic optimization: A general framework with applications to heavy-tail noise [11.768495184175052]
本稿では,勾配雑音が重みを示す場合の非線形勾配降下シナリオに関する一般的な枠組みを紹介する。有界出力を持つ非線形性や1より大きい順序の有限モーメントを持たない勾配雑音に対して、非線形SGDは速度$O(/tzeta)$, $zeta in (0, 1)$でゼロに収束することを示す。実験により、我々のフレームワークは、ヘビーテールノイズ下でのSGDの既存研究よりも汎用的であるが、我々のフレームワークから実装が容易ないくつかの非線形性は、実際のデータセット上のアート代替品の状況と競合することを示した。
論文参考訳（メタデータ） (2022-04-06T06:05:52Z)
Improving Generalization via Uncertainty Driven Perturbations [107.45752065285821]
トレーニングデータポイントの不確実性による摂動について考察する。損失駆動摂動とは異なり、不確実性誘導摂動は決定境界を越えてはならない。線形モデルにおいて,UDPがロバスト性マージン決定を達成することが保証されていることを示す。
論文参考訳（メタデータ） (2022-02-11T16:22:08Z)
Analyzing and Improving the Optimization Landscape of Noise-Contrastive Estimation [50.85788484752612]
ノイズコントラスト推定(NCE)は、非正規化確率モデルを学習するための統計的に一貫した手法である。ノイズ分布の選択がNCEの性能に不可欠であることが実験的に観察されている。本研究では,不適切な雑音分布を用いた場合,NCEの性能低下の原因を正式に指摘する。
論文参考訳（メタデータ） (2021-10-21T16:57:45Z)
On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。理論的にも経験的にも二重降下現象を観察する。
論文参考訳（メタデータ） (2021-10-13T17:47:39Z)
On the Role of Entropy-based Loss for Learning Causal Structures with Continuous Optimization [27.613220411996025]
因果構造学習問題を最小二乗損失を用いた連続最適化問題として定式化する。ガウス雑音の仮定に違反すると因果方向の同定が妨げられることを示す。より一般的なエントロピーに基づく損失は、任意の雑音分布下での確率スコアと理論的に一致している。
論文参考訳（メタデータ） (2021-06-05T08:29:51Z)
Generalization Error Rates in Kernel Regression: The Crossover from the Noiseless to Noisy Regime [29.731516232010343]
我々はKRR(Kernel Ridge Regression)をガウスの設計に基づいて検討する。サンプルの複雑さが増大するにつれて、ノイズのない指数とノイズのない値との雑音環境における遷移の存在を示す。
論文参考訳（メタデータ） (2021-05-31T14:39:08Z)
Distribution-Free Robust Linear Regression [5.532477732693]
共変体の分布を仮定せずにランダムな設計線形回帰を研究する。最適部分指数尾を持つオーダー$d/n$の過大なリスクを達成する非線形推定器を構築する。我々は、Gy"orfi, Kohler, Krzyzak, Walk が原因で、truncated least squares 推定器の古典的境界の最適版を証明した。
論文参考訳（メタデータ） (2021-02-25T15:10:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。