論文の概要: Ridge Regression from Poisson Resetting: A Renewal Perspective on Spectral Regularization
- arxiv url: http://arxiv.org/abs/2605.30059v1
- Date: Thu, 28 May 2026 15:10:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:56.416927
- Title: Ridge Regression from Poisson Resetting: A Renewal Perspective on Spectral Regularization
- Title（参考訳）: ポアソンリセットからのリッジ回帰:スペクトル規則化の新展開
- Authors: Petar Jolakoski,
- Abstract要約: 非平衡統計物理学からのリセットと、統計的学習におけるリッジ正則化を結びつける。
線形勾配流の場合、原点を$r$でリセットすると、固定平均$(Xtop X+rI)-1Xtop y$が生成される。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We connect stochastic resetting from non-equilibrium statistical physics with ridge regularization in statistical learning. For linear gradient flow, resetting to the origin at rate $r$ produces stationary mean $(X^\top X+rI)^{-1}X^\top y$, exactly the ridge estimator with penalty $λ=r$. This uses the known Laplace-transform relationship between ridge regression and exponential-time averaging of gradient flow, with the exponential time now interpreted as the stationary age associated with Poisson resetting. We then extend this identity to general renewal reset laws: the exponential reset time distribution is the unique renewal law whose stationary mean reproduces scalar ridge in every eigendirection as an exact filter identity for every positive curvature, while non-exponential renewal laws generate alternative spectral filters. At the fluctuation level, we study a separate additive Ornstein-Uhlenbeck extension with constant diffusion, interpreted as a stylized SGD approximation. In this setting, the equality holds only at the level of the mean, since the reset process has a nonzero stationary covariance from accumulated OU noise and reset-timing variance, whereas deterministic ridge is a fixed estimator with the same center. Stylized experiments compare the deterministic renewal-induced filters directly and illustrate when filters induced by non-exponential reset-time laws can differ predictively from ridge. The results for the stationary mean and the induced spectral filters are established for continuous-time gradient flow with isotropic resetting on quadratic objectives; the covariance and risk formulas additionally assume additive noise with state-independent covariance.
- Abstract（参考訳）: 非平衡統計物理学からの確率的リセットと、統計的学習におけるリッジ正則化を結びつける。
線形勾配流の場合、原点を$r$でリセットすると、固定平均$(X^\top X+rI)^{-1}X^\top y$が生成される。
これは、リッジ回帰と勾配流の指数時間平均化の間の既知のラプラス変換関係を使い、指数時間は現在、ポアソンのリセットに関連する定常年齢と解釈されている。
指数的リセット時間分布は、定常平均がすべての固有方向におけるスカラーリッジを正曲率ごとに正確なフィルタIDとして再現するユニークな更新法であり、一方非指数的リセット法則は別のスペクトルフィルタを生成する。
変動レベルでは、定常拡散を伴う別の加法的オルンシュタイン・ウレンベック拡大を、スタイリングされたSGD近似として解釈する。
この設定では、リセット過程が蓄積したOUノイズとリセットタイミングのばらつきからゼロの定常的共分散を持つのに対して、決定論的尾根は同じ中心を持つ固定推定器である。
スティル化実験は、決定論的更新誘起フィルタを直接比較し、非排他的リセット時間法則によって誘導されるフィルタがリッジと予測的に異なることを例示する。
定常平均および誘導スペクトルフィルタの結果は、2次目的に等方的リセットを施した連続時間勾配流に対して確立され、共分散およびリスク公式は、状態非依存の共分散を伴う付加雑音を仮定する。
関連論文リスト
- Beyond Bellman: High-Order Generator Regression for Continuous-Time Policy Evaluation [28.490321270040727]
離散閉ループ軌道からの連続時間政策評価を時間的不均一な力学の下で検討する。
我々は,低次乱数項をキャンセルするモーメントマッチング係数を用いて,多段階遷移から時間依存ジェネレータを推定する。
論文 参考訳（メタデータ） (2026-04-21T01:53:11Z) - Why Self-Training Helps and Hurts: Denoising vs. Signal Forgetting [6.369253528507392]
反復的な自己学習は、自身の予測によって生成された擬似ラベルのモデルに繰り返し適合する。
繰り返しの予測リスクと有効雑音に対する決定論的等価再帰を導出する。
論文 参考訳（メタデータ） (2026-02-15T07:28:12Z) - Stabilizing Fixed-Point Iteration for Markov Chain Poisson Equations [49.702772230127465]
有限状態マルコフ鎖を$n$状態と遷移行列$P$で研究する。
すべての非退化モードが実周辺不変部分空間 $mathcalK(P)$ によってキャプチャされ、商空間 $mathbbRn/mathcalK(P) 上の誘導作用素が厳密に収縮し、ユニークな商解が得られることを示す。
論文 参考訳（メタデータ） (2026-01-31T02:57:01Z) - An Elementary Approach to Scheduling in Generative Diffusion Models [55.171367482496755]
生成拡散モデルにおけるノイズスケジューリングと時間離散化の影響を特徴付けるための基礎的手法を開発した。
異なるデータセットと事前訓練されたモデルにわたる実験により、我々のアプローチによって選択された時間離散化戦略が、ベースラインとサーチベースの戦略を一貫して上回ることを示した。
論文 参考訳（メタデータ） (2026-01-20T05:06:26Z) - Asymptotics of Linear Regression with Linearly Dependent Data [28.005935031887038]
非ガウス共変量の設定における線形回帰の計算について検討する。
本稿では,依存性が推定誤差と正規化パラメータの選択にどのように影響するかを示す。
論文 参考訳（メタデータ） (2024-12-04T20:31:47Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳（メタデータ） (2024-06-05T13:36:38Z) - Temporal-spatial model via Trend Filtering [12.875863572064986]
本研究は、時間と空間の同時依存性を持つデータを対象とした非パラメトリック回帰関数の推定に焦点をあてる。
トレンド・フィルタの研究で以前は知られていなかった一意の相転移現象が、我々の分析を通して現れる。
論文 参考訳（メタデータ） (2023-08-30T17:50:00Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳（メタデータ） (2023-06-27T08:15:28Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳（メタデータ） (2021-03-23T17:15:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。