論文の概要: Online Statistical Inference for Parameters Estimation with Linear-Equality Constraints

• arxiv url: http://arxiv.org/abs/2105.10315v1
• Date: Fri, 21 May 2021 12:39:53 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-25 03:33:06.227957
• Title: Online Statistical Inference for Parameters Estimation with Linear-Equality Constraints
• Title（参考訳）: 線形品質制約付きパラメータ推定のためのオンライン統計量推定
• Authors: Ruiqi Liu, Mingao Yuan, Zuofeng Shang
• Abstract要約: 勾配降下 (SGD) と射影勾配降下 (PSGD) はモデルパラメータを計算するスケーラブルなアルゴリズムである。 勾配降下(SGD)と比較すると、PSGDはその反復値を射影を通して制約パラメータ空間に強制する。 本稿では,ある線形e制約を満たす真のパラメータが満たされる場合のPSGDに基づく推定値の制限分布について検討する。
• 参考スコア（独自算出の注目度）: 6.596002578395149
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Stochastic gradient descent (SGD) and projected stochastic gradient descent (PSGD) are scalable algorithms to compute model parameters in unconstrained and constrained optimization problems. In comparison with stochastic gradient descent (SGD), PSGD forces its iterative values into the constrained parameter space via projection. The convergence rate of PSGD-type estimates has been exhaustedly studied, while statistical properties such as asymptotic distribution remain less explored. From a purely statistical point of view, this paper studies the limiting distribution of PSGD-based estimate when the true parameters satisfying some linear-equality constraints. Our theoretical findings reveal the role of projection played in the uncertainty of the PSGD estimate. As a byproduct, we propose an online hypothesis testing procedure to test the linear-equality constraints. Simulation studies on synthetic data and an application to a real-world dataset confirm our theory.
• Abstract（参考訳）: 確率勾配勾配(SGD)と射影確率勾配勾配(PSGD)は、制約のない最適化問題のモデルパラメータを計算するスケーラブルアルゴリズムである。 確率勾配降下(SGD)と比較して、PSGDはその反復値を射影を通して制約パラメータ空間に強制する。 PSGD型の推定値の収束速度は徹底的に研究されているが、漸近分布のような統計的性質はいまだ研究されていない。 純粋に統計的観点から、線形等式制約を満たす真のパラメータが満たされるとき、PSGDに基づく推定の制限分布を研究する。 理論的にはPSGD推定の不確実性における投射の役割が明らかとなった。 副産物として,線形等式制約をテストするオンライン仮説テスト手法を提案する。 合成データに関するシミュレーション研究と実世界のデータセットへの応用により,この理論が裏付けられる。

関連論文リスト

• Selective Nonparametric Regression via Testing [54.20569354303575]
  本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。 既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
  論文  参考訳（メタデータ） (2023-09-28T13:04:11Z)
• Temporal-spatial model via Trend Filtering [12.875863572064986]
  本研究は、時間と空間の同時依存性を持つデータを対象とした非パラメトリック回帰関数の推定に焦点をあてる。 トレンド・フィルタの研究で以前は知られていなかった一意の相転移現象が、我々の分析を通して現れる。
  論文  参考訳（メタデータ） (2023-08-30T17:50:00Z)
• Semi-Parametric Inference for Doubly Stochastic Spatial Point Processes: An Approximate Penalized Poisson Likelihood Approach [3.085995273374333]
  二重確率点過程は、ランダム強度関数の実現を前提とした不均一過程として空間領域上の事象の発生をモデル化する。 既存の二重確率空間モデルの実装は、計算的に要求され、しばしば理論的な保証が制限され、または制限的な仮定に依存している。
  論文  参考訳（メタデータ） (2023-06-11T19:48:39Z)
• Continuous-time stochastic gradient descent for optimizing over the stationary distribution of stochastic differential equations [7.65995376636176]
  定常分布の微分方程式(SDE)モデルを最適化するための新しい連続時間勾配降下法を開発した。 線形SDEモデルに対するオンライン前方伝播アルゴリズムの収束性を厳密に証明し、非線形例に対する数値結果を示す。
  論文  参考訳（メタデータ） (2022-02-14T11:45:22Z)
• Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
  オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。 我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
  論文  参考訳（メタデータ） (2021-12-29T18:46:52Z)
• Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
  ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。 そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
  論文  参考訳（メタデータ） (2021-08-25T21:30:27Z)
• Near-optimal inference in adaptive linear regression [60.08422051718195]
  最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。 我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。 我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
  論文  参考訳（メタデータ） (2021-07-05T21:05:11Z)
• Divergence Frontiers for Generative Models: Sample Complexity, Quantization Level, and Frontier Integral [58.434753643798224]
  多様性フロンティアは生成モデルの評価フレームワークとして提案されている。 分岐フロンティアのプラグイン推定器のサンプル複雑性の非漸近的境界を確立する。 また,スムーズな分布推定器の統計的性能を調べることにより,分散フロンティアの枠組みも強化する。
  論文  参考訳（メタデータ） (2021-06-15T06:26:25Z)
• Support estimation in high-dimensional heteroscedastic mean regression [2.28438857884398]
  ランダムな設計と、潜在的にヘテロセダスティックで重み付きエラーを伴う線形平均回帰モデルを考える。 我々は,問題のパラメータに依存するチューニングパラメータを備えた,厳密な凸・滑らかなHuber損失関数の変種を用いる。 得られた推定器に対して、$ell_infty$ノルムにおける符号一貫性と最適収束率を示す。
  論文  参考訳（メタデータ） (2020-11-03T09:46:31Z)
• Asymptotic Analysis of an Ensemble of Randomly Projected Linear Discriminants [94.46276668068327]
  [1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。 我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。 また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
  論文  参考訳（メタデータ） (2020-04-17T12:47:04Z)
• On Low-rank Trace Regression under General Sampling Distribution [9.699586426043885]
  クロスバリデード推定器は一般仮定でほぼ最適誤差境界を満たすことを示す。 また, クロスバリデーション推定器はパラメータ選択理論に着想を得た手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2019-04-18T02:56:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。