論文の概要: Sample Complexity of the Sign-Perturbed Sums Method
- arxiv url: http://arxiv.org/abs/2409.01243v1
- Date: Mon, 2 Sep 2024 13:18:53 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-06 06:37:11.132162
- Title: Sample Complexity of the Sign-Perturbed Sums Method
- Title(参考訳): 符号摂動和法のサンプル複雑度
- Authors: Szabolcs Szentpéteri, Balázs Csanád Csáji,
- Abstract要約: Sign-Perturbed Sums (SPS) 法は真のシステムパラメータに対して正確で漸近的でない信頼領域を構成する。
一般線形回帰問題に対するSPSのサンプル複雑性について検討する。
SPS信頼領域の理論的境界と経験的サイズの違いを実験的に検討した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study the sample complexity of the Sign-Perturbed Sums (SPS) method, which constructs exact, non-asymptotic confidence regions for the true system parameters under mild statistical assumptions, such as independent and symmetric noise terms. The standard version of SPS deals with linear regression problems, however, it can be generalized to stochastic linear (dynamical) systems, even with closed-loop setups, and to nonlinear and nonparametric problems, as well. Although the strong consistency of the method was rigorously proven, the sample complexity of the algorithm was only analyzed so far for scalar linear regression problems. In this paper we study the sample complexity of SPS for general linear regression problems. We establish high probability upper bounds for the diameters of SPS confidence regions for finite sample sizes and show that the SPS regions shrink at the same, optimal rate as the classical asymptotic confidence ellipsoids. Finally, the difference between the theoretical bounds and the empirical sizes of SPS confidence regions is investigated experimentally.
- Abstract(参考訳): 独立雑音項や対称雑音項などの微妙な統計的仮定の下で,真のシステムパラメータに対する正確で漸近的でない信頼領域を構成するサイン・パーステッド・サムズ法(SPS)のサンプル複雑性について検討する。
SPSの標準的なバージョンは線形回帰問題を扱うが、閉ループのセットアップであっても確率線形(力学)システムや非線形および非パラメトリック問題にも一般化できる。
この手法の強い整合性は厳密に証明されたが、アルゴリズムのサンプルの複雑さはスカラー線形回帰問題に対してのみ解析された。
本稿では,一般線形回帰問題に対するSPSのサンプル複雑性について検討する。
有限試料径のSPS信頼領域の直径に対して高い確率上界を確立し,SPS領域が古典的漸近的信頼楕円体と同じ最適な速度で収縮することを示す。
最後に,SPS信頼領域の理論的境界と経験的大きさの差について実験的に検討した。
関連論文リスト
- Finite Sample Analysis of Distribution-Free Confidence Ellipsoids for Linear Regression [0.0]
最小二乗(LS)推定は線形回帰問題の定型解である。
本稿では,非漸近的に保証された信頼楕円体を構築することができる分布自由符号置換和(SPS)楕円体外近似(EOA)アルゴリズムについて検討する。
論文 参考訳(メタデータ) (2024-09-13T13:10:02Z) - Finite-Sample Identification of Linear Regression Models with Residual-Permuted Sums [0.0]
Residual-Permuted Sums (RPS) は Sign-Perturbed Sums (SPS) アルゴリズムの代替であり、信頼性領域を構築する。
RPSは、サインを摂動させる代わりに残基を摂動させる。
これらの置換に基づく信頼領域が一般仮定の下で一様に一貫したものであるという最初の証明を提供する。
論文 参考訳(メタデータ) (2024-06-08T11:09:30Z) - A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Sample Complexity of the Sign-Perturbed Sums Identification Method:
Scalar Case [0.0]
Sign-Perturbed Sum (SPS) は強力な有限サンプルシステム同定アルゴリズムである。
本稿では,SPS信頼区間の挙動について検討する。
論文 参考訳(メタデータ) (2024-01-28T22:44:41Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - Fully Stochastic Trust-Region Sequential Quadratic Programming for
Equality-Constrained Optimization Problems [62.83783246648714]
目的と決定論的等式制約による非線形最適化問題を解くために,逐次2次プログラミングアルゴリズム(TR-StoSQP)を提案する。
アルゴリズムは信頼領域半径を適応的に選択し、既存の直線探索StoSQP方式と比較して不確定なヘッセン行列を利用することができる。
論文 参考訳(メタデータ) (2022-11-29T05:52:17Z) - A Priori Denoising Strategies for Sparse Identification of Nonlinear
Dynamical Systems: A Comparative Study [68.8204255655161]
本研究では, 局所的およびグローバルな平滑化手法の性能と, 状態測定値の偏差について検討・比較する。
一般に,測度データセット全体を用いたグローバルな手法は,局所点の周辺に隣接するデータサブセットを用いる局所的手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-01-29T23:31:25Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Convergence and sample complexity of gradient methods for the model-free
linear quadratic regulator problem [27.09339991866556]
本稿では,コントローラの空間を直接探索することにより,未知の計算系に対する最適制御を求める。
我々は、安定化フィードバックゲインの勾配-フローのダイナミクスセットに焦点をあてて、そのような手法の性能と効率を最小化するための一歩を踏み出した。
論文 参考訳(メタデータ) (2019-12-26T16:56:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。