論文の概要: Sample Complexity of the Sign-Perturbed Sums Identification Method:
Scalar Case
- arxiv url: http://arxiv.org/abs/2401.15792v1
- Date: Sun, 28 Jan 2024 22:44:41 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-30 16:40:25.571541
- Title: Sample Complexity of the Sign-Perturbed Sums Identification Method:
Scalar Case
- Title(参考訳): sign-perturbed sums identification法のサンプル複雑性:スカラーケース
- Authors: Szabolcs Szentp\'eteri and Bal\'azs Csan\'ad Cs\'aji
- Abstract要約: Sign-Perturbed Sum (SPS) は強力な有限サンプルシステム同定アルゴリズムである。
本稿では,SPS信頼区間の挙動について検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sign-Perturbed Sum (SPS) is a powerful finite-sample system identification
algorithm which can construct confidence regions for the true data generating
system with exact coverage probabilities, for any finite sample size. SPS was
developed in a series of papers and it has a wide range of applications, from
general linear systems, even in a closed-loop setup, to nonlinear and
nonparametric approaches. Although several theoretical properties of SPS were
proven in the literature, the sample complexity of the method was not analysed
so far. This paper aims to fill this gap and provides the first results on the
sample complexity of SPS. Here, we focus on scalar linear regression problems,
that is we study the behaviour of SPS confidence intervals. We provide high
probability upper bounds, under three different sets of assumptions, showing
that the sizes of SPS confidence intervals shrink at a geometric rate around
the true parameter, if the observation noises are subgaussian. We also show
that similar bounds hold for the previously proposed outer approximation of the
confidence region. Finally, we present simulation experiments comparing the
theoretical and the empirical convergence rates.
- Abstract(参考訳): Sign-Perturbed Sum (SPS) は、任意の有限サンプルサイズに対して、真のデータ生成システムの信頼性領域を構築することができる強力な有限サンプルシステム識別アルゴリズムである。
SPSは一連の論文で開発され、一般の線形システムから閉ループのセットアップにおいても、非線形および非パラメトリックなアプローチまで幅広い応用がある。
SPSのいくつかの理論的性質は文献で証明されたが, これまでのところ, サンプルの複雑さは分析されなかった。
本稿では,このギャップを埋めることを目的として,SPSのサンプル複雑性に関する最初の結果を提供する。
本稿では,スカラー線形回帰問題に着目し,SPS信頼区間の挙動について検討する。
3つの異なる仮定の下、高い確率上限を提供し、観測ノイズが準ガウス的であれば、sps信頼区間の大きさは真のパラメータの周りの幾何学的速度で縮小することを示した。
また、従来提案されていた信頼領域の外部近似に類似した境界が成り立つことを示す。
最後に,理論収束率と経験収束率を比較したシミュレーション実験を行う。
関連論文リスト
- Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - Gaussian Cooling and Dikin Walks: The Interior-Point Method for
Logconcave Sampling [10.225358400539722]
1990年代、ネスターとネミロフスキーは自己調和障壁に基づく凸最適化のための内部点法(IPM)を開発した。
2012年、カナンとナラヤナンはポリトープを一様にサンプリングするダイキンウォークを提案した。
本稿では、多時間サンプリングアルゴリズムのためのダイキンウォークと共にIPM機械を開発し、適応させることにより、このアプローチを一般化する。
論文 参考訳(メタデータ) (2023-07-24T17:15:38Z) - Sample-Efficient Reinforcement Learning for POMDPs with Linear Function
Approximations [130.66193083412716]
本稿では,関数近似と部分観測可能性の緊張に対処する。
最適ポリシーと値関数は有限メモリヒルベルト・ベルマン作用素の列によって特徴づけられることを示す。
本稿では、カーネル空間(RKHS)の埋め込みを再現することで、これらの演算子の楽観的な推定値を構成するRLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-04-20T21:15:38Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Posterior-Aided Regularization for Likelihood-Free Inference [23.708122045184698]
後補助正規化(PAR)は,モデル構造に関係なく,密度推定器の学習に適用可能である。
単一のニューラルネットワークを用いて逆KL項と相互情報項の両方を推定するPARの統一推定方法を提供する。
論文 参考訳(メタデータ) (2021-02-15T16:59:30Z) - Revisiting the Sample Complexity of Sparse Spectrum Approximation of
Gaussian Processes [60.479499225746295]
本稿では,ガウス過程に対して,パラメータ空間全体に対して同時に保持可能な保証付きスケーラブルな近似を導入する。
我々の近似は、スパーススペクトルガウス過程(SSGP)のための改良されたサンプル複雑性解析から得られる。
論文 参考訳(メタデータ) (2020-11-17T05:41:50Z) - Sequential Likelihood-Free Inference with Implicit Surrogate Proposal [24.20924279100816]
本稿では,さらにサンプル効率のよい累積データセットを生成するために,ISP(Inlicit Surrogate Proposal)を提案する。
ISPは、フィードフォワード方式でi.i.dサンプルを描画することで、最も多様な方法で累積データセットを構築する。
ISPは,マルチモーダル後部シミュレーションにおいて,ベースライン推論アルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2020-10-15T08:59:23Z) - Generalized Sliced Distances for Probability Distributions [47.543990188697734]
我々は、一般化スライス確率測定(GSPM)と呼ばれる、幅広い確率測定値の族を紹介する。
GSPMは一般化されたラドン変換に根付いており、ユニークな幾何学的解釈を持つ。
GSPMに基づく勾配流を生成モデル応用に適用し、軽度な仮定の下では、勾配流が大域的最適に収束することを示す。
論文 参考訳(メタデータ) (2020-02-28T04:18:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。