論文の概要: Outlier-Robust Linear System Identification Under Heavy-tailed Noise
- arxiv url: http://arxiv.org/abs/2501.00421v1
- Date: Tue, 31 Dec 2024 12:53:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-05 17:11:51.543637
- Title: Outlier-Robust Linear System Identification Under Heavy-tailed Noise
- Title(参考訳): 重音下における外乱リニアシステムの同定
- Authors: Vinay Kanakeri, Aritra Mitra,
- Abstract要約: 線形時間不変系の状態遷移行列を推定する問題を考察する。
我々は、複数の弱集中型推定器の構築に依存する、新しいロバストなシステム同定アルゴリズムを開発した。
提案手法は, 敵が収集したトラジェクトリデータのごく一部を任意に破壊できるシナリオを考慮し, 容易に拡張可能であることを示す。
- 参考スコア(独自算出の注目度): 2.07180164747172
- License:
- Abstract: We consider the problem of estimating the state transition matrix of a linear time-invariant (LTI) system, given access to multiple independent trajectories sampled from the system. Several recent papers have conducted a non-asymptotic analysis of this problem, relying crucially on the assumption that the process noise is either Gaussian or sub-Gaussian, i.e., "light-tailed". In sharp contrast, we work under a significantly weaker noise model, assuming nothing more than the existence of the fourth moment of the noise distribution. For this setting, we provide the first set of results demonstrating that one can obtain sample-complexity bounds for linear system identification that are nearly of the same order as under sub-Gaussian noise. To achieve such results, we develop a novel robust system identification algorithm that relies on constructing multiple weakly-concentrated estimators, and then boosting their performance using suitable tools from high-dimensional robust statistics. Interestingly, our analysis reveals how the kurtosis of the noise distribution, a measure of heavy-tailedness, affects the number of trajectories needed to achieve desired estimation error bounds. Finally, we show that our algorithm and analysis technique can be easily extended to account for scenarios where an adversary can arbitrarily corrupt a small fraction of the collected trajectory data. Our work takes the first steps towards building a robust statistical learning theory for control under non-ideal assumptions on the data-generating process.
- Abstract(参考訳): 本稿では,線形時間不変系(LTI)の状態遷移行列を推定する問題について考察する。
いくつかの最近の論文では、この問題を非漸近解析し、プロセスノイズがガウス的かガウス的か、すなわち「明るい尾を持つ」という仮定に大きく依存している。
対照的に、ノイズ分布の第4モーメントの存在を前提として、かなり弱いノイズモデルの下で作業する。
この設定のために、準ガウス雑音の次数に近い線形システム同定のためのサンプル複雑境界が得られることを示す最初の結果のセットを提供する。
このような結果を得るために,複数の弱集中型推定器の構築に頼り,高次元のロバスト統計から適切なツールを用いて性能を向上する,新しいロバストなシステム同定アルゴリズムを開発した。
興味深いことに、重み付けの尺度である雑音分布のクルトーシスが、所望の誤差境界を達成するのに必要な軌道数にどのように影響するかを明らかにする。
最後に,提案アルゴリズムと解析手法は,敵が収集したトラジェクトリデータのごく一部を任意に破壊できるシナリオを考慮し,容易に拡張可能であることを示す。
我々の研究は、データ生成プロセスにおける非理想的仮定の下で制御のための頑健な統計的学習理論を構築するための第一歩を踏み出した。
関連論文リスト
- Information limits and Thouless-Anderson-Palmer equations for spiked matrix models with structured noise [19.496063739638924]
構造スパイクモデルに対するベイズ推定の飽和問題を考える。
適応的なThouless-Anderson-Palmer方程式の理論にインスパイアされた効率的なアルゴリズムを用いて、統計的限界を予測する方法を示す。
論文 参考訳(メタデータ) (2024-05-31T16:38:35Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳(メタデータ) (2023-06-13T01:18:16Z) - Optimizing the Noise in Self-Supervised Learning: from Importance
Sampling to Noise-Contrastive Estimation [80.07065346699005]
GAN(Generative Adversarial Networks)のように、最適な雑音分布はデータ分布に等しくなると広く想定されている。
我々は、この自己教師型タスクをエネルギーベースモデルの推定問題として基礎づけるノイズ・コントラスト推定に目を向ける。
本研究は, 最適雑音のサンプリングは困難であり, 効率性の向上は, データに匹敵する雑音分布を選択することに比べ, 緩やかに行うことができると結論付けた。
論文 参考訳(メタデータ) (2023-01-23T19:57:58Z) - Robust Matrix Completion with Heavy-tailed Noise [0.5837881923712392]
本稿では,重み付き潜在的非対称雑音の存在下での低ランク行列の完全性について検討する。
本稿では,大規模かつ非対称な誤りに対して頑健な重み付き雑音に適応するハマー損失を適応的に適用する。
誤差の2番目のモーメント条件下では、ユークリッド誤差は最小値の統計的推定誤差に到達するまで幾何的に早く落ちることが証明される。
論文 参考訳(メタデータ) (2022-06-09T04:48:48Z) - The Optimal Noise in Noise-Contrastive Learning Is Not What You Think [80.07065346699005]
この仮定から逸脱すると、実際により良い統計的推定結果が得られることが示される。
特に、最適な雑音分布は、データと異なり、また、別の家族からさえも異なる。
論文 参考訳(メタデータ) (2022-03-02T13:59:20Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Learning based signal detection for MIMO systems with unknown noise
statistics [84.02122699723536]
本論文では,未知のノイズ統計による信号を堅牢に検出する一般化最大確率(ML)推定器を考案する。
実際には、システムノイズに関する統計的な知識はほとんどなく、場合によっては非ガウス的であり、衝動的であり、分析不可能である。
我々のフレームワークは、ノイズサンプルのみを必要とする教師なしの学習アプローチによって駆動される。
論文 参考訳(メタデータ) (2021-01-21T04:48:15Z) - Automatic Differentiation to Simultaneously Identify Nonlinear Dynamics
and Extract Noise Probability Distributions from Data [4.996878640124385]
SINDyは時系列データから類似の動的モデルや方程式を発見するためのフレームワークである。
自動微分と最近のRudyらによって制約されたタイムステッピングを統合したSINDyアルゴリズムの変種を開発する。
本手法は,ガウス分布,一様分布,ガンマ分布,レイリー分布などの確率分布の多様性を同定できることを示す。
論文 参考訳(メタデータ) (2020-09-12T23:52:25Z) - The Simulator: Understanding Adaptive Sampling in the
Moderate-Confidence Regime [52.38455827779212]
エミュレータと呼ばれる適応サンプリングを解析するための新しい手法を提案する。
適切なログファクタを組み込んだトップk問題の最初のインスタンスベースの下位境界を証明します。
我々の新しい分析は、後者の問題に対するこの種の最初のエミュレータであるベストアームとトップkの識別に、シンプルでほぼ最適であることを示した。
論文 参考訳(メタデータ) (2017-02-16T23:42:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。