論文の概要: Adaptive Bayesian Optimization for Robust Identification of Stochastic Dynamical Systems
- arxiv url: http://arxiv.org/abs/2503.06381v2
- Date: Thu, 14 Aug 2025 20:46:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-18 14:51:23.162682
- Title: Adaptive Bayesian Optimization for Robust Identification of Stochastic Dynamical Systems
- Title（参考訳）: 確率力学系のロバスト同定のための適応ベイズ最適化
- Authors: Jinwen Xu, Qin Lu, Yaakov Bar-Shalom,
- Abstract要約: 本稿では,システム係数と雑音分散を含む線形導出システムの同定について述べる。
ベイズ最適化に基づく標本効率のよい大域最適化法を提案する。
実験により、EGPに基づくBOは定常フィルタリングと期待最大化によりMLEを一貫して上回ることを示した。
- 参考スコア（独自算出の注目度）: 4.0148499400442095
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: This paper deals with the identification of linear stochastic dynamical systems, where the unknowns include system coefficients and noise variances. Conventional approaches that rely on the maximum likelihood estimation (MLE) require nontrivial gradient computations and are prone to local optima. To overcome these limitations, a sample-efficient global optimization method based on Bayesian optimization (BO) is proposed, using an ensemble Gaussian process (EGP) surrogate with weighted kernels from a predefined dictionary. This ensemble enables a richer function space and improves robustness over single-kernel BO. Each objective evaluation is efficiently performed via Kalman filter recursion. Extensive experiments across parameter settings and sampling intervals show that the EGP-based BO consistently outperforms MLE via steady-state filtering and expectation-maximization (whose derivation is a side contribution) in terms of RMSE and statistical consistency. Unlike the ensemble variant, single-kernel BO does not always yield such gains, underscoring the benefits of model averaging. Notably, the BO-based estimator achieves RMSE below the classical Cramer-Rao bound, particularly for the inverse time constant, long considered difficult to estimate. This counterintuitive outcome is attributed to a data-driven prior implicitly induced by the GP surrogate in BO.
- Abstract（参考訳）: 本稿では,線形確率力学系の同定について述べる。
従来、最大推定(MLE)に依存するアプローチでは、非自明な勾配計算が必要であり、局所最適である。
これらの制限を克服するために、事前定義された辞書から重み付けされたカーネルを持つアンサンブルガウス過程(EGP)を用いて、ベイズ最適化(BO)に基づくサンプル効率のよいグローバル最適化手法を提案する。
このアンサンブルはよりリッチな関数空間を可能にし、シングルカーネルBOよりも堅牢性を向上させる。
それぞれの客観的評価はカルマンフィルタ再帰によって効率的に行われる。
パラメータ設定とサンプリング間隔の広範な実験により、EGPベースのBOは、RMSEと統計的整合性の観点から、定常フィルタリングと期待最大化(導出はサイドコントリビューション)により、MLEを一貫して上回ることを示した。
アンサンブル変種とは異なり、シングルカーネルBOは必ずしもそのような利得を得るとは限らない。
特にBOに基づく推定器は古典的クラーマー・ラオ境界の下にあるRMSE(特に逆時間定数)を達成する。
この反直感的な結果は、BOにおけるGPサロゲートによって暗黙的に誘導されるデータ駆動の事前帰結に起因している。
関連論文リスト
- Weighted Leave-One-Out Cross Validation [0.0]
We present a weighted version of Leave-One-Out (LOO) cross-validation for the Integrated Squared Error (ISE)。
この手法は任意の未サンプリング地点における2乗予測誤差の最適線形推定器の構成に依存する。
全体として、ISEの推定は古典的で非重み付きLOOクロスバリデーションよりもはるかに正確である。
論文 参考訳（メタデータ） (2025-05-26T09:20:34Z) - Robust Bayesian Optimization via Localized Online Conformal Prediction [37.549297668783254]
局所化オンライン共形予測に基づくベイズ最適化(LOCBO)を導入する。
LOCBOは局所オンライン共形予測(CP)によりGPモデルを校正する
観測対象関数を保留するLOCBOのイテレートについて理論的性能保証を行う。
論文 参考訳（メタデータ） (2024-11-26T12:45:54Z) - Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳（メタデータ） (2024-11-21T10:26:17Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳（メタデータ） (2024-02-05T02:54:50Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳（メタデータ） (2023-06-13T01:18:16Z) - Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2023-06-12T03:35:45Z) - Adaptive LASSO estimation for functional hidden dynamic geostatistical
model [69.10717733870575]
関数型隠れ統計モデル(f-HD)のためのペナル化極大推定器(PMLE)に基づく新しいモデル選択アルゴリズムを提案する。
このアルゴリズムは反復最適化に基づいており、適応最小限の収縮・セレクタ演算子(GMSOLAS)ペナルティ関数を用いており、これは不給付のf-HD最大線量推定器によって得られる。
論文 参考訳（メタデータ） (2022-08-10T19:17:45Z) - Robust and Adaptive Temporal-Difference Learning Using An Ensemble of
Gaussian Processes [70.80716221080118]
本稿では、時間差学習(TD)による政策評価の世代的視点について考察する。
OS-GPTDアプローチは、状態-逆ペアのシーケンスを観測することにより、与えられたポリシーの値関数を推定するために開発された。
1つの固定カーネルに関連する限られた表現性を緩和するために、GP前の重み付けアンサンブル(E)を用いて代替のスキームを生成する。
論文 参考訳（メタデータ） (2021-12-01T23:15:09Z) - Approximate Bayesian Optimisation for Neural Networks [6.921210544516486]
モデル選択の重要性を強調するために、機械学習アルゴリズムを自動化するための一連の作業が行われた。
理想主義的な方法で解析的トラクタビリティと計算可能性を解決する必要性は、効率と適用性を確保することを可能にしている。
論文 参考訳（メタデータ） (2021-08-27T19:03:32Z) - SUMO: Unbiased Estimation of Log Marginal Probability for Latent
Variable Models [80.22609163316459]
無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。
推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
論文 参考訳（メタデータ） (2020-04-01T11:49:30Z) - On Low-rank Trace Regression under General Sampling Distribution [9.699586426043885]
クロスバリデード推定器は一般仮定でほぼ最適誤差境界を満たすことを示す。
また, クロスバリデーション推定器はパラメータ選択理論に着想を得た手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2019-04-18T02:56:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。