論文の概要: Large-scale variational Gaussian state-space models

• arxiv url: http://arxiv.org/abs/2403.01371v1
• Date: Sun, 3 Mar 2024 02:19:49 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-06 21:45:08.295120
• Title: Large-scale variational Gaussian state-space models
• Title（参考訳）: 大規模変分ガウス状態空間モデル
• Authors: Matthew Dowling, Yuan Zhao, Il Memming Park
• Abstract要約: 非線形力学を持つ状態空間モデルに対して、アモータイズされた変分推論アルゴリズムと構造化された変分近似を導入する。 我々はモンテカルロ近似の低ランク構造を利用して、力学を通して潜伏状態の辺縁化を行う。 全体としては、必要な統計値とELBOは、$O(TL(Sr + S2 + r2))$ time where $T$ is the series length, $L$ is the state-space dimensionality, $S$ is the number of sample used to approximately the predict step statistics, $r$ is the rank of the series length, $L$ is the $L$ is the state-space dimensionality, $S$ is the number of the sample。
• 参考スコア（独自算出の注目度）: 10.704856607611156
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce an amortized variational inference algorithm and structured variational approximation for state-space models with nonlinear dynamics driven by Gaussian noise. Importantly, the proposed framework allows for efficient evaluation of the ELBO and low-variance stochastic gradient estimates without resorting to diagonal Gaussian approximations by exploiting (i) the low-rank structure of Monte-Carlo approximations to marginalize the latent state through the dynamics (ii) an inference network that approximates the update step with low-rank precision matrix updates (iii) encoding current and future observations into pseudo observations -- transforming the approximate smoothing problem into an (easier) approximate filtering problem. Overall, the necessary statistics and ELBO can be computed in $O(TL(Sr + S^2 + r^2))$ time where $T$ is the series length, $L$ is the state-space dimensionality, $S$ are the number of samples used to approximate the predict step statistics, and $r$ is the rank of the approximate precision matrix update in the update step (which can be made of much lower dimension than $L$).
• Abstract（参考訳）: ガウス雑音によって駆動される非線形動力学を持つ状態空間モデルに対して,不定形変分推論アルゴリズムと構造化変分近似を導入する。 提案手法は, 対角ガウス近似を用いることなく, エルボおよび低分散確率勾配推定の効率的な評価を可能にする。 (i)モンテカルロ近似の低ランク構造を動力学を通じて潜在状態を限界化する (ii)低ランク精度行列更新による更新ステップを近似する推論ネットワーク (iii)現在及び将来の観測を疑似観測に符号化する -- 近似平滑化問題を(より簡単な)近似フィルタリング問題に変換する。 全体として、必要な統計とelboは$o(tl(sr + s^2 + r^2))$$t$が級数の長さ、$l$は状態空間次元、$s$は予測ステップの統計を近似するために使われるサンプル数、$r$は更新ステップにおける近似精度行列更新のランク($l$よりはるかに低い次元で作成できる)で計算できる。

関連論文リスト

• Probabilistic Decomposed Linear Dynamical Systems for Robust Discovery of Latent Neural Dynamics [5.841659874892801]
  時間変化線形状態空間モデルは、ニューラルネットワークの数学的解釈可能な表現を得るための強力なツールである。 潜在変数推定のための既存の手法は、動的ノイズやシステムの非線形性に対して堅牢ではない。 本稿では,動的雑音に対するロバスト性を改善するために,分解モデルにおける潜在変数推定に対する確率的アプローチを提案する。
  論文  参考訳（メタデータ） (2024-08-29T18:58:39Z)
• CGNSDE: Conditional Gaussian Neural Stochastic Differential Equation for Modeling Complex Systems and Data Assimilation [1.4322470793889193]
  条件付きニューラル微分方程式(CGNSDE)と呼ばれる新しい知識ベースおよび機械学習ハイブリッドモデリング手法を開発した。 標準的なニューラルネットワーク予測モデルとは対照的に、CGNSDEは前方予測タスクと逆状態推定問題の両方に効果的に取り組むように設計されている。
  論文  参考訳（メタデータ） (2024-04-10T05:32:03Z)
• Learning Latent Dynamics via Invariant Decomposition and (Spatio-)Temporal Transformers [0.6767885381740952]
  本研究では,高次元経験データから力学系を学習する手法を提案する。 我々は、システムの複数の異なるインスタンスからデータが利用できる設定に焦点を当てる。 我々は、単純な理論的分析と、合成および実世界のデータセットに関する広範な実験を通して行動を研究する。
  論文  参考訳（メタデータ） (2023-06-21T07:52:07Z)
• Capturing dynamical correlations using implicit neural representations [85.66456606776552]
  実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。 そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
  論文  参考訳（メタデータ） (2023-04-08T07:55:36Z)
• Stretched and measured neural predictions of complex network dynamics [2.1024950052120417]
  微分方程式のデータ駆動近似は、力学系のモデルを明らかにする従来の方法に代わる有望な方法である。 最近、ダイナミックスを研究する機械学習ツールとしてニューラルネットワークが採用されている。これは、データ駆動型ソリューションの検出や微分方程式の発見に使用できる。 従来の統計学習理論の限界を超えてモデルの一般化可能性を拡張することは可能であることを示す。
  論文  参考訳（メタデータ） (2023-01-12T09:44:59Z)
• Physics-Inspired Temporal Learning of Quadrotor Dynamics for Accurate Model Predictive Trajectory Tracking [76.27433308688592]
  クオーロタのシステムダイナミクスを正確にモデル化することは、アジャイル、安全、安定したナビゲーションを保証する上で非常に重要です。 本稿では,ロボットの経験から,四重項系の力学を純粋に学習するための新しい物理インスパイアされた時間畳み込みネットワーク(PI-TCN)を提案する。 提案手法は,スパース時間的畳み込みと高密度フィードフォワード接続の表現力を組み合わせて,正確なシステム予測を行う。
  論文  参考訳（メタデータ） (2022-06-07T13:51:35Z)
• Capturing Actionable Dynamics with Structured Latent Ordinary Differential Equations [68.62843292346813]
  本稿では,その潜在表現内でのシステム入力の変動をキャプチャする構造付き潜在ODEモデルを提案する。 静的変数仕様に基づいて,本モデルではシステムへの入力毎の変動要因を学習し,潜在空間におけるシステム入力の影響を分離する。
  論文  参考訳（メタデータ） (2022-02-25T20:00:56Z)
• Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
  トレーニングセットとその構造が長期予測の品質に与える影響を考察する。 トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2021-12-15T20:09:20Z)
• Supervised DKRC with Images for Offline System Identification [77.34726150561087]
  現代の力学系はますます非線形で複雑なものになりつつある。 予測と制御のためのコンパクトで包括的な表現でこれらのシステムをモデル化するフレームワークが必要である。 本手法は,教師付き学習手法を用いてこれらの基礎関数を学習する。
  論文  参考訳（メタデータ） (2021-09-06T04:39:06Z)
• Using Data Assimilation to Train a Hybrid Forecast System that Combines Machine-Learning and Knowledge-Based Components [52.77024349608834]
  利用可能なデータがノイズの多い部分測定の場合,カオスダイナミクスシステムのデータ支援予測の問題を検討する。 動的システムの状態の部分的測定を用いることで、不完全な知識ベースモデルによる予測を改善するために機械学習モデルを訓練できることを示す。
  論文  参考訳（メタデータ） (2021-02-15T19:56:48Z)
• Bridging the Gap: Machine Learning to Resolve Improperly Modeled Dynamics [4.940323406667406]
  本稿では,複雑な時間的挙動を示すシステムに対して,不適切にモデル化された力学を克服するためのデータ駆動型モデリング戦略を提案する。 本稿では,システムの真の力学と,不正確あるいは不適切に記述されたシステムのモデルによって与えられる力学の相違を解決するためのディープラーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-08-23T04:57:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。