論文の概要: In-context learning for model-free system identification

• arxiv url: http://arxiv.org/abs/2308.13380v1
• Date: Fri, 25 Aug 2023 13:50:17 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-28 13:51:40.462973
• Title: In-context learning for model-free system identification
• Title（参考訳）: モデルレスシステム識別のためのインコンテキスト学習
• Authors: Marco Forgione, Filippo Pura, Dario Piga
• Abstract要約: 従来のシステム識別では、与えられた入力/出力シーケンスと利用可能な物理知識に基づいて未知の力学系のモデルを推定する。 しかし、インプット/アウトプットパターンだけでなく、同じクラス内の他のシステムの振る舞いを観察することで、動的システムの複雑さを理解することもできるのだろうか? 本稿では,1段階の予測と複数段階のシミュレーションという2つの主要な課題に対処する,システム識別のための新しいパラダイムを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In traditional system identification, we estimate a model of an unknown dynamical system based on given input/output sequences and available physical knowledge. Yet, is it also possible to understand the intricacies of dynamical systems not solely from their input/output patterns, but by observing the behavior of other systems within the same class? This central question drives the study presented in this paper. In response to this query, we introduce a novel paradigm for system identification, addressing two primary tasks: one-step-ahead prediction and multi-step simulation. Unlike conventional methods, we do not directly estimate a model for the specific system. Instead, we pretrain a meta model that represents a class of dynamical systems. This meta model is trained from a potentially infinite stream of synthetic data, generated by systems randomly extracted from a certain distribution. At its core, the meta model serves as an implicit representation of the main characteristics of a class of dynamical systems. When provided with a brief context from a new system - specifically, a short input/output sequence - the meta model implicitly discerns its dynamics, enabling predictions of its behavior. The proposed approach harnesses the power of Transformer architectures, renowned for their in-context learning capabilities in Natural Language Processing tasks. For one-step prediction, a GPT-like decoder-only architecture is utilized, whereas the simulation problem employs an encoder-decoder structure. Initial experimental results affirmatively answer our foundational question, opening doors to fresh research avenues in system identification.
• Abstract（参考訳）: 従来のシステム同定では、与えられた入出力シーケンスと利用可能な物理知識に基づいて未知の力学系のモデルを推定する。 しかし、入力/出力パターンだけでなく、同じクラス内の他のシステムの振る舞いを観察することで、動的システムの複雑さを理解することもできるのだろうか? この中心的な疑問は、この論文で示された研究を導く。 そこで本研究では,1ステップ・アヘッド予測とマルチステップシミュレーションという2つの主要な課題を解決する,システム同定のための新しいパラダイムを提案する。 従来の手法とは異なり、特定のシステムのモデルを直接見積もることはできない。 代わりに、動的システムのクラスを表すメタモデルを事前トレーニングします。 このメタモデルは、ある分布からランダムに抽出されたシステムによって生成される無限の合成データのストリームから訓練される。 その核となるメタモデルは、力学系のクラスの主要な特性の暗黙的な表現として機能する。 新しいシステム(特に短い入出力シーケンス)から短いコンテキストを提供すると、メタモデルはそのダイナミクスを暗黙的に認識し、振る舞いの予測を可能にする。 提案手法は自然言語処理タスクにおける文脈内学習能力で有名なTransformerアーキテクチャの力を利用する。 一段階予測にはgptライクなデコーダのみのアーキテクチャを用いるが、シミュレーションではエンコーダ-デコーダ構造を用いる。 最初の実験結果は我々の基礎的な疑問に肯定的に答え、システム同定の新たな研究道への扉を開く。

関連論文リスト

• A General Bayesian Framework for Informative Input Design in System Identification [86.05414211113627]
  システム識別のための情報入力設計の問題に取り組む。 入力を選択し、真のシステムから対応する出力を観測し、モデルのパラメータを最適化し、データに最も合うようにします。 本手法は, 線形および非線形の様々なダイナミクスを用いて, モデルフリーベースラインより優れる。
  論文  参考訳（メタデータ） (2025-01-28T01:57:51Z)
• Learning System Dynamics without Forgetting [60.08612207170659]
  未知の力学を持つ系の軌道予測は、物理学や生物学を含む様々な研究分野において重要である。 本稿では,モードスイッチンググラフODE (MS-GODE) の新たなフレームワークを提案する。 生体力学の異なる多様な系を特徴とする生体力学システムの新しいベンチマークを構築した。
  論文  参考訳（メタデータ） (2024-06-30T14:55:18Z)
• Learning Latent Dynamics via Invariant Decomposition and (Spatio-)Temporal Transformers [0.6767885381740952]
  本研究では,高次元経験データから力学系を学習する手法を提案する。 我々は、システムの複数の異なるインスタンスからデータが利用できる設定に焦点を当てる。 我々は、単純な理論的分析と、合成および実世界のデータセットに関する広範な実験を通して行動を研究する。
  論文  参考訳（メタデータ） (2023-06-21T07:52:07Z)
• Cheap and Deterministic Inference for Deep State-Space Models of Interacting Dynamical Systems [38.23826389188657]
  本稿では,基礎となる相互作用力学系をモデル化するために,グラフニューラルネットワークを用いた深部状態空間モデルを提案する。 予測分布はマルチモーダルであり、ガウス混合モデルの形をしており、ガウス成分のモーメントは決定論的モーメントマッチングルールによって計算できる。 我々のモーメントマッチングスキームはサンプルのない推論に利用でき、モンテカルロの代替案と比較してより効率的で安定した訓練がもたらされる。
  論文  参考訳（メタデータ） (2023-05-02T20:30:23Z)
• Variational Autoencoding Neural Operators [17.812064311297117]
  関数型データによる教師なし学習は、コンピュータビジョン、気候モデリング、物理システムへの応用を含む機械学習研究の新たなパラダイムである。 本稿では,大規模な演算子学習アーキテクチャを変分オートエンコーダとして機能させる汎用戦略として,変分オートエンコードニューラル演算子(VANO)を提案する。
  論文  参考訳（メタデータ） (2023-02-20T22:34:43Z)
• Capturing Actionable Dynamics with Structured Latent Ordinary Differential Equations [68.62843292346813]
  本稿では,その潜在表現内でのシステム入力の変動をキャプチャする構造付き潜在ODEモデルを提案する。 静的変数仕様に基づいて,本モデルではシステムへの入力毎の変動要因を学習し,潜在空間におけるシステム入力の影響を分離する。
  論文  参考訳（メタデータ） (2022-02-25T20:00:56Z)
• Supervised DKRC with Images for Offline System Identification [77.34726150561087]
  現代の力学系はますます非線形で複雑なものになりつつある。 予測と制御のためのコンパクトで包括的な表現でこれらのシステムをモデル化するフレームワークが必要である。 本手法は,教師付き学習手法を用いてこれらの基礎関数を学習する。
  論文  参考訳（メタデータ） (2021-09-06T04:39:06Z)
• Physics-integrated hybrid framework for model form error identification in nonlinear dynamical systems [0.0]
  実生活の非線形系では、正確な非線形性の形式はよく知られておらず、既知の支配方程式は特定の仮定や近似に基づいていることが多い。 モデル形状の誤差を識別するだけでなく、既知のが近似的な支配方程式の予測能力を向上させるためにも活用する、新しいグレーボックスモデリング手法を提案する。
  論文  参考訳（メタデータ） (2021-09-01T16:29:21Z)
• Using Data Assimilation to Train a Hybrid Forecast System that Combines Machine-Learning and Knowledge-Based Components [52.77024349608834]
  利用可能なデータがノイズの多い部分測定の場合,カオスダイナミクスシステムのデータ支援予測の問題を検討する。 動的システムの状態の部分的測定を用いることで、不完全な知識ベースモデルによる予測を改善するために機械学習モデルを訓練できることを示す。
  論文  参考訳（メタデータ） (2021-02-15T19:56:48Z)
• A Novel Anomaly Detection Algorithm for Hybrid Production Systems based on Deep Learning and Timed Automata [73.38551379469533]
  DAD:DeepAnomalyDetectionは,ハイブリッド生産システムにおける自動モデル学習と異常検出のための新しいアプローチである。 深層学習とタイムドオートマトンを組み合わせて、観察から行動モデルを作成する。 このアルゴリズムは実システムからの2つのデータを含む少数のデータセットに適用され、有望な結果を示している。
  論文  参考訳（メタデータ） (2020-10-29T08:27:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。