論文の概要: In-Context Learning for System Identification: Probabilistic Formulation, Long-Sequence Handling, and Benchmark Validation
- arxiv url: http://arxiv.org/abs/2610.13411v1
- Date: Fri, 09 Oct 2026 11:21:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.550553
- Title: In-Context Learning for System Identification: Probabilistic Formulation, Long-Sequence Handling, and Benchmark Validation
- Title（参考訳）: システム同定のためのインコンテキスト学習:確率的定式化、時系列処理、ベンチマーク検証
- Abstract要約: 新しいコンテキスト内学習アプローチは、トレーニングデータから直接マップし、入力をゼロショットで出力にクエリするメタモデルを学ぶ。
本稿では,Transformerをベースとしたエンコーダデコーダと,長いトレーニングシーケンスを扱うための調整機構を組み合わせた,統一的確率的メタ識別アーキテクチャを提案する。
学習済みのメタモデルが,古典的システム識別のための不確実性を考慮した合成データ生成器として機能することを示す。
- 参考スコア（独自算出の注目度）: 0.5039813366558307
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Traditional system identification typically involves two steps: initially, training data is processed to estimate a model of the system of interest; then, the model is used to predict outputs for new input queries. In contrast, recent in-context learning approaches learn a meta model that maps directly from training data and query inputs to outputs in a zero-shot fashion, bypassing explicit model estimation. This approach leverages a meta model trained offline, on large sets of synthetically generated data, to emulate the behavior of a system identification algorithm. In this work, we advance this meta-learning framework for system identification in three directions. First, we develop a unified probabilistic meta-identification architecture that combines a Transformer-based encoder-decoder with tailored mechanisms for handling long training sequences, enabling calibrated predictions over long horizons. Second, we show how a pre-trained meta model can act as an uncertainty-aware synthetic data generator for classical system identification, providing task-specific data that regularize parametric models when real data are scarce. Third, we systematically evaluate the framework on standard nonlinear system identification benchmarks and on a challenging out-of-distribution scenario, demonstrating competitive accuracy with state-of-the-art methods and strong generalization, including cases where input-only adaptation is sufficient to handle significant distribution shifts.
- Abstract（参考訳）: 従来のシステム識別には2つのステップがある: まず、興味のあるシステムのモデルを推定するためにトレーニングデータが処理され、次に、新しい入力クエリの出力を予測するためにモデルが使用される。
対照的に、最近のコンテキスト内学習アプローチでは、明示的なモデル推定を回避して、トレーニングデータとクエリ入力を直接ゼロショットで出力にマッピングするメタモデルを学習している。
このアプローチは、システム識別アルゴリズムの振る舞いをエミュレートするために、大量の合成データに基づいてオフラインでトレーニングされたメタモデルを活用する。
本研究では,システム識別のためのメタ学習フレームワークを3方向に進める。
まず,トランスフォーマーをベースとしたエンコーダデコーダと,長いトレーニングシーケンスを扱うための調整機構を組み合わせた統一的確率的メタ識別アーキテクチャを構築し,長い水平線上でのキャリブレーション予測を実現する。
第二に、事前学習されたメタモデルが、従来のシステム識別のための不確実性を考慮した合成データジェネレータとして機能し、実際のデータが不足している場合にパラメトリックモデルを正規化するためのタスク固有データを提供する。
第3に, 標準非線形システム同定ベンチマークの枠組みを体系的に評価し, 現状の手法との競合精度を実証し, 分散シフトに対処するのに入力のみ適応が十分である場合を含め, 強い一般化を図った。
関連論文リスト
- Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [57.19302613163439]
モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。
本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。
残る技術的課題や倫理的考察も分析する。
論文 参考訳（メタデータ） (2025-06-05T05:42:27Z) - Manifold meta-learning for reduced-complexity neural system identification [1.0276024900942875]
低次元多様体を発見するメタラーニングフレームワークを提案する。
この多様体は、関連する力学系のクラスによって生成される入力出力シーケンスのメタデータセットから学習される。
両レベルメタラーニングアプローチとは異なり,本手法では,学習多様体に直接データセットをマッピングする補助的ニューラルネットワークを用いる。
論文 参考訳（メタデータ） (2025-04-16T06:49:56Z) - An Iterative Bayesian Approach for System Identification based on Linear Gaussian Models [70.75865595489691]
システム識別の問題に取り組み、入力を選択し、実際のシステムから対応する出力を観測し、データに最も合うようにモデルのパラメータを最適化する。
提案手法では,システムからの入力出力データとパラメータに関するモデルの1次情報のみを必要とする。
論文 参考訳（メタデータ） (2025-01-28T01:57:51Z) - Synthetic data generation for system identification: leveraging
knowledge transfer from similar systems [0.3749861135832073]
本稿では,データ不足を特徴とするシナリオにおけるモデル一般化とロバスト性の向上を目的とした,新しい合成データ生成手法を提案する。
合成データは、興味あるシステムが属すると考えられる幅広い種類のシステムを記述する、事前訓練されたメタモデルによって生成される。
この手法の有効性は,システム識別プロセスに合成データを組み込むことの利点を強調する数値的な例を通して示される。
論文 参考訳（メタデータ） (2024-03-08T09:09:15Z) - On the adaptation of in-context learners for system identification [0.0]
In-context system identifiedは、システムのクラスを記述するメタモデルを構築することを目的としている。
メタモデル適応が3つの現実シナリオにおける予測性能をいかに向上させるかを示す。
論文 参考訳（メタデータ） (2023-12-07T06:51:55Z) - From system models to class models: An in-context learning paradigm [0.0]
本稿では,1段階の予測と複数段階のシミュレーションという2つの主要な課題に対処する,システム識別のための新しいパラダイムを提案する。
動的システムのクラスを表すメタモデルを学ぶ。
一段階の予測では、GPTのようなデコーダのみのアーキテクチャを使用し、シミュレーション問題ではエンコーダ-デコーダ構造を用いる。
論文 参考訳（メタデータ） (2023-08-25T13:50:17Z) - Using Data Assimilation to Train a Hybrid Forecast System that Combines
Machine-Learning and Knowledge-Based Components [52.77024349608834]
利用可能なデータがノイズの多い部分測定の場合,カオスダイナミクスシステムのデータ支援予測の問題を検討する。
動的システムの状態の部分的測定を用いることで、不完全な知識ベースモデルによる予測を改善するために機械学習モデルを訓練できることを示す。
論文 参考訳（メタデータ） (2021-02-15T19:56:48Z) - A Novel Anomaly Detection Algorithm for Hybrid Production Systems based
on Deep Learning and Timed Automata [73.38551379469533]
DAD:DeepAnomalyDetectionは,ハイブリッド生産システムにおける自動モデル学習と異常検出のための新しいアプローチである。
深層学習とタイムドオートマトンを組み合わせて、観察から行動モデルを作成する。
このアルゴリズムは実システムからの2つのデータを含む少数のデータセットに適用され、有望な結果を示している。
論文 参考訳（メタデータ） (2020-10-29T08:27:43Z) - Active Learning for Nonlinear System Identification with Guarantees [102.43355665393067]
状態遷移が既知の状態-作用対の特徴埋め込みに線形に依存する非線形力学系のクラスについて検討する。
そこで本稿では, トラジェクティブ・プランニング, トラジェクティブ・トラッキング, システムの再推定という3つのステップを繰り返すことで, この問題を解決するためのアクティブ・ラーニング・アプローチを提案する。
本手法は, 非線形力学系を標準線形回帰の統計速度と同様, パラメトリック速度で推定する。
論文 参考訳（メタデータ） (2020-06-18T04:54:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。