論文の概要: LEADS: Learning Dynamical Systems that Generalize Across Environments
- arxiv url: http://arxiv.org/abs/2106.04546v1
- Date: Tue, 8 Jun 2021 17:28:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-09 16:23:55.119383
- Title: LEADS: Learning Dynamical Systems that Generalize Across Environments
- Title(参考訳): LEADS: 環境を一般化する動的システムを学ぶ
- Authors: Yuan Yin, Ibrahim Ayed, Emmanuel de B\'ezenac, Nicolas Baskiotis,
Patrick Gallinari
- Abstract要約: 我々は、モデル一般化を改善するために、既知の環境間の共通点と相違点を活用する新しいフレームワークであるLEADSを提案する。
環境に依存したデータから抽出した知識を活用でき、既知の環境と新しい環境の両方の一般化を向上できることを示す。
- 参考スコア(独自算出の注目度): 12.024388048406587
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When modeling dynamical systems from real-world data samples, the
distribution of data often changes according to the environment in which they
are captured, and the dynamics of the system itself vary from one environment
to another. Generalizing across environments thus challenges the conventional
frameworks. The classical settings suggest either considering data as i.i.d.
and learning a single model to cover all situations or learning
environment-specific models. Both are sub-optimal: the former disregards the
discrepancies between environments leading to biased solutions, while the
latter does not exploit their potential commonalities and is prone to scarcity
problems. We propose LEADS, a novel framework that leverages the commonalities
and discrepancies among known environments to improve model generalization.
This is achieved with a tailored training formulation aiming at capturing
common dynamics within a shared model while additional terms capture
environment-specific dynamics. We ground our approach in theory, exhibiting a
decrease in sample complexity with our approach and corroborate these results
empirically, instantiating it for linear dynamics. Moreover, we concretize this
framework for neural networks and evaluate it experimentally on representative
families of nonlinear dynamics. We show that this new setting can exploit
knowledge extracted from environment-dependent data and improves generalization
for both known and novel environments.
- Abstract(参考訳): 実世界のデータサンプルから動的システムのモデリングを行う場合、データの分布はそれらがキャプチャされる環境に応じて変化し、システム自体のダイナミクスは環境によって異なる。
環境全体にわたる一般化は、従来のフレームワークに挑戦する。
古典的な設定は、データをi.i.dとして考えるか、どちらかを提案する。
すべての状況をカバーする単一のモデルや、環境固有のモデルを学習するのです。
前者は偏りのある解につながる環境間の相違を無視し、後者はそれらの潜在的な共通点を活用せず、希少な問題を生じさせる。
我々は,既知の環境間の共通性と不一致を利用してモデル一般化を改善するための新しいフレームワークであるleadsを提案する。
これは、共有モデル内の共通ダイナミクスをキャプチャし、追加用語で環境固有のダイナミクスをキャプチャすることを目的とした、調整されたトレーニング定式化によって達成される。
我々は,我々のアプローチを理論的に基礎づけ,サンプルの複雑さの減少を示し,これらの結果を実証的に相関させ,線形力学のためにインスタンス化する。
さらに,この枠組みをニューラルネットワークに適用し,非線形力学の代表的家系で実験的に評価する。
この新しい設定は,環境依存データから抽出した知識を活用でき,既知の環境と新しい環境の両方の一般化を改善できることを示す。
関連論文リスト
- SPARTAN: A Sparse Transformer Learning Local Causation [63.29645501232935]
因果構造は、環境の変化に柔軟に適応する世界モデルにおいて中心的な役割を果たす。
本研究では,SPARse TrANsformer World Model(SPARTAN)を提案する。
オブジェクト指向トークン間の注意パターンに空間規則を適用することで、SPARTANは、将来のオブジェクト状態を正確に予測するスパース局所因果モデルを特定する。
論文 参考訳(メタデータ) (2024-11-11T11:42:48Z) - Dynamic Post-Hoc Neural Ensemblers [55.15643209328513]
本研究では,ニューラルネットワークをアンサンブル手法として活用することを検討する。
低多様性のアンサンブルを学習するリスクを動機として,ベースモデル予測をランダムにドロップすることでモデルの正規化を提案する。
このアプローチはアンサンブル内の多様性を低くし、オーバーフィッティングを減らし、一般化能力を向上させる。
論文 参考訳(メタデータ) (2024-10-06T15:25:39Z) - Environment-Aware Dynamic Graph Learning for Out-of-Distribution
Generalization [41.58330883016538]
本研究では,環境学習の観点から,動的グラフのアウト・オブ・ディストリビューション(OOD)一般化について検討する。
本稿では,複雑な環境をモデル化し,新しいグラフ時間変動パターンを利用するOOD一般化のための環境対応動的グラフ学習(EAGLE)フレームワークを提案する。
我々の知る限りでは、環境学習の観点から動的グラフのOOD一般化を初めて研究する。
論文 参考訳(メタデータ) (2023-11-18T16:31:10Z) - Generalizing Graph ODE for Learning Complex System Dynamics across
Environments [33.63818978256567]
GG-ODEは、環境全体にわたる継続的マルチエージェントシステムのダイナミクスを学習するための機械学習フレームワークである。
我々のモデルは、グラフニューラルネットワーク(GNN)によりパラメータ化されたニューラル常微分方程式(ODE)を用いてシステムダイナミクスを学習する。
様々な物理シミュレーション実験により,我々のモデルは,特に長距離において,システム力学を正確に予測できることが示されている。
論文 参考訳(メタデータ) (2023-07-10T00:29:25Z) - SpReME: Sparse Regression for Multi-Environment Dynamic Systems [6.7053978622785415]
本研究では,SpReMEと呼ばれるスパースレグレッションの手法を開発し,複数の環境を基盤とする主要な力学を明らかにする。
提案モデルでは,予測性能を向上した4つの動的システム上で,複数の環境から正しいダイナミクスを捕捉することを示した。
論文 参考訳(メタデータ) (2023-02-12T15:45:50Z) - Time Will Change Things: An Empirical Study on Dynamic Language
Understanding in Social Media Classification [5.075802830306718]
我々は、実験的にソーシャルメディアのNLUを動的に研究し、モデルが過去のデータに基づいてトレーニングされ、将来のテストが行われる。
自動エンコーディングと擬似ラベルが協調して、動的性の最良の堅牢性を示すことを示す。
論文 参考訳(メタデータ) (2022-10-06T12:18:28Z) - Generalizing to New Physical Systems via Context-Informed Dynamics Model [0.0]
文脈インフォームド・ダイナミックス適応(CoDA)のための新しいフレームワークを提案する。
CoDAは、各環境固有のコンテキストパラメータに動的モデルを適用することを学ぶ。
様々なアプリケーション領域を表す非線形ダイナミクスの集合に対して、最先端の一般化結果を示す。
論文 参考訳(メタデータ) (2022-02-01T07:41:10Z) - Learning to Continuously Optimize Wireless Resource in a Dynamic
Environment: A Bilevel Optimization Perspective [52.497514255040514]
この研究は、データ駆動メソッドが動的環境でリソース割り当て戦略を継続的に学び、最適化することを可能にする新しいアプローチを開発しています。
学習モデルが新たなエピソードに段階的に適応できるように、連続学習の概念を無線システム設計に組み込むことを提案する。
我々の設計は、異なるデータサンプルにまたがる公平性を保証する、新しい二段階最適化定式化に基づいている。
論文 参考訳(メタデータ) (2021-05-03T07:23:39Z) - Learning to Continuously Optimize Wireless Resource In Episodically
Dynamic Environment [55.91291559442884]
この研究は、データ駆動型手法が動的環境で継続的に学習し、最適化できる方法論を開発する。
本稿では,無線システム学習のモデリングプロセスに連続学習の概念を構築することを提案する。
我々の設計は、異なるデータサンプル間で「一定の公正性を保証する」新しいmin-maxの定式化に基づいている。
論文 参考訳(メタデータ) (2020-11-16T08:24:34Z) - Trajectory-wise Multiple Choice Learning for Dynamics Generalization in
Reinforcement Learning [137.39196753245105]
本稿では,動的一般化のためのマルチヘッドダイナミックスモデルを学習するモデルベース強化学習アルゴリズムを提案する。
文脈学習は,過去の経験から得られる動的情報からコンテキスト潜在ベクトルにエンコードする。
提案手法は,最先端のRL法と比較して,様々な制御タスクにおいて優れたゼロショット一般化性能を示す。
論文 参考訳(メタデータ) (2020-10-26T03:20:42Z) - Context-aware Dynamics Model for Generalization in Model-Based
Reinforcement Learning [124.9856253431878]
グローバルなダイナミクスモデルを学習するタスクを,(a)ローカルなダイナミクスをキャプチャするコンテキスト潜在ベクトルを学習し,(b)次に条件付き状態を予測するという2つの段階に分割する。
本研究では,コンテキスト潜在ベクトルに動的情報をエンコードするために,コンテキスト潜在ベクトルを前方と後方の両方のダイナミクスを予測するのに役立つような新しい損失関数を導入する。
提案手法は,既存のRL方式と比較して,様々なシミュレーションロボットや制御タスクの一般化能力に優れる。
論文 参考訳(メタデータ) (2020-05-14T08:10:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。