論文の概要: Learning normal form autoencoders for data-driven discovery of
universal,parameter-dependent governing equations
- arxiv url: http://arxiv.org/abs/2106.05102v1
- Date: Wed, 9 Jun 2021 14:25:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2021-06-10 14:54:46.552861
- Title: Learning normal form autoencoders for data-driven discovery of
universal,parameter-dependent governing equations
- Title(参考訳): データ駆動型普遍パラメータ依存型支配方程式発見のための正規形式オートエンコーダの学習
- Authors: Manu Kalia, Steven L. Brunton, Hil G.E. Meijer, Christoph Brune, J.
Nathan Kutz
- Abstract要約: 複雑系は、自然界において正則である少数の不安定性と分岐を示す。
このようなパラメトリック不安定性は、数学的には普遍的アンフォールディング(un-folding)または正規形式力学によって特徴づけられる。
本稿では,基礎となるパラメトリック依存を捉える座標変換を発見するためのディープラーニングオートエンコーダを提案する。
- 参考スコア(独自算出の注目度): 3.769860395223177
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Complex systems manifest a small number of instabilities and bifurcations
that are canonical in nature, resulting in universal pattern forming
characteristics as a function of some parametric dependence. Such parametric
instabilities are mathematically characterized by their universal un-foldings,
or normal form dynamics, whereby a parsimonious model can be used to represent
the dynamics. Although center manifold theory guarantees the existence of such
low-dimensional normal forms, finding them has remained a long standing
challenge. In this work, we introduce deep learning autoencoders to discover
coordinate transformations that capture the underlying parametric dependence of
a dynamical system in terms of its canonical normal form, allowing for a simple
representation of the parametric dependence and bifurcation structure. The
autoencoder constrains the latent variable to adhere to a given normal form,
thus allowing it to learn the appropriate coordinate transformation. We
demonstrate the method on a number of example problems, showing that it can
capture a diverse set of normal forms associated with Hopf, pitchfork,
transcritical and/or saddle node bifurcations. This method shows how normal
forms can be leveraged as canonical and universal building blocks in deep
learning approaches for model discovery and reduced-order modeling.
- Abstract(参考訳): 複素系は、自然界において標準的である少数の不安定性と分岐を示し、パラメトリック依存の関数としての普遍的なパターン形成特性をもたらす。
このようなパラメトリック不安定性は、数学的には普遍的アンフォールディング(un-foldings)または正規形式力学によって特徴づけられる。
中心多様体理論はそのような低次元の正規形式の存在を保証するが、それらを見つけることは長い挑戦のままである。
本研究では,その正準正規形を用いて力学系のパラメトリック依存を捉える座標変換を探索する深層学習オートエンコーダを導入し,パラメトリック依存と分岐構造の簡易表現を可能にした。
オートエンコーダは、潜在変数を所定の正規形式に従うように制約し、適切な座標変換を学ぶことができる。
本手法は, ホップ, ピッチフォーク, トランスクリティカル, および/またはサドルノード分岐に関連する, 多様な正規形の集合を捉えることができることを示す。
本手法は, モデル探索および低次モデリングのための深層学習手法において, 正規および普遍的な構造ブロックとして正規形式をどのように活用するかを示す。
関連論文リスト
- Discovering Interpretable Ordinary Differential Equations from Noisy Data [0.0]
本稿では、近似一般解を求める無教師パラメータ推定手法を提案し、続いてスプライン変換を行い、支配常微分方程式(ODE)の係数を線形に推定する。
近似一般解は、一般同次、線型、定数係数のODEの解析解と同じ関数形式を用いて仮定される。
この手法はまた、ノイズの多いデータに対して堅牢であり、物理的現象のデータ駆動学習のための実実験環境にデータ駆動技術を統合することを可能にする。
論文 参考訳(メタデータ) (2025-07-29T14:19:59Z) - Generalized Linear Mode Connectivity for Transformers [87.32299363530996]
驚くべき現象はリニアモード接続(LMC)であり、独立に訓練されたモデルを低損失またはゼロ損失の経路で接続することができる。
以前の研究は主に置換によるニューロンの並べ替えに焦点を合わせてきたが、そのようなアプローチは範囲に限られている。
我々は、4つの対称性クラス(置換、半置換、変換、一般可逆写像)をキャプチャする統一的なフレームワークを導入する。
この一般化により、独立に訓練された視覚変換器とGPT-2モデルの間の低障壁とゼロバリア線形経路の発見が可能となった。
論文 参考訳(メタデータ) (2025-06-28T01:46:36Z) - Solving Inverse Problems in Stochastic Self-Organising Systems through Invariant Representations [12.394699094197545]
自己組織化システムは、いかに単純なローカルルールが複雑なパターンを生成するかを示す。
多くの自然系はそのような力学に依存しており、自己組織は自然の複雑さを理解する中心となる。
このようなシステムのモデル化における根本的な課題は、マクロ的な観察から未知の因果パラメータを見つけるという逆問題の解決である。
論文 参考訳(メタデータ) (2025-06-13T14:01:39Z) - No Equations Needed: Learning System Dynamics Without Relying on Closed-Form ODEs [56.78271181959529]
本稿では,従来の2段階モデリングプロセスから離れることで,低次元力学系をモデル化する概念シフトを提案する。
最初に閉形式方程式を発見して解析する代わりに、我々のアプローチ、直接意味モデリングは力学系の意味表現を予測する。
私たちのアプローチは、モデリングパイプラインを単純化するだけでなく、結果のモデルの透明性と柔軟性も向上します。
論文 参考訳(メタデータ) (2025-01-30T18:36:48Z) - SymbolFit: Automatic Parametric Modeling with Symbolic Regression [1.2662552408022727]
シンボリック回帰を用いてパラメトリックモデリングを自動化するフレームワークであるSybolFitを導入し,データに適合する関数の機械探索を行う。
我々は,非自明な分布によく適合する幅広い候補関数を柔軟かつ効率的に生成できることを示す。
論文 参考訳(メタデータ) (2024-11-15T00:09:37Z) - Latent Space Energy-based Neural ODEs [73.01344439786524]
本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。
マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。
発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
論文 参考訳(メタデータ) (2024-09-05T18:14:22Z) - Data-driven discovery of self-similarity using neural networks [0.0]
本稿では、観測データから直接自己相似性を発見するニューラルネットワークに基づく新しいアプローチを提案する。
物理問題における自己相似解の存在は、支配法則が権力者指数によって主張される関数を含むことを示す。
観測データを用いてニューラルネットワークモデルをトレーニングし、トレーニングが成功すれば、物理問題のスケール・トランスフォーメーション対称性を特徴付けるパワー指数を抽出できる。
論文 参考訳(メタデータ) (2024-06-06T09:36:05Z) - Shape Arithmetic Expressions: Advancing Scientific Discovery Beyond Closed-Form Equations [56.78271181959529]
GAM(Generalized Additive Models)は、変数とターゲットの間の非線形関係をキャプチャできるが、複雑な特徴相互作用をキャプチャすることはできない。
本稿では,GAMのフレキシブルな形状関数と,数学的表現に見られる複雑な特徴相互作用を融合させる形状表現算術(SHARE)を提案する。
また、標準制約を超えた表現の透明性を保証するSHAREを構築するための一連のルールを設計する。
論文 参考訳(メタデータ) (2024-04-15T13:44:01Z) - Stochastic parameter reduced-order model based on hybrid machine learning approaches [4.378407481656902]
本稿では,畳み込み型オートエンコーダ-貯水池コンピューティング-Normalizing Flowアルゴリズムの枠組みを構築した。
このフレームワークは潜在状態変数の進化を特徴づけるために使われる。
このようにして、複雑なシステムとその動的挙動を記述するために、データ駆動の減階モデルを構築する。
論文 参考訳(メタデータ) (2024-03-24T06:52:37Z) - Gradient-Based Feature Learning under Structured Data [57.76552698981579]
異方性設定では、一般的に使用される球面勾配力学は真の方向を回復できないことがある。
バッチ正規化を連想させる適切な重み正規化は、この問題を軽減することができることを示す。
特に、スパイクモデルの下では、勾配に基づくトレーニングのサンプルの複雑さは情報指数とは独立にできる。
論文 参考訳(メタデータ) (2023-09-07T16:55:50Z) - DIFFormer: Scalable (Graph) Transformers Induced by Energy Constrained
Diffusion [66.21290235237808]
本稿では,データセットからのインスタンスのバッチを進化状態にエンコードするエネルギー制約拡散モデルを提案する。
任意のインスタンス対間の対拡散強度に対する閉形式最適推定を示唆する厳密な理論を提供する。
各種タスクにおいて優れた性能を有する汎用エンコーダバックボーンとして,本モデルの適用性を示す実験を行った。
論文 参考訳(メタデータ) (2023-01-23T15:18:54Z) - Why neural networks find simple solutions: the many regularizers of
geometric complexity [13.729491571993163]
我々は、離散ディリクレエネルギーを用いて計算されたモデル関数の変数の尺度である幾何学的複雑性の概念を開発する。
パラメータノルム正則化、スペクトルノルム正則化、平坦性正則化、勾配正則化、雑音正則化など、多くの一般的な訓練が、幾何学的複雑性を制御するために働くことを示す。
論文 参考訳(メタデータ) (2022-09-27T00:16:38Z) - Augmenting Implicit Neural Shape Representations with Explicit
Deformation Fields [95.39603371087921]
入射神経表現は、ニューラルネットワークのゼロレベルセットとして形状収集を学ぶための最近のアプローチである。
我々は,暗黙的ニューラル表現に対する変形認識正規化を提唱し,遅延コードの変化として可塑性変形を生成することを目的とした。
論文 参考訳(メタデータ) (2021-08-19T22:07:08Z) - Coupling-based Invertible Neural Networks Are Universal Diffeomorphism
Approximators [72.62940905965267]
結合フロー(CF-INN)に基づく可逆ニューラルネットワークは、画像合成や表現学習など、さまざまな機械学習応用を有する。
CF-INNは可逆関数に対する普遍近似器か?
我々は、ある微分同相類に対する普遍性の同値性を示す一般的な定理を証明する。
論文 参考訳(メタデータ) (2020-06-20T02:07:37Z) - Self-Supervised Learning of Generative Spin-Glasses with Normalizing
Flows [0.0]
一般的な離散問題におけるモデル相関に対する正規化フローを用いた連続スピングラス分布の開発を行う。
スピングラス位相の物理的および計算的特性をうまく学習できることを実証する。
注目すべきは、学習そのものがトレーニングされた正規化フローの層内のスピングラス相転移に対応することである。
論文 参考訳(メタデータ) (2020-01-02T19:00:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。