論文の概要: DFORM: Diffeomorphic vector field alignment for assessing dynamics
across learned models
- arxiv url: http://arxiv.org/abs/2402.09735v1
- Date: Thu, 15 Feb 2024 06:22:50 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-16 16:54:17.491203
- Title: DFORM: Diffeomorphic vector field alignment for assessing dynamics
across learned models
- Title(参考訳): DFORM: 学習モデル間のダイナミクス評価のための微分型ベクトル場アライメント
- Authors: Ruiqi Chen, Giacomo Vedovati, Todd Braver, ShiNung Ching
- Abstract要約: 学習モデル間のダイナミクスを比較するためのDFORMフレームワークを提案する。
DFORM変換ベクトル場間のミスマッチは、2つのモデル間の軌道類似性を定義する。
例えば、標準神経科学タスクで訓練されたモデルにDFORMを適用し、学習力学が機能的に類似していることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dynamical system models such as Recurrent Neural Networks (RNNs) have become
increasingly popular as hypothesis-generating tools in scientific research.
Evaluating the dynamics in such networks is key to understanding their learned
generative mechanisms. However, comparison of learned dynamics across models is
challenging due to their inherent nonlinearity and because a priori there is no
enforced equivalence of their coordinate systems. Here, we propose the DFORM
(Diffeomorphic vector field alignment for comparing dynamics across learned
models) framework. DFORM learns a nonlinear coordinate transformation which
provides a continuous, maximally one-to-one mapping between the trajectories of
learned models, thus approximating a diffeomorphism between them. The mismatch
between DFORM-transformed vector fields defines the orbital similarity between
two models, thus providing a generalization of the concepts of smooth orbital
and topological equivalence. As an example, we apply DFORM to models trained on
a canonical neuroscience task, showing that learned dynamics may be
functionally similar, despite overt differences in attractor landscapes.
- Abstract(参考訳): リカレントニューラルネットワーク(RNN)のような動的システムモデルは、科学研究において仮説生成ツールとして人気が高まっている。
このようなネットワークのダイナミクスを評価することは、学習した生成メカニズムを理解するための鍵となる。
しかしながら、モデル間の学習されたダイナミクスの比較は、その固有非線形性と、事前の座標系に強制同値性がないため、困難である。
本稿では,DFORM(Diffomorphic vector field alignment for comparison dynamics across learned model)フレームワークを提案する。
DFORMは、学習したモデルの軌跡間の連続かつ最大1対1の写像を提供する非線形座標変換を学習し、それらの間の微分同相を近似する。
DFORM変換ベクトル場間のミスマッチは、2つのモデルの軌道類似性を定義し、滑らかな軌道と位相同値の概念を一般化する。
例えば、DFORMを標準神経科学タスクで訓練されたモデルに適用すると、学習力学はアトラクタのランドスケープに過度の違いがあるにもかかわらず、機能的に類似していることが分かる。
関連論文リスト
- SEGNO: Generalizing Equivariant Graph Neural Networks with Physical
Inductive Biases [66.61789780666727]
等変性を維持しながら, 2階連続性をGNNに組み込む方法を示す。
また、SEGNOに関する理論的知見も提供し、隣接する状態間の一意の軌跡を学習できることを強調している。
我々のモデルは最先端のベースラインよりも大幅に改善されている。
論文 参考訳(メタデータ) (2023-08-25T07:15:58Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。
ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。
本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2023-04-03T13:13:19Z) - GD-VAEs: Geometric Dynamic Variational Autoencoders for Learning
Nonlinear Dynamics and Dimension Reductions [0.0]
変分オートエンコーダ(VAE)に関する学習戦略を用いた一般多様体ラテント空間の非線形状態空間モデル学習手法を開発した。
パラメータ化PDEと物理における問題に触発され,非線形バーガース方程式の低次元表現,制約された機械系,反応拡散系の空間場を学習するタスクにおける本手法の性能について検討した。
論文 参考訳(メタデータ) (2022-06-10T15:23:23Z) - Linear Connectivity Reveals Generalization Strategies [54.947772002394736]
微調整されたモデルのいくつかは、それらの間の線形経路における損失を増大させる大きな障壁を持つ。
テスト損失面上で線形に接続されているが、クラスタ外のモデルから切り離されている異なるモデルのクラスタが見つかる。
我々の研究は、損失面の幾何学がモデルを異なる関数へと導く方法を示している。
論文 参考訳(メタデータ) (2022-05-24T23:43:02Z) - Linearization and Identification of Multiple-Attractors Dynamical System
through Laplacian Eigenmaps [8.161497377142584]
速度拡張カーネルを利用したグラフベースのスペクトルクラスタリング手法を提案し,同じダイナミックスに属するデータポイントを接続する。
部分力学が線型であり、n-次元埋め込みが準線型であるような2次元埋め込み空間が常に存在することを証明する。
我々は、ラプラシアン埋め込み空間から元の空間への微分同相性を学び、ラプラシアン埋め込みが良好な再構成精度とより高速な訓練時間をもたらすことを示す。
論文 参考訳(メタデータ) (2022-02-18T12:43:25Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳(メタデータ) (2021-10-26T14:26:25Z) - Physics-guided Deep Markov Models for Learning Nonlinear Dynamical
Systems with Uncertainty [6.151348127802708]
我々は物理誘導型Deep Markov Model(PgDMM)という物理誘導型フレームワークを提案する。
提案手法は,動的システムの駆動物理を維持しながら,ディープラーニングの表現力を利用する。
論文 参考訳(メタデータ) (2021-10-16T16:35:12Z) - A Differential Geometry Perspective on Orthogonal Recurrent Models [56.09491978954866]
我々は微分幾何学からのツールと洞察を用いて、直交rnnの新しい視点を提供する。
直交RNNは、発散自由ベクトル場の空間における最適化と見なすことができる。
この観測に動機づけられて、ベクトル場全体の空間にまたがる新しいリカレントモデルの研究を行う。
論文 参考訳(メタデータ) (2021-02-18T19:39:22Z) - The Role of Isomorphism Classes in Multi-Relational Datasets [6.419762264544509]
アイソモーフィックリークは,マルチリレーショナル推論の性能を過大評価することを示す。
モデル評価のためのアイソモーフィック・アウェア・シンセサイティング・ベンチマークを提案する。
また、同型類は単純な優先順位付けスキームによって利用することができることを示した。
論文 参考訳(メタデータ) (2020-09-30T12:15:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。