Fugu-MT 論文翻訳(概要): Tensorized Transformer for Dynamical Systems Modeling

論文の概要: Tensorized Transformer for Dynamical Systems Modeling

arxiv url: http://arxiv.org/abs/2006.03445v1
Date: Fri, 5 Jun 2020 13:43:37 GMT
ステータス: 処理完了
システム内更新日: 2022-11-25 03:24:55.835747
Title: Tensorized Transformer for Dynamical Systems Modeling
Title（参考訳）: 動的システムモデリングのためのテンソル変換器
Authors: Anna Shalova and Ivan Oseledets
Abstract要約: 動的システムモデリングと言語モデリングタスクの並列性を確立する。本稿では,データの幾何学的性質を組み込んだトランスモデルを提案する。高次元力学系の条件確率の細粒度近似を可能にする反復的学習アルゴリズムを提案する。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The identification of nonlinear dynamics from observations is essential for the alignment of the theoretical ideas and experimental data. The last, in turn, is often corrupted by the side effects and noise of different natures, so probabilistic approaches could give a more general picture of the process. At the same time, high-dimensional probabilities modeling is a challenging and data-intensive task. In this paper, we establish a parallel between the dynamical systems modeling and language modeling tasks. We propose a transformer-based model that incorporates geometrical properties of the data and provide an iterative training algorithm allowing the fine-grid approximation of the conditional probabilities of high-dimensional dynamical systems.
Abstract（参考訳）: 観測からの非線形ダイナミクスの同定は、理論的アイデアと実験データのアライメントに不可欠である。最後のものは、異なる性質の副作用とノイズによってしばしば破壊されるため、確率論的アプローチはプロセスのより一般的なイメージを与える可能性がある。同時に、高次元確率モデリングは困難でデータ集約的なタスクである。本稿では,動的システムモデリングと言語モデリングタスクの並列性を確立する。本稿では,データの幾何学的性質を取り入れたトランスフォーマーモデルを提案し,高次元力学系の条件付き確率の微積分近似を可能にする反復学習アルゴリズムを提案する。

関連論文リスト

Latent Space Energy-based Neural ODEs [73.01344439786524]
本稿では,連続時間シーケンスデータを表現するために設計された深部力学モデルの新しいファミリを紹介する。マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。発振システム、ビデオ、実世界の状態シーケンス(MuJoCo)の実験は、学習可能なエネルギーベース以前のODEが既存のものより優れていることを示している。
論文参考訳（メタデータ） (2024-09-05T18:14:22Z)
Probabilistic Decomposed Linear Dynamical Systems for Robust Discovery of Latent Neural Dynamics [5.841659874892801]
時間変化線形状態空間モデルは、ニューラルネットワークの数学的解釈可能な表現を得るための強力なツールである。潜在変数推定のための既存の手法は、動的ノイズやシステムの非線形性に対して堅牢ではない。本稿では,動的雑音に対するロバスト性を改善するために,分解モデルにおける潜在変数推定に対する確率的アプローチを提案する。
論文参考訳（メタデータ） (2024-08-29T18:58:39Z)
eXponential FAmily Dynamical Systems (XFADS): Large-scale nonlinear Gaussian state-space modeling [9.52474299688276]
非線形状態空間グラフィカルモデルのための低ランク構造化変分オートエンコーダフレームワークを提案する。我々のアプローチは、より予測的な生成モデルを学ぶ能力を一貫して示している。
論文参考訳（メタデータ） (2024-03-03T02:19:49Z)
Learning Latent Dynamics via Invariant Decomposition and (Spatio-)Temporal Transformers [0.6767885381740952]
本研究では,高次元経験データから力学系を学習する手法を提案する。我々は、システムの複数の異なるインスタンスからデータが利用できる設定に焦点を当てる。我々は、単純な理論的分析と、合成および実世界のデータセットに関する広範な実験を通して行動を研究する。
論文参考訳（メタデータ） (2023-06-21T07:52:07Z)
Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文参考訳（メタデータ） (2023-04-08T07:55:36Z)
Latent Variable Representation for Reinforcement Learning [131.03944557979725]
モデルに基づく強化学習のサンプル効率を改善するために、潜在変数モデルが学習、計画、探索をいかに促進するかは理論上、実証上、不明である。状態-作用値関数に対する潜在変数モデルの表現ビューを提供する。これは、抽出可能な変分学習アルゴリズムと楽観主義/悲観主義の原理の効果的な実装の両方を可能にする。特に,潜伏変数モデルのカーネル埋め込みを組み込んだUPB探索を用いた計算効率の良い計画アルゴリズムを提案する。
論文参考訳（メタデータ） (2022-12-17T00:26:31Z)
Capturing Actionable Dynamics with Structured Latent Ordinary Differential Equations [68.62843292346813]
本稿では,その潜在表現内でのシステム入力の変動をキャプチャする構造付き潜在ODEモデルを提案する。静的変数仕様に基づいて,本モデルではシステムへの入力毎の変動要因を学習し,潜在空間におけるシステム入力の影響を分離する。
論文参考訳（メタデータ） (2022-02-25T20:00:56Z)
Learning Low-Dimensional Quadratic-Embeddings of High-Fidelity Nonlinear Dynamics using Deep Learning [9.36739413306697]
データから動的モデルを学ぶことは、エンジニアリング設計、最適化、予測において重要な役割を果たす。深層学習を用いて高忠実度力学系に対する低次元埋め込みを同定する。
論文参考訳（メタデータ） (2021-11-25T10:09:00Z)
Constructing Neural Network-Based Models for Simulating Dynamical Systems [59.0861954179401]
データ駆動モデリングは、真のシステムの観測からシステムの力学の近似を学ぼうとする代替パラダイムである。本稿では,ニューラルネットワークを用いた動的システムのモデル構築方法について検討する。基礎的な概要に加えて、関連する文献を概説し、このモデリングパラダイムが克服すべき数値シミュレーションから最も重要な課題を概説する。
論文参考訳（メタデータ） (2021-11-02T10:51:42Z)
Compositional Modeling of Nonlinear Dynamical Systems with ODE-based Random Features [0.0]
この問題に対処するための新しいドメインに依存しないアプローチを提案する。我々は、通常の微分方程式から導かれる物理インフォームド・ランダムな特徴の合成を用いる。提案手法は,ベンチマーク回帰タスクにおいて,他の多くの確率モデルに匹敵する性能を実現する。
論文参考訳（メタデータ） (2021-06-10T17:55:13Z)
Variational Hyper RNN for Sequence Modeling [69.0659591456772]
本稿では,時系列データにおける高変数の取得に優れる新しい確率的シーケンスモデルを提案する。提案手法では,時間潜時変数を用いて基礎となるデータパターンに関する情報をキャプチャする。提案手法の有効性を,合成および実世界のシーケンシャルデータに示す。
論文参考訳（メタデータ） (2020-02-24T19:30:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。