論文の概要: Towards Recurrent Autoregressive Flow Models
- arxiv url: http://arxiv.org/abs/2006.10096v1
- Date: Wed, 17 Jun 2020 18:38:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-19 19:52:32.653311
- Title: Towards Recurrent Autoregressive Flow Models
- Title(参考訳): リカレント自己回帰流モデルに向けて
- Authors: John Mern and Peter Morales and Mykel J. Kochenderfer
- Abstract要約: 本稿では,正規化フローを用いた一般的なプロセスモデリングのための手法として,リカレント自己回帰フローを提案する。
提案手法は, ニューラル接続を繰り返す正規化フローのパラメータを条件付けすることにより, 逐次的過程における各変数の条件分布を定義する。
モデルが3つの複雑なプロセスで訓練される一連の実験を通して、このモデルのクラスの有効性を実証する。
- 参考スコア(独自算出の注目度): 39.25035894474609
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Stochastic processes generated by non-stationary distributions are difficult
to represent with conventional models such as Gaussian processes. This work
presents Recurrent Autoregressive Flows as a method toward general stochastic
process modeling with normalizing flows. The proposed method defines a
conditional distribution for each variable in a sequential process by
conditioning the parameters of a normalizing flow with recurrent neural
connections. Complex conditional relationships are learned through the
recurrent network parameters. In this work, we present an initial design for a
recurrent flow cell and a method to train the model to match observed empirical
distributions. We demonstrate the effectiveness of this class of models through
a series of experiments in which models are trained on three complex stochastic
processes. We highlight the shortcomings of our current formulation and suggest
some potential solutions.
- Abstract(参考訳): 非定常分布によって生成される確率過程はガウス過程のような従来のモデルで表すのは難しい。
本研究は, 正規化フローを用いた一般確率過程モデリングのための手法として, リカレント自己回帰フローを提案する。
提案手法は, ニューラル接続を繰り返す正規化フローのパラメータを条件付けすることで, 逐次的に各変数の条件分布を定義する。
複雑な条件付き関係は、繰り返しネットワークパラメータを通して学習される。
本研究では、再帰流セルの初期設計と、観測された経験分布に一致するようにモデルを訓練する方法を提案する。
モデルが3つの複雑な確率過程で訓練される一連の実験を通じて,このモデルの有効性を実証する。
現在の定式化の欠点を強調し、潜在的な解決策を提案する。
関連論文リスト
- Flow Map Matching [15.520853806024943]
フローマップマッチングは、基礎となる常微分方程式の2時間フローマップを学習するアルゴリズムである。
フローマップマッチングは, 拡散法や補間法と比較して, サンプリングコストを大幅に削減した高品質なサンプルとなることを示す。
論文 参考訳(メタデータ) (2024-06-11T17:41:26Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Uncertainty quantification and out-of-distribution detection using
surjective normalizing flows [46.51077762143714]
本稿では,深層ニューラルネットワークモデルにおける分布外データセットの探索的正規化フローを用いた簡単なアプローチを提案する。
本手法は, 流通外データと流通内データとを確実に識別できることを示す。
論文 参考訳(メタデータ) (2023-11-01T09:08:35Z) - Predicting Ordinary Differential Equations with Transformers [65.07437364102931]
単一溶液軌道の不規則サンプリングおよび雑音観測から,スカラー常微分方程式(ODE)を記号形式で復元するトランスフォーマーに基づくシーケンス・ツー・シーケンス・モデルを開発した。
提案手法は, 1回に一度, ODE の大規模な事前訓練を行った後, モデルのいくつかの前方通過において, 新たな観測解の法則を推測することができる。
論文 参考訳(メタデータ) (2023-07-24T08:46:12Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Fast Sampling of Diffusion Models via Operator Learning [74.37531458470086]
我々は,拡散モデルのサンプリング過程を高速化するために,確率フロー微分方程式の効率的な解法であるニューラル演算子を用いる。
シーケンシャルな性質を持つ他の高速サンプリング手法と比較して、並列復号法を最初に提案する。
本稿では,CIFAR-10では3.78、ImageNet-64では7.83の最先端FIDを1モデル評価環境で達成することを示す。
論文 参考訳(メタデータ) (2022-11-24T07:30:27Z) - Variational Mixture of Normalizing Flows [0.0]
生成逆数ネットワークオートサイトGAN、変分オートエンコーダオートサイトベイペーパー、およびそれらの変種などの深い生成モデルは、複雑なデータ分布をモデル化するタスクに広く採用されている。
正規化フローはこの制限を克服し、確率密度関数にそのような公式の変更を利用する。
本研究は,混合モデルのコンポーネントとして正規化フローを用い,そのようなモデルのエンドツーエンドトレーニング手順を考案することによって,この問題を克服する。
論文 参考訳(メタデータ) (2020-09-01T17:20:08Z) - Composing Normalizing Flows for Inverse Problems [89.06155049265641]
本稿では,2つの流れモデルの合成として,対象条件を推定する近似推論フレームワークを提案する。
本手法は,様々な逆問題に対して評価し,不確実性のある高品質な試料を作製することを示した。
論文 参考訳(メタデータ) (2020-02-26T19:01:11Z) - Modeling Continuous Stochastic Processes with Dynamic Normalizing Flows [40.9137348900942]
ウィナー過程の微分変形によって駆動される新しいタイプの流れを提案する。
その結果,観測可能なプロセスが基本プロセスの魅力的な特性の多くを継承するリッチ時系列モデルが得られた。
論文 参考訳(メタデータ) (2020-02-24T20:13:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。