論文の概要: AUTM Flow: Atomic Unrestricted Time Machine for Monotonic Normalizing
Flows
- arxiv url: http://arxiv.org/abs/2206.02102v1
- Date: Sun, 5 Jun 2022 05:58:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-11 11:42:24.381845
- Title: AUTM Flow: Atomic Unrestricted Time Machine for Monotonic Normalizing
Flows
- Title(参考訳): AUTMフロー:モノトニック正規化フローのための原子非制限時間マシン
- Authors: Difeng Cai, Yuliang Ji, Huan He, Qiang Ye, Yuanzhe Xi
- Abstract要約: 原子非制限時間機械」は、制限のない積分器と計算し易い明示的逆数を備える。
AUTM流を用いた任意の単調正規化流の近似法について述べる。
- 参考スコア(独自算出の注目度): 4.248909321838098
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Nonlinear monotone transformations are used extensively in normalizing flows
to construct invertible triangular mappings from simple distributions to
complex ones. In existing literature, monotonicity is usually enforced by
restricting function classes or model parameters and the inverse transformation
is often approximated by root-finding algorithms as a closed-form inverse is
unavailable. In this paper, we introduce a new integral-based approach termed
"Atomic Unrestricted Time Machine (AUTM)", equipped with unrestricted
integrands and easy-to-compute explicit inverse. AUTM offers a versatile and
efficient way to the design of normalizing flows with explicit inverse and
unrestricted function classes or parameters. Theoretically, we present a
constructive proof that AUTM is universal: all monotonic normalizing flows can
be viewed as limits of AUTM flows. We provide a concrete example to show how to
approximate any given monotonic normalizing flow using AUTM flows with
guaranteed convergence. The result implies that AUTM can be used to transform
an existing flow into a new one equipped with explicit inverse and unrestricted
parameters. The performance of the new approach is evaluated on high
dimensional density estimation, variational inference and image generation.
Experiments demonstrate superior speed and memory efficiency of AUTM.
- Abstract(参考訳): 非線形単調変換は、単純な分布から複素分布への可逆三角写像を構築するために、フローの正規化に広く用いられる。
既存の文献では、単調性は通常関数クラスやモデルパラメータの制限によって強制され、逆変換は閉形式逆が利用できないため、しばしばルートフィンディングアルゴリズムによって近似される。
本稿では,制限のない積分器と計算容易な明示的逆数を備えた「原子非制限時間マシン(Atomic Unrestricted Time Machine, AUTM)」と呼ばれる新しい積分ベースのアプローチを提案する。
AUTMは、明示的な逆関数クラスや非制限関数クラスやパラメータを持つ正規化フローの設計において、汎用的で効率的な方法を提供する。
理論的には、AUTMが普遍的であるという構成的証明が提示される: すべての単調正規化フローは、AUTMフローの極限と見なすことができる。
本稿では,AUTM流を用いた任意の単調正規化流の近似法を示す具体例を示す。
その結果、AUTMは既存の流れを明示的な逆パラメータと非制限パラメータを備えた新しい流れに変換するのに利用できる。
提案手法の性能は,高次元密度推定,変分推論,画像生成に基づいて評価される。
実験はautmの高速化とメモリ効率を実証する。
関連論文リスト
- DFM: Interpolant-free Dual Flow Matching [0.8192907805418583]
モデルベクトル場に関する明示的な仮定を伴わない補間自由二重流れマッチング(DFM)手法を提案する。
SMAPによる教師なし異常検出実験は、最大極度またはFM目標で訓練されたCNFと比較して、DFMの利点を示す。
論文 参考訳(メタデータ) (2024-10-11T20:46:04Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z) - Sinusoidal Flow: A Fast Invertible Autoregressive Flow [0.0]
完全自己回帰フローから表現力と三角ヤコビアンを継承する新しいタイプの正規化フローを提案する。
実験の結果、我々の正弦波流は複雑な分布をモデル化できるだけでなく、現実的なサンプルを生成するために確実に逆転できることがわかった。
論文 参考訳(メタデータ) (2021-10-26T01:20:29Z) - Equivariant Discrete Normalizing Flows [10.867162810786361]
離散層を用いた等変正規化フローの構築に着目する。
2つの新しい同変フロー:$G$-カップリングフローと$G$-Residualフローを導入する。
我々の構成である$G$-Residual Flowsも普遍的であり、$G$-equivariant diffeomorphismが$G$-Residual Flowによって正確にマッピング可能であることを証明している。
論文 参考訳(メタデータ) (2021-10-16T20:16:00Z) - On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。
本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。
理論的にも経験的にも二重降下現象を観察する。
論文 参考訳(メタデータ) (2021-10-13T17:47:39Z) - Attentive Contractive Flow with Lipschitz-constrained Self-Attention [25.84621883831624]
注意的収縮フロー(ACF)と呼ばれる新しいアプローチを導入する。
ACFは、フローベースの生成モデル - 収縮フロー - の特別なカテゴリを利用する。
我々は, ACFをプラグアンドプレイ方式で, 各種のアートフローモデルに導入できることを実証した。
論文 参考訳(メタデータ) (2021-09-24T18:02:49Z) - SurVAE Flows: Surjections to Bridge the Gap between VAEs and Flows [78.77808270452974]
SurVAE Flowsは、VAEと正規化フローを含む構成可能な変換のためのモジュラーフレームワークである。
提案手法は,SurVAE フローとして表現できることが示唆された。
論文 参考訳(メタデータ) (2020-07-06T13:13:22Z) - Gaussianization Flows [113.79542218282282]
そこで本研究では,サンプル生成における効率のよい繰り返しと効率のよい逆変換を両立できる新しい型正規化フローモデルを提案する。
この保証された表現性のため、サンプル生成の効率を損なうことなく、マルチモーダルなターゲット分布をキャプチャできる。
論文 参考訳(メタデータ) (2020-03-04T08:15:06Z) - Semi-Supervised Learning with Normalizing Flows [54.376602201489995]
FlowGMMは、フローの正規化を伴う生成半教師付き学習におけるエンドツーエンドのアプローチである。
我々は AG-News や Yahoo Answers のテキストデータなど,幅広いアプリケーションに対して有望な結果を示す。
論文 参考訳(メタデータ) (2019-12-30T17:36:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。