論文の概要: Sinusoidal Flow: A Fast Invertible Autoregressive Flow

• arxiv url: http://arxiv.org/abs/2110.13344v1
• Date: Tue, 26 Oct 2021 01:20:29 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-27 15:22:25.044726
• Title: Sinusoidal Flow: A Fast Invertible Autoregressive Flow
• Title（参考訳）: 正弦波流:高速非可逆自己回帰流
• Authors: Yumou Wei
• Abstract要約: 完全自己回帰フローから表現力と三角ヤコビアンを継承する新しいタイプの正規化フローを提案する。 実験の結果、我々の正弦波流は複雑な分布をモデル化できるだけでなく、現実的なサンプルを生成するために確実に逆転できることがわかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Normalising flows offer a flexible way of modelling continuous probability distributions. We consider expressiveness, fast inversion and exact Jacobian determinant as three desirable properties a normalising flow should possess. However, few flow models have been able to strike a good balance among all these properties. Realising that the integral of a convex sum of sinusoidal functions squared leads to a bijective residual transformation, we propose Sinusoidal Flow, a new type of normalising flows that inherits the expressive power and triangular Jacobian from fully autoregressive flows while guaranteed by Banach fixed-point theorem to remain fast invertible and thereby obviate the need for sequential inversion typically required in fully autoregressive flows. Experiments show that our Sinusoidal Flow is not only able to model complex distributions, but can also be reliably inverted to generate realistic-looking samples even with many layers of transformations stacked.
• Abstract（参考訳）: 正規化フローは連続確率分布をモデリングする柔軟な方法を提供する。 正規化フローが持つべき3つの望ましい性質として,表現性,高速反転,ジャコビアン行列式を考える。 しかし、これらの特性の中で適切なバランスをとることができるフローモデルはほとんどない。 二乗正弦関数の凸和の積分が単射残差変換をもたらすことを認識し、バナッハの不動点定理によって保証されながら完全自己回帰流から表現力と三角ヤコビアンを継承し、完全自己回帰流において通常必要とされる逐次インバージョンの必要性を回避できる新しいタイプの正弦波流を提案する。 実験の結果,Sinusoidal Flowは複雑な分布をモデル化できるだけでなく,多数の変換層を積み重ねた場合でも,現実的なサンプルを生成するために確実に逆転できることがわかった。

関連論文リスト

• Verlet Flows: Exact-Likelihood Integrators for Flow-Based Generative Models [4.9425328004453375]
  ハミルトン力学のシンプレクティックに着想を得た拡張状態空間上のCNFのクラスであるVerlet Flowを提案する。 バーレットフローは、最小の表現性制約を課しながら、非連続的な設定から結合フローアーキテクチャを一般化する、正確な類似した生成モデルを提供する。 おもちゃの密度に関する実験では、一般的なハッチンソントレース推定器のばらつきは重要サンプリングには適さないが、一方、Verletフローは完全オートグレートトレース計算に比較可能であり、かなり高速である。
  論文  参考訳（メタデータ） (2024-05-05T03:47:56Z)
• Delving into Discrete Normalizing Flows on SO(3) Manifold for Probabilistic Rotation Modeling [30.09829541716024]
  我々はSO(3)多様体上の新しい正規化フローを提案する。 回転正規化フローは, 条件付きタスクと条件付きタスクの両方において, ベースラインを著しく上回ることを示す。
  論文  参考訳（メタデータ） (2023-04-08T06:52:02Z)
• Flowformer: Linearizing Transformers with Conservation Flows [77.25101425464773]
  本研究では,フローネットワーク理論に基づくインダクティブバイアスのないトランスフォーマーを線形化する。 ソースコンペティション用シンクの流入流と、シンクアロケーション用ソースの流出流をそれぞれ保存することにより、フローアテンションは本質的に情報的注意を発生させる。
  論文  参考訳（メタデータ） (2022-02-13T08:44:10Z)
• GMFlow: Learning Optical Flow via Global Matching [124.57850500778277]
  光フロー推定学習のためのGMFlowフレームワークを提案する。 機能拡張のためのカスタマイズトランスフォーマー、グローバル機能マッチングのための相関層とソフトマックス層、フロー伝搬のための自己保持層である。 我々の新しいフレームワークは、挑戦的なSintelベンチマークにおいて、32項目RAFTのパフォーマンスより優れています。
  論文  参考訳（メタデータ） (2021-11-26T18:59:56Z)
• Equivariant Discrete Normalizing Flows [10.867162810786361]
  離散層を用いた等変正規化フローの構築に着目する。 2つの新しい同変フロー:$G$-カップリングフローと$G$-Residualフローを導入する。 我々の構成である$G$-Residual Flowsも普遍的であり、$G$-equivariant diffeomorphismが$G$-Residual Flowによって正確にマッピング可能であることを証明している。
  論文  参考訳（メタデータ） (2021-10-16T20:16:00Z)
• Generative Flows with Invertible Attentions [135.23766216657745]
  生成フローモデルに対する2種類の非可逆的注意機構を導入する。 フロー特徴写像の2分割毎に注意重みと入力表現を学習するために,分割に基づく注意機構を利用する。 提案手法は, トラクタブルジャコビアン行列を用いた非可逆アテンションモジュールをフローベースモデルの任意の位置にシームレスに統合する。
  論文  参考訳（メタデータ） (2021-06-07T20:43:04Z)
• SurVAE Flows: Surjections to Bridge the Gap between VAEs and Flows [78.77808270452974]
  SurVAE Flowsは、VAEと正規化フローを含む構成可能な変換のためのモジュラーフレームワークである。 提案手法は,SurVAE フローとして表現できることが示唆された。
  論文  参考訳（メタデータ） (2020-07-06T13:13:22Z)
• The Convolution Exponential and Generalized Sylvester Flows [82.18442368078804]
  本稿では,線形変換の指数関数を取り入れ,線形フローを構築する新しい手法を提案する。 重要な洞察として、指数関数は暗黙的に計算できるため、畳み込み層を使用することができる。 畳み込み指数はCIFAR10上の生成フローにおいて他の線形変換よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-06-02T19:43:36Z)
• Gaussianization Flows [113.79542218282282]
  そこで本研究では,サンプル生成における効率のよい繰り返しと効率のよい逆変換を両立できる新しい型正規化フローモデルを提案する。 この保証された表現性のため、サンプル生成の効率を損なうことなく、マルチモーダルなターゲット分布をキャプチャできる。
  論文  参考訳（メタデータ） (2020-03-04T08:15:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。