Fugu-MT 論文翻訳(概要): General Invertible Transformations for Flow-based Generative Modeling

論文の概要: General Invertible Transformations for Flow-based Generative Modeling

arxiv url: http://arxiv.org/abs/2011.15056v1
Date: Mon, 30 Nov 2020 17:54:43 GMT
ステータス: 処理完了
システム内更新日: 2021-06-06 14:59:55.060389
Title: General Invertible Transformations for Flow-based Generative Modeling
Title（参考訳）: フローベース生成モデリングのための一般可逆変換
Authors: Jakub M. Tomczak
Abstract要約: 可逆論理と可逆ニューラルネットワークの多くのよく知られた可逆的変換は、我々の提案から導かれる可能性がある。次に、フローベース生成モデルの重要な構成要素である2つの新しい結合層を提案する。
参考スコア（独自算出の注目度）: 11.04121146441257
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this paper, we present a new class of invertible transformations. We indicate that many well-known invertible tranformations in reversible logic and reversible neural networks could be derived from our proposition. Next, we propose two new coupling layers that are important building blocks of flow-based generative models. In the preliminary experiments on toy digit data, we present how these new coupling layers could be used in Integer Discrete Flows (IDF), and that they achieve better results than standard coupling layers used in IDF and RealNVP.
Abstract（参考訳）: 本稿では,新しい可逆変換のクラスを提案する。我々は、可逆論理と可逆ニューラルネットワークにおける多くのよく知られた可逆変換が、我々の提案から導出できることを示す。次に、フローベース生成モデルの重要な構成要素である2つの新しい結合層を提案する。トイデジットデータに関する予備実験において,これらの新しい結合層が整数離散流れ(idf)においてどのように用いられるかを示し,idfおよびrealnvpで使用される標準結合層よりも優れた結果を得ることを示す。

関連論文リスト

Transformer Neural Autoregressive Flows [48.68932811531102]
正規化フロー(NF)を用いて密度推定を行う。我々はトランスフォーマーニューラルオートレグレッシブフロー(T-NAF)と呼ばれる新しいタイプのニューラルフローを定義するためにトランスフォーマーを利用する新しい解を提案する。
論文参考訳（メタデータ） (2024-01-03T17:51:16Z)
WLD-Reg: A Data-dependent Within-layer Diversity Regularizer [98.78384185493624]
ニューラルネットワークは、勾配に基づく最適化と共同で訓練された階層構造に配置された複数の層で構成されている。我々は、この従来の「中間層」フィードバックを補うために、同じ層内での活性化の多様性を促進するために、追加の「中間層」フィードバックを補うことを提案する。本稿では,提案手法が複数のタスクにおける最先端ニューラルネットワークモデルの性能を向上させることを実証した広範な実証研究を提案する。
論文参考訳（メタデータ） (2023-01-03T20:57:22Z)
Improved Convergence Guarantees for Shallow Neural Networks [91.3755431537592]
勾配降下法により訓練された深度2ニューラルネットの収束度を世界最小とする。我々のモデルには、二次損失関数による回帰、完全連結フィードフォワードアーキテクチャ、RelUアクティベーション、ガウスデータインスタンス、逆ラベルといった特徴がある。彼らは、少なくとも我々のモデルでは、収束現象がNTK体制をはるかに超越していることを強く示唆している」。
論文参考訳（メタデータ） (2022-12-05T14:47:52Z)
Funnels: Exact maximum likelihood with dimensionality reduction [6.201770337181472]
我々は、SurVAEフレームワークを使用して、ファンネルと呼ばれる新しい層を介して、サージェクティブフローを減らす次元を構築する。提案手法の有効性を様々なデータセットで示すとともに,既存のフローの性能を向上または一致させるとともに,遅延空間サイズを小さくすることを示す。
論文参考訳（メタデータ） (2021-12-15T12:20:25Z)
Dual-constrained Deep Semi-Supervised Coupled Factorization Network with Enriched Prior [80.5637175255349]
本稿では、DS2CF-Netと呼ばれる、拡張された事前制約付きDual-Constrained Deep Semi-Supervised Coupled Factorization Networkを提案する。隠れた深い特徴を抽出するために、DS2CF-Netは、深い構造と幾何学的な構造に制約のあるニューラルネットワークとしてモデル化される。我々のネットワークは、表現学習とクラスタリングのための最先端の性能を得ることができる。
論文参考訳（メタデータ） (2020-09-08T13:10:21Z)
SurVAE Flows: Surjections to Bridge the Gap between VAEs and Flows [78.77808270452974]
SurVAE Flowsは、VAEと正規化フローを含む構成可能な変換のためのモジュラーフレームワークである。提案手法は,SurVAE フローとして表現できることが示唆された。
論文参考訳（メタデータ） (2020-07-06T13:13:22Z)
Normalizing Flows Across Dimensions [10.21537170623373]
我々は、次元をまたぐことができる正規化フローの一般化であるノイズ注入流(NIF)を導入する。 NIF は射影変換を用いて高次元データ空間内の学習可能な多様体にラテント空間を明示的にマッピングする。実験により,本手法を既存のフローアーキテクチャに適用することにより,サンプルの品質を著しく向上し,分離可能なデータ埋め込みが得られることを示す。
論文参考訳（メタデータ） (2020-06-23T14:47:18Z)
Closing the Dequantization Gap: PixelCNN as a Single-Layer Flow [16.41460104376002]
有限体積を変換し、離散データに対する確率の正確な計算を可能にするサブセットフローを導入する。我々は、WaveNets、PixelCNNs、Transformersを含む通常の離散自己回帰モデルを単層フローとして識別する。我々は, CIFAR-10 を用いて, 脱量子化を訓練した流れモデルについて, 実測結果を示す。
論文参考訳（メタデータ） (2020-02-06T22:58:51Z)
Invertible Generative Modeling using Linear Rational Splines [11.510009152620666]
正規化フローは、可逆写像の集合を通して任意の確率分布をモデル化しようとする。最初のフロー設計ではアフィン変換に基づく結合層マッピングが用いられた。アフィン変換の代替として機能するイントレピッドは注目されている。
論文参考訳（メタデータ） (2020-01-15T08:05:55Z)
Learning Likelihoods with Conditional Normalizing Flows [54.60456010771409]
条件正規化フロー(CNF)はサンプリングと推論において効率的である。出力空間写像に対する基底密度が入力 x 上で条件づけられた CNF について、条件密度 p(y|x) をモデル化する。
論文参考訳（メタデータ） (2019-11-29T19:17:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。