論文の概要: Invertible Generative Modeling using Linear Rational Splines

• arxiv url: http://arxiv.org/abs/2001.05168v4
• Date: Mon, 13 Apr 2020 00:01:14 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-11 05:48:41.134838
• Title: Invertible Generative Modeling using Linear Rational Splines
• Title（参考訳）: 線形有理スプラインを用いた可逆生成モデリング
• Authors: Hadi M. Dolatabadi and Sarah Erfani and Christopher Leckie
• Abstract要約: 正規化フローは、可逆写像の集合を通して任意の確率分布をモデル化しようとする。 最初のフロー設計ではアフィン変換に基づく結合層マッピングが用いられた。 アフィン変換の代替として機能するイントレピッドは注目されている。
• 参考スコア（独自算出の注目度）: 11.510009152620666
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Normalizing flows attempt to model an arbitrary probability distribution through a set of invertible mappings. These transformations are required to achieve a tractable Jacobian determinant that can be used in high-dimensional scenarios. The first normalizing flow designs used coupling layer mappings built upon affine transformations. The significant advantage of such models is their easy-to-compute inverse. Nevertheless, making use of affine transformations may limit the expressiveness of such models. Recently, invertible piecewise polynomial functions as a replacement for affine transformations have attracted attention. However, these methods require solving a polynomial equation to calculate their inverse. In this paper, we explore using linear rational splines as a replacement for affine transformations used in coupling layers. Besides having a straightforward inverse, inference and generation have similar cost and architecture in this method. Moreover, simulation results demonstrate the competitiveness of this approach's performance compared to existing methods.
• Abstract（参考訳）: 正規化フローは、可逆写像の集合を通して任意の確率分布をモデル化しようとする。 これらの変換は、高次元シナリオで使用できるトラクタブルヤコビ行列式を達成するために必要である。 最初の正規化フロー設計ではアフィン変換に基づく結合層マッピングを用いた。 このようなモデルの大きな利点は、計算し易い逆数である。 それでも、アフィン変換を使うことは、そのようなモデルの表現性を制限する可能性がある。 近年,アフィン変換に代わる可逆部分多項式関数が注目されている。 しかし、これらの方法は多項式方程式を解いて逆数を計算する必要がある。 本稿では, 結合層に使用されるアフィン変換の代替として線形有理スプラインを用いて検討する。 単純な逆数を持つだけでなく、推論と生成も同様のコストとアーキテクチャを持つ。 さらに,従来の手法と比較して,本手法の性能の競争力を示すシミュレーション結果が得られた。

関連論文リスト

• RLE: A Unified Perspective of Data Augmentation for Cross-Spectral Re-identification [59.5042031913258]
  非線型モダリティの相違は主に、異なる材料の表面に作用する様々な線形変換に由来する。 本稿では,MRLE(Modrate Random Linear Enhancement)とRRLE(Radical Random Linear Enhancement)を含むRLE(Random Linear Enhancement)戦略を提案する。 実験結果は、RLEの優位性と有効性を示すだけでなく、クロススペクトル再同定のための汎用データ拡張としての可能性も確認した。
  論文  参考訳（メタデータ） (2024-11-02T12:13:37Z)
• Can Looped Transformers Learn to Implement Multi-step Gradient Descent for In-context Learning? [69.4145579827826]
  収束ランドスケープの勾配非性アルゴリズムにもかかわらず、回帰損失に高速な流れを示す。 この設定における多層トランスの理論的解析はこれが初めてである。
  論文  参考訳（メタデータ） (2024-10-10T18:29:05Z)
• Unsupervised Representation Learning from Sparse Transformation Analysis [79.94858534887801]
  本稿では,潜在変数のスパース成分への変換を分解し,シーケンスデータから表現を学習することを提案する。 入力データは、まず潜伏活性化の分布として符号化され、その後確率フローモデルを用いて変換される。
  論文  参考訳（メタデータ） (2024-10-07T23:53:25Z)
• Optimal Matrix-Mimetic Tensor Algebras via Variable Projection [0.0]
  行列緩和性(Matrix mimeticity)は、テンソルを、行列に類似した乗算、分解、解析が可能な作用素として解釈することから生じる。 我々は、データの事前の知識に頼ることなく、最適線形写像と対応するテンソル表現を学習する。 可変射影型アルゴリズムの変換と収束解析の独創性理論を提供する。
  論文  参考訳（メタデータ） (2024-06-11T04:52:23Z)
• Tensor Component Analysis for Interpreting the Latent Space of GANs [41.020230946351816]
  本稿では,GANの潜在空間における解釈可能な方向を求める問題に対処する。 提案手法では,テンソルの個々のモードに対応する線形編集と,それらの間の乗法的相互作用をモデル化する非線形編集が可能である。 実験により, 前者は幾何に基づく変換から, 後者は拡張可能な変換を生成できることを示す。
  論文  参考訳（メタデータ） (2021-11-23T09:14:39Z)
• Generalized Optimization: A First Step Towards Category Theoretic Learning Theory [1.52292571922932]
  我々は、勾配勾配勾配の直接一般化やニュートン法の新しい一般化など、いくつかの最適化アルゴリズムを一般化する。 これらのアルゴリズムの変換不変性が保存されていることを示す。 また,内積様表現を用いて一般化降下の損失の変化を表現できることも示している。
  論文  参考訳（メタデータ） (2021-09-20T15:19:06Z)
• Learning Non-linear Wavelet Transformation via Normalizing Flow [0.0]
  可逆変換は設計された正規化フローモデルによって学習することができる。 ウェーブレットダウンサンプリング機構に似たファクターアウトスキームにより、高速パターンに対応するファクターアウト変数に正規化フローモデルを訓練することができる。 低域/高域フィルタを用いた学習モデルの解析を行う。
  論文  参考訳（メタデータ） (2021-01-27T10:28:51Z)
• Training Invertible Linear Layers through Rank-One Perturbations [0.0]
  この研究は、非可逆線形層をトレーニングするための新しいアプローチを示す。 ネットワークパラメータを直接最適化する代わりに、ランク1の摂動を訓練し、しばしば実際の重み行列に追加する。 このような非可逆ブロックが混合性を改善し, 結果として発生する流れのモード分離を正規化する方法を示す。
  論文  参考訳（メタデータ） (2020-10-14T12:43:47Z)
• SurVAE Flows: Surjections to Bridge the Gap between VAEs and Flows [78.77808270452974]
  SurVAE Flowsは、VAEと正規化フローを含む構成可能な変換のためのモジュラーフレームワークである。 提案手法は,SurVAE フローとして表現できることが示唆された。
  論文  参考訳（メタデータ） (2020-07-06T13:13:22Z)
• The Convolution Exponential and Generalized Sylvester Flows [82.18442368078804]
  本稿では,線形変換の指数関数を取り入れ,線形フローを構築する新しい手法を提案する。 重要な洞察として、指数関数は暗黙的に計算できるため、畳み込み層を使用することができる。 畳み込み指数はCIFAR10上の生成フローにおいて他の線形変換よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-06-02T19:43:36Z)
• Gaussianization Flows [113.79542218282282]
  そこで本研究では,サンプル生成における効率のよい繰り返しと効率のよい逆変換を両立できる新しい型正規化フローモデルを提案する。 この保証された表現性のため、サンプル生成の効率を損なうことなく、マルチモーダルなターゲット分布をキャプチャできる。
  論文  参考訳（メタデータ） (2020-03-04T08:15:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。