論文の概要: PaddingFlow: Improving Normalizing Flows with Padding-Dimensional Noise
- arxiv url: http://arxiv.org/abs/2403.08216v2
- Date: Tue, 23 Apr 2024 08:41:47 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-24 19:06:16.345527
- Title: PaddingFlow: Improving Normalizing Flows with Padding-Dimensional Noise
- Title（参考訳）: パディングフロー:パディング次元雑音による正規化フローの改善
- Authors: Qinglong Meng, Chongkun Xia, Xueqian Wang,
- Abstract要約: パディングフロー(PaddingFlow)は,パディング次元雑音による正規化フローを改善する新しいデクエント化法である。
非条件密度推定の主ベンチマークで本手法の有効性を検証した。
この結果から,PaddingFlowはすべての実験において優れた性能を発揮できることがわかった。
- 参考スコア（独自算出の注目度）: 4.762593660623934
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Normalizing flow is a generative modeling approach with efficient sampling. However, Flow-based models suffer two issues: 1) If the target distribution is manifold, due to the unmatch between the dimensions of the latent target distribution and the data distribution, flow-based models might perform badly. 2) Discrete data might make flow-based models collapse into a degenerate mixture of point masses. To sidestep such two issues, we propose PaddingFlow, a novel dequantization method, which improves normalizing flows with padding-dimensional noise. To implement PaddingFlow, only the dimension of normalizing flows needs to be modified. Thus, our method is easy to implement and computationally cheap. Moreover, the padding-dimensional noise is only added to the padding dimension, which means PaddingFlow can dequantize without changing data distributions. Implementing existing dequantization methods needs to change data distributions, which might degrade performance. We validate our method on the main benchmarks of unconditional density estimation, including five tabular datasets and four image datasets for Variational Autoencoder (VAE) models, and the Inverse Kinematics (IK) experiments which are conditional density estimation. The results show that PaddingFlow can perform better in all experiments in this paper, which means PaddingFlow is widely suitable for various tasks. The code is available at: https://github.com/AdamQLMeng/PaddingFlow.
- Abstract（参考訳）: フローの正規化は効率的なサンプリングを伴う生成的モデリング手法である。
しかし、フローベースのモデルには2つの問題がある。
1) 対象分布が多様体である場合, 潜在対象分布とデータ分布の次元が一致しないため, フローベースモデルの性能は著しく低下する可能性がある。
2)離散データは,フローベースモデルを点質量の縮退混合に分解させる可能性がある。
このような2つの問題を副次的に解決するために,パディングフロー (PaddingFlow) を提案する。
PaddingFlowを実装するには、正規化フローの次元だけを変更する必要がある。
したがって,本手法は実装が容易で,計算コストも高い。
さらに、パディング次元ノイズはパディング次元にのみ付加されるため、データ分布を変化させることなくパディングフローを復調することができる。
既存のdequantizationメソッドを実装するには、データ分散を変更する必要がある。
本研究では,変分オートエンコーダ(VAE)モデルのための5つの表付きデータセットと4つの画像データセットと,条件付き密度推定である逆運動学(IK)実験を含む,条件付き密度推定の主ベンチマーク上で本手法の有効性を検証する。
その結果,PaddingFlowは様々なタスクに広く適していることがわかった。
コードは、https://github.com/AdamQLMeng/PaddingFlow.comで入手できる。
関連論文リスト
- Rectified Diffusion: Straightness Is Not Your Need in Rectified Flow [65.51671121528858]
拡散モデルは、視覚生成を大幅に改善したが、生成ODEを解くという計算集約的な性質のため、生成速度の遅さによって妨げられている。
広く認識されている解である整流流は、ODEパスを直線化することで生成速度を向上させる。
本稿では,より広範な拡散モデルのカテゴリをカバーするために,設計空間と修正の応用範囲を一般化するRectified Diffusionを提案する。
論文 参考訳（メタデータ） (2024-10-09T17:43:38Z) - Boundary-aware Decoupled Flow Networks for Realistic Extreme Rescaling [49.215957313126324]
Invertible rescaling Network (IRN) やgenerative adversarial Network (GAN) などを含む最近の生成手法は、画像再スケーリングにおいて例外的な性能を示した。
しかし、IRNベースの手法は過度に滑らかな結果を生成する傾向にあり、一方、GANベースの手法は偽の細部を容易に生成する。
本稿では,現実的かつ視覚的に満足な結果を生成するために,境界対応デカップリングフローネットワーク(BDFlow)を提案する。
論文 参考訳（メタデータ） (2024-05-05T14:05:33Z) - Comparative Study of Coupling and Autoregressive Flows through Robust
Statistical Tests [0.0]
本稿では,アフィン型と有理2次型の両方において,カップリングと自己回帰流の詳細な比較を提案する。
本研究は,4～400の次元を増大させるマルチモーダルターゲット分布の集合に着目した。
以上の結果から,A-RQSアルゴリズムは精度とトレーニング速度の両面で際立っていることが示唆された。
論文 参考訳（メタデータ） (2023-02-23T13:34:01Z) - VQ-Flows: Vector Quantized Local Normalizing Flows [2.7998963147546148]
データ多様体上の「チャートマップ」として局所正規化フローの混合を学習するための新しい統計フレームワークを導入する。
本フレームワークは, 正規化フローのシグネチャ特性を保ちながら, 最近の手法の表現性を向上し, 正確な密度評価を行う。
論文 参考訳（メタデータ） (2022-03-22T09:22:18Z) - Discrete Denoising Flows [87.44537620217673]
分類的確率変数に対する離散的フローベースモデル(DDF)を提案する。
他の離散フローベースモデルとは対照的に、我々のモデルは勾配バイアスを導入することなく局所的に訓練することができる。
そこで本研究では, DDFs が離散フローより優れていることを示し, 対数類似度で測定した2値MNIST と Cityscapes のセグメンテーションマップをモデル化した。
論文 参考訳（メタデータ） (2021-07-24T14:47:22Z) - DeFlow: Learning Complex Image Degradations from Unpaired Data with
Conditional Flows [145.83812019515818]
本論文では,不対データから画像劣化を学習するDeFlowを提案する。
共有フローデコーダネットワークの潜在空間における劣化過程をモデル化する。
共同画像復元と超解像におけるDeFlowの定式化を検証した。
論文 参考訳（メタデータ） (2021-01-14T18:58:01Z) - ShapeFlow: Dynamic Shape Interpreter for TensorFlow [10.59840927423059]
本稿では,形状不整合誤差を高速にキャッチする動的抽象的インタプリタであるShapeFlowを提案する。
ShapeFlowは、プログラマが使用する計算グラフと同様、カスタム形状の計算グラフを構築する。
本研究では, 前回の実証実験で収集した52プログラムのShapeFlowを評価し, 形状不整合誤差をいかに高速かつ正確に把握できるかを示した。
論文 参考訳（メタデータ） (2020-11-26T19:27:25Z) - Self Normalizing Flows [65.73510214694987]
本稿では,各層における学習された近似逆数により,勾配の高価な項を置き換えることで,フローの正規化を訓練するための柔軟なフレームワークを提案する。
これにより、各レイヤの正確な更新の計算複雑性が$mathcalO(D3)$から$mathcalO(D2)$に削減される。
実験により,これらのモデルは非常に安定であり,正確な勾配値と類似したデータ可能性値に最適化可能であることが示された。
論文 参考訳（メタデータ） (2020-11-14T09:51:51Z) - OneFlow: One-class flow for anomaly detection based on a minimal volume
region [12.691473293758607]
OneFlowは、異常(異常)検出のためのフローベースの1クラス分類器である。
結果が外れ値の構造に依存しないように構成されている。
提案手法は,実世界の異常検出問題に対する関連手法より優れている。
論文 参考訳（メタデータ） (2020-10-06T20:09:11Z) - LiteFlowNet3: Resolving Correspondence Ambiguity for More Accurate
Optical Flow Estimation [99.19322851246972]
本稿では,光フロー推定の問題に対処する2つのモジュールからなるディープネットワークである LiteFlowNet3 を紹介する。
LiteFlowNet3は、公開ベンチマークで有望な結果を達成するだけでなく、小さなモデルサイズと高速なランタイムも備えている。
論文 参考訳（メタデータ） (2020-07-18T03:30:39Z) - SoftFlow: Probabilistic Framework for Normalizing Flow on Manifolds [15.476426879806134]
フローベース生成モデルは、同じ次元の2つのランダム変数間の可逆変換からなる。
本論文では,多様体上の正規化フローを学習するための確率的フレームワークであるSoftFlowを提案する。
実験により,SoftFlowは多様体データの固有構造を捕捉し,高品質なサンプルを生成することができることを示した。
提案手法を3次元点雲に適用することにより,フローベースモデルにおける細い構造形成の難しさを軽減する。
論文 参考訳（メタデータ） (2020-06-08T13:56:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。