論文の概要: PaddingFlow: Improving Normalizing Flows with Padding-Dimensional Noise
- arxiv url: http://arxiv.org/abs/2403.08216v1
- Date: Wed, 13 Mar 2024 03:28:39 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-14 15:50:00.929844
- Title: PaddingFlow: Improving Normalizing Flows with Padding-Dimensional Noise
- Title(参考訳): パディングフロー:パディング次元雑音による正規化フローの改善
- Authors: Qinglong Meng, Chongkun Xia, Xueqian Wang
- Abstract要約: パディングフロー(PaddingFlow)は,パディング次元雑音による正規化フローを改善する新しいデクエント化法である。
PaddingFlowは簡単に実装でき、計算的に安価で、様々なタスクに広く適合し、データのバイアスのない推定サンプルを生成する。
- 参考スコア(独自算出の注目度): 5.352677991834813
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Normalizing flow is a generative modeling approach with efficient sampling.
However, Flow-based models suffer two issues, which are manifold and discrete
data. If the target distribution is a manifold, which means the dimension of
the latent target distribution and the dimension of the data distribution are
unmatched, flow-based models might perform badly. Discrete data makes
flow-based models collapse into a degenerate mixture of point masses. In this
paper, to sidestep such two issues we propose PaddingFlow, a novel
dequantization method, which improves normalizing flows with
padding-dimensional noise. PaddingFlow is easy to implement, computationally
cheap, widely suitable for various tasks, and generates samples that are
unbiased estimations of the data. Especially, our method can overcome the
limitation of existing dequantization methods that have to change the data
distribution, which might degrade performance. We validate our method on the
main benchmarks of unconditional density estimation, including five tabular
datasets and four image datasets for VAE models, and the IK experiments which
are conditional density estimation. The results show that PaddingFlow can
provide improvement on all tasks in this paper.
- Abstract(参考訳): フローの正規化は効率的なサンプリングを伴う生成的モデリング手法である。
しかし、フローベースモデルは、多様体と離散データという2つの問題に悩まされる。
対象分布が多様体である場合、すなわち潜在対象分布の次元とデータ分布の次元が一致しない場合、フローベースモデルは非常に良く機能する。
離散データは、フローベースのモデルを点質量の縮退混合に分解する。
本稿では,この2つの問題を補うために,パッド次元雑音による正規化フローを改善する新しいデクエント化法であるPaddingFlowを提案する。
PaddingFlowは簡単に実装でき、計算的に安価で、様々なタスクに広く適合し、データのバイアスのない推定サンプルを生成する。
特に,本手法は,データ分散を変化させなければならない既存の復号化手法の限界を克服し,性能を低下させる可能性がある。
VAEモデルのための5つの表付きデータセットと4つの画像データセットと条件付き密度推定であるIK実験を含む、条件付き密度推定の主要なベンチマークで本手法を検証した。
この結果から,PaddingFlowはすべてのタスクを改善することができることがわかった。
関連論文リスト
- Rectified Diffusion: Straightness Is Not Your Need in Rectified Flow [65.51671121528858]
拡散モデルは、視覚生成を大幅に改善したが、生成ODEを解くという計算集約的な性質のため、生成速度の遅さによって妨げられている。
広く認識されている解である整流流は、ODEパスを直線化することで生成速度を向上させる。
本稿では,より広範な拡散モデルのカテゴリをカバーするために,設計空間と修正の応用範囲を一般化するRectified Diffusionを提案する。
論文 参考訳(メタデータ) (2024-10-09T17:43:38Z) - Boundary-aware Decoupled Flow Networks for Realistic Extreme Rescaling [49.215957313126324]
Invertible rescaling Network (IRN) やgenerative adversarial Network (GAN) などを含む最近の生成手法は、画像再スケーリングにおいて例外的な性能を示した。
しかし、IRNベースの手法は過度に滑らかな結果を生成する傾向にあり、一方、GANベースの手法は偽の細部を容易に生成する。
本稿では,現実的かつ視覚的に満足な結果を生成するために,境界対応デカップリングフローネットワーク(BDFlow)を提案する。
論文 参考訳(メタデータ) (2024-05-05T14:05:33Z) - Comparative Study of Coupling and Autoregressive Flows through Robust
Statistical Tests [0.0]
本稿では,アフィン型と有理2次型の両方において,カップリングと自己回帰流の詳細な比較を提案する。
本研究は,4~400の次元を増大させるマルチモーダルターゲット分布の集合に着目した。
以上の結果から,A-RQSアルゴリズムは精度とトレーニング速度の両面で際立っていることが示唆された。
論文 参考訳(メタデータ) (2023-02-23T13:34:01Z) - VQ-Flows: Vector Quantized Local Normalizing Flows [2.7998963147546148]
データ多様体上の「チャートマップ」として局所正規化フローの混合を学習するための新しい統計フレームワークを導入する。
本フレームワークは, 正規化フローのシグネチャ特性を保ちながら, 最近の手法の表現性を向上し, 正確な密度評価を行う。
論文 参考訳(メタデータ) (2022-03-22T09:22:18Z) - Discrete Denoising Flows [87.44537620217673]
分類的確率変数に対する離散的フローベースモデル(DDF)を提案する。
他の離散フローベースモデルとは対照的に、我々のモデルは勾配バイアスを導入することなく局所的に訓練することができる。
そこで本研究では, DDFs が離散フローより優れていることを示し, 対数類似度で測定した2値MNIST と Cityscapes のセグメンテーションマップをモデル化した。
論文 参考訳(メタデータ) (2021-07-24T14:47:22Z) - DeFlow: Learning Complex Image Degradations from Unpaired Data with
Conditional Flows [145.83812019515818]
本論文では,不対データから画像劣化を学習するDeFlowを提案する。
共有フローデコーダネットワークの潜在空間における劣化過程をモデル化する。
共同画像復元と超解像におけるDeFlowの定式化を検証した。
論文 参考訳(メタデータ) (2021-01-14T18:58:01Z) - ShapeFlow: Dynamic Shape Interpreter for TensorFlow [10.59840927423059]
本稿では,形状不整合誤差を高速にキャッチする動的抽象的インタプリタであるShapeFlowを提案する。
ShapeFlowは、プログラマが使用する計算グラフと同様、カスタム形状の計算グラフを構築する。
本研究では, 前回の実証実験で収集した52プログラムのShapeFlowを評価し, 形状不整合誤差をいかに高速かつ正確に把握できるかを示した。
論文 参考訳(メタデータ) (2020-11-26T19:27:25Z) - Self Normalizing Flows [65.73510214694987]
本稿では,各層における学習された近似逆数により,勾配の高価な項を置き換えることで,フローの正規化を訓練するための柔軟なフレームワークを提案する。
これにより、各レイヤの正確な更新の計算複雑性が$mathcalO(D3)$から$mathcalO(D2)$に削減される。
実験により,これらのモデルは非常に安定であり,正確な勾配値と類似したデータ可能性値に最適化可能であることが示された。
論文 参考訳(メタデータ) (2020-11-14T09:51:51Z) - OneFlow: One-class flow for anomaly detection based on a minimal volume
region [12.691473293758607]
OneFlowは、異常(異常)検出のためのフローベースの1クラス分類器である。
結果が外れ値の構造に依存しないように構成されている。
提案手法は,実世界の異常検出問題に対する関連手法より優れている。
論文 参考訳(メタデータ) (2020-10-06T20:09:11Z) - LiteFlowNet3: Resolving Correspondence Ambiguity for More Accurate
Optical Flow Estimation [99.19322851246972]
本稿では,光フロー推定の問題に対処する2つのモジュールからなるディープネットワークである LiteFlowNet3 を紹介する。
LiteFlowNet3は、公開ベンチマークで有望な結果を達成するだけでなく、小さなモデルサイズと高速なランタイムも備えている。
論文 参考訳(メタデータ) (2020-07-18T03:30:39Z) - SoftFlow: Probabilistic Framework for Normalizing Flow on Manifolds [15.476426879806134]
フローベース生成モデルは、同じ次元の2つのランダム変数間の可逆変換からなる。
本論文では,多様体上の正規化フローを学習するための確率的フレームワークであるSoftFlowを提案する。
実験により,SoftFlowは多様体データの固有構造を捕捉し,高品質なサンプルを生成することができることを示した。
提案手法を3次元点雲に適用することにより,フローベースモデルにおける細い構造形成の難しさを軽減する。
論文 参考訳(メタデータ) (2020-06-08T13:56:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。