論文の概要: Learning Non-linear Wavelet Transformation via Normalizing Flow

• arxiv url: http://arxiv.org/abs/2101.11306v1
• Date: Wed, 27 Jan 2021 10:28:51 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-01 19:44:00.907519
• Title: Learning Non-linear Wavelet Transformation via Normalizing Flow
• Title（参考訳）: 正規化フローによる非線形ウェーブレット変換の学習
• Authors: Shuo-Hui Li
• Abstract要約: 可逆変換は設計された正規化フローモデルによって学習することができる。 ウェーブレットダウンサンプリング機構に似たファクターアウトスキームにより、高速パターンに対応するファクターアウト変数に正規化フローモデルを訓練することができる。 低域/高域フィルタを用いた学習モデルの解析を行う。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Wavelet transformation stands as a cornerstone in modern data analysis and signal processing. Its mathematical essence is an invertible transformation that discerns slow patterns from fast patterns in the frequency domain, which repeats at each level. Such an invertible transformation can be learned by a designed normalizing flow model. With a factor-out scheme resembling the wavelet downsampling mechanism, a mutually independent prior, and parameter sharing along the depth of the network, one can train normalizing flow models to factor-out variables corresponding to fast patterns at different levels, thus extending linear wavelet transformations to non-linear learnable models. In this paper, a concrete way of building such flows is given. Then, a demonstration of the model's ability in lossless compression task, progressive loading, and super-resolution (upsampling) task. Lastly, an analysis of the learned model in terms of low-pass/high-pass filters is given.
• Abstract（参考訳）: ウェーブレット変換は、現代のデータ分析と信号処理の基盤である。 その数学的性質は、各レベルで繰り返される周波数領域の高速パターンから遅いパターンを識別する可逆変換である。 このような可逆変換は、設計された正規化フローモデルによって学べる。 ウェーブレットのダウンサンプリング機構に類似したファクターアウトスキーム、ネットワークの深さに沿った相互独立な事前パラメータ共有により、異なるレベルの高速パターンに対応するファクターアウト変数に正規化フローモデルを訓練し、線形ウェーブレット変換を非線形学習可能なモデルに拡張することができる。 本稿では,そのような流れを具体的に構築する方法について述べる。 次に、損失のない圧縮タスク、プログレッシブローディング、および超解像度(アップサンプリング)タスクにおけるモデルの能力のデモンストレーション。 最後に, 学習モデルの低域通過フィルタ/高域通過フィルタによる解析を行う。

関連論文リスト

• Can Looped Transformers Learn to Implement Multi-step Gradient Descent for In-context Learning? [69.4145579827826]
  収束ランドスケープの勾配非性アルゴリズムにもかかわらず、回帰損失に高速な流れを示す。 この設定における多層トランスの理論的解析はこれが初めてである。
  論文  参考訳（メタデータ） (2024-10-10T18:29:05Z)
• Unsupervised Representation Learning from Sparse Transformation Analysis [79.94858534887801]
  本稿では,潜在変数のスパース成分への変換を分解し,シーケンスデータから表現を学習することを提案する。 入力データは、まず潜伏活性化の分布として符号化され、その後確率フローモデルを用いて変換される。
  論文  参考訳（メタデータ） (2024-10-07T23:53:25Z)
• Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
  本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。 この研究は、単一変換による周波数領域学習のための青写真を導入している。
  論文  参考訳（メタデータ） (2022-11-26T01:56:05Z)
• Fast Sampling of Diffusion Models via Operator Learning [74.37531458470086]
  我々は,拡散モデルのサンプリング過程を高速化するために,確率フロー微分方程式の効率的な解法であるニューラル演算子を用いる。 シーケンシャルな性質を持つ他の高速サンプリング手法と比較して、並列復号法を最初に提案する。 本稿では,CIFAR-10では3.78、ImageNet-64では7.83の最先端FIDを1モデル評価環境で達成することを示す。
  論文  参考訳（メタデータ） (2022-11-24T07:30:27Z)
• Discrete Denoising Flows [87.44537620217673]
  分類的確率変数に対する離散的フローベースモデル(DDF)を提案する。 他の離散フローベースモデルとは対照的に、我々のモデルは勾配バイアスを導入することなく局所的に訓練することができる。 そこで本研究では, DDFs が離散フローより優れていることを示し, 対数類似度で測定した2値MNIST と Cityscapes のセグメンテーションマップをモデル化した。
  論文  参考訳（メタデータ） (2021-07-24T14:47:22Z)
• Wavelet Flow: Fast Training of High Resolution Normalizing Flows [27.661467862732792]
  本稿では,ウェーブレットに基づくマルチスケール正規化フローアーキテクチャであるWavelet Flowを紹介する。 Wavelet Flowの大きな利点は、以前のモデルでは実現不可能な高解像度データの生成モデルを構築することができることである。
  論文  参考訳（メタデータ） (2020-10-26T18:13:43Z)
• Haar Wavelet based Block Autoregressive Flows for Trajectories [129.37479472754083]
  歩行者等の軌道予測は,自律型エージェントの性能向上に不可欠である。 本稿では分割結合を利用した新しいハールウェーブレットに基づくブロック自己回帰モデルを提案する。 実世界の2つのデータセット上で、多種多様な正確な軌跡を生成するアプローチの利点について説明する。
  論文  参考訳（メタデータ） (2020-09-21T13:57:10Z)
• Closing the Dequantization Gap: PixelCNN as a Single-Layer Flow [16.41460104376002]
  有限体積を変換し、離散データに対する確率の正確な計算を可能にするサブセットフローを導入する。 我々は、WaveNets、PixelCNNs、Transformersを含む通常の離散自己回帰モデルを単層フローとして識別する。 我々は, CIFAR-10 を用いて, 脱量子化を訓練した流れモデルについて, 実測結果を示す。
  論文  参考訳（メタデータ） (2020-02-06T22:58:51Z)
• Invertible Generative Modeling using Linear Rational Splines [11.510009152620666]
  正規化フローは、可逆写像の集合を通して任意の確率分布をモデル化しようとする。 最初のフロー設計ではアフィン変換に基づく結合層マッピングが用いられた。 アフィン変換の代替として機能するイントレピッドは注目されている。
  論文  参考訳（メタデータ） (2020-01-15T08:05:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。