論文の概要: Densely connected normalizing flows

• arxiv url: http://arxiv.org/abs/2106.04627v1
• Date: Tue, 8 Jun 2021 18:24:41 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-10 15:32:04.424658
• Title: Densely connected normalizing flows
• Title（参考訳）: 密接な連結正規化流れ
• Authors: Matej Grci\'c, Ivan Grubi\v{s}i\'c, Sini\v{s}a \v{S}egvi\'c
• Abstract要約: 正規化フローは、完全に分解された分布を持つ入力と潜在表現の間のマッピングである。 ノイズを伴う中間表現を漸進的にパディングすることでこの問題に対処する。 我々の可逆的な光様加群は、密結合されたブロックとNystrの融合としてユニット内アフィンカップリングを表現している。 提案した貢献により,実験は大幅に改善され,中間計算予算下でのすべての生成モデルにおける最先端の密度推定が明らかになった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Normalizing flows are bijective mappings between inputs and latent representations with a fully factorized distribution. They are very attractive due to exact likelihood evaluation and efficient sampling. However, their effective capacity is often insufficient since the bijectivity constraint limits the model width. We address this issue by incrementally padding intermediate representations with noise. We precondition the noise in accordance with previous invertible units, which we describe as cross-unit coupling. Our invertible glow-like modules express intra-unit affine coupling as a fusion of a densely connected block and Nystr\"om self-attention. We refer to our architecture as DenseFlow since both cross-unit and intra-unit couplings rely on dense connectivity. Experiments show significant improvements due to the proposed contributions, and reveal state-of-the-art density estimation among all generative models under moderate computing budgets.
• Abstract（参考訳）: 正規化フローは、完全に因子化された分布を持つ入力と潜在表現の間の単射写像である。 正確な可能性評価と効率的なサンプリングのため、非常に魅力的である。 しかし、単射性制約がモデル幅を制限するため、その有効容量はしばしば不十分である。 ノイズを伴う中間表現を漸進的にパディングすることでこの問題に対処する。 我々は、先行する可逆単位に従ってノイズをプリコンディショニングし、これをクロスユニット結合と呼ぶ。 インバータブル・グロー・ライクなモジュールは、密結合したブロックとnystr\"omセルフアテンションの融合としてユニット内アフィンカップリングを表現する。 私たちは、クロスユニットとイントラユニットの結合が密結合に依存しているので、アーキテクチャをデングフローと呼びます。 提案した貢献により,実験は大幅に改善され,中間計算予算下でのすべての生成モデルにおける最先端の密度推定が明らかになった。

関連論文リスト

• Rectified Diffusion Guidance for Conditional Generation [62.00207951161297]
  CFGの背後にある理論を再検討し、組合せ係数の不適切な構成(すなわち、広く使われている和対1バージョン)が生成分布の期待シフトをもたらすことを厳密に確認する。 本稿では,誘導係数を緩和したReCFGを提案する。 このようにして、修正された係数は観測されたデータをトラバースすることで容易に事前計算でき、サンプリング速度はほとんど影響を受けない。
  論文  参考訳（メタデータ） (2024-10-24T13:41:32Z)
• Augmented Bridge Matching [32.668433085737036]
  フローとブリッジマッチングのプロセスは、任意のデータ分布の間を補間することができる。 マッチングプロセスの簡単な変更により,速度場を増大させることで,この結合が回復することを示す。 画像翻訳タスクの混合学習における拡張の効率について説明する。
  論文  参考訳（メタデータ） (2023-11-12T22:42:34Z)
• DistractFlow: Improving Optical Flow Estimation via Realistic Distractions and Pseudo-Labeling [49.46842536813477]
  本稿では,光フロー推定モデルのトレーニングのための新しいデータ拡張手法であるDistractFlowを提案する。 2つのフレームのうちの1つを、類似したドメインを描写したイントラクタイメージと組み合わせることで、自然の物体やシーンと相反する視覚的摂動を誘発することができる。 私たちのアプローチでは、追加のアノテーションを必要とせずに、利用可能なトレーニングペアの数を大幅に増やすことができます。
  論文  参考訳（メタデータ） (2023-03-24T15:42:54Z)
• Estimating Higher-Order Mixed Memberships via the $\ell_{2,\infty}$ Tensor Perturbation Bound [8.521132000449766]
  テンソルブロックモデルの一般化であるテンソル混合メンバーシップブロックモデルを提案する。 我々は,モデルの同定可能性を確立し,計算効率の良い推定手法を提案する。 本手法を実データおよびシミュレーションデータに適用し,個別のコミュニティメンバーシップを持つモデルから特定できない効果を示す。
  論文  参考訳（メタデータ） (2022-12-16T18:32:20Z)
• Integrative Feature and Cost Aggregation with Transformers for Dense Correspondence [63.868905184847954]
  現在の最先端はTransformerベースのアプローチで、機能記述子やコストボリュームアグリゲーションに重点を置いている。 本稿では,両形態のアグリゲーションを相互にインターリーブするトランスフォーマーネットワークを提案する。 提案手法が密マッチングタスクに与える影響を評価し,全ての主要なベンチマークで最先端性能を実現する。
  論文  参考訳（メタデータ） (2022-09-19T03:33:35Z)
• Subspace Diffusion Generative Models [4.310834990284412]
  スコアベースモデルは、高次元拡散過程を通じて、ノイズをデータにマッピングすることでサンプルを生成する。 データ分布がノイズに向かって進化するにつれて、射影による部分空間への拡散を制限する。 私たちのフレームワークは継続的拡散と完全に互換性があり、柔軟性を維持しています。
  論文  参考訳（メタデータ） (2022-05-03T13:43:47Z)
• Attentive Contractive Flow with Lipschitz-constrained Self-Attention [25.84621883831624]
  注意的収縮フロー(ACF)と呼ばれる新しいアプローチを導入する。 ACFは、フローベースの生成モデル - 収縮フロー - の特別なカテゴリを利用する。 我々は, ACFをプラグアンドプレイ方式で, 各種のアートフローモデルに導入できることを実証した。
  論文  参考訳（メタデータ） (2021-09-24T18:02:49Z)
• Generative Flows with Invertible Attentions [135.23766216657745]
  生成フローモデルに対する2種類の非可逆的注意機構を導入する。 フロー特徴写像の2分割毎に注意重みと入力表現を学習するために,分割に基づく注意機構を利用する。 提案手法は, トラクタブルジャコビアン行列を用いた非可逆アテンションモジュールをフローベースモデルの任意の位置にシームレスに統合する。
  論文  参考訳（メタデータ） (2021-06-07T20:43:04Z)
• Learning Optical Flow from a Few Matches [67.83633948984954]
  密な相関体積表現は冗長であり、その中の要素のほんの一部で正確なフロー推定が達成できることを示した。 実験により,高い精度を維持しつつ計算コストとメモリ使用量を大幅に削減できることを示した。
  論文  参考訳（メタデータ） (2021-04-05T21:44:00Z)
• Learning Likelihoods with Conditional Normalizing Flows [54.60456010771409]
  条件正規化フロー(CNF)はサンプリングと推論において効率的である。 出力空間写像に対する基底密度が入力 x 上で条件づけられた CNF について、条件密度 p(y|x) をモデル化する。
  論文  参考訳（メタデータ） (2019-11-29T19:17:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。