論文の概要: A Unified Approach to Variational Autoencoders and Stochastic Normalizing Flows via Markov Chains

• arxiv url: http://arxiv.org/abs/2111.12506v1
• Date: Wed, 24 Nov 2021 14:04:32 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-25 16:09:26.709965
• Title: A Unified Approach to Variational Autoencoders and Stochastic Normalizing Flows via Markov Chains
• Title（参考訳）: マルコフ連鎖による変分オートエンコーダと確率正規化流れへの統一的アプローチ
• Authors: Johannes Hertrich, Paul Hagemann, Gabriele Steidl
• Abstract要約: マルコフ連鎖を介して正規化フローと変分オートエンコーダを処理する統一的なフレームワークを提供する。 我々のフレームワークは、様々なアプローチを組み合わせるのに有用な数学的ツールを確立します。
• 参考スコア（独自算出の注目度）: 0.45119235878273
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Normalizing flows, diffusion normalizing flows and variational autoencoders are powerful generative models. In this paper, we provide a unified framework to handle these approaches via Markov chains. Indeed, we consider stochastic normalizing flows as pair of Markov chains fulfilling some properties and show that many state-of-the-art models for data generation fit into this framework. The Markov chains point of view enables us to couple both deterministic layers as invertible neural networks and stochastic layers as Metropolis-Hasting layers, Langevin layers and variational autoencoders in a mathematically sound way. Besides layers with densities as Langevin layers, diffusion layers or variational autoencoders, also layers having no densities as deterministic layers or Metropolis-Hasting layers can be handled. Hence our framework establishes a useful mathematical tool to combine the various approaches.
• Abstract（参考訳）: 正規化フロー、拡散正規化フロー、変分オートエンコーダは強力な生成モデルである。 本稿では,これらのアプローチをマルコフ連鎖を通じて扱うための統一フレームワークを提案する。 実際、確率正規化フローは、いくつかの特性を満たすマルコフ連鎖のペアであり、データ生成のための多くの最先端モデルがこのフレームワークに適合していることを示す。 マルコフ連鎖の観点からは、決定論的層を可逆ニューラルネットワーク、確率的層をメトロポリス・ハスティング層、ランゲヴィン層、変分オートエンコーダを数学的に健全な方法で結合することができる。 ランジュバン層、拡散層または変分オートエンコーダとしての密度を有する層に加えて、決定論的層またはメトロポリスハスティング層としての密度を持たない層も扱うことができる。 したがって,本フレームワークは,様々な手法を組み合わせる上で有用な数学的ツールである。

関連論文リスト

• Mechanistic Permutability: Match Features Across Layers [4.2056926734482065]
  SAE Matchは、ニューラルネットワークの異なる層にまたがってSAE機能を整列するための、新しいデータフリーな手法である。 我々の研究は、ニューラルネットワークにおける特徴力学の理解を深め、機械論的解釈可能性研究のための新しいツールを提供する。
  論文  参考訳（メタデータ） (2024-10-10T06:55:38Z)
• Variational Classification [51.2541371924591]
  我々は,変分オートエンコーダの訓練に用いるエビデンスローバウンド(ELBO)に類似した,モデルの訓練を目的とした変分目的を導出する。 軟質マックス層への入力を潜伏変数のサンプルとして扱うことで, 抽象化された視点から, 潜在的な矛盾が明らかとなった。 我々は、標準ソフトマックス層に見られる暗黙の仮定の代わりに、選択された潜在分布を誘導する。
  論文  参考訳（メタデータ） (2023-05-17T17:47:19Z)
• Multiscale Graph Neural Network Autoencoders for Interpretable Scientific Machine Learning [0.0]
  この研究の目的は、オートエンコーダベースのモデルにおいて、潜在空間解釈可能性と非構造化メッシュとの互換性という2つの制限に対処することである。 これは、複雑な流体流れのアプリケーションのデモを含む、新しいグラフニューラルネットワーク(GNN)自動エンコーディングアーキテクチャの開発によって達成される。
  論文  参考訳（メタデータ） (2023-02-13T08:47:11Z)
• Modiff: Action-Conditioned 3D Motion Generation with Denoising Diffusion Probabilistic Models [58.357180353368896]
  本稿では,現実的で多様な3D骨格に基づく運動生成問題に対処するために,拡散確率モデル(DDPM)の利点を生かした条件付きパラダイムを提案する。 我々はDDPMを用いてカテゴリ的動作で条件付けられた動作列の可変数を合成する先駆的な試みである。
  論文  参考訳（メタデータ） (2023-01-10T13:15:42Z)
• WLD-Reg: A Data-dependent Within-layer Diversity Regularizer [98.78384185493624]
  ニューラルネットワークは、勾配に基づく最適化と共同で訓練された階層構造に配置された複数の層で構成されている。 我々は、この従来の「中間層」フィードバックを補うために、同じ層内での活性化の多様性を促進するために、追加の「中間層」フィードバックを補うことを提案する。 本稿では,提案手法が複数のタスクにおける最先端ニューラルネットワークモデルの性能を向上させることを実証した広範な実証研究を提案する。
  論文  参考訳（メタデータ） (2023-01-03T20:57:22Z)
• A new perspective on probabilistic image modeling [92.89846887298852]
  本稿では,密度推定,サンプリング,トラクタブル推論が可能な画像モデリングのための新しい確率論的手法を提案する。 DCGMMは、CNNのように、ランダムな初期条件からSGDによってエンドツーエンドに訓練することができる。 本研究は,近年のPCおよびSPNモデルと,推論,分類,サンプリングの観点から比較した。
  論文  参考訳（メタデータ） (2022-03-21T14:53:57Z)
• Mesh Convolutional Autoencoder for Semi-Regular Meshes of Different Sizes [0.0]
  最先端のメッシュ畳み込みオートエンコーダは、オートエンコーダによって処理されるすべての入力メッシュの固定接続を必要とする。 我々は、表面の離散化を、局所的な正則接続を持ち、メッシュが階層的な半正則メッシュに変換する。 我々は、同じメッシュオートエンコーダを異なるデータセットに適用し、再構築エラーは最先端モデルのエラーよりも50%以上低い。
  論文  参考訳（メタデータ） (2021-10-18T15:30:40Z)
• Deep Autoencoding Topic Model with Scalable Hybrid Bayesian Inference [55.35176938713946]
  我々は、ガンマ分布の階層構造を用いて、その多確率層生成ネットワークを構築するディープ・オートエンコーディング・トピック・モデル(DATM)を開発した。 Weibull上向き変分エンコーダを提案する。このエンコーダは深層ニューラルネットワークを介して情報を上向きに伝播し,次いで下向き生成モデルを提案する。 大規模コーパス上での教師なしおよび教師なしの学習タスクにおいて,モデルの有効性とスケーラビリティを実証した。
  論文  参考訳（メタデータ） (2020-06-15T22:22:56Z)
• DHP: Differentiable Meta Pruning via HyperNetworks [158.69345612783198]
  本稿では,ネットワークの自動プルーニングのためのハイパーネットによる識別可能なプルーニング手法を提案する。 遅延ベクトルは、バックボーンネットワーク内の畳み込み層の出力チャネルを制御し、レイヤのプルーニングのハンドルとして機能する。 画像分類、単一画像超解像、復調のための様々なネットワークで実験が行われた。
  論文  参考訳（メタデータ） (2020-03-30T17:59:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。