論文の概要: Posterior Collapse as a Phase Transition in Variational Autoencoders

• arxiv url: http://arxiv.org/abs/2510.01621v1
• Date: Thu, 02 Oct 2025 02:52:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-03 16:59:20.962429
• Title: Posterior Collapse as a Phase Transition in Variational Autoencoders
• Title（参考訳）: 変分オートエンコーダの位相遷移としての後部崩壊
• Authors: Zhen Li, Fan Zhang, Zheng Zhang, Yu Chen,
• Abstract要約: 変分オートエンコーダ(VAE)の後方崩壊現象を統計物理学の観点から検討する。 後方崩壊に伴う自明な解の安定性を解析することにより、臨界超パラメータ閾値を同定する。 我々は、この臨界挙動を合成と実世界の両方のデータセットで検証し、相転移の存在を確認する。
• 参考スコア（独自算出の注目度）: 13.161084138023169
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We investigate the phenomenon of posterior collapse in variational autoencoders (VAEs) from the perspective of statistical physics, and reveal that it constitutes a phase transition governed jointly by data structure and model hyper-parameters. By analyzing the stability of the trivial solution associated with posterior collapse, we identify a critical hyper-parameter threshold. This critical boundary, separating meaningful latent inference from collapse, is characterized by a discontinuity in the KL divergence between the approximate posterior and the prior distribution. We validate this critical behavior on both synthetic and real-world datasets, confirming the existence of a phase transition. Our results demonstrate that posterior collapse is not merely an optimization failure, but rather an emerging phase transition arising from the interplay between data structure and variational constraints. This perspective offers new insights into the trainability and representational capacity of deep generative models.
• Abstract（参考訳）: 変分オートエンコーダ(VAE)の後方崩壊現象を統計物理学の観点から検討し,データ構造とモデルハイパーパラメータによる相転移を構成することを明らかにした。 後方崩壊に伴う自明な解の安定性を解析することにより,臨界超パラメータ閾値を同定する。 この臨界境界は、崩壊から有意な潜伏推論を分離し、近似後部と先行分布の間のKL分散の不連続を特徴とする。 我々は、この臨界挙動を合成と実世界の両方のデータセットで検証し、相転移の存在を確認する。 以上の結果から,後部崩壊は単なる最適化失敗ではなく,データ構造と変動制約の相互作用から生じる相転移であることが示された。 この視点は、深層生成モデルの訓練可能性と表現能力に関する新たな洞察を提供する。

関連論文リスト

• Topological Phase Transitions and Mixed State Order in a Hubbard Quantum Simulator [36.556659404501914]
  トポロジカル位相遷移は、多体物理学における従来のパラダイムに挑戦する。 このような一次元対称性保護位相間の遷移を観察する。 以上の結果から、トポロジと情報がどのように量子相転移に影響を及ぼすかが示されている。
  論文  参考訳（メタデータ） (2025-05-22T17:58:35Z)
• A Study of Posterior Stability for Time-Series Latent Diffusion [59.41969496514184]
  まず,後部崩壊により可変オートエンコーダ(VAE)への潜伏拡散が減少し,表現性が低下することを示す。 次に、入力変数に対するリカレントデコーダの感度を定量化する、依存性測度という原則的手法を導入する。 理論的および実証的研究に基づいて,潜伏拡散を延長し,後部が安定な新しい枠組みを導入する。
  論文  参考訳（メタデータ） (2024-05-22T21:54:12Z)
• Score-based Causal Representation Learning with Interventions [54.735484409244386]
  本稿では,潜在因果変数を間接的に観察する際の因果表現学習問題について検討する。 目的は、 (i) 未知の線形変換(スケーリングまで)を回復し、 (ii) 潜在変数の下の有向非巡回グラフ(DAG)を決定することである。
  論文  参考訳（メタデータ） (2023-01-19T18:39:48Z)
• Steady-state susceptibility in continuous phase transitions of dissipative systems [3.0429703764855343]
  両モデルにおける位相遷移の臨界点付近において, 忠実度とトレース距離の感受性は特異な挙動を呈することがわかった。 臨界制御パラメータのスケーリングから抽出された臨界点からシステムサイズや非線形性は、熱力学的限界において、既存の結果とよく一致する。
  論文  参考訳（メタデータ） (2022-01-12T11:56:52Z)
• Variational Causal Networks: Approximate Bayesian Inference over Causal Structures [132.74509389517203]
  離散DAG空間上の自己回帰分布をモデル化したパラメトリック変分族を導入する。 実験では,提案した変分後部が真の後部を良好に近似できることを示した。
  論文  参考訳（メタデータ） (2021-06-14T17:52:49Z)
• Stochastic embeddings of dynamical phenomena through variational autoencoders [1.7205106391379026]
  位相空間の再構成において,観測空間の次元性を高めるために認識ネットワークを用いる。 我々の検証は、このアプローチが元の状態空間に類似した状態空間を復元するだけでなく、新しい時系列を合成できることを示している。
  論文  参考訳（メタデータ） (2020-10-13T10:10:24Z)
• Fidelity susceptibility near topological phase transitions in quantum walks [0.0]
  ディラックモデルにおける位相相転移に対して、忠実度感受性は、積分が位相不変量を与える曲率関数と一致することを示す。 1次元のクラスBDIと2次元のクラスDディラックモデルをシミュレートする量子ウォークに対する忠実度感受性のプロファイルと臨界性をマップする。
  論文  参考訳（メタデータ） (2020-07-21T09:11:52Z)
• Supporting Optimal Phase Space Reconstructions Using Neural Network Architecture for Time Series Modeling [68.8204255655161]
  位相空間特性を暗黙的に学習する機構を持つ人工ニューラルネットワークを提案する。 私たちのアプローチは、ほとんどの最先端戦略と同じくらいの競争力があるか、あるいは優れているかのどちらかです。
  論文  参考訳（メタデータ） (2020-06-19T21:04:47Z)
• Discrete Variational Attention Models for Language Generation [51.88612022940496]
  本稿では,言語における離散性に起因する注意機構のカテゴリー分布を考慮した離散的変動注意モデルを提案する。 離散性の特質により,提案手法の訓練は後部崩壊に支障を来さない。
  論文  参考訳（メタデータ） (2020-04-21T05:49:04Z)
• Topological Phase Transitions Induced by Varying Topology and Boundaries in the Toric Code [0.0]
  このような物質相の感度を基礎となるトポロジーに対して検討する。 これらの相転移は励起空間における対称性の破れを伴うと主張する。 このような定常状態間の位相遷移は、開ループ作用素の期待値によって効果的に捕捉されることを示す。
  論文  参考訳（メタデータ） (2020-04-07T18:00:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。