論文の概要: Reparameterization through Coverings and Topological Weight Priors

• arxiv url: http://arxiv.org/abs/2604.23804v1
• Date: Sun, 26 Apr 2026 17:01:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:07.562165
• Title: Reparameterization through Coverings and Topological Weight Priors
• Title（参考訳）: カバーとトポロジカルウェイトによる再パラメータ化
• Authors: Maxim Beketov, Pavel Snopov,
• Abstract要約: 変分オートエンコーダが非自明な位相空間を持つようにする方法を示す。 本稿では,ベイズ学習における重み付け先行モデルの適用可能性,特に畳み込み視覚モデルについて論じる。
• 参考スコア（独自算出の注目度）: 0.12974919408408753
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We generalise the reparameterization trick applied in variational autoencoders (VAEs) letting these have latent spaces of non-trivial topology - i.e. that of base manifolds covered with other ones, on which some technique for RT is available. That is possible since covering maps are measurable - moreover, in case of particular measure preservation property holding for the covering, one can establish an inequality on KL-divergence between pushforward (PF) densities on the base latent manifold, making the KL-term of VAE's ELBO analytically tractable, despite the topological non-triviality of the supporting latent manifold. Our development follows a route close but somewhat alternative to reparameterization on Lie groups, the latest proposal for which is to reparameterize PFs of normal densities from the Lie algebra - "through" the exponential map, seen by us as sometimes a particular case of what we propose to call reparameterization through a covering. Covering maps need not be global diffeomorphisms (although Lie-exp maps, in general, need not either, but, to date only smooth ones were considered in this context, to the best of our knowledge), which makes many non-trivial topologies tamable to our proposed technique, that we detail on a particular such example. We demonstrate the working of our approach by constructing a VAE with the latent space of Klein bottle (not a Lie group) topology, which we call KleinVAE, successfully learning an appropriate artificial dataset. We discuss potential applicability of such topology-informed generative models as weight priors in Bayesian learning, particularly for convolutional vision models, where said manifold was peculiarly shown to have some relevance.
• Abstract（参考訳）: 変分自己エンコーダ(VAE)に適用されたパラメータ化トリックを一般化し、これらが非自明なトポロジーの潜在空間を持つようにする。 さらに、被覆のための特定の測度保存プロパティが保持されている場合、ベース潜在多様体上のプッシュフォワード(PF)密度間のKL分割の不等式を確立することができ、支持潜在多様体の位相的非自明性にもかかわらず、VAE の ELBO の KL 項を解析的に引くことができる。 リー代数から正規密度の PF を再パラメータ化するという最新の提案は、指数写像を "スルー" することで、我々が被覆を通して再パラメータ化(reparameterization)と呼ぶものの特別な場合と見なす。 被覆写像は大域的微分同相写像である必要はない(ただし、一般のリー-exp写像はどちらも必要ではないが、これまでは滑らかな写像のみがこの文脈で考慮されていた。 我々は,KleinVAE と呼ばれる,Klein ボトル(リー群ではない) の潜伏空間で VAE を構築し,適切な人工データセットを学習することで,我々のアプローチの成果を実証する。 ベイズ学習における重み前モデルのようなトポロジインフォームド生成モデルの潜在的な適用性について論じる。

関連論文リスト

• Riemannian Neural Optimal Transport [40.19067516813213]
  計算最適輸送(OT)は、生成モデリングのための原則的なフレームワークを提供する。 ニューラルネットワークを用いてデータからOTマップを無傷で学習するNeural OT法は、トレーニング後のサンプルから評価することができる。 既存のアプローチはユークリッド幾何学に合わせている。
  論文  参考訳（メタデータ） (2026-02-03T14:09:35Z)
• On Probabilistic Pullback Metrics for Latent Hyperbolic Manifolds [5.724027955589408]
  本稿では,階層的関係のモデル化に特に適した双曲的埋め込みについて述べる。 本稿では, LVM の非線形写像によって生じる歪みを考慮に入れた, プルバック計量による双曲多様体の拡張を提案する。 実験により, 引き戻し距離の測地学は双曲型潜在空間の幾何学を尊重するだけでなく, 基礎となるデータ分布と整合することを示した。
  論文  参考訳（メタデータ） (2024-10-28T09:13:00Z)
• Disentangled Representation Learning with the Gromov-Monge Gap [65.73194652234848]
  乱れのないデータから歪んだ表現を学習することは、機械学習における根本的な課題である。 本稿では,2次最適輸送に基づく非交叉表現学習手法を提案する。 提案手法の有効性を4つの標準ベンチマークで示す。
  論文  参考訳（メタデータ） (2024-07-10T16:51:32Z)
• Topological Obstructions and How to Avoid Them [22.45861345237023]
  局所最適性は特異点や不正確な次数や巻数によって生じる可能性があることを示す。 本稿では,データポイントを幾何学空間上のマルチモーダル分布にマッピングするフローベースモデルを提案する。
  論文  参考訳（メタデータ） (2023-12-12T18:56:14Z)
• Scaling Riemannian Diffusion Models [68.52820280448991]
  非自明な多様体上の高次元タスクにスケールできることを示す。 我々は、$SU(n)$格子上のQCD密度と高次元超球面上の対照的に学習された埋め込みをモデル化する。
  論文  参考訳（メタデータ） (2023-10-30T21:27:53Z)
• Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
  本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。 我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。 全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• Instance-Dependent Generalization Bounds via Optimal Transport [51.71650746285469]
  既存の一般化境界は、現代のニューラルネットワークの一般化を促進する重要な要因を説明することができない。 データ空間における学習予測関数の局所リプシッツ正則性に依存するインスタンス依存の一般化境界を導出する。 ニューラルネットワークに対する一般化境界を実験的に解析し、有界値が有意義であることを示し、トレーニング中の一般的な正規化方法の効果を捉える。
  論文  参考訳（メタデータ） (2022-11-02T16:39:42Z)
• Bayesian Quadrature on Riemannian Data Manifolds [79.71142807798284]
  データに固有の非線形幾何学構造をモデル化する原則的な方法が提供される。 しかし、これらの演算は通常計算的に要求される。 特に、正規法則上の積分を数値計算するためにベイズ二次(bq)に焦点を当てる。 先行知識と活発な探索手法を両立させることで,BQは必要な評価回数を大幅に削減できることを示す。
  論文  参考訳（メタデータ） (2021-02-12T17:38:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。