論文の概要: How Neural Losses Shape VAE Latents
- arxiv url: http://arxiv.org/abs/2606.00635v1
- Date: Sat, 30 May 2026 09:20:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.567014
- Title: How Neural Losses Shape VAE Latents
- Title(参考訳): ニューラルロスはどのようにしてVAEラテンダーを形作るか
- Abstract要約: 再建損失の選択は, 破壊率自体の問題に反することを示す。
知覚的目的や敵対的目的といった神経用語によるポイントワイドな再構築が、潜在表現に格納される情報の量を減らすことを証明し、検証する。
- 参考スコア(独自算出の注目度): 15.636976191219448
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern VAEs are rarely trained with the pointwise likelihood implied by the standard $β$-VAE objective. In practice, pointwise reconstruction is often combined with perceptual and adversarial losses, despite a lack of understanding of how this changes the latent dynamics of the model. We show that the choice of reconstruction loss reshapes the rate-distortion problem itself, altering both the information content and the geometry of the learned latent space in ways that may be invisible from reconstructions alone. First, we prove and verify empirically that augmenting pointwise reconstruction with neural terms, such as perceptual and adversarial objectives, reduces the amount of information stored in the latent representations. Second, we show that neural reconstruction losses systematically change the geometry of the latent space: they make representations more isotropic and distribute uncertainty more evenly across latent dimensions, producing different posterior variance profiles. These findings highlight how the rate-distortion tradeoff is not a comprehensive lens to understand the behavior of VAEs, and we propose a more mechanistic approach to investigate how the choice of a distortion metric reshapes the optimization problem.
- Abstract(参考訳): 現代のVAEは、標準の$β$-VAEの目的によって暗黙的に訓練されることは滅多にない。
実際には、ポイントワイズ再構築はしばしば知覚的・敵対的な損失と組み合わせられるが、モデルが潜むダイナミクスをどのように変化させるかは理解されていない。
復元損失の選択は、情報内容と学習された潜伏空間の幾何学の両方を、再構成単独では見えない方法で変更することで、率ゆがみ問題そのものを再認識することを示す。
まず、知覚的目的や敵対的目的といった神経用語によるポイントワイドな再構築が、潜在表現に格納される情報の量を減らすことを実証し、実証する。
第二に、ニューラル再構成損失は潜在空間の幾何学を体系的に変化させ、表現をより等方的にし、潜在次元にわたって不確実性を均等に分散させ、異なる後部分散プロファイルを生成する。
これらの結果は,VAEの挙動を理解するための包括的レンズではないことを示すとともに,歪み計量の選択が最適化問題にどう影響するかを検討するための,より機械的なアプローチを提案する。
関連論文リスト
- Next-Acceleration-Scale Prediction for Autoregressive MRI Reconstruction [52.32112533846212]
MRI再建は本質的に不完全な逆問題である。
この制限は、再構成を離散的なマルチスケールの潜在空間に移動させ、自己回帰的次加速スケールの予測として機能させることによって解決する。
提案手法は,過度のアンサンプ下での多種多様なサンプリングパターンの再構成性能の向上を図っている。
論文 参考訳(メタデータ) (2026-05-19T04:40:50Z) - VIKING: Deep variational inference with stochastic projections [48.946143517489496]
変分平均場近似は、現代の過度にパラメータ化されたディープニューラルネットワークと競合する傾向がある。
パラメータ空間の2つの独立線型部分空間を考える単純な変分族を提案する。
これにより、オーバーパラメトリゼーションを反映した、完全に相関した近似後部を構築することができる。
論文 参考訳(メタデータ) (2025-10-27T15:38:35Z) - On Self-Adaptive Perception Loss Function for Sequential Lossy Compression [29.361832071511795]
我々は、平均二乗誤差(MSE)を歪み損失とする因果的、低レイテンシ、逐次的損失圧縮と、再建の現実性を高めるための知覚損失関数(PLF)を考察した。
我々は、一階マルコフ源に対する理論速度歪み知覚関数を確立し、ガウス模型を詳細に解析する。
提案手法は, 自己適応型知覚損失関数 (PLF-SA) と呼ばれる。
論文 参考訳(メタデータ) (2025-02-15T01:41:53Z) - PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
PseudoNeg-MAEは、ポイントクラウドマスマスキングオートエンコーダのグローバルな特徴表現を強化する。
本研究では,ネットワークが識別的表現を保ちながら,よりリッチな変換キューをキャプチャできる新たな損失を提案する。
論文 参考訳(メタデータ) (2024-09-24T07:57:21Z) - Unveiling the Ambiguity in Neural Inverse Rendering: A Parameter Compensation Analysis [36.353019226575576]
逆レンダリングは、マルチビュー画像のみからオブジェクトのシーン特性を再構築することを目的としている。
本稿では,最先端のニューラルネットワーク逆レンダリング手法であるNeural Microfacet Fields (NMF) を用いて,そのあいまいさを表現した。
論文 参考訳(メタデータ) (2024-04-19T11:56:29Z) - On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。
アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
論文 参考訳(メタデータ) (2023-12-13T02:11:07Z) - DiracDiffusion: Denoising and Incremental Reconstruction with Assured Data-Consistency [24.5360032541275]
拡散モデルは、画像復元を含む多数のコンピュータビジョンタスクにおいて、この技術の新たな状態を確立した。
逆問題解決のための新しい枠組みを提案する。つまり、観測は徐々に劣化し、元のクリーンイメージにノイズを与える劣化過程から来ていると仮定する。
本手法は, 逆過程を通じて元の計測値との整合性を維持し, 歪み指標の改善と早期ストッピングによるサンプリング高速化のために, 知覚品質のトレードオフに優れた柔軟性を実現する。
論文 参考訳(メタデータ) (2023-03-25T04:37:20Z) - Learning Distortion Invariant Representation for Image Restoration from
A Causality Perspective [42.10777921339209]
因果性の観点から,画像復元のための新たなトレーニング戦略を提案する。
提案手法は歪不変表現学習(DIL)と呼ばれ,各歪みのタイプと度合いを1つの特定の共同創設者として扱う。
論文 参考訳(メタデータ) (2023-03-13T05:04:18Z) - Occlusion Fields: An Implicit Representation for Non-Line-of-Sight
Surface Reconstruction [3.0553868534759725]
非視線再構成(NLoS)は、直接見える拡散した壁から間接的に散乱する光の測定から視野外の物体を復元することを目的としている。
本研究では,NLoSシーンの再現性と復元性とを両立させる新しい表現と再構成手法を提案する。
論文 参考訳(メタデータ) (2022-03-16T14:47:45Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Limited-angle tomographic reconstruction of dense layered objects by
dynamical machine learning [68.9515120904028]
強い散乱準透明物体の有限角トモグラフィーは困難で、非常に不適切な問題である。
このような問題の状況を改善することにより、アーティファクトの削減には、事前の定期化が必要である。
我々は,新しい分割畳み込みゲート再帰ユニット(SC-GRU)をビルディングブロックとして,リカレントニューラルネットワーク(RNN)アーキテクチャを考案した。
論文 参考訳(メタデータ) (2020-07-21T11:48:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。