論文の概要: RoAR-VAE: Improving Latent Diffusability through Robust Prediction
- arxiv url: http://arxiv.org/abs/2610.26216v1
- Date: Mon, 19 Oct 2026 11:42:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 18:56:54.257709
- Title: RoAR-VAE: Improving Latent Diffusability through Robust Prediction
- Title(参考訳): RoAR-VAE:ロバスト予測による遅延拡散性の改善
- Abstract要約: ロバストアライメントとリコンストラクションVAEは、同じトレーニング予算の下で最強のベースライントークンーザよりも平均生成ベンチマーク性能を2.19ポイント向上させる。
以上の結果から,RoAR-VAEは再構成忠実度と下流生成性とのバランスが良好であることが示唆された。
- 参考スコア(独自算出の注目度): 61.223028918849934
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: An effective visual tokenizer must preserve image fidelity while producing latents that downstream diffusion models can learn efficiently. Prior work improves latent diffusability through semantic alignment or joint tokenizer--diffusion training. Revisiting REPA-E, a representative approach, we find that removing its diffusion objective and dedicated generative blocks while retaining semantic prediction from corrupted latents yields comparable downstream generation performance under a matched setting. This observation motivates a general principle of robust prediction: generation-relevant information should remain recoverable from corrupted latents. We instantiate this principle with two complementary objectives. RobustAlign predicts pretrained semantic features from corrupted latents to preserve high-level structure, while RobustRecon reconstructs the clean image to retain fine-grained spatial and appearance information. Together, they form Robust Alignment and Reconstruction VAE (RoAR-VAE). Our analysis suggests that robust prediction improves diffusability by making useful information more accessible in high-variance latent directions, which diffusion models tend to learn earlier. Empirically, RoAR-VAE improves average generation benchmark performance by 2.19 points over the strongest baseline tokenizer under the same training budget, while improving small-text reconstruction accuracy by 16.93 percentage points over FLUX.1-VAE. These results demonstrate that RoAR-VAE achieves a favorable balance between reconstruction fidelity and downstream generative learnability.
- Abstract(参考訳): 効果的なビジュアル・トークンーザは、下流拡散モデルが効率的に学習できる潜水剤を生成しながら、画像の忠実さを保たなければならない。
事前の作業は、セマンティックアライメントやジョイントトークンエーザによる拡散訓練を通じて、潜時拡散性を改善する。
Revisiting REPA-E, a representative approach, we found that remove its diffusion objective and dedicated generative block while keeping semantic prediction from corrupted latents yields comparable downstream generation performance under a matched set。
この観察は、堅牢な予測の一般的な原則を動機付けている: 生成関連情報は、腐敗した潜伏者から回復可能でなければならない。
私たちはこの原則を2つの相補的な目的でインスタンス化する。
RobustAlignは、汚染された潜伏者から事前訓練された意味的特徴を予測し、高いレベルの構造を保存する。
ロバスト・アライメントとレコンストラクションVAE(RoAR-VAE)を結成した。
我々の分析は,拡散モデルがより早く学習する傾向にある高分散潜在方向において,有用な情報をよりアクセスしやすくすることで,頑健な予測が拡散性を向上させることを示唆している。
RoAR-VAEは、同じトレーニング予算の下で最強のベースライントークンーザよりも平均生成ベンチマーク性能を2.19ポイント向上し、FLUX.1-VAEよりも16.93ポイント向上した。
以上の結果から,RoAR-VAEは再構成忠実度と下流生成性とのバランスが良好であることが示唆された。
関連論文リスト
- PhoenixSR: Generative Heterogeneous Distillation Unleashes Efficient Models for Real-World Super-Resolution [77.62046566633215]
実世界の超解像(SR)は、複雑な低分解能観測から知覚的に現実的な高分解能像を復元する必要がある。
PhoenixSRは独立に設計されたフィードフォワードSRネットワークに拡散先行を転送する生成ヘテロジニアス蒸留フレームワークである。
3つのSRベンチマークと6つのフィードフォワードバックボーン(SwinIR、HAT、Real-ESRGAN、SeeeMoRe)の実験は、ほとんど保存された復元フィデリティと一貫した知覚的改善を示している。
論文 参考訳(メタデータ) (2026-09-25T08:34:32Z) - StepVAR: Structure-Texture Guided Pruning for Visual Autoregressive Models [98.72926158261937]
本稿では,Visual AutoRegressive モデルのためのトレーニングフリートークン解析フレームワークを提案する。
我々は局所的なテクスチャの詳細を捉えるために軽量なハイパスフィルタを使用し、グローバルな構造情報を保存するために主成分分析(PCA)を活用している。
スパーストークンの下で有効な次世代の予測を維持するために,近接した特徴伝達戦略を導入する。
論文 参考訳(メタデータ) (2026-03-02T11:35:05Z) - Physics-Guided Null-Space Diffusion with Sparse Masking for Corrective Sparse-View CT Reconstruction [5.479463752172751]
拡散モデルは画像処理タスクにおいて顕著な生成能力を示した。
スパース・ビューCT再構成のためのスパース・コンディション・リワイト統合分布推定誘導拡散モデル(STRIDE)を提案する。
実験結果から,PSNRでは2.58dB,SSIMでは2.37%,MSEでは0.236に改善した。
論文 参考訳(メタデータ) (2025-09-07T09:42:16Z) - Optimizing Latent Dimension Allocation in Hierarchical VAEs: Balancing Attenuation and Information Retention for OOD Detection [14.833454650943805]
階層的変分オートエンコーダ(HVAE)は、従来のVAEよりも優れた表現能力を提供する。
既存のアプローチはしばしば遅延容量を任意に割り当て、非効率な表現や後続の崩壊につながる。
本稿では,HVAEにおける潜在次元割り当てを最適化するための理論的基盤となるフレームワークを提案する。
固定遅延予算の下で最適な割り当て比$rast$の存在を証明し、この比率を調整することでOOD検出性能が一貫したことを示す。
論文 参考訳(メタデータ) (2025-06-11T18:16:19Z) - Enhancing Variational Autoencoders with Smooth Robust Latent Encoding [54.74721202894622]
変分オートエンコーダ(VAE)は拡散に基づく生成モデルをスケールアップする上で重要な役割を果たしている。
Smooth Robust Latent VAEは、世代品質とロバスト性の両方を向上する、新しい対向トレーニングフレームワークである。
実験により、SRL-VAEは、Nightshade攻撃や画像編集攻撃に対して、画像再構成とテキスト誘導画像編集において、生成品質とロバスト性の両方を改善することが示された。
論文 参考訳(メタデータ) (2025-04-24T03:17:57Z) - Adversarial Purification by Consistency-aware Latent Space Optimization on Data Manifolds [48.37843602248313]
ディープニューラルネットワーク(DNN)は、クリーンデータに知覚不能な摂動を加えることで作られた敵のサンプルに対して脆弱であり、誤った危険な予測につながる可能性がある。
本稿では、事前学習された一貫性モデルの潜在空間内のベクトルを最適化し、クリーンなデータを復元するためのサンプルを生成する、一貫性モデルに基づく適応的パーフィケーション(CMAP)を提案する。
CMAPは、高い自然な精度を維持しながら、強力な敵攻撃に対する堅牢性を著しく向上させる。
論文 参考訳(メタデータ) (2024-12-11T14:14:02Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。