論文の概要: CoVA: Composing VAE Representations for Generative Learning
- arxiv url: http://arxiv.org/abs/2610.13322v1
- Date: Fri, 09 Oct 2026 10:03:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.517159
- Title: CoVA: Composing VAE Representations for Generative Learning
- Title（参考訳）: CoVA: ジェネレーティブラーニングのためのVAE表現を構成する
- Abstract要約: 我々は,VAE機能をオンラインで構築する軽量フレームワークであるtextbfCoVA(textbfComposed textbfVAE Representations)を,フローマッチングトレーニングの段階的なガイダンスに導入する。
小さな潜伏作曲家は、クラス監督、マスク付き潜伏再構成、水平フリップ一貫性を共同で訓練し、意味差別的な特徴をもたらす。
- 参考スコア（独自算出の注目度）: 12.189083310674576
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Representation alignment with pretrained visual encoders improves diffusion transformer training but requires auxiliary encoders and extra training overhead. Recent approaches instead exploit representations from the generative model's own variational autoencoder (VAE). However, reconstruction-oriented VAE features are not optimized for the semantic discrimination and spatial structure needed for generative learning. We introduce \textbf{CoVA} (\textbf{Co}mposed \textbf{VA}E Representations), a lightweight framework that composes VAE features online into stage-wise guidance for flow-matching training. A small latent composer is jointly trained with class supervision, masked latent reconstruction, and horizontal-flip consistency, yielding semantically discriminative, spatially structured dense features and sample-dependent class posteriors. CoVA aligns intermediate SiT features with the composed representations early in training, then removes the increasingly detrimental alignment and reuses detached composer posteriors for sample-dependent soft label conditioning. We further uncover a hidden confound in soft label conditioning: averaging class embeddings attenuates their magnitude, coupling semantic interpolation with conditioning strength. This attenuation alone can substantially improve FID while degrading Recall, revealing a non-semantic source of the apparent gain. CoVA corrects this confound by restoring the hard-label magnitude, isolating posterior-dependent directional semantics. CoVA adds only 8.5M training-only auxiliary parameters (1.3\% of SiT-XL/2) and introduces no inference-time overhead. On ImageNet 256$\times$256, CoVA reduces SiT-XL/2 FID from 17.2 to 7.4 (\textbf{57\%}) in 400K steps. With classifier-free guidance, it achieves an FID of \textbf{2.03} in only 400 epochs, versus 2.06 after 1,400 epochs for vanilla SiT-XL/2.
- Abstract（参考訳）: 事前訓練されたビジュアルエンコーダとの表現アライメントは、拡散トランスフォーマートレーニングを改善するが、補助エンコーダと追加のトレーニングオーバーヘッドを必要とする。
近年のアプローチでは、生成モデル独自の変分オートエンコーダ(VAE)の表現を利用する。
しかし、再構成指向のVAE機能は、生成学習に必要な意味的識別や空間構造に最適化されていない。
本稿では,VAE機能をオンラインに構築する軽量なフレームワークとして,フローマッチングトレーニングの段階的なガイダンスとして,‘textbf{CoVA}(\textbf{Co}mposed \textbf{VA}E Representations)’を紹介した。
小さな潜伏作曲家は、クラス監督、マスク付き潜伏再構成、水平フリップ一貫性を共同で訓練し、意味的に識別され、空間的に構造化された密な特徴と標本に依存したクラス後部を与える。
CoVAは、中間的なSiT特徴と、訓練の早い段階で構成された表現とを整合させ、さらに減少傾向にあるアライメントを除去し、サンプル依存のソフトラベル条件付けのために分離された作曲家の後部を再利用する。
平均的なクラス埋め込みはその大きさを減らし、セマンティック補間と条件付け強度を結合する。
この減衰だけでは、リコールを劣化させながらFIDを大幅に改善することができ、明らかな利得の非意味な情報源が明らかになる。
CoVAは、後方依存の方向意味論を分離するハードラベルの大きさを復元することで、この矛盾を補正する。
CoVAは8.5Mのトレーニング専用補助パラメータ(SiT-XL/2の1.3\%)しか追加せず、推論時のオーバーヘッドは発生しない。
ImageNet 256$\times$256では、CoVAは400KステップでSiT-XL/2 FIDを17.2から7.4(\textbf{57\%})に削減する。
分類器なし誘導では、バニラSiT-XL/2の1,400エポック後、わずか400エポックで \textbf{2.03} の FID を達成する。
関連論文リスト
- ORCA: Hunting Compositional Failures in Text-to-Image Diffusion [2.687944617906212]
テキストエンコーダは、視覚ではなく言語モデリングによって形作られた表現空間において、構成構造を保っていることを示す。
この対応は明示的な訓練信号として提供でき、関連するクロスモーダル情報は、自己監督された視覚的特徴の低ランク部分空間に集中していることを示す。
提案手法であるORCAは,T5とCLIPの埋め込みにおいて学習された残差によって推論ベースがパラメータ化される予測器を介して,凍結した視覚エンコーダから導出される低ランクターゲットに拡散トランスフォーマーの潜時を整列させる。
論文 参考訳（メタデータ） (2026-10-07T11:03:58Z) - Hierarchical Adaptive Feature Refinement Network for VHR Remote Sensing Image Segmentation [15.24999553337715]
本稿では,階層的表現を適応的に整理・洗練する進歩的改良フレームワークHAFR-Netを提案する。
マッチしたSwin-Bトレーニングとシングルスケール推論プロトコルの下で、HAFR-Netは84.12%、87.86%、55.17%、67.70%mIoUを達成した。
論文 参考訳（メタデータ） (2026-08-16T09:26:58Z) - Spectrally Regularized Latent Flow Matching for Turbulence Generation [0.0]
本稿では,スペクトル正規化圧縮ステージを備えた潜在フローマッチングフレームワークを提案する。
Re_f Approx 2250の2562 DNSデータセットでは、MSEで訓練されたVAEをゾーン重み付き対数スペクトルの目的に置き換えることで、スペクトルパワーが深い。
改良された潜在表現はまた、コスト-忠実性のトレードオフを著しく改善する。
論文 参考訳（メタデータ） (2026-06-10T06:09:51Z) - Scaling Parallel Sequence Models to Foundation-Scale Vision Encoders [123.58723804218151]
ビジョンファウンデーションモデルは、自己注意の二次的なコストによってボトルネックとなる。
2次元空間伝搬伝搬に基づくC-GSPNを提案する。
論文 参考訳（メタデータ） (2026-05-30T14:29:43Z) - DIVE: Embedding Compression via Self-Limiting Gradient Updates [0.9179857807576733]
大規模言語モデルからの高次元埋め込みは、ベクトル探索システムにかなりのストレージと計算コストを課す。
最近の組込み圧縮法であるMatryoshka-Adaptor (EMNLP 2024) は, 軽量残像アダプタによる寸法の低減を実現するが, ラベル付きデータが少ない場合, トレーニング目的が過度に過度なオーバーフィッティングを引き起こす。
textbfImplicit textbfView textbfEnsembles を用いたtextscDIVE (textbf dimensionity reduction with textbfImplicit textbfView textbfEnsembles) を提案する。
論文 参考訳（メタデータ） (2026-05-20T04:35:28Z) - VAE-REPA: Variational Autoencoder Representation Alignment for Efficient Diffusion Training [53.09658039757408]
本稿では,効率的な拡散訓練のための軽量な固有ガイダンスフレームワークである textbfnamex を提案する。
nameは、拡散トランスフォーマーの中間潜時特徴を、軽量なプロジェクション層を介してVAE特徴と整列し、特徴アライメントロスによって教師される。
実験により、バニラ拡散変圧器と比較して、名称が生成品質とトレーニング収束速度の両方を改善することが示された。
論文 参考訳（メタデータ） (2026-01-25T13:22:38Z) - MeanFlow Transformers with Representation Autoencoders [71.45823902973349]
MeanFlow(MF)は、ノイズからデータへのジャンプを直接学習することで、効率的な数ステップ生成を可能にする拡散動機付き生成モデルである。
我々は、表現オートエンコーダ(RAE)の潜在空間におけるMFの効率的なトレーニングとサンプリング手法を開発する。
1ステップのFIDが2.03であり,バニラMFの3.43を上回っ,GFLOPSのサンプリングを38%削減し,ImageNet 256のトレーニングコストを83%削減した。
論文 参考訳（メタデータ） (2025-11-17T06:17:08Z) - Representation Entanglement for Generation: Training Diffusion Transformers Is Much Easier Than You Think [63.25744258438214]
REPAとその変種は、事前訓練されたモデルから外部の視覚表現を取り入れることで、拡散モデルのトレーニング課題を効果的に軽減する。
偏見推論過程全体において欠落している外部アライメントは、識別的表現の可能性を完全に活用するに足らないと我々は主張する。
本稿では,事前学習した基礎モデルから,低レベル画像ラテントを1つの高レベルクラストークンで絡み合わせるRepresentation Entanglement for Generation (REG)を提案する。
論文 参考訳（メタデータ） (2025-07-02T08:29:18Z) - CODA: Repurposing Continuous VAEs for Discrete Tokenization [31.932323809073477]
textbfCODA(textbfCOntinuous-to-textbfDiscrete textbfAdaptation)は、圧縮と離散化を分離するフレームワークである。
提案手法は,ImageNet 256$times$256ベンチマークにおいて,$mathbf0.43$と$mathbf1.34$を8倍,$16倍の圧縮で,100%のコードブック利用と注目すべき再構成FID(rFID)を実現している。
論文 参考訳（メタデータ） (2025-03-22T12:59:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。