論文の概要: UniRA: Unified Representation Alignment and Auto-Encoding for Efficient Diffusion Generation
- arxiv url: http://arxiv.org/abs/2610.39948v1
- Date: Thu, 29 Oct 2026 12:46:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:15:29.17445
- Title: UniRA: Unified Representation Alignment and Auto-Encoding for Efficient Diffusion Generation
- Title（参考訳）: UniRA:効率的な拡散生成のための統一表現アライメントとオートエンコーディング
- Abstract要約: 拡散変換器(DiT)は高忠実度画像合成において支配的なアーキテクチャとなっているが、訓練の収束が遅く、計算コストも高い。
表現アライメントと表現自動エンコーディングを1つの目的に結合するフレームワークである textbfUniRA を提案する。
ImageNetの256*256と512*512のクラス条件生成では、UniRAはFIDの最先端のDiTをマッチまたはオーバーし、トレーニング手順を最大5*まで短縮する。
- 参考スコア（独自算出の注目度）: 24.745715007832953
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion transformers (DiTs) have become the dominant architecture for high-fidelity image synthesis, yet they suffer from slow training convergence and high computational cost. Two recent lines of work address this from complementary angles: Representation Alignment (REPA) accelerates DiT training by aligning intermediate features with a pretrained external representation model (e.g., DINOv2), while Representation Auto-Encoders (RAE) replace the pixel-space VAE with a compact representation-space tokenizer learned from self-supervised features. However, these approaches are developed and applied in isolation: REPA still relies on a pixel-space VAE for latent diffusion, and RAE does not exploit the alignment signal that accelerates the diffusion backbone. We present \textbf{UniRA}, a unified framework that couples representation alignment and representation auto-encoding into a single objective. UniRA learns a representation-space tokenizer whose output serves simultaneously as the diffusion target and the alignment anchor, so the tokenizer, the diffusion backbone, and the external representation model are co-optimized. We give a theoretical result showing that this joint optimization preserves the representation quality of the external model while accelerating diffusion convergence, and we derive a principled weighting that balances the reconstruction, alignment, and generation objectives. On ImageNet class-conditional generation at 256*256 and 512*512, UniRA matches or surpasses state-of-the-art DiTs (SD3, REPA, RAE) in FID while reducing training steps by up to 5*. We further show that the unified representation space supports improved zero-shot classification and linear probing, confirming that generation and understanding benefit from a shared, aligned latent space.
- Abstract（参考訳）: 拡散変換器(DiT)は高忠実度画像合成において支配的なアーキテクチャとなっているが、訓練の収束が遅く、計算コストも高い。
Representation Alignment (REPA)は、中間機能を事前訓練された外部表現モデル(eg, DINOv2)と整列させることで、DiTトレーニングを加速する一方、Representation Auto-Encoders (RAE)は、ピクセル空間のVAEを、自己監督された特徴から学習したコンパクトな表現空間トークンーに置き換える。
しかし、これらのアプローチは独立に開発され、適用されている: REPAは依然として潜伏拡散のためにピクセル空間のVAEに依存しており、RAEは拡散バックボーンを加速するアライメント信号を利用していない。
我々は、表現アライメントと表現の自動エンコーディングを単一の目的に結合する統合フレームワークである \textbf{UniRA} を提示する。
UniRAは、出力が拡散ターゲットとアライメントアンカーと同時に機能する表現空間トークン化器を学習するため、トークン化器、拡散バックボーン、および外部表現モデルが共最適化される。
この共同最適化は、拡散収束を加速しながら外部モデルの表現品質を保ちつつ、再構成、アライメント、生成目的のバランスをとる原理的な重み付けを導出することを示す理論的な結果を与える。
ImageNetの256*256および512*512のクラス条件生成では、UniRAはトレーニングステップを最大5*まで削減しつつ、最先端のDiT(SD3、REPA、RAE)をFIDでマッチまたは超える。
さらに、統一表現空間は、ゼロショット分類と線形探索の改善をサポートし、共有されたアライメントされた潜在空間からの生成と理解の利益を確認する。
関連論文リスト
- Where Does Generative Difficulty Reside? An Empirical Study of Target Representations [62.54876287800644]
ターゲット表現は、イメージジェネレータが学ぶ必要がある分布を定義するが、しばしば交換可能なインターフェースとして扱われる。
マスク付き自己回帰整流モデルにおいて,生画素,SD-VAE潜伏剤,DINOv2,MAE表現-オートエンコーダの特徴について検討した。
その結果, 圧縮, 再構成忠実度, トークン次元, 可視的セマンティッククラスタリングは生成挙動を個別に予測できないことがわかった。
論文 参考訳（メタデータ） (2026-08-01T12:32:31Z) - Rarity-Aware Discrete Diffusion with Spatially Consistent Decoding for Photo-Realistic Image Super-Resolution [80.28905986756685]
DiMOO-SRは光リアル画像超解法のための多モード離散拡散フレームワークである。
広く使われている実世界のSRベンチマークの実験では、DiMOO-SRはいくつかの並列デコードステップで競合する知覚品質を達成する。
論文 参考訳（メタデータ） (2026-07-20T07:01:01Z) - Improving Visual Representation Alignment Generation with GRPO [51.071351994330605]
拡散変換器は強い画像合成能力を示したが、弱いアライメントのため、列車には非効率である。
本稿では,REPAの静的アライメント損失を生成的表現ポリシー最適化の目的に置き換える,強化に基づく最適化戦略であるVRPOを提案する。
当社のVRPO駆動トレーニングは拡散トランスフォーマーにシームレスに統合され、無視可能なコストを導入し、SiTとDiTアーキテクチャとの完全な互換性を維持します。
論文 参考訳（メタデータ） (2026-05-30T07:21:40Z) - Beyond Point-Wise Matching: Structural Representation Alignment for Accelerating Diffusion Transformers [93.3976834364707]
本稿では,特徴写像のリレーショナル幾何における整合性を実現する構造的RePresentation AlignmentフレームワークであるsREPAを提案する。
モデルが事前訓練された特徴から全体的空間配置と構造的相関を内包するように促すことにより、sREPAはより高速でより安定した収束を達成する。
論文 参考訳（メタデータ） (2026-05-16T12:01:04Z) - Coevolving Representations in Joint Image-Feature Diffusion [13.292849179066993]
拡散を導く表現空間は、それ自体が生成タスクに適応すべきである。
学習中に意味表現空間が進化するフレームワークであるCoevolving Diffusion Representation (CoReDi)を提案する。
実験により、CoReDiは、固定表現空間で動作する連成拡散モデルと比較して、より高速な収束とより高いサンプル品質を実現することが示された。
論文 参考訳（メタデータ） (2026-04-19T15:29:15Z) - End-to-End Training for Unified Tokenization and Latent Denoising [82.91537591286554]
統一トークン化と潜伏拡散のためのオートエンコーダアーキテクチャUNITEを提案する。
UNITEは、画像トークン化器と重量共有による潜伏ジェネレータの両方として機能するジェネレータで構成されている。
トークン化とスクラッチ生成の単一段階共同訓練が実現可能であることを示す。
論文 参考訳（メタデータ） (2026-03-23T17:59:49Z) - RPiAE: A Representation-Pivoted Autoencoder Enhancing Both Image Generation and Editing [37.46832944462102]
拡散モデルは画像生成と編集において支配的なパラダイムとなっている。
近年、事前に訓練された視覚表現モデルをトークンライザとして活用しようとする試みは、拡散特徴を表現特徴に整合させるか、凍結トークンライザとして直接表現エンコーダを再利用するかのいずれかである。
生成と編集の両方を改善する表現ベースのトークン化器であるRepresentation-Pivoted AutoEncoderを提案する。
論文 参考訳（メタデータ） (2026-03-19T17:54:43Z) - Cross Paradigm Representation and Alignment Transformer for Image Deraining [40.66823807648992]
クロスパラダイム表現・アライメント変換器(CPRAformer)を提案する。
その中心となる考え方は階層的な表現とアライメントであり、両方のパラダイムの強みを活用して画像再構成を支援する。
トランスフォーマーブロックでは,スパースプロンプトチャネル自己アテンション(SPC-SA)と空間画素改善自己アテンション(SPR-SA)の2種類の自己アテンションを使用する。
論文 参考訳（メタデータ） (2025-04-23T06:44:46Z) - SARA: Structural and Adversarial Representation Alignment for Training-efficient Diffusion Models [12.26595705520937]
マルチレベル表現制約を強制する階層的アライメントフレームワークであるSARAを紹介する。
ImageNet-256の実験では、SARAはREPAの2倍の速さで1.36のFIDを達成した。
論文 参考訳（メタデータ） (2025-03-11T10:17:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。