論文の概要: FuseReg: Regularizing Layer Fusion Mitigates the Reconstruction-Generation Gap in Representation Autoencoders

• arxiv url: http://arxiv.org/abs/2609.31620v2
• Date: Mon, 28 Sep 2026 03:23:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-29 21:31:51.861251
• Title: FuseReg: Regularizing Layer Fusion Mitigates the Reconstruction-Generation Gap in Representation Autoencoders
• Title（参考訳）: FuseReg: 正規化層融合は表現オートエンコーダの再構成・生成ギャップを緩和する
• Abstract要約: 機能選択をエンコーダ層のランダムなサブセット上でのトレーニングに置き換えるFuseRegを導入する。 DINOv3-LのImageNet-256では、1つのFuseRegデコーダがリトレーニングなしでフル、スパース、シングルレイヤのフュージョンから再構成される。 両方のステージにFuseRegを適用することで、非ガイダンスgFIDもDiT-Baseで29%削減される。
• 参考スコア（独自算出の注目度）: 43.315583868805355
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Representation autoencoders (RAEs) reuse features from a pretrained visual encoder as reconstruction and diffusion latents, integrating strong visual representations into image generation. However, RAEs still need to decide which encoder layers form the shared latent space for the generator and pixel decoder. This choice involves a trade-off: shallower layers tend to preserve fine pixel details better, while deeper layers tend to yield better generation metrics. A fixed heuristic layer fusion therefore couples two stages that benefit from different information. We introduce FuseReg, which replaces heuristic feature selection with training over random subsets of encoder layers. We theoretically analyze the underlying mechanism: subset sampling preserves the full-layer latent mean in expectation while explicitly penalizing sensitivity to cross-layer disagreement. On ImageNet-256 with DINOv3-L, a single FuseReg decoder reconstructs from full, sparse, and single-layer fusions without retraining, achieving higher PSNR than decoders specialized to fixed fusions. This flexibility also benefits generation: decoder replacement alone reduces unguided gFID by 27% with an unchanged RAEv2 DiT-XL generator. Applying FuseReg to both stages also reduces unguided gFID by 29% on DiT-Base. The reconstruction and generation benefits also extend to other encoder families. FuseReg narrows the reconstruction-generation gap without additional training cost or architectural changes.
• Abstract（参考訳）: 表現オートエンコーダ(RAE)は、事前訓練された視覚エンコーダから、画像生成に強力な視覚表現を統合することで、再構成および拡散潜時として機能を再利用する。 しかしながら、RAEは、ジェネレータとピクセルデコーダの共有潜在空間を構成するエンコーダ層を決定する必要がある。 この選択にはトレードオフが伴う: より浅いレイヤは細かなピクセルの詳細をよりよく保存する傾向にあり、深いレイヤはより良い生成メトリクスを生成する傾向にある。 したがって、固定ヒューリスティック層融合は異なる情報から恩恵を受ける2つの段階を結合する。 我々は、ヒューリスティックな特徴選択をエンコーダ層のランダムなサブセットのトレーニングに置き換えるFuseRegを紹介した。 サブセットサンプリングは、層間不一致に対する感度を明示的に低下させつつ、予想される全層潜伏平均を保ちながら、基礎となるメカニズムを理論的に解析する。 DINOv3-LのImageNet-256では、1つのFuseRegデコーダがリトレーニングなしでフル、スパース、シングルレイヤのフュージョンから再構成され、固定フュージョンに特化したデコーダよりも高いPSNRを達成する。 デコーダの交換だけで、RAEv2 DiT-XLジェネレータを変更せずに、誘導されていないgFIDを27%削減できる。 両方のステージにFuseRegを適用することで、非ガイダンスgFIDもDiT-Baseで29%削減される。 復元と生成の利点は、他のエンコーダファミリーにも及んでいる。 FuseRegは、追加のトレーニングコストやアーキテクチャの変更なしに、再構築世代間ギャップを狭める。

関連論文リスト

• Improved Baselines with Representation Autoencoders [61.47127824064028]
  表現オートエンコーダ(RAE)は、従来のVAEを事前訓練された視覚エンコーダに置き換える。 RAEを単純化し、改善する3つの洞察が得られます。 RAEv2はオリジナルのRAEよりも10倍以上早く収束する。
  論文  参考訳（メタデータ） (2026-05-18T12:42:34Z)
• Beyond the Last Layer: Multi-Layer Representation Fusion for Visual Tokenization [22.506725643003403]
  複数層のセマンティック抽象化の後, 残差が減衰しただけに, 低レベルの視覚的詳細が最終層に残っていることを示す。 エネルギー制約付きルーティングとインクリメンタル修正により,すべてのエンコーダ層を集約する軽量核融合モジュールDRoRAEを提案する。 ImageNet-256では、DRoRAEはrFIDを0.57から0.29に削減し、生成FIDを1.74から1.65に改善した。
  論文  参考訳（メタデータ） (2026-05-11T16:14:52Z)
• Diffusion Transformers with Representation Autoencoders [35.43400861279246]
  事前学習された自己エンコーダが拡散過程の遅延空間に画素をマッピングする潜在生成モデリングは拡散変換器(DiT)の標準戦略となっている。 ほとんどのDiTはオリジナルのVAEエンコーダに依存しており、いくつかの制限が課されている。 本研究では、VAEをトレーニングされたデコーダと組み合わせた事前訓練された表現エンコーダに置き換え、Representation Autoencoders (RAE) と呼ぶものを形成する。
  論文  参考訳（メタデータ） (2025-10-13T17:51:39Z)
• SSDD: Single-Step Diffusion Decoder for Efficient Image Tokenization [56.12853087022071]
  スケーリングとトレーニングの安定性を向上させるために,新しい画素拡散デコーダアーキテクチャを導入する。 蒸留を用いて, 拡散復号器の性能を効率よく再現する。 これによりSSDDは、敵の損失なしに訓練された単一ステップ再構成に最適化された最初の拡散デコーダとなる。
  論文  参考訳（メタデータ） (2025-10-06T15:57:31Z)
• Epsilon-VAE: Denoising as Visual Decoding [61.29255979767292]
  復号化は1段階の再構成から反復的改良へと移行する。 具体的には、デコーダを拡散処理に置き換え、ノイズを反復的に改善して元の画像を復元する。 拡散による反復的再構成により, 自己エンコーダであるEpsilon-VAEは高い再構成品質を実現する。
  論文  参考訳（メタデータ） (2024-10-05T08:27:53Z)
• Complexity Matters: Rethinking the Latent Space for Generative Modeling [65.64763873078114]
  生成的モデリングにおいて、多くの成功したアプローチは、例えば安定拡散のような低次元の潜在空間を利用する。 本研究では, モデル複雑性の観点から潜在空間を再考することにより, 未探索の話題に光を当てることを目的としている。
  論文  参考訳（メタデータ） (2023-07-17T07:12:29Z)
• Reducing Redundancy in the Bottleneck Representation of the Autoencoders [98.78384185493624]
  オートエンコーダは教師なしニューラルネットワークの一種であり、様々なタスクを解くのに使用できる。 本稿では,ボトルネック表現における特徴冗長性を明示的に罰する手法を提案する。 我々は,3つの異なるデータセットを用いた次元削減,MNISTデータセットを用いた画像圧縮,ファッションMNISTを用いた画像デノナイズという,さまざまなタスクにまたがってアプローチを検証した。
  論文  参考訳（メタデータ） (2022-02-09T18:48:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。