論文の概要: HiRAE: Hierarchical Representation Autoencoding with Residual Budgets

• arxiv url: http://arxiv.org/abs/2609.37775v1
• Date: Tue, 29 Sep 2026 15:14:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.666891
• Title: HiRAE: Hierarchical Representation Autoencoding with Residual Budgets
• Title（参考訳）: Hirae: 残予算による階層的表現自動エンコーディング
• Abstract要約: HiRAEは、完全なエンコーダ階層上で階層的な融合フレームワークを学び、再構築の忠実性を改善する。 ImageNet-256では、HiRAE-24は再構成FIDをRAEv2と比較して0.299から0.209に削減する。 テキスト・ツー・イメージ生成では、HiRAE-24はGenEval、DPG-Bench、GenAI-Bench上のRAEv2のアライメントを改善している。
• 参考スコア（独自算出の注目度）: 25.589024600973346
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Pretrained visual representations support image generation, but may not fully preserve the fine-grained details needed for faithful reconstruction. Meanwhile, intermediate encoder layers contain complementary visual details, but learning to fuse them for reconstruction can produce a latent distribution that is difficult to model. Existing fusion methods require empirical tuning of layer selection or staged optimization of fusion and decoding, increasing configuration effort or training complexity. We introduce HiRAE (Hierarchical Representation Autoencoder), which learns a hierarchical fusion framework over the full encoder hierarchy to improve reconstruction fidelity while maintaining compatibility with generative modeling. HiRAE groups encoder layers by depth and learns residual corrections to the deepest representation. Group-wise norm caps bound these corrections relative to the deep anchor, with tighter budgets for shallower groups. Our HiRAE-24 preserves the latent token count and channel dimension. On ImageNet-256, HiRAE-24 reduces reconstruction FID from 0.299 to 0.209 relative to RAEv2 while maintaining competitive guided generation quality. For text-to-image generation, HiRAE-24 improves alignment over RAEv2 on GenEval, DPG-Bench, and GenAI-Bench both before and after supervised fine-tuning. Under the same generator-training and evaluation protocol, post-fine-tuning GenEval increases from 84.86 to 87.70.
• Abstract（参考訳）: 事前訓練された視覚表現は画像生成をサポートするが、忠実な再構築に必要な細部の詳細を完全に保存するわけではない。 一方、中間エンコーダ層は相補的な視覚的詳細を含むが、再構成のためにそれらを融合させる学習は、モデル化が難しい潜伏分布を生成することができる。 既存の融合法では、層選択の実証的なチューニングや、融合と復号の段階最適化、構成の労力の増大や訓練の複雑さの増大が必要となる。 階層的表現オートエンコーダ (HiRAE) を導入し, 階層的融合フレームワークを全エンコーダ階層上で学習し, 生成モデルとの整合性を維持しつつ, 再構成精度の向上を図る。 HiRAE は層を深さで符号化し、最も深い表現に対する残差補正を学習する。 グループワイドのノルムキャップは、より浅いグループに対するより厳格な予算で、深いアンカーに対してこれらの補正を拘束する。 我々のHiRAE-24は遅延トークン数とチャネル次元を保存する。 ImageNet-256では、HiRAE-24はRAEv2と比較して再構成FIDを0.299から0.209に削減し、競合ガイド付き生成品質を維持している。 テキスト・ツー・イメージ生成では、HiRAE-24は教師付き微調整の前後でGenEval, DPG-Bench, GenAI-Bench上のRAEv2のアライメントを改善する。 同じジェネレータトレーニングおよび評価プロトコルの下では、修正後のGenEvalは84.86から87.70に増加する。

関連論文リスト

• FuseReg: Regularizing Layer Fusion Mitigates the Reconstruction-Generation Gap in Representation Autoencoders [43.315583868805355]
  機能選択をエンコーダ層のランダムなサブセット上でのトレーニングに置き換えるFuseRegを導入する。 DINOv3-LのImageNet-256では、1つのFuseRegデコーダがリトレーニングなしでフル、スパース、シングルレイヤのフュージョンから再構成される。 両方のステージにFuseRegを適用することで、非ガイダンスgFIDもDiT-Baseで29%削減される。
  論文  参考訳（メタデータ） (2026-09-25T17:59:59Z)
• DecQ: Detail-Condensing Queries for Enhanced Reconstruction and Generation in Representation Autoencoders [50.02172864947277]
  表現オートエンコーダ(RAE)は、凍結した視覚基盤モデル(VFM)をトークン化器エンコーダとして利用する。 対照的に、微調整による再構成指向信号の統合は、事前訓練された意味空間を妨害し、生成的忠実度を低下させる。 本稿では,RAEの簡易かつ効果的なフレームワークであるDecQを提案する。具体的には,中間的VFM特徴から微細な情報を抽出する軽量な詳細化クエリを提案する。
  論文  参考訳（メタデータ） (2026-05-21T17:34:04Z)
• Improved Baselines with Representation Autoencoders [61.47127824064028]
  表現オートエンコーダ(RAE)は、従来のVAEを事前訓練された視覚エンコーダに置き換える。 RAEを単純化し、改善する3つの洞察が得られます。 RAEv2はオリジナルのRAEよりも10倍以上早く収束する。
  論文  参考訳（メタデータ） (2026-05-18T12:42:34Z)
• Both Semantics and Reconstruction Matter: Making Representation Encoders Ready for Text-to-Image Generation and Editing [62.94394079771687]
  急成長する傾向は、表現エンコーダの高次元特徴を生成的潜伏剤として採用することである。 生成タスクに理解指向のエンコーダ機能を適用するための体系的フレームワークを提案する。 提案手法は,テキスト・トゥ・イメージ(T2I)と画像編集タスクにおいて,最先端の再構築,収束の高速化,大幅な性能向上を実現する。
  論文  参考訳（メタデータ） (2025-12-19T18:59:57Z)
• One Layer Is Enough: Adapting Pretrained Visual Encoders for Image Generation [33.56782043207013]
  Feature Auto-Encoder (FAE) は、学習済みの視覚表現を、単一の注意層としてほとんど使用せずに生成に適した低次元の潜伏子に適応させる。 FAEはクラス条件とテキスト・ツー・イメージのベンチマークで高いパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2025-12-08T18:57:26Z)
• VQRAE: Representation Quantization Autoencoders for Multimodal Understanding, Generation and Reconstruction [83.50898344094153]
  VQRAEは、イメージ理解のための連続的セマンティック機能と、統一トークン化器内での視覚生成のためのトークンを生成する。 デザインは、多モーダル理解、離散トークンの能力を維持するために、無視可能な意味情報を可能にする。 VQRAEは、視覚的理解、生成、再構築のベンチマークで競合性能を示す。
  論文  参考訳（メタデータ） (2025-11-28T17:26:34Z)
• Epsilon-VAE: Denoising as Visual Decoding [61.29255979767292]
  復号化は1段階の再構成から反復的改良へと移行する。 具体的には、デコーダを拡散処理に置き換え、ノイズを反復的に改善して元の画像を復元する。 拡散による反復的再構成により, 自己エンコーダであるEpsilon-VAEは高い再構成品質を実現する。
  論文  参考訳（メタデータ） (2024-10-05T08:27:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。