論文の概要: DecQ: Detail-Condensing Queries for Enhanced Reconstruction and Generation in Representation Autoencoders
- arxiv url: http://arxiv.org/abs/2605.22777v1
- Date: Thu, 21 May 2026 17:34:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 20:14:18.612462
- Title: DecQ: Detail-Condensing Queries for Enhanced Reconstruction and Generation in Representation Autoencoders
- Title(参考訳): DecQ: 表現オートエンコーダの再構築と生成のための詳細凝縮クエリ
- Authors: Tianhang Wang, Yitong Chen, Wei Song, Zuxuan Wu, Min Li, Jiaqi Wang,
- Abstract要約: 表現オートエンコーダ(RAE)は、凍結した視覚基盤モデル(VFM)をトークン化器エンコーダとして利用する。
対照的に、微調整による再構成指向信号の統合は、事前訓練された意味空間を妨害し、生成的忠実度を低下させる。
本稿では,RAEの簡易かつ効果的なフレームワークであるDecQを提案する。具体的には,中間的VFM特徴から微細な情報を抽出する軽量な詳細化クエリを提案する。
- 参考スコア(独自算出の注目度): 50.02172864947277
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Representation Autoencoders (RAEs) leverage frozen vision foundation models (VFMs) as tokenizer encoders, providing robust high-level representations that facilitate fast convergence and high-quality generation in latent diffusion models. However, freezing the VFM inherently constrains its spatial reconstruction capacity, limiting fine-grained generation and image editing; in contrast, incorporating reconstruction-oriented signals via fine-tuning disrupts the pretrained semantic space and degrades generative fidelity. To address this trade-off, we propose DecQ, a simple yet effective framework for RAEs. Specifically, DecQ introduces lightweight detail-condensing queries that extract fine-grained information from intermediate VFM features through condenser modules. These queries are incorporated into the decoder to support reconstruction and are jointly generated with patch tokens during generative modeling. By aggregating information from both shallow and deep layers, DecQ effectively mitigates the reconstruction--generation trade-off, improving both reconstruction quality and generative performance. Our experiments demonstrate that: (1) with only 8 additional queries and 3.9% extra computation, DecQ improves reconstruction over the frozen DINOv2-based RAE, increasing PSNR from 19.13 dB to 22.76 dB; and (2) for generative modeling, DecQ achieves 3.3$\times$ faster convergence than RAE, attaining an FID of 1.41 without guidance and 1.05 with guidance.
- Abstract(参考訳): 表現オートエンコーダ(RAE)は、凍結視覚基盤モデル(VFM)をトークン化器エンコーダとして利用し、遅延拡散モデルにおける高速収束と高品質生成を促進する堅牢な高レベル表現を提供する。
しかし、VFMの凍結は本質的に空間再構成能力を制限し、細粒度の生成と画像編集を制限している。
このトレードオフに対処するため、RAEのためのシンプルで効果的なフレームワークであるDecQを提案する。
具体的には、DecQでは、コンデンサモジュールを通じて中間VFM機能からきめ細かい情報を抽出する軽量な詳細コンデンサクエリを導入している。
これらのクエリは復号化をサポートするためにデコーダに組み込まれ、生成モデリング中にパッチトークンで共同生成される。
浅層と深層の両方からの情報を集約することにより、DecQは再生世代トレードオフを効果的に軽減し、再構築品質と生成性能の両方を改善する。
実験の結果, (1) 追加クエリ8件, 3.9% 余分な計算で, 凍結した DINOv2 ベースの RAE の再構成を改善し, PSNR を 19.13 dB から 22.76 dB に増加させ, (2) 生成モデルでは, DEQ は RAE よりも3.3$\times$ の高速収束を実現し, ガイダンスなしで 1.41 の FID と 1.05 を達成した。
関連論文リスト
- HDRFace: Rethinking Face Restoration with High-Dimensional Representation [47.1564555410251]
本稿では, 合成バックボーンを変更することなく, セマンティックにリッチな前処理を条件付きフローに注入する高次元表現条件付き顔復元フレームワークを提案する。
このパイプラインは、まず、オフザシェルフ修復器を用いて構造的に信頼性の高い中間修復を行い、次にトレーニング済みの高次元特徴エンコーダを用いて、低品質入力と中間結果の両方からきめ細かな顔の表現を抽出する。
さらに,構造モデリング時の大域的制約を強調し,詳細合成時の表現指導を強化する構造細部対応型核融合機構であるSDFMを紹介する。
論文 参考訳(メタデータ) (2026-05-14T13:31:24Z) - Improving Reconstruction of Representation Autoencoder [52.817427902597416]
低レベル情報を欠いた意味的特徴を増強する表現オートエンコーダLV-RAEを提案する。
実験により,LV-RAEは意味的抽象化を保ちながら,再構成の忠実度を著しく向上することが示された。
論文 参考訳(メタデータ) (2026-02-09T13:12:35Z) - DINO-SAE: DINO Spherical Autoencoder for High-Fidelity Image Reconstruction and Generation [47.409626500688866]
本稿では,DINO Spherical Autoencoder(DINO-SAE)について述べる。
提案手法は, 既修のVFMと強いセマンティックアライメントを維持しつつ, 0.37 rFID と 26.2 dB PSNR に到達し, 最先端の再現性を実現する。
論文 参考訳(メタデータ) (2026-01-30T12:25:34Z) - iFSQ: Improving FSQ for Image Generation with 1 Line of Code [40.61338660155903]
FSQの活性化関数を分布マッチングマッピングに置き換えて、均一な事前処理を行う方法を示す。
この単純な戦略は、1行のコードしか必要としないが、数学的には最適なビン利用と再構築精度の両方を保証している。
我々は、Representation Alignment(REPA)をARモデルに適用し、LlamaGen-REPAを生成することで分析を拡張した。
論文 参考訳(メタデータ) (2026-01-23T19:00:35Z) - VQRAE: Representation Quantization Autoencoders for Multimodal Understanding, Generation and Reconstruction [83.50898344094153]
VQRAEは、イメージ理解のための連続的セマンティック機能と、統一トークン化器内での視覚生成のためのトークンを生成する。
デザインは、多モーダル理解、離散トークンの能力を維持するために、無視可能な意味情報を可能にする。
VQRAEは、視覚的理解、生成、再構築のベンチマークで競合性能を示す。
論文 参考訳(メタデータ) (2025-11-28T17:26:34Z) - Epsilon-VAE: Denoising as Visual Decoding [61.29255979767292]
復号化は1段階の再構成から反復的改良へと移行する。
具体的には、デコーダを拡散処理に置き換え、ノイズを反復的に改善して元の画像を復元する。
拡散による反復的再構成により, 自己エンコーダであるEpsilon-VAEは高い再構成品質を実現する。
論文 参考訳(メタデータ) (2024-10-05T08:27:53Z) - VQ-NeRF: Vector Quantization Enhances Implicit Neural Representations [25.88881764546414]
VQ-NeRFは、ベクトル量子化による暗黙の神経表現を強化するための効率的なパイプラインである。
圧縮および原スケールの両スケールでNeRFモデルを同時に最適化する,革新的なマルチスケールNeRFサンプリング方式を提案する。
我々は3次元再構成の幾何学的忠実度とセマンティックコヒーレンスを改善するためにセマンティックロス関数を組み込んだ。
論文 参考訳(メタデータ) (2023-10-23T01:41:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。