論文の概要: Diffusion Image Generation with Explicit Modeling of Data Manifold Geometry

• arxiv url: http://arxiv.org/abs/2606.00094v1
• Date: Mon, 25 May 2026 08:43:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-02 21:34:27.885116
• Title: Diffusion Image Generation with Explicit Modeling of Data Manifold Geometry
• Title（参考訳）: データマニフォールド幾何の明示的モデリングによる拡散画像生成
• Authors: Duoduo Xue, Zhiyu Zhu, Junhui Hou,
• Abstract要約: 画像生成モデルは、基礎となるデータ多様体からデータポイントをサンプリングすることを目的としている。 データマニフォールド対応画像差分法(MIND)を提案する。 MINDは離散パッチトークン化を連続拡散モデルのスコア関数に統合する。
• 参考スコア（独自算出の注目度）: 64.61931485161833
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Image generative models aim to sample data points from the underlying data manifold, a task that requires learning and decoding a dense, low-dimensional, and compact parameterization space. To achieve this, we propose the Data Manifold-aware Image diffusioN moDel (MIND), a novel framework that explicitly models manifold geometry by integrating discrete patch tokenization into the score function of a continuous diffusion model. This approach successfully leverages both the structural quantification capabilities of discrete tokens and the parallel generation flexibility of continuous diffusion. Moreover, we enable end-to-end differentiable training via a novel soft top-$k$ aggregation mechanism and introduce dual-branch high-frequency feature embedding layers to alleviate the spectral bias of transformer backbones on low-dimensional inputs. Furthermore, for inference, we design a multi-stage transition sampling scheme that dynamically adjusts the sampling scheme based on timestep. Extensive experiments on ImageNet 256$\times$256 demonstrate the effectiveness of MIND. After 80-epoch training, our base model achieves an FID of 22.73 without guidance, nearly halving the 43.47 FID of the vanilla DiT-B/2 baseline. The proposed method reduces FID by 15.95 and 9.06 on average compared with the baselines DiT and SiT, respectively. For image generation on ImageNet-256$\times$256 with guidance, the proposed MIND-B with only 130M parameters achieves an FID of 2.06, superpassing the LlamaGen-3B with 3.1B parameters. The proposed MIND-XL with 715M parameters further reduces the FID to 1.95. Our MIND introduces a fresh perspective on diffusion-based image generation, paving the way for future research and innovation in this community. The code will be publicly available.
• Abstract（参考訳）: 画像生成モデルは、高密度で低次元でコンパクトなパラメータ化空間の学習と復号を必要とするタスクである、基礎となるデータ多様体からデータポイントをサンプリングすることを目的としている。 これを実現するために,離散パッチトークン化を連続拡散モデルのスコア関数に組み込むことで,多様体の幾何学を明示的にモデル化する新しいフレームワークであるData Manifold-aware Image diffusioN moDel (MIND)を提案する。 このアプローチは離散トークンの構造的定量化能力と連続拡散の並列生成柔軟性の両方をうまく活用する。 さらに,新しいソフトトップ-k$アグリゲーション機構によるエンドツーエンドの微分可能トレーニングを実現し,低次元入力におけるトランスフォーマーバックボーンのスペクトルバイアスを軽減するために,デュアルブランチの高周波特徴埋め込み層を導入する。 さらに、推測のために、時間ステップに基づいてサンプリングスキームを動的に調整する多段階遷移サンプリングスキームを設計する。 ImageNet 256$\times$256の大規模な実験は、MINDの有効性を実証している。 80-epoch トレーニング後, ベースモデルは誘導なしで22.73 FIDを達成し, バニラ DiT-B/2 ベースラインの 43.47 FID をほぼ半減した。 提案手法は, ベースラインのDiTおよびSiTと比較してFIDを平均15.95, 9.06削減する。 ImageNet-256$\times$256の画像生成には、わずか130MパラメータのMIND-Bが2.06のFIDを達成し、3.1BパラメータのLlamaGen-3Bを超越する。 提案された 715M パラメータを持つ MIND-XL は FID をさらに 1.95 に削減する。 我々のMINDは、拡散に基づく画像生成の新しい視点を導入し、このコミュニティにおける将来の研究とイノベーションの道を開く。 コードは公開されます。

関連論文リスト

• Reconstruction vs. Generation: Taming Optimization Dilemma in Latent Diffusion Models [33.519892081718716]
  本稿では,視覚トークン化器のトレーニングにおいて,潜在空間と事前学習された視覚基盤モデルとの整合性を提案する。 提案するVA-VAEは遅延拡散モデルの再構成世代フロンティアを著しく拡張する。 私たちは、LightningDiTと呼ばれるトレーニング戦略とアーキテクチャ設計を改善した拡張DiTベースラインを構築します。
  論文  参考訳（メタデータ） (2025-01-02T18:59:40Z)
• Enhancing and Accelerating Diffusion-Based Inverse Problem Solving through Measurements Optimization [66.17291150498276]
  textbfMeasurements textbfOptimization (MO)は,逆問題解決プロセスの各ステップで計測情報を統合するための,より効率的なプラグイン・アンド・プレイモジュールである。 MOを使用することで、複数のタスクにまたがる最新技術(SOTA)のパフォーマンスを確立することができ、大きな利点があります。
  論文  参考訳（メタデータ） (2024-12-05T07:44:18Z)
• Binarized Diffusion Model for Image Super-Resolution [61.963833405167875]
  超圧縮アルゴリズムであるバイナリ化は、高度な拡散モデル(DM)を効果的に加速する可能性を提供する 既存の二項化法では性能が著しく低下する。 画像SRのための新しいバイナライズ拡散モデルBI-DiffSRを提案する。
  論文  参考訳（メタデータ） (2024-06-09T10:30:25Z)
• Directly Denoising Diffusion Models [6.109141407163027]
  数ステップのサンプリングで現実的な画像を生成するための単純で汎用的なアプローチであるDDDM(Directly Denoising Diffusion Model)を提案する。 本モデルでは, CIFAR-10のFIDスコアを1段階, 2段階のサンプリングで2.57と2.33とし, GANと蒸留モデルから得られたFIDスコアをそれぞれ上回った。 ImageNet 64x64の場合、当社のアプローチは主要なモデルに対する競争相手として機能します。
  論文  参考訳（メタデータ） (2024-05-22T11:20:32Z)
• Multilevel Diffusion: Infinite Dimensional Score-Based Diffusion Models for Image Generation [2.5556910002263984]
  スコアベース拡散モデル (SBDM) は画像生成のための最先端のアプローチとして登場した。 本稿では, 無限次元のSBDM, すなわち, 矩形領域でサポートされている関数としてトレーニングデータをモデル化する。 無限次元設定において、現在のSBDMアプローチの2つの欠点を克服する方法を実証する。
  論文  参考訳（メタデータ） (2023-03-08T18:10:10Z)
• StraIT: Non-autoregressive Generation with Stratified Image Transformer [63.158996766036736]
  Stratified Image Transformer(StraIT)は、純粋な非自己回帰(NAR)生成モデルである。 実験の結果,StraIT は NAR 生成を著しく改善し,既存の DM および AR 手法より優れていた。
  論文  参考訳（メタデータ） (2023-03-01T18:59:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。