論文の概要: An Empirical Study of Training Pixel-Space Text-to-Image Diffusion Models

• arxiv url: http://arxiv.org/abs/2608.16887v1
• Date: Mon, 17 Aug 2026 17:59:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.83518
• Title: An Empirical Study of Training Pixel-Space Text-to-Image Diffusion Models
• Title（参考訳）: 画素空間テキスト-画像拡散モデルの訓練に関する実証的研究
• Abstract要約: まず、画素空間における大規模事前学習は、潜在空間よりもかなり遅く収束する。 この観察は、潜時空間において効率よく生成前兆を取得し、後トレーニング中に画素空間に遷移する潜時画素戦略を動機付ける。 我々は、結果のピクセル空間モデルが潜在空間モデルと一致したり、性能を上回り、エンドツーエンドの推論速度を3.18～4.75倍に向上させる実用的なレシピを同定する。
• 参考スコア（独自算出の注目度）: 23.42843985674401
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper investigates an increasingly important topic in generative modeling: pixel-space diffusion models. Although numerous studies have explored this topic, most focus on small-scale or class-conditional settings. Consequently, a practical recipe for training pixel-space models that rival or exceed well-established latent-space counterparts remains elusive. Through a comprehensive empirical study, we first observe that direct large-scale pre-training in pixel space converges substantially more slowly than in latent space. This observation motivates a latent-to-pixel strategy that acquires generative priors efficiently in latent space and transitions to pixel space during post-training. We then systematically investigate the key design choices governing this transition, including weight initialization, data composition, prediction target, decoder architecture, and noise schedule, and identify a practical recipe that makes the resulting pixel-space models match or outperform their latent-space counterparts while delivering 3.18 to 4.75 times end-to-end inference speedups. We hope that our findings provide useful empirical insights and practical guidelines for future research on pixel-space generation.
• Abstract（参考訳）: 本稿では, 画素空間拡散モデルという, 生成モデルにおける重要な話題について考察する。 多くの研究がこの話題を探求しているが、ほとんどの研究は小規模またはクラス条件の設定に焦点を当てている。 結果として、確立された潜在空間モデルに匹敵する、あるいは超越したピクセル空間モデルを訓練するための実践的なレシピは、いまだ解明されていない。 総合的な実証研究を通じて、ピクセル空間における大規模な事前学習は、潜在空間よりもかなりゆっくりと収束する。 この観察は、潜時空間において効率よく生成前兆を取得し、後トレーニング中に画素空間に遷移する潜時画素戦略を動機付ける。 次に,重み付け初期化,データ構成,予測対象,デコーダアーキテクチャ,ノイズスケジュールなど,この移行を規定する重要な設計選択を体系的に検討し,得られた画素空間モデルが潜在空間モデルと一致または性能を向上する実用的なレシピを特定し,エンドツーエンドの推論速度を3.18～4.75倍に向上させる。 今後のピクセル空間生成研究に有用な経験的洞察と実践的ガイドラインを提供することを願っている。

関連論文リスト

• Vision Pretraining for Dense Spatial Perception [69.54043654361772]
  我々は境界中心レンズによる視力事前訓練について研究し、境界と形状の不連続性が幾何学的性質の知覚に必須の手がかりとなるという前提によって動機づけられた。 その結果,境界モデリングは単純な線分を超えて,空間的に構造化された視覚表現を学習するためのスケーラブルな事前学習原理として機能することがわかった。
  論文  参考訳（メタデータ） (2026-07-06T15:56:14Z)
• SpaceEra++: A Unified Framework Towards 3D Spatial Reasoning in Video [88.79625979053873]
  事前学習型視覚言語モデル(VLM)のための新しいフレームワークSpaceEraを提案する。 データ構築、モデル設計、トレーニング最適化、推論の促進にまたがる、SpaceEra++と呼ばれる、オリジナルのフレームワークを包括的なシステムに拡張します。 さらに,空間的推論を強化するために,絶対座標と相対空間関係を協調的に利用することにより,対物制約を強制するSpaceAlignを開発した。
  論文  参考訳（メタデータ） (2026-07-02T06:56:29Z)
• Context-Aware Multimodal Representation Learning for Spatio-Temporally Explicit Environmental Modelling [3.3984815208531014]
  本稿では,高時間分解能で異なるモダリティを統一空間に統合する表現学習フレームワークを提案する。 提案手法は,クラウドフリーのSentinel-2データの時間周波数と10mのネイティブ解像度で遅延空間を生成する。 これにより、モデルが補完的なリモートセンシングデータをキャプチャし、空間と時間のコヒーレンスを保存することができる。
  論文  参考訳（メタデータ） (2025-11-12T15:34:17Z)
• Pixel Reasoner: Incentivizing Pixel-Space Reasoning with Curiosity-Driven Reinforcement Learning [45.63567333867604]
  連鎖推論は、大規模言語モデルの性能を大幅に改善した。 画素空間における推論の概念を紹介する。 このアプローチが視覚言語モデルを大幅に改善することを示します。
  論文  参考訳（メタデータ） (2025-05-21T19:35:08Z)
• Ground-based image deconvolution with Swin Transformer UNet [2.41675832913699]
  Swin Transformerアーキテクチャを用いた2段階のデコンボリューションフレームワークを提案する。 我々の研究は、ディープラーニングベースのソリューションが、科学的分析の範囲を制限してバイアスをもたらすことを明らかにした。 本稿では,スポーシティウェーブレットフレームワークの活性係数に依存する新しい第3ステップを提案する。
  論文  参考訳（メタデータ） (2024-05-13T15:30:41Z)
• Leveraging Demonstrations with Latent Space Priors [90.56502305574665]
  本稿では,スキル学習とシーケンスモデリングを組み合わせることで,実演データセットを活用することを提案する。 本研究では、国家のみのモーションキャプチャーの実証から、そのような先行情報をどうやって取得するかを示し、政策学習に組み込むためのいくつかの方法を探る。 実験結果から, 学習速度と最終性能において, 遅延空間が顕著に向上することが確認された。
  論文  参考訳（メタデータ） (2022-10-26T13:08:46Z)
• LiP-Flow: Learning Inference-time Priors for Codec Avatars via Normalizing Flows in Latent Space [90.74976459491303]
  実行時入力に条件付けされた先行モデルを導入し、この先行空間を潜伏空間の正規化フローを介して3次元顔モデルに結びつける。 正規化フローは2つの表現空間をブリッジし、潜在サンプルをある領域から別の領域に変換することで、潜在可能性の目的を定義する。 提案手法は,表情のダイナミックスや微妙な表現をよりよく捉えることによって,表現的かつ効果的に先行することを示す。
  論文  参考訳（メタデータ） (2022-03-15T13:22:57Z)
• Incorporating Texture Information into Dimensionality Reduction for High-Dimensional Images [65.74185962364211]
  距離ベース次元削減手法に周辺情報を組み込む手法を提案する。 画像パッチを比較する異なる手法の分類に基づいて,様々なアプローチを探索する。
  論文  参考訳（メタデータ） (2022-02-18T13:17:43Z)
• Filtered-CoPhy: Unsupervised Learning of Counterfactual Physics in Pixel Space [43.654464513994164]
  高次元データ(画像,ビデオ)における因果関係の学習方法を提案する。 我々の手法は、いかなる根拠となる真実の位置や他の対象物やシーン特性の知識や監督も必要としない。 我々は,画素空間における予測のための新しい挑戦的かつ慎重に設計された反実的ベンチマークを導入する。
  論文  参考訳（メタデータ） (2022-02-01T12:18:30Z)
• SimIPU: Simple 2D Image and 3D Point Cloud Unsupervised Pre-Training for Spatial-Aware Visual Representations [85.38562724999898]
  我々はSimIPUと呼ばれる2Dイメージと3Dポイントクラウドの教師なし事前学習戦略を提案する。 具体的には、モーダル内空間認識モジュールとモーダル間特徴相互作用モジュールからなるマルチモーダルコントラスト学習フレームワークを開発する。 我々の知る限りでは、屋外マルチモーダルデータセットに対する対照的な学習事前学習戦略を探求する最初の研究である。
  論文  参考訳（メタデータ） (2021-12-09T03:27:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。