論文の概要: LLaDA-Image: Building Strong Image Generators with Fully Open Training Recipes

• arxiv url: http://arxiv.org/abs/2609.03796v1
• Date: Thu, 03 Sep 2026 13:02:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-04 18:28:39.062994
• Title: LLaDA-Image: Building Strong Image Generators with Fully Open Training Recipes
• Title（参考訳）: LLaDA-Image: 完全にオープンなトレーニングレシピを備えた強力なイメージジェネレータの構築
• Abstract要約: 我々は6B Diffusion Transformer (DiT) をスクラッチからトレーニングした統合フレームワークであるLLaDA-Imageを紹介した。 生成パイプラインは220万のサンプルで構成されており、98は実際のイメージである。 Qwen-Image-Benchでは、LLaDA-Imageがそれぞれ英語と中国語のトラックで53.53と53.38のスコアを獲得した。
• 参考スコア（独自算出の注目度）: 48.49432428628151
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: We introduce LLaDA-Image, a unified framework that pairs a 6B Diffusion Transformer (DiT) trained from scratch with a frozen vision-language understanding module built on the LLaDA2.0-Mini diffusion language model backbone. Instead of relying heavily on paired image-text data from the beginning, we first build a strong visual generative prior through image-only pre-training and mid-training. The generation pipeline comprises 220M samples, 98 of which are real images. For efficient and scalable optimization, we use parameter-free RMSNorm throughout the DiT together with the Muon optimizer. The resulting unified model produces highly photorealistic images while accurately following fine-grained editing instructions. We further distill LLaDA-Image into LLaDA-Image-Turbo, enabling fast inference in 2-4 sampling steps. On Qwen-Image-Bench, LLaDA-Image achieves overall scores of 53.53 and 53.38 on the English and Chinese tracks, respectively, setting a new state-of-the-art among open-source models on both tracks. To support further research on capable and efficient generative models, we release our model weights, training code, and detailed recipes.
• Abstract（参考訳）: LLaDA-Imageは、6B拡散変換器(DiT)をスクラッチから訓練し、LLaDA2.0-Mini拡散言語モデルバックボーン上に構築された凍結視覚言語理解モジュールと組み合わせた統合フレームワークである。 はじめからペア化された画像テキストデータに大きく依存するのではなく、まず画像のみの事前学習と中級学習を通じて、強力な視覚生成を構築できる。 生成パイプラインは220万のサンプルで構成されており、98は実際のイメージである。 効率的でスケーラブルな最適化のために、パラメータフリーなRMSNormをMuonオプティマイザとともにDiT全体にわたって使用します。 結果として得られた統一モデルは、きめ細かい編集命令を正確に追従しながら、非常にフォトリアリスティックな画像を生成する。 さらにLLaDA-Image-TurboにLLaDA-Imageを蒸留し、2-4ステップで高速な推論を可能にする。 Qwen-Image-Benchでは、LLaDA-Imageは、それぞれ英語と中国語のトラックで53.53と53.38のスコアを獲得し、両方のトラックでオープンソースモデルの間で新しい最先端のモデルが設定されている。 有能で効率的な生成モデルに関するさらなる研究を支援するため、モデルウェイト、トレーニングコード、詳細なレシピをリリースする。

関連論文リスト

• SeFi-Image: A Text-to-Image Foundation Model with Semantic-First Diffusion [0.0]
  SeFi-Imageはセマンティックファースト拡散に基づいて構築されたテキスト・ツー・イメージの基礎モデルである。 我々は,SeFi-Imageを3つのモデルスケール,1B,2B,5Bパラメータでインスタンス化する。 SeFi-ImageはGenEval, DPG, LongTextBench, OneIG, DMDG-2Kなど,幅広いベンチマークで高いパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2026-06-21T16:10:22Z)
• Nucleus-Image: Sparse MoE for Image Generation [5.769753912757775]
  我々はGenEval, DPG-Bench, OneIG-Benchの先頭モデルを超えるテキスト・画像生成モデルを提案する。 Nucleus-Imageはスパース・ミックス・オブ・エキスパート(MoE)拡散変圧器アーキテクチャを採用している。 我々は,700万枚の画像にまたがる1.5Bの高品質トレーニングペアからなる大規模トレーニングコーパスを構築した。
  論文  参考訳（メタデータ） (2026-04-14T00:43:23Z)
• Learning an Image Editing Model without Image Editing Pairs [83.03646586929638]
  最近の画像編集モデルは、自然言語編集の指示に従いながら印象的な成果を上げている。 それらは、インプットとターゲットのペアの大きなデータセットによる教師付き微調整に依存している。 現在の回避策は、既存のモデルのゼロショット機能を利用する合成トレーニングペアを使用する。 ペア化されたデータを完全に不要にする新たなトレーニングパラダイムを提案する。
  論文  参考訳（メタデータ） (2025-10-16T17:59:57Z)
• In-Context LoRA for Diffusion Transformers [49.288489286276146]
  テキスト・ツー・イメージのDiTは、チューニングなしでテキスト内生成を効果的に行うことができることを示す。 我々は、我々のモデル In-Context LoRA (IC-LoRA) を命名する。 我々のパイプラインは、プロンプトにより忠実な高忠実度画像セットを生成する。
  論文  参考訳（メタデータ） (2024-10-31T09:45:00Z)
• Scaling Autoregressive Multi-Modal Models: Pretraining and Instruction Tuning [115.50132185963139]
  CM3Leonはデコーダのみのマルチモーダル言語モデルであり、テキストと画像の両方を生成および埋め込むことができる。 これは、テキストのみの言語モデルに適応したレシピで訓練された最初のマルチモーダルモデルである。 CM3Leonは、同等の手法よりも5倍少ないトレーニング計算で、テキストから画像生成における最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-09-05T21:27:27Z)
• LLM-grounded Diffusion: Enhancing Prompt Understanding of Text-to-Image Diffusion Models with Large Language Models [62.75006608940132]
  本研究は,テキストから画像への拡散モデルにおいて,迅速な理解能力を高めることを提案する。 提案手法は,新たな2段階プロセスにおいて,事前訓練された大規模言語モデルを用いてグラウンドド生成を行う。 提案手法は,画像の正確な生成において,ベース拡散モデルといくつかの強いベースラインを著しく上回る。
  論文  参考訳（メタデータ） (2023-05-23T03:59:06Z)
• DINOv2: Learning Robust Visual Features without Supervision [75.42921276202522]
  この研究は、既存の事前学習手法、特に自己教師付き手法が、多様なソースから十分なキュレートされたデータで訓練すれば、そのような特徴を生み出すことができることを示している。 技術的な貢献の多くは、大規模なトレーニングを加速し、安定化することを目的としています。 データの観点からは、自己組織化されていないデータではなく、専用で多様でキュレートされた画像データセットを構築するための自動パイプラインを提案する。
  論文  参考訳（メタデータ） (2023-04-14T15:12:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。