論文の概要: Intrinsic Distribution Matching

• arxiv url: http://arxiv.org/abs/2610.39633v1
• Date: Thu, 29 Oct 2026 08:57:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:10.067396
• Title: Intrinsic Distribution Matching
• Title（参考訳）: 固有分布マッチング
• Abstract要約: 1ステップと数ステップのテキスト・ツー・イメージ生成では、プロンプトで指定された詳細を正確にレンダリングする必要がある。 そこで本研究では,DMDの完全補正と特徴量の一致を保ち,標準偏差を補正するIDM(Intrinsic Distribution Matching)を提案する。 IDMは中国語と英語のLongText-Benchで94.25%、90.20%に達した。
• 参考スコア（独自算出の注目度）: 36.81303496873088
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: One-step and few-step text-to-image generation must accurately render the details specified in the prompt despite limited opportunities for refinement. Distribution matching distillation (DMD) uses score differences to bring the generated distribution closer to a reference distribution. Following prior work, we estimate this difference with internal velocity branches, avoiding a separate fake-score network. We ask whether an explicit moment constraint improves this learned score supervision. A decomposition of the reverse-KL field into a Gaussian moment component and a non-Gaussian residual identifies statistics that can be constrained explicitly. We introduce Intrinsic Distribution Matching (IDM), which retains the full DMD correction and matches feature means and per-coordinate standard deviations using the generator's exponential-moving-average (EMA) copy, requiring no external feature encoder. Experiments use full-parameter and low-rank adaptation (LoRA) tuning on Z-Image-Turbo 6B and Qwen-Image 20B. At two network evaluations, IDM reaches 94.25% and 90.20% on Chinese and English LongText-Bench, the highest scores among the compared methods at this budget. Controlled ablations show gains from the added moment loss, while generator EMA features perform competitively with an external DINOv2 encoder across the five reported metrics. Code is available at https://github.com/inclusionAI/IDM.
• Abstract（参考訳）: 一段階と二段階のテキスト・ツー・イメージ生成は、改良の機会が限られているにもかかわらず、プロンプトで指定された詳細を正確にレンダリングする必要がある。 分散マッチング蒸留(DMD)は、スコア差を利用して、生成された分布を基準分布に近づける。 先行研究の後、この差分を内部速度分岐で推定し、別のフェイクスコアネットワークを避ける。 明示的なモーメント制約が、この学習したスコアの監督を改善するかどうかを問う。 逆KL場のガウスモーメント成分への分解と非ガウス残差は、明示的に制約できる統計を同定する。 Intrinsic Distribution Matching (IDM)を導入し、DMDの完全補正と特徴量の一致を保ち、外部特徴エンコーダを必要とせず、ジェネレータの指数移動平均(EMA)コピーを用いて標準偏差を調整する。 実験ではZ-Image-Turbo 6BとQwen-Image 20Bでフルパラメータとローランク適応(LoRA)チューニングを使用する。 2つのネットワーク評価において、IDMは中国語と英語のLongText-Benchで94.25%、90.20%に達した。 一方、ジェネレータEMA機能は、5つの報告されたメトリクスで外部のDINOv2エンコーダと競合して動作する。 コードはhttps://github.com/inclusionAI/IDMで入手できる。

関連論文リスト

• Representation-Space MMD for Diffusion Language Models [15.375628891899437]
  平均最大離散性(MMD)を最小化する拡散言語モデル(DLM)のポストトレーニング手法を提案する。 我々は、離散モデルに対するポリシー勾配と、連続モデルに対する生成されたラテントによる直接微分を用いて、この目的を最適化する。 実験では、OpenWebText上での同等エントロピーにおける生成パープレキシティの低下と、GSM8K上での精度計算のトレードオフの改善が示されている。
  論文  参考訳（メタデータ） (2026-10-05T16:28:29Z)
• Coherence-Aware Distributional Evaluation of Open-Ended Text Generation [4.3363673706639885]
  グローバル・コヒーレンス・失敗の 中心的ボトルネックとしての表現です CHORD (Coherence-aware Hidden-state Open- Generation Reference Distance) は生成されたコーパスと人書きコーパスを符号化する。 結果は、信頼性の高い分布評価の中心として表現設計を確立する。
  論文  参考訳（メタデータ） (2026-09-28T03:44:27Z)
• What FID Hides: Detecting, Ranking, and Diagnosing Deviations in Generative Evaluation [6.078726431806193]
  生成モデルは通常、Fréchet Inception Distance(FID)とKernel Inception Distance(KID)によってランク付けされる。 ZIDは幅広い出発点を検出し、そのスコアは対応するスイープに沿って深刻度を増す。
  論文  参考訳（メタデータ） (2026-08-25T17:58:46Z)
• Reviving Any-Subset Autoregressive Models with Principled Parallel Sampling and Speculative Decoding [55.2480439325792]
  任意の順序言語モデルでは、正しい関節分布からトークンを並列にサンプリングする方法がオープンな問題である。 我々は,任意のサブセット自動回帰モデル (AS-ARM) という,異なるモデルのクラスが解を持っていることを発見した。 我々は,AS-ARMがベンチマークタスクを埋め込んだ200M未満のパラメータモデル間で最先端の性能を実現し,コード生成における50倍のモデルの性能とほぼ一致していることを示す。
  論文  参考訳（メタデータ） (2025-04-29T06:33:13Z)
• Continuous Speculative Decoding for Autoregressive Image Generation [27.308442169466975]
  連続的視覚自己回帰(AR)モデルは、画像生成において有望な性能を示す。 投機的復号化は 事実上 自己回帰推論を加速させた この研究は、低受理率、不整合出力分布、解析式のない修正分布からの課題に対処する。
  論文  参考訳（メタデータ） (2024-11-18T09:19:15Z)
• Efficient Distribution Matching of Representations via Noise-Injected Deep InfoMax [73.03684002513218]
  我々はDeep InfoMax(DIM)を拡張し、学習した表現を選択された事前分布に自動マッチングできるようにする。 このような修正により、一様かつ通常に分散した表現を学習できることを示す。 その結果,下流作業における性能とDMの品質の中間的なトレードオフが示唆された。
  論文  参考訳（メタデータ） (2024-10-09T15:40:04Z)
• Consistent Diffusion Models: Mitigating Sampling Drift by Learning to be Consistent [97.64313409741614]
  本稿では, モデルが生成したデータ上での予測が時間とともに一定であることを示す, 両立性特性を強制することを提案する。 CIFAR-10の条件および非条件生成とAFHQとFFHQのベースライン改良について,本研究の新たな訓練目標が得られた。
  論文  参考訳（メタデータ） (2023-02-17T18:45:04Z)
• Boundary of Distribution Support Generator (BDSG): Sample Generation on the Boundary [0.0]
  最近開発されたInvertible Residual Network (IResNet) とResidual Flow (ResFlow) を密度推定に利用した。 これらのモデルはまだ異常検出に使われていない。
  論文  参考訳（メタデータ） (2021-07-21T09:00:32Z)
• Learning to Match Distributions for Domain Adaptation [116.14838935146004]
  本稿では,ドメイン間分布マッチングを自動的に学習する学習 to Match (L2M)を提案する。 L2Mは、メタネットワークを用いてデータ駆動方式で分布整合損失を学習することにより、誘導バイアスを低減する。 公開データセットの実験は、SOTA法よりもL2Mの方が優れていることを裏付けている。
  論文  参考訳（メタデータ） (2020-07-17T03:26:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。