論文の概要: Nemotron-Labs-Diffusion-Uni: Elastic Self-Refining Unified Diffusion LLM with Cross-Paradigm On-Policy Distillation
- arxiv url: http://arxiv.org/abs/2610.36466v1
- Date: Tue, 27 Oct 2026 01:21:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-29 04:15:49.218547
- Title: Nemotron-Labs-Diffusion-Uni: Elastic Self-Refining Unified Diffusion LLM with Cross-Paradigm On-Policy Distillation
- Title(参考訳): ネモトロン-ラボ-拡散-ユニ:クロスパラダイムオンポリシィ蒸留を用いた弾性自己精製統一拡散LDM
- Abstract要約: ネモトロン・ラボ・ディフュージョン・ユニ (Nemotron-Labs-Diffusion-Uni, NLD-Uni) は、視覚的理解と生成のための統合離散拡散大言語モデル(DLLM)である。
本稿では,自己回帰型VLMの視覚的理解能力と連続流モデルによる視覚的生成能力の伝達を成功させる,統一型クロスパラダイム・オン・ポリシス蒸留(OPD)フレームワークを提案する。
NLD-Uniは、視覚的質問応答、マルチモーダル推論、オブジェクトグラウンドニング、テキスト・ツー・イメージ生成、画像編集など様々なタスクにおいて、統一M間の最先端性能を実現していることを示す。
- 参考スコア(独自算出の注目度): 81.61360852535309
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose Nemotron-Labs-Diffusion-Uni (NLD-Uni), a unified discrete diffusion large language model (DLLM) for visual understanding and generation tasks. Compared with prior unified diffusion models, NLD-Uni introduces two major innovations. First, we propose a unified cross-paradigm on-policy distillation (OPD) framework that successfully transfers the visual understanding ability of autoregressive VLMs and visual generation ability of continuous flow models, to a unified DLLM. Second, NLD-Uni incorporates a novel progressive self-refining diffusion process that gradually corrupts each token across multiple steps during training, as opposed to adopting the conventional masked diffusion formulation that directly corrupts a clean image token to an uninformative mask token. At inference, this design allows NLD-Uni to make intermediate commit to a token, enabling progressive self-refinement for better visual quality. Through extensive experiments, we show that NLD-Uni achieves state-of-the-art performance among unified DLLMs on diverse tasks including visual question-answering, multi-modal reasoning, object grounding, text-to-image generation, and image editing.
- Abstract(参考訳): 視覚的理解と生成のための統合離散拡散大言語モデル(DLLM)であるNemotron-Labs-Diffusion-Uni(NLD-Uni)を提案する。
従来の統合拡散モデルと比較すると、NLD-Uniは2つの大きな革新をもたらす。
まず, 自己回帰型VLMの視覚的理解能力と連続流モデルによる視覚的生成能力を統一DLLMに伝達する, クロスパラダイム・オン・ポリシス蒸留(OPD)フレームワークを提案する。
第2に、NLD-Uniは、新しい進歩的な自己精製拡散プロセスを導入し、トレーニング中に各トークンを段階的に劣化させる。
この設計により、NLD-Uniはトークンへの中間コミットが可能となり、プログレッシブ・セルフリファインメントにより視覚的品質が向上する。
広範にわたる実験により,NLD-Uniは,視覚的質問応答,マルチモーダル推論,オブジェクトグラウンド,テキスト・ツー・イメージ生成,画像編集など,多種多様なタスクにおいて,統一DLLM間の最先端性能を実現していることを示す。
関連論文リスト
- Less Uniform Discrete Diffusion is More Powerful and Scalable [25.356330849587305]
本稿では,新しいUDLMフレームワークであるLose Uniform Diffusion (LUDI)を提案する。
スケールにわたる実験では、LUDIはよりクリーンな監視と数ステップの生成を改善することが示されている。
マスク付き拡散ベースラインと比較して、ARデコーディングと競争性能の3段階のスピードアップを実現している。
論文 参考訳(メタデータ) (2026-09-21T13:25:07Z) - Omni-Diffusion: Unified Multimodal Understanding and Generation with Masked Discrete Diffusion [66.78268790956493]
オムニ・ディフュージョン(Omni-Diffusion)は、マスクベースの離散拡散モデルに基づいて構築された、最初の任意のマルチモーダル言語モデルである。
本手法は2つ以上のモダリティを処理する既存のマルチモーダルシステムに匹敵する性能または性能を示す。
論文 参考訳(メタデータ) (2026-03-06T18:59:57Z) - Learning Modal-Mixed Chain-of-Thought Reasoning with Latent Embeddings [39.4633015395276]
我々は、多モーダル推論をよりうまく扱うために、言語を超えてチェーン・オブ・シント(CoT)を拡張する方法について研究する。
テキストトークンをラテント埋め込みとして表現したコンパクトなビジュアルスケッチでインターリーブするモードミックスCoTを提案する。
我々の手法は言語のみの手法や他のCoT手法よりも優れた性能が得られる。
論文 参考訳(メタデータ) (2026-01-31T07:36:38Z) - Unleashing the Intrinsic Visual Representation Capability of Multimodal Large Language Models [58.91911788912665]
より識別的な視覚表現の学習において,MLLMの学習を容易にする新しい学習フレームワークであるLaVerを提案する。
本手法はMLLMに対して直接視覚的アクティベーションを提供し,視覚的アサインメントが増大し,視覚情報の利用が向上したことを示す。
論文 参考訳(メタデータ) (2025-12-06T04:20:13Z) - Latent Discrete Diffusion Models [18.979326092796896]
言語および他の分類データに対する離散拡散について検討する。
EmphLatent Discrete Diffusion Models (LDDM)を提案する。
i)トークンと潜伏剤の完全結合分解を行うFUJI-LDDMと(ii)シークエントを逐次分解するSEQ-LDDMの2つのインスタンスを提案する。
どちらの変種に対しても、ELBOスタイルの目的を導出し、ディファソインモデリングに適さない情報的潜伏者を学習するための設計選択について議論する。
論文 参考訳(メタデータ) (2025-10-20T21:26:52Z) - Bifrost-1: Bridging Multimodal LLMs and Diffusion Models with Patch-level CLIP Latents [55.82787697101274]
Bifrost-1は、事前訓練されたマルチモーダルLLM(MLLM)と拡散モデルをブリッジする統合フレームワークである。
予め訓練したMLLMと拡散モデルとパッチレベルのCLIPラプタントをシームレスに統合することにより,高忠実度制御可能な画像生成を実現する。
実験の結果,Bifrost-1は視覚的忠実度やマルチモーダル理解の観点から,従来の手法と同等あるいは優れた性能を達成できた。
論文 参考訳(メタデータ) (2025-08-08T02:38:47Z) - ILLUME+: Illuminating Unified MLLM with Dual Visual Tokenization and Diffusion Refinement [68.05833403672274]
既存の統一モデルでは、理解、生成、編集という3つの基本的な機能を統一モデルで扱うのに苦労している。
ILLUME+は、きめ細かいテクスチャとテキスト整合したセマンティクスを保存できる統合されたデュアルビジュアルトークンーであるDualViTokを導入した。
また、画像デトケナイザとして拡散モデルを用いて、生成品質と高効率超解像を実現する。
論文 参考訳(メタデータ) (2025-04-02T17:45:00Z) - Crossway Diffusion: Improving Diffusion-based Visuomotor Policy via
Self-supervised Learning [42.009856923352864]
拡散モデルは、シーケンス・モデリング方式で行動的クローニングに採用されている。
拡散に基づくビジュモータポリシー学習の簡易かつ効果的な手法であるクロスウェイ拡散を提案する。
シミュレーションおよび実世界のロボット作業におけるクロスウェイ拡散の有効性を実証した。
論文 参考訳(メタデータ) (2023-07-04T17:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。