論文の概要: Discrete Diffusion Models: A Unified Framework from Tokenization to Generation

• arxiv url: http://arxiv.org/abs/2607.13431v1
• Date: Wed, 15 Jul 2026 04:23:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-16 16:39:12.637548
• Title: Discrete Diffusion Models: A Unified Framework from Tokenization to Generation
• Title（参考訳）: 離散拡散モデル: トークン化から生成までの統一フレームワーク
• Abstract要約: この研究は、基礎となる離散状態空間の構築を通じて離散拡散モデルを見る統一的な概念的枠組みを導入する。 このフレームワーク内では、遷移行列、マスキング/吸収状態、スコア/比例に基づくアプローチを含む既存の定式化が、共通のデザイン空間の異なるインスタンス化として現れる。
• 参考スコア（独自算出の注目度）: 66.16696467962375
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Discrete denoising diffusion models (DDMs) have recently emerged as a compelling alternative to autoregressive (AR) modeling for discrete data, offering parallel generation and iterative global refinement capabilities. Unlike continuous diffusion, where the state space is fixed, DDMs are fundamentally shaped by how the discrete state space is constructed: the tokenization scheme, the vocabulary topology, and domain-specific structural alphabets. This work introduces a unified conceptual framework that views discrete diffusion models through the construction of the underlying discrete state space. Within this framework, existing formulations, including transition-matrix, masking/absorbing-state, and score/ratio-based approaches, emerge as different instantiations of a common design space. The framework further exposes common design trade-offs across training objectives, inference algorithms, scaling behavior, systems optimization, and evaluation protocols, suggesting several promising directions for future research.
• Abstract（参考訳）: 離散化拡散モデル(DDM)は、最近、離散データに対する自己回帰(AR)モデリングの魅力的な代替として登場し、並列生成と反復的グローバルリファインメント機能を提供している。 状態空間が固定された連続拡散とは異なり、DDMは、トークン化スキーム、語彙トポロジー、ドメイン固有の構造アルファベットといった離散状態空間の構築方法によって、根本的に形作られる。 この研究は、基礎となる離散状態空間の構築を通じて離散拡散モデルを見る統一的な概念的枠組みを導入する。 このフレームワーク内では、遷移行列、マスキング/吸収状態、スコア/比例に基づくアプローチを含む既存の定式化が、共通のデザイン空間の異なるインスタンス化として現れる。 このフレームワークはさらに、トレーニング目標、推論アルゴリズム、スケーリングの動作、システムの最適化、評価プロトコルの共通設計トレードオフを公開し、将来の研究に期待できる方向をいくつか提案している。

関連論文リスト

• Existence-Field Diffusion Model for Spatial Point Processes with Variable Cardinality [1.679937788852769]
  本研究では,空間点過程(SPP)の生成モデルについて検討し,各点数とその空間構成が共同分布によって制御されることを示した。 本研究では,空間点過程モデリングのための存在場拡散モデル (EFDM) を提案する。 これにより、空間的位置と基数の両方を明示的な離散遷移を必要とせずに共同でモデル化する統一拡散過程が実現される。
  論文  参考訳（メタデータ） (2026-07-29T03:15:32Z)
• DGSSM: Diffusion guided state-space models for multimodal salient object detection [9.56476470128145]
  厳密なオブジェクト検出には、長距離コンテキスト依存ときめ細かい構造の詳細の両方をモデル化する必要がある。 近年のMambaベースの状態空間アプローチは、効率的なグローバル推論を可能にするが、正確なオブジェクト境界の回復に苦慮することが多い。 本稿では,拡散誘導状態空間(Mamba)フレームワークであるDGSSMを提案する。
  論文  参考訳（メタデータ） (2026-04-19T19:19:33Z)
• Bridging the Discrete-Continuous Gap: Unified Multimodal Generation via Coupled Manifold Discrete Absorbing Diffusion [60.186310080523135]
  離散データ(テキスト)に対する自己回帰的アプローチと連続データ(画像)に対する拡散的アプローチへの生成的モデリングの分岐は、真に統一されたマルチモーダルシステムの開発を妨げる。 階層的二重プロセスとしてマルチモーダル生成を再構成する新しい確率的フレームワークである textbfCoM-DAD を提案する。 提案手法は、標準的なマスキングモデルよりも優れた安定性を示し、スケーラブルで統一されたテキスト画像生成のための新しいパラダイムを確立する。
  論文  参考訳（メタデータ） (2026-01-07T16:21:19Z)
• Foundations of Diffusion Models in General State Spaces: A Self-Contained Introduction [54.95522167029998]
  この記事は、一般状態空間上の拡散に関する自己完結プライマーである。 我々は、その連続時間限界とともに離散時間ビュー(マルコフカーネルを経由し、逆ダイナミクスを学習する)を開発する。 一般的な変量処理は、標準の訓練損失を支えるELBOをもたらす。
  論文  参考訳（メタデータ） (2025-12-04T18:55:36Z)
• Continuous Diffusion Model for Language Modeling [64.7425225935854]
  離散的データに対する既存の連続拡散モデルは離散的手法と比較して性能が劣る。 本稿では,下層の分類分布の幾何学を組み込んだ言語モデリングのための連続拡散モデルを提案する。 本手法は,既存の離散拡散モデルより優れ,自己回帰モデルの性能にアプローチする。
  論文  参考訳（メタデータ） (2025-02-17T08:54:29Z)
• Steering Masked Discrete Diffusion Models via Discrete Denoising Posterior Prediction [88.65168366064061]
  本稿では,確率論的推論の課題として,事前学習したMDMを操る作業を行う新しいフレームワークであるDDPPを紹介する。 私たちのフレームワークは、3つの新しい目標のファミリーにつながります。 Wet-lab Validation(ウェット・ラブ・バリデーション)を用いて,報酬最適化タンパク質配列の過渡的発現を観察する。
  論文  参考訳（メタデータ） (2024-10-10T17:18:30Z)
• Convergence Analysis of Discrete Diffusion Model: Exact Implementation through Uniformization [17.535229185525353]
  連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。 我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
  論文  参考訳（メタデータ） (2024-02-12T22:26:52Z)
• Variance-Preserving-Based Interpolation Diffusion Models for Speech Enhancement [53.2171981279647]
  本稿では,VP-および分散拡散(VE)に基づく拡散法の両方をカプセル化するフレームワークを提案する。 本研究では,拡散モデルで発生する一般的な困難を解析し,性能の向上とモデルトレーニングの容易化を図る。 我々は,提案手法の有効性を示すために,公開ベンチマークを用いたいくつかの手法によるモデルの評価を行った。
  論文  参考訳（メタデータ） (2023-06-14T14:22:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。