論文の概要: Sticky Jump Diffusions: A Unifying View of Masked, Continuous, and Hybrid Diffusion

• arxiv url: http://arxiv.org/abs/2607.10951v1
• Date: Sun, 12 Jul 2026 23:03:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-14 17:47:21.28571
• Title: Sticky Jump Diffusions: A Unifying View of Masked, Continuous, and Hybrid Diffusion
• Title（参考訳）: Sticky Jump Diffusions: Masked、Continuous、Hybrid Diffusionの統一的視点
• Authors: Pascal Jutras-Dubé, Patrick Pynadath, Jeremy Lu, Yuan Gao, Ruqi Zhang,
• Abstract要約: トークン埋め込みを個別のアンカーとする $mathbb Rd$ 上で Sticky Jump Diffusions (SJDs) を導入する。 前方では、アンカーはハザードレートで質量を放出し、放出された質量は連続した周囲空間で拡散する。 タイムリバーサルは、フォワード法則とのフラックスバランスによって、速度と目的地が固定された粘着ジャンプカーネルを備えたスコア駆動SDEを結合する。
• 参考スコア（独自算出の注目度）: 23.795460583709907
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce Sticky Jump Diffusions (SJDs), continuous-time Markov processes on $\mathbb R^d$ whose discrete anchors are token embeddings. In forward time, anchors release their mass at a hazard rate and the released mass diffuses in the continuous ambient space; time reversal couples a score-driven SDE with a sticky jump kernel whose rate and destination are fixed by flux balance with the forward law. We estimate the score and the per-anchor reverse hazards from a single denoising classifier via Denoising Hazard Matching, the hazard analogue of denoising score matching, with simulation-free cross-entropy training. SJD recovers masked diffusion, continuous diffusion, and hybrid diffusion as limits. Its reversal explains features that each family treats as given: the mask of masked diffusion carries no evidence about the source token because the unsticking kernel of every anchor collapses to the same absorbing point; the terminal projection of continuous diffusion is required due to the absence of atoms in its forward marginal, without which flux balance yields no reverse jumps; and the update rules of hybrid diffusion (commit rate, destination, and drift) all follow from flux balance rather than from separate design. Beyond these limits, the unsticking kernel becomes a design space: a cross-position blending corrupts each position toward a blend of its neighbors' clean values or embeddings, turning dependency structure such as spatial locality or a constraint graph into an inductive bias of the corruption itself, and improves over the identity-kernel hybrid on CIFAR-10, Text8, and Sudoku.
• Abstract（参考訳）: 我々は,トークン埋め込みを個別のアンカーとする$\mathbb R^d$上で連続的なマルコフ過程であるステッキージャンプ拡散(SJD)を導入する。 今後、アンカーはハザードレートで質量を放出し、放出された質量は連続した環境空間で拡散し、時間反転は、フォワード法則とフラックスバランスによって速度と目的地が固定されたステッキージャンプカーネルとスコア駆動SDEを結合する。 本研究は, 単音節分類器から, シミュレーション不要なクロスエントロピートレーニングを用いて, スコアマッチングのハザード類似体であるDenoising Hazard Matchingを用いて, スコアとアンカー毎の逆ハザードを推定する。 SJDはマスク拡散、連続拡散、ハイブリッド拡散を限界として回復する。 マスク拡散のマスクは、すべてのアンカーの非粘着核が同じ吸収点に崩壊するため、ソーストークンに関する証拠を一切持たない、連続拡散の終端投影は、フラックスバランスが逆跳躍を生じない前縁の原子が存在しないために必要であり、ハイブリッド拡散(コミット率、目的地、漂流)の更新規則は、それぞれ異なる設計からではなく、フラックスバランスから従う。 クロスポジションブレンディングは、隣人のクリーンな値や埋め込みのブレンドに向けて各位置を破損させ、空間的局所性や制約グラフのような依存構造を汚職自体の帰納的バイアスに変換し、CIFAR-10, Text8, Sudoku 上のアイデンティティとカーネルのハイブリッドよりも改善する。

関連論文リスト

• Disentangling Continuous-Time Latent Dynamics: Identifiability of Latent SDEs via Diffusion Shifts [60.95873409673775]
  連続時間潜在微分方程式モデルにおける識別可能性はほとんど開のままである。 未知の非線形微分同相を通じて観測される付加ノイズ潜在SDEについて検討した。 本稿では,2段階の遅延不整合とグラフ復元のための推定器を提案する。
  論文  参考訳（メタデータ） (2026-06-26T16:18:28Z)
• Measuring and Decomposing Mode Separation via the Canonical Diffusion [0.0]
  モード分離は密度の基本的な幾何学的性質であり、高次元での定量化が難しい。 密度に固有の1つのプロセスを通してモード分離を測定する。 i)合成ガウス混合物,(ii)SDXLテキスト・トゥ・イメージ世代,(ii)SSAとDAがエントロピーとPCAミスを捉えた構造,(iii)アラニンジペプチドの分子動力学,(iii)DAは静的サンプルから既知の遅いバックボーンを回収する。
  論文  参考訳（メタデータ） (2026-05-09T08:05:55Z)
• Rejection Mixing: Fast Semantic Propagation of Mask Tokens for Efficient DLLM Inference [58.189320101488725]
  DLLMは高速な非自己回帰推論を約束するが、並列デコーディングにおいて厳しい品質と速度のトレードオフを被る。 我々は、連続表現を離散デコードプロセスに統合することでこの問題に対処する。 本稿では,初期マスキング状態と最終復号化トークン状態の中間として,新しい連続混合状態を導入するフレームワークであるReMixを提案する。
  論文  参考訳（メタデータ） (2026-02-26T11:08:11Z)
• Foundations of Diffusion Models in General State Spaces: A Self-Contained Introduction [54.95522167029998]
  この記事は、一般状態空間上の拡散に関する自己完結プライマーである。 我々は、その連続時間限界とともに離散時間ビュー(マルコフカーネルを経由し、逆ダイナミクスを学習する)を開発する。 一般的な変量処理は、標準の訓練損失を支えるELBOをもたらす。
  論文  参考訳（メタデータ） (2025-12-04T18:55:36Z)
• Continuously Augmented Discrete Diffusion model for Categorical Generative Modeling [87.34677262370924]
  標準離散拡散モデルは、吸収[MASK]トークンにそれらをマッピングすることで、すべての観測されていない状態を同一に扱う。 これは'インフォメーション・ヴォイド'を生成します。そこでは、偽のトークンから推測できるセマンティック情報は、デノイングステップの間に失われます。 連続的拡張離散拡散(Continuously Augmented Discrete Diffusion)は、連続的な潜在空間における対拡散で離散状態空間を拡大するフレームワークである。
  論文  参考訳（メタデータ） (2025-10-01T18:00:56Z)
• Authentic Discrete Diffusion Model [72.31371542619121]
  認証離散拡散(ADD)フレームワークは、従来の擬似離散的アプローチを再定義する。 ADDはフロートエンコードされたワンホットクラスデータを直接使用して拡散入力を再構成する。 実験により、ADDはベースラインと比較して分類タスクにおいて優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-10-01T15:51:10Z)
• Mixed Variational Flows for Discrete Variables [14.00384446902181]
  連続的な埋め込みを伴わない離散分布のための変動流ファミリを開発した。 まず、測度保存および離散可逆写像(MAD)を開発し、離散的対象不変性を残した。 また、連立離散モデルおよび連続モデルを扱うMAD Mixの拡張も開発した。
  論文  参考訳（メタデータ） (2023-08-29T20:13:37Z)
• Diffusion-GAN: Training GANs with Diffusion [135.24433011977874]
  GAN(Generative Adversarial Network)は、安定してトレーニングすることが難しい。 フォワード拡散チェーンを利用してインスタンスノイズを生成する新しいGANフレームワークであるDiffusion-GANを提案する。 我々は,Diffusion-GANにより,最先端のGANよりも高い安定性とデータ効率で,よりリアルな画像を生成することができることを示す。
  論文  参考訳（メタデータ） (2022-06-05T20:45:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。