論文の概要: CountsDiff: A Diffusion Model on the Natural Numbers for Generation and Imputation of Count-Based Data
- arxiv url: http://arxiv.org/abs/2604.03779v1
- Date: Sat, 04 Apr 2026 16:06:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:18.766755
- Title: CountsDiff: A Diffusion Model on the Natural Numbers for Generation and Imputation of Count-Based Data
- Title(参考訳): CountsDiff: カウントベースデータの生成と計算のための自然数拡散モデル
- Authors: Renzo G. Soatto, Anders Hoel, Greycen Ren, Shorna Alam, Stephen Bates, Nikolaos P. Daskalakis, Caroline Uhler, Maria Skoularidou,
- Abstract要約: CountsDiff は自然数上の分布をモデル化する拡散フレームワークである。
我々は、CountsDiffの初期インスタンス化を提案し、それを自然画像データセット上で検証する。
そこで本研究では,単細胞RNA-seqインパルスによるCountsDiffの評価を行った。
- 参考スコア(独自算出の注目度): 13.773137893785984
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models have excelled at generative tasks for both continuous and token-based domains, but their application to discrete ordinal data remains underdeveloped. We present CountsDiff, a diffusion framework designed to natively model distributions on the natural numbers. CountsDiff extends the Blackout diffusion framework by simplifying its formulation through a direct parameterization in terms of a survival probability schedule and an explicit loss weighting. This introduces flexibility through design parameters with direct analogues in existing diffusion modeling frameworks. Beyond this reparameterization, CountsDiff introduces features from modern diffusion models, previously absent in counts-based domains, including continuous-time training, classifier-free guidance, and churn/remasking reverse dynamics that allow non-monotone reverse trajectories. We propose an initial instantiation of CountsDiff and validate it on natural image datasets (CIFAR-10, CelebA), exploring the effects of varying the introduced design parameters in a complex, well-studied, and interpretable data domain. We then highlight biological count assays as a natural use case, evaluating CountsDiff on single-cell RNA-seq imputation in a fetal cell and heart cell atlas. Remarkably, we find that even this simple instantiation matches or surpasses the performance of a state-of-the-art discrete generative model and leading RNA-seq imputation methods, while leaving substantial headroom for further gains through optimized design choices in future work.
- Abstract(参考訳): 拡散モデルは、連続領域とトークンベース領域の両方の生成タスクにおいて優れているが、それらの離散順序データへの応用はまだ未発達である。
自然数上の分布をネイティブにモデル化する拡散フレームワークであるCountsDiffを提案する。
CountsDiffは、生存確率スケジュールと明示的な損失重み付けという観点から直接パラメータ化することで、ブラックアウト拡散フレームワークを拡張した。
これにより、既存の拡散モデリングフレームワークで直接類似した設計パラメータによる柔軟性が導入される。
この再パラメータ化以外にも、CountsDiffは、非モノトーン逆軌道を許容する、連続時間トレーニング、分類子なしガイダンス、チャーン/リマッシングリバースダイナミクスを含む、カウントベースのドメインで以前は欠落していた、現代的な拡散モデルの特徴を導入している。
提案手法は,自然画像データセット(CIFAR-10, CelebA)上でのCountsDiffの初期インスタンス化と検証を行い, 複雑な, よく研究され, 解釈可能なデータ領域において, 導入した設計パラメータを変動させる効果について検討する。
次に, 生体計測を自然症例として強調し, 胎児細胞および心臓細胞アトラスにおける単細胞RNA-seqインパクションに対するCountsDiffの評価を行った。
注目すべきは、この単純なインスタンス化でさえ、最先端の離散生成モデルとRNA-seqインプット法の性能にマッチするか、超越しているか、あるいは超越しているかである。
関連論文リスト
- Derivative-Free Guidance in Continuous and Discrete Diffusion Models with Soft Value-Based Decoding [84.3224556294803]
拡散モデルは、画像、分子、DNA、RNA、タンパク質配列の自然なデザイン空間を捉えるのに優れている。
これらの設計空間の自然性を保ちながら、下流の報酬関数を最適化することを目指している。
提案アルゴリズムは,中間雑音状態が将来高い報酬をもたらすことの先駆けとして,ソフトバリュー関数を統合する。
論文 参考訳(メタデータ) (2024-08-15T16:47:59Z) - Bayesian Flow Networks [4.197165999892042]
本稿では,ベイジアン・フロー・ネットワーク(BFN)について述べる。ベイジアン・フロー・ネットワーク(BFN)は,独立分布の集合のパラメータをベイジアン推論で修正した新しい生成モデルである。
単純な事前および反復的な2つの分布の更新から始めると、拡散モデルの逆過程に似た生成手順が得られる。
BFNは動的にバイナライズされたMNISTとCIFAR-10で画像モデリングを行うために競合するログライクフレーションを実現し、text8文字レベルの言語モデリングタスクにおいて既知のすべての離散拡散モデルより優れている。
論文 参考訳(メタデータ) (2023-08-14T09:56:35Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。