論文の概要: Calibrating Generative Models to Feature Distributions with MMD Finetuning
- arxiv url: http://arxiv.org/abs/2606.19496v1
- Date: Wed, 17 Jun 2026 18:35:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-19 18:23:39.48684
- Title: Calibrating Generative Models to Feature Distributions with MMD Finetuning
- Title(参考訳): MMDファインタニングによる生成モデルと特徴分布のキャリブレーション
- Authors: Nathaniel L. Diamant, Brian L. Trippe,
- Abstract要約: カーネルキャリブレーション生成モデル(kCGM)は、生成された特徴分布とターゲット特徴分布の間の最大平均誤差(MMD)を最小限にする。
本研究では, 自己回帰, 連続空間拡散, 離散拡散モデルに適用可能であることを示す。
- 参考スコア(独自算出の注目度): 3.1307224895128214
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative models can produce individually plausible samples while deviating substantially from a target set in the distribution of key features. For example, a model pretrained on broad drug-like chemical space may generate molecules whose molecular features differ from those of a therapeutic class of interest, such as known antibiotics. Correcting such distributional miscalibration is challenging: direct finetuning on the target set can overfit and does not control which features are matched. To fill this gap, we introduce kernel Calibrating Generative Models (kCGM). kCGM minimizes a maximum mean discrepancy (MMD) between generated and target feature distributions using an unbiased score-function estimator, with KL regularization to remain close to the pretrained model. On a target set of 174 antibiotics, direct finetuning sacrifices chemical validity for feature-distribution matching, whereas kCGM improves target feature matching while increasing validity. We further demonstrate kCGM in protein and DNA generation tasks, showing it can adapt autoregressive, continuous-space diffusion, and discrete diffusion models using only feature-level supervision. Code is available at https://github.com/smithhenryd/cgm.
- Abstract(参考訳): 生成モデルは、主要な特徴の分布におけるターゲットセットからかなり逸脱しながら、個別にもっともらしいサンプルを生成することができる。
例えば、広い薬物のような化学空間で事前訓練されたモデルでは、分子の特徴が抗生物質のような治療のクラスとは異なる分子を生成することがある。
ターゲットセットの直接微調整は過度に適合し、どの特徴が一致しているかを制御できない。
このギャップを埋めるために、カーネルキャリブレーション生成モデル(kCGM)を導入する。
kCGMは、未バイアスのスコア関数推定器を用いて生成された特徴分布と目標特徴分布の最大平均誤差(MMD)を最小化し、KL正規化は事前訓練されたモデルに近づき続ける。
174種類の抗生物質の標的セットでは、直接微調整は特徴分布マッチングの化学的妥当性を犠牲にし、kCGMは目的特徴マッチングを改善し、有効性を高めた。
さらに, タンパク質およびDNA生成タスクにおいてkCGMを実証し, 自己回帰的, 連続空間拡散, 離散拡散モデルに適用可能であることを示した。
コードはhttps://github.com/smithhenryd/cgm.comで入手できる。
関連論文リスト
- Interpolating Discrete Diffusion Models with Controllable Resampling [49.771004594828405]
仮面拡散モデルは初期解凍による不可逆誤差に悩まされる。
自己補正が可能であるにもかかわらず、一様拡散モデルは、しばしば低品質のサンプルを生成する。
本稿では,中間潜伏状態への依存を減らすことで拡散を改善する補間離散拡散モデルを提案する。
論文 参考訳(メタデータ) (2026-04-19T07:55:57Z) - scDFM: Distributional Flow Matching Model for Robust Single-Cell Perturbation Prediction [12.48933770510505]
条件付きフローマッチングに基づく生成フレームワークである scDFM を提案する。
scDFMは、細胞レベルでの通信以上の個体群を混乱させ、制御する。
論文 参考訳(メタデータ) (2026-02-06T17:00:21Z) - Approximating Heavy-Tailed Distributions with a Mixture of Bernstein Phase-Type and Hyperexponential Models [0.20854674413792754]
多くの現実世界の応用でよく見られる重い尾の分布は、その緩やかな尾の崩壊のために正確にモデル化することは困難である。
本稿では,BPHとHEの分布のハイブリッドモデルを提案する。
論文 参考訳(メタデータ) (2025-10-30T14:16:43Z) - Composable Score-based Graph Diffusion Model for Multi-Conditional Molecular Generation [85.58520120011269]
本研究では,具体的スコアを用いてスコアマッチングを離散グラフに拡張するComposable Score-based Graph Diffusion Model (CSGD)を提案する。
CSGDは従来の手法よりも平均15.3%の制御性向上を実現していることを示す。
本研究は, 離散グラフ生成におけるスコアベースモデリングの実用的利点と, フレキシブルでマルチプロパタイトな分子設計のためのキャパシティを強調した。
論文 参考訳(メタデータ) (2025-09-11T13:37:56Z) - Generative Distribution Embeddings [1.3252809892089024]
本稿では,自動エンコーダを分散空間に引き上げるフレームワークである生成分布埋め込み(GDE)を紹介する。
GDEでは、エンコーダがサンプルの集合に作用し、デコーダは入力分布にマッチするジェネレータに置き換えられる。
GDEを計算生物学の6つの重要な問題に適用する。
論文 参考訳(メタデータ) (2025-05-23T17:58:57Z) - Potential Score Matching: Debiasing Molecular Structure Sampling with Potential Energy Guidance [11.562962976129292]
本稿では、ポテンシャルエネルギー勾配を利用して生成モデルを導出する手法として、ポテンシャルスコアマッチング(PSM)を提案する。
PSMは正確なエネルギー関数を必要とせず、限られた偏りのデータで訓練してもサンプル分布を偏りなくすることができる。
PSMにより生成された分子分布は従来の拡散モデルよりもボルツマン分布に近似していることを示す。
論文 参考訳(メタデータ) (2025-03-18T11:27:28Z) - Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
モデル反転攻撃(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。
従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。
これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
論文 参考訳(メタデータ) (2024-07-16T06:38:49Z) - Aligning Target-Aware Molecule Diffusion Models with Exact Energy Optimization [147.7899503829411]
AliDiffは、事前訓練されたターゲット拡散モデルと望ましい機能特性を整合させる新しいフレームワークである。
最先端の結合エネルギーを持つ分子を最大7.07 Avg. Vina Scoreで生成することができる。
論文 参考訳(メタデータ) (2024-07-01T06:10:29Z) - sc-OTGM: Single-Cell Perturbation Modeling by Solving Optimal Mass Transport on the Manifold of Gaussian Mixtures [0.9674145073701153]
sc-OTGMは、scRNAseqデータが生成される誘導バイアスに基づく教師なしモデルである。
sc-OTGMは細胞状態の分類、異なる遺伝子発現の解析、標的同定のための遺伝子ランキングに有効である。
また、下流遺伝子制御に対する単一遺伝子の摂動の影響を予測し、特定の細胞状態に条件付けられた合成scRNA-seqデータを生成する。
論文 参考訳(メタデータ) (2024-05-06T06:46:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。