論文の概要: Kernel-Gradient Drifting Models
- arxiv url: http://arxiv.org/abs/2605.10727v1
- Date: Mon, 11 May 2026 15:33:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.944332
- Title: Kernel-Gradient Drifting Models
- Title(参考訳): カーネル勾配ドリフトモデル
- Authors: Maria Esteban-Casadevall, Jorge Carrasco-Pollo, Max Welling, Jan-Willem van de Meent, Erik J. Bekkers, Floor Eijkelboom,
- Abstract要約: カーネル段階のドリフトは1ステップの生成モデリングフレームワークである。
これは、ドリフトモデルにおける固定されたユークリッド変位方向を、核自体によって誘導される方向に置き換える。
- 参考スコア(独自算出の注目度): 34.79469799316397
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose kernel-gradient drifting, a one-step generative modeling framework that replaces the fixed Euclidean displacement direction in drifting models with directions induced by the kernel itself. Standard drifting is attractive because it enables fast, high-quality generation without distilling a large pretrained diffusion model, but its theory is currently understood mainly for Gaussian kernels, where the drift coincides with smoothed score matching and is identifiable. Our gradient-based reformulation exposes this score-based structure for general kernels: the resulting drift is the score difference between kernel-smoothed data and model distributions, yielding identifiability for characteristic kernels and a smoothed-KL descent interpretation of the drifting dynamics. Since kernel gradients are intrinsic tangent vectors, the same construction extends naturally to Riemannian manifolds and to discrete data via the Fisher-Rao geometry of the probability simplex. Across spherical geospatial data, promoter DNA and molecule generation, kernel-gradient drifting enables state-of-the-art one-step generation beyond the Euclidean setting without distillation.
- Abstract(参考訳): ドリフトモデルにおける固定ユークリッド変位方向をカーネル自体によって誘導される方向で置き換える一段階生成モデリングフレームワークであるカーネル勾配ドリフトを提案する。
標準ドリフトは、大きな事前訓練された拡散モデルを蒸留することなく高速で高品質な生成を可能にするため魅力的であるが、その理論は、主にガウス核に対して理解されており、ドリフトは滑らかなスコアマッチングと一致し、同定可能である。
得られたドリフトは、カーネルの平滑化データとモデル分布のスコア差であり、特性カーネルの識別可能性、およびドリフトダイナミクスのスムーズなKL降下解釈をもたらす。
核勾配は固有の接ベクトルであるため、同じ構成は自然にリーマン多様体や確率単純体のフィッシャー・ラオ幾何学による離散データにまで拡張される。
球面地理空間データ、プロモーターDNAおよび分子生成全体にわたって、カーネル勾配ドリフトは、蒸留なしでユークリッドのセッティングを超える最先端のワンステップ生成を可能にする。
関連論文リスト
- Generative Drifting is Secretly Score Matching: a Spectral and Variational Perspective [33.2175112734242]
ドリフトによる生成モデリングは、カーネルベースのドリフト演算子を通じて最先端のワンステップ画像生成を実現した。
ガウス核の下では、ドリフト作用素はちょうど滑らかな分布のスコア差である。
論文 参考訳(メタデータ) (2026-03-10T17:30:35Z) - A Unified View of Drifting and Score-Based Models [92.51878018325031]
ドリフトがカーネル平滑分布にスコアベースの定式化を許すことを示すことにより,拡散モデルの背後にあるスコアマッチング原理との関係を正確にする。
一般的なラプラス核に対して正確な分解を導出し、ラプラス核に対してドリフトが低温および高次元状態におけるスコアマッチングの正確なプロキシであることを示す厳密な誤差境界を証明した。
論文 参考訳(メタデータ) (2026-03-08T07:41:36Z) - KROM: Kernelized Reduced Order Modeling [3.988493458010939]
KROMは、RKHSにおける最小ノルム(ガウス過程)回復問題としてPDE解を定式化する。
中心成分は、PDEソリューションのスナップショットライブラリから構築された経験的カーネルである。
論文 参考訳(メタデータ) (2026-02-27T22:52:22Z) - Generalization Bound of Gradient Flow through Training Trajectory and Data-dependent Kernel [55.82768375605861]
我々は、カーネル法における古典的ラデマッハ複雑性と整合する勾配流の一般化を確立する。
NTKのような静的カーネルとは異なり、LPKはトレーニング軌跡全体をキャプチャし、データと最適化の両方に適応する。
論文 参考訳(メタデータ) (2025-06-12T23:17:09Z) - Gradient-Based Feature Learning under Structured Data [57.76552698981579]
異方性設定では、一般的に使用される球面勾配力学は真の方向を回復できないことがある。
バッチ正規化を連想させる適切な重み正規化は、この問題を軽減することができることを示す。
特に、スパイクモデルの下では、勾配に基づくトレーニングのサンプルの複雑さは情報指数とは独立にできる。
論文 参考訳(メタデータ) (2023-09-07T16:55:50Z) - Controlling the Inductive Bias of Wide Neural Networks by Modifying the Kernel's Spectrum [18.10812063219831]
所望の固有値を持つカーネルに改良スペクトルカーネル(MSK)を導入する。
本研究では,勾配勾配の軌道を変化させる事前条件付き勾配降下法を提案する。
私たちの手法は計算効率が良く、実装も簡単です。
論文 参考訳(メタデータ) (2023-07-26T22:39:47Z) - Neural Fields as Learnable Kernels for 3D Reconstruction [101.54431372685018]
本稿では,学習したカーネルリッジの回帰に基づいて,暗黙の3次元形状を再構成する手法を提案する。
本手法は,3次元オブジェクトと大画面をスパース指向の点から再構成する際の最先端の処理結果を実現する。
論文 参考訳(メタデータ) (2021-11-26T18:59:04Z) - Flow-based Kernel Prior with Application to Blind Super-Resolution [143.21527713002354]
カーネル推定は一般にブラインド画像超解像(SR)の鍵となる問題の一つである
本稿では,カーネルモデリングのための正規化フローベースカーネルプリレント(fkp)を提案する。
合成および実世界の画像の実験により、提案したFKPがカーネル推定精度を大幅に向上することを示した。
論文 参考訳(メタデータ) (2021-03-29T22:37:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。