論文の概要: A CDF-First Framework for Free-Form Density Estimation
- arxiv url: http://arxiv.org/abs/2603.25204v1
- Date: Thu, 26 Mar 2026 09:09:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-27 20:52:48.20636
- Title: A CDF-First Framework for Free-Form Density Estimation
- Title(参考訳): 自由形密度推定のためのCDF-Firstフレームワーク
- Authors: Chenglong Song, Mazharul Islam, Lin Wang, Bing Chen, Bo Yang,
- Abstract要約: 中心となる課題は自由形式の密度推定であり、制約的仮定なしに多モード性、非対称性、あるいは位相的複雑性を示す分布を捉えることである。
本稿では,CDF を安定かつ適切に設定した目標である累積分布関数 (CDF) を推定し,学習した円滑なCDF の微分を通じて確率密度関数 (PDF) を復元することにより,この問題を回避するCDF ファーストフレームワークを提案する。
提案フレームワークは,構成による有効なPDFの保証,抽出可能な近似近似トレーニング,複雑な分布形状の保存を実現する。
- 参考スコア(独自算出の注目度): 8.204788282365657
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conditional density estimation (CDE) is a fundamental task in machine learning that aims to model the full conditional law $\mathbb{P}(\mathbf{y} \mid \mathbf{x})$, beyond mere point prediction (e.g., mean, mode). A core challenge is free-form density estimation, capturing distributions that exhibit multimodality, asymmetry, or topological complexity without restrictive assumptions. However, prevailing methods typically estimate the probability density function (PDF) directly, which is mathematically ill-posed: differentiating the empirical distribution amplifies random fluctuations inherent in finite datasets, necessitating strong inductive biases that limit expressivity and fail when violated. We propose a CDF-first framework that circumvents this issue by estimating the cumulative distribution function (CDF), a stable and well-posed target, and then recovering the PDF via differentiation of the learned smooth CDF. Parameterizing the CDF with a Smooth Min-Max (SMM) network, our framework guarantees valid PDFs by construction, enables tractable approximate likelihood training, and preserves complex distributional shapes. For multivariate outputs, we use an autoregressive decomposition with SMM factors. Experiments demonstrate our approach outperforms state-of-the-art density estimators on a range of univariate and multivariate tasks.
- Abstract(参考訳): 条件密度推定(CDE)は、単なる点予測(平均、モード)を超えて、フル条件法$\mathbb{P}(\mathbf{y} \mid \mathbf{x})$をモデル化することを目的とした機械学習の基本的なタスクである。
中心となる課題は自由形式の密度推定であり、制約的仮定なしに多モード性、非対称性、あるいは位相的複雑性を示す分布を捉えることである。
経験的分布の微分は有限データセットに固有のランダムなゆらぎを増幅し、表現性を制限し、違反した場合に失敗する強い帰納バイアスを必要とする。
本稿では,CDFを安定かつ適切に設定した目標である累積分布関数(CDF)を推定し,学習した円滑なCDFの微分によりPDFを復元することにより,この問題を回避するCDFファーストフレームワークを提案する。
本フレームワークは,Smooth Min-Max (SMM) ネットワークを用いてCDFをパラメータ化し,有効PDFを構築により保証し,抽出可能な近似近似トレーニングを可能にし,複雑な分布形状を保存する。
多変量出力に対しては、SMM因子を用いた自己回帰分解を用いる。
実験により,一変量および多変量タスクにおける最先端密度推定器よりも優れた性能を示す。
関連論文リスト
- A Unified MDL-based Binning and Tensor Factorization Framework for PDF Estimation [19.747102062281545]
多変量確率密度関数推定のための新しい非パラメトリックアプローチを提案する(PDF)。
提案手法は, 共役確率テンソルの正準多進分解(CPD)を利用するテンソル分解法に基づく。
我々は,本手法が合成データおよび実生豆分類データセットに与える影響を実証した。
論文 参考訳(メタデータ) (2025-04-25T20:27:04Z) - Minimax Optimality of the Probability Flow ODE for Diffusion Models [8.15094483029656]
この研究は、決定論的ODEベースのサンプリングのための最初のエンドツーエンド理論フレームワークを開発する。
L2$のスコア誤差と関連する平均ジャコビアン誤差の両方を同時に制御するスムーズな正規化スコア推定器を提案する。
得られたサンプルは全変動距離, 変調対数係数において最小値が得られることを示す。
論文 参考訳(メタデータ) (2025-03-12T17:51:29Z) - Conditional Distribution Quantization in Machine Learning [83.54039134248231]
条件予測 mathbbE(Y Mid X) はしばしば、マルチモーダル条件分布の複雑さを捉えることに失敗する(Y Mid X)
我々はn点条件量子化(n-point Conditional Quantizations)-勾配降下により学習可能なXの関数写像--近似数学L(Y mid X)-を提案する。
論文 参考訳(メタデータ) (2025-02-11T00:28:24Z) - Flow matching achieves almost minimax optimal convergence [50.38891696297888]
フローマッチング (FM) は, シミュレーションのない生成モデルとして注目されている。
本稿では,大試料径のFMの収束特性を$p$-Wasserstein 距離で論じる。
我々は、FMが1leq p leq 2$でほぼ最小の収束率を達成できることを確立し、FMが拡散モデルに匹敵する収束率に達するという最初の理論的証拠を示す。
論文 参考訳(メタデータ) (2024-05-31T14:54:51Z) - Learning Multivariate CDFs and Copulas using Tensor Factorization [39.24470798045442]
データの多変量分布を学習することは、統計学と機械学習における中核的な課題である。
本研究では,多変量累積分布関数(CDF)を学習し,混合確率変数を扱えるようにすることを目的とする。
混合確率変数の合同CDFの任意のグリッドサンプリング版は、単純ベイズモデルとして普遍表現を許容することを示す。
提案モデルの性能を,回帰,サンプリング,データ計算を含むいくつかの合成および実データおよびアプリケーションで実証する。
論文 参考訳(メタデータ) (2022-10-13T16:18:46Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Pseudo-Spherical Contrastive Divergence [119.28384561517292]
エネルギーベースモデルの最大学習確率を一般化するために,擬球面コントラスト分散(PS-CD)を提案する。
PS-CDは難解な分割関数を避け、学習目的の一般化されたファミリーを提供する。
論文 参考訳(メタデータ) (2021-11-01T09:17:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。