論文の概要: Generalized Score Matching for Parameter Estimation on Convex Domains
- arxiv url: http://arxiv.org/abs/2609.11521v1
- Date: Thu, 10 Sep 2026 13:23:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.369622
- Title: Generalized Score Matching for Parameter Estimation on Convex Domains
- Title（参考訳）: 凸領域のパラメータ推定のための一般化スコアマッチング
- Abstract要約: 一般化されたスコアマッチングの目的を$mathbbRd$の凸部分集合上で導出する。
非負のデータに対する古典的なスコアマッチングとドメイン適応型の変種が、提案フレームワーク内で自然に発生することを示す。
我々の導出は、様々な問題設定における一般化されたスコアマッチングのスコープと適用性に新たな光を当てる。
- 参考スコア（独自算出の注目度）: 13.954816561132942
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Maximum likelihood (ML) estimation is a principled and statistically efficient approach for learning probabilistic models. However, for unnormalized models, ML estimation requires evaluating the partition function and differentiating through it, which may not always be tractable. Score matching provides a practically viable alternative that circumvents this obstacle by fitting the score in a way that eliminates dependence on the normalizing constant. We derive the generalized score matching objective on a convex subset of $\mathbb{R}^{d}$ constructively starting from Minimum Probability Flow (MPF) learning, and show how classical score matching as well as domain-adapted variants for non-negative data arise naturally within the proposed framework. We show that the resulting objective is a {\it proper local scoring rule} of second-order, which provides the theoretical guarantee that the true density is recovered when the objective is minimized. Furthermore, for a model belonging to the exponential family, we establish convexity of the objective together with consistency of the finite-sample estimator under standard regularity conditions. Our derivation sheds new light on the scope and applicability of generalized score matching in various problem settings. We compare generalized score matching-based estimators on constrained domains, where the partition function is analytically intractable. We provide experimental results on parameter estimation for model densities belonging to the exponential family defined over convex subsets of $\mathbb{R}^{d}$, and a generative modeling use-case to demonstrate broader applicability of the proposed generalized score matching framework.
- Abstract（参考訳）: 最大確率推定(ML)は確率モデルを学習するための原理的かつ統計的に効率的なアプローチである。
しかし、正規化されていないモデルでは、ML推定は分割関数を評価し、それを微分する必要がある。
スコアマッチングは、スコアを正規化定数への依存を排除する方法で適合させることで、この障害を回避する実用的な代替手段を提供する。
我々は、最小確率フロー(MPF)学習から構成的に始まる$\mathbb{R}^{d}$の凸部分集合上で、一般化されたスコアマッチング目的を導出し、古典的なスコアマッチングと非負のデータに対するドメイン適応型が、提案フレームワーク内で自然に生じることを示す。
得られた目的が2階の適切な局所スコアリングルールであることを示し、目的が最小化されるときに真の密度が回復されることを理論的に保証する。
さらに、指数族に属するモデルに対しては、標準正則条件下での有限サンプル推定器の整合性とともに目的の凸性を確立する。
我々の導出は、様々な問題設定における一般化されたスコアマッチングのスコープと適用性に新たな光を当てる。
分割関数を解析的に抽出可能な制約付き領域における一般化されたスコアマッチングに基づく推定器を比較する。
本稿では、$\mathbb{R}^{d}$の凸部分集合上で定義された指数族に属するモデル密度のパラメータ推定に関する実験結果と、一般化されたスコアマッチングフレームワークのより広範な適用性を示すための生成的モデリングユースケースについて述べる。
関連論文リスト
- Tailoring Strictly Proper Scoring Rules for Downstream Tasks: An Application to Causal Inference [48.78219918881965]
本稿では,ダウンストリーム誤差メトリックの局所曲率をマッチングすることにより,タスク固有の厳密なスコアリングルールを導出するフレームワークを提案する。
これを平均処理効果 (ATE) 推定に適用し, 閉形式損失と対応する正準確率写像を導出する。
論文 参考訳（メタデータ） (2026-06-02T08:41:25Z) - Score Matching for Estimating Finite Point Processes [11.422667985375469]
我々はジャノッシー測度による有限点過程のスコアマッチングのための公式な枠組みを開発する。
古典的パラメトリック設定において統計特性を解析する(自己回帰的な)重み付きスコアマッチング推定器を導入する。
論文 参考訳（メタデータ） (2025-12-04T09:46:48Z) - On diffusion-based generative models and their error bounds: The log-concave case with full convergence estimates [5.13323375365494]
我々は,強い対数対数データの下での拡散に基づく生成モデルの収束挙動を理論的に保証する。
スコア推定に使用される関数のクラスは、スコア関数上のリプシッツネスの仮定を避けるために、リプシッツ連続関数からなる。
この手法はサンプリングアルゴリズムにおいて最もよく知られた収束率をもたらす。
論文 参考訳（メタデータ） (2023-11-22T18:40:45Z) - Sample Complexity Bounds for Score-Matching: Causal Discovery and
Generative Modeling [82.36856860383291]
我々は,標準深部ReLUニューラルネットワークをトレーニングすることにより,スコア関数の正確な推定が可能であることを実証した。
スコアマッチングに基づく因果発見手法を用いて因果関係の回復の誤差率の限界を確立する。
論文 参考訳（メタデータ） (2023-10-27T13:09:56Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳（メタデータ） (2023-06-13T01:18:16Z) - Predicting Out-of-Domain Generalization with Neighborhood Invariance [59.05399533508682]
局所変換近傍における分類器の出力不変性の尺度を提案する。
私たちの測度は計算が簡単で、テストポイントの真のラベルに依存しません。
画像分類,感情分析,自然言語推論のベンチマーク実験において,我々の測定値と実際のOOD一般化との間に強い相関関係を示す。
論文 参考訳（メタデータ） (2022-07-05T14:55:16Z) - Optimal variance-reduced stochastic approximation in Banach spaces [114.8734960258221]
可分バナッハ空間上で定義された収縮作用素の定点を推定する問題について検討する。
演算子欠陥と推定誤差の両方に対して漸近的でない境界を確立する。
論文 参考訳（メタデータ） (2022-01-21T02:46:57Z) - Optimal regularizations for data generation with probabilistic graphical
models [0.0]
経験的に、よく調和された正規化スキームは、推論されたモデルの品質を劇的に改善する。
生成的ペアワイドグラフィカルモデルの最大Aポストエリオーリ(MAP)推論におけるL2とL1の正規化について検討する。
論文 参考訳（メタデータ） (2021-12-02T14:45:16Z) - Evaluating State-of-the-Art Classification Models Against Bayes
Optimality [106.50867011164584]
正規化フローを用いて学習した生成モデルのベイズ誤差を正確に計算できることを示す。
われわれの手法を用いて、最先端の分類モデルについて徹底的な調査を行う。
論文 参考訳（メタデータ） (2021-06-07T06:21:20Z) - Nonparametric Score Estimators [49.42469547970041]
未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
論文 参考訳（メタデータ） (2020-05-20T15:01:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。