論文の概要: Finite Sample Bounds for Learning with Score Matching
- arxiv url: http://arxiv.org/abs/2605.14168v1
- Date: Wed, 13 May 2026 22:48:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-15 21:45:34.526454
- Title: Finite Sample Bounds for Learning with Score Matching
- Title(参考訳): スコアマッチングによる学習のための有限サンプル境界
- Authors: Devin Smedira, Abhijith Jayakumar, Sidhant Misra, Marc Vuffray, Andrey Y. Lokhov,
- Abstract要約: スコアマッチングを用いて非有界者の指数族の構造を学習するための非漸近的なサンプル複雑性解析を行う。
得られたサンプル境界はモデル次元に依存している。
- 参考スコア(独自算出の注目度): 3.1317409221921135
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning of continuous exponential family distributions with unbounded support remains an important area of research for both theory and applications in high-dimensional statistics. In recent years, score matching has become a widely used method for learning exponential families with continuous variables due to its computational ease when compared against maximum likelihood estimation. However, theoretical understanding of the statistical properties of score matching is still lacking. In this work, we provide a non-asymptotic sample complexity analysis for learning the structure of exponential families of polynomials with score matching. The derived sample bounds show a polynomial dependence on the model dimension. These bounds are the first of its kind, as all prior work has shown only asymptotic bounds on the sample complexity.
- Abstract(参考訳): 非有界な支持を持つ連続指数族分布の学習は、高次元統計学における理論と応用の両方にとって重要な研究領域である。
近年、スコアマッチングは、最大推定値と比較した場合の計算容易さにより、連続変数を持つ指数族を学習するために広く使われている方法となっている。
しかし、スコアマッチングの統計的性質に関する理論的理解はいまだに欠けている。
本研究では,多項式の指数列の構造をスコアマッチングを用いて学習するための非漸近的なサンプル複雑性解析を行う。
導出したサンプル境界はモデル次元に多項式依存を示す。
これらの境界は、全ての先行研究がサンプルの複雑さに関する漸近的境界のみを示したため、その種類の最初のものである。
関連論文リスト
- Cross-Fitting-Free Debiased Machine Learning with Multiway Dependence [0.0]
本稿では,汎用マルチウェイクラスタ依存型モーメントモデル(GMM)における2段階デバイアスド機械学習(DML)推定器の理論を,クロスフィッティングに頼らずに開発する。
我々は,Neyman-orthogonal モーメント条件を局所化に基づく経験的アプローチと組み合わせることで,サンプル分割なしに有効な推論が可能であることを示す。
論文 参考訳(メタデータ) (2026-02-11T20:09:23Z) - Trade-off Between Dependence and Complexity for Nonparametric Learning
-- an Empirical Process Approach [10.27974860479791]
データが時間的依存を示す多くのアプリケーションでは、対応する経験的プロセスは理解されていない。
標準的な$beta/rho$-mixingの仮定の下では、経験過程の期待上限に一般化する。
長距離依存下であっても、i.d.設定と同じ速度で達成できることが示される。
論文 参考訳(メタデータ) (2024-01-17T05:08:37Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - Statistical Efficiency of Score Matching: The View from Isoperimetry [96.65637602827942]
本研究では, スコアマッチングの統計的効率と推定される分布の等尺性との間に, 密接な関係を示す。
これらの結果はサンプル状態と有限状態の両方で定式化する。
論文 参考訳(メタデータ) (2022-10-03T06:09:01Z) - Off-policy estimation of linear functionals: Non-asymptotic theory for
semi-parametric efficiency [59.48096489854697]
観測データに基づいて線形汎関数を推定する問題は、因果推論と包帯文献の両方において標準的である。
このような手順の平均二乗誤差に対して非漸近上界を証明した。
非漸近的局所ミニマックス下限をマッチングすることにより、有限標本のインスタンス依存最適性を確立する。
論文 参考訳(メタデータ) (2022-09-26T23:50:55Z) - A Computationally Efficient Method for Learning Exponential Family
Distributions [29.289136623702056]
我々は、計算的かつ統計的に効率的な方法でサンプルから$k$パラメータ指数族(英語版)の自然パラメータを学習する問題を考える。
本手法は指数関数族に属する再分類分布の最大推定値とみなすことができる。
論文 参考訳(メタデータ) (2021-10-28T18:42:04Z) - Learning Continuous Exponential Families Beyond Gaussian [14.704630929165274]
対話手法に基づく連続的グラフィカルモデル学習のための計算効率の高い手法を提案する。
条件付き可能性の推定器は、代替アプローチと比較して精度と複雑さの点で同様の要件を維持することを示しています。
論文 参考訳(メタデータ) (2021-02-18T07:44:53Z) - Flexible mean field variational inference using mixtures of
non-overlapping exponential families [6.599344783327053]
標準平均場変動推論を用いることで、疎性誘導前のモデルに対して妥当な結果が得られないことを示す。
拡散指数族と 0 の点質量の任意の混合が指数族を形成することを示す。
論文 参考訳(メタデータ) (2020-10-14T01:46:56Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-22T21:12:31Z) - Sample-Efficient Reinforcement Learning of Undercomplete POMDPs [91.40308354344505]
この研究は、これらの硬度障壁が、部分観測可能決定過程(POMDP)の豊かで興味深いサブクラスに対する効率的な強化学習を妨げないことを示している。
提案手法は, 観測回数が潜伏状態の数よりも大きく, 探索が学習に不可欠であり, 先行研究と区別できるような, エピソード有限不完全POMDPに対するサンプル効率アルゴリズムOOM-UCBを提案する。
論文 参考訳(メタデータ) (2020-06-22T17:58:54Z) - SURF: A Simple, Universal, Robust, Fast Distribution Learning Algorithm [64.13217062232874]
SURFは分布を断片的に近似するアルゴリズムである。
実験では最先端のアルゴリズムよりも優れています。
論文 参考訳(メタデータ) (2020-02-22T01:03:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。