論文の概要: Learning the score under shape constraints

• arxiv url: http://arxiv.org/abs/2512.14624v1
• Date: Tue, 16 Dec 2025 17:39:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-17 16:49:26.818457
• Title: Learning the score under shape constraints
• Title（参考訳）: 形状制約下でのスコアの学習
• Authors: Rebecca M. Lewis, Oliver Y. Feng, Henry W. J. Reeve, Min Xu, Richard J. Samworth,
• Abstract要約: 正方形の$L2(P_0)$-lossに対するスコア推定の最小リスクについて検討する。 推定問題の2つの基本的な側面を捉えた対数凹密度のサブクラスを定義する。 後者のクラスに対するミニマックスリスクは、次数$L2/(2+1)n-/(2+1)$からpoly-logarithmic factorまでである。
• 参考スコア（独自算出の注目度）: 7.005582630391827
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Score estimation has recently emerged as a key modern statistical challenge, due to its pivotal role in generative modelling via diffusion models. Moreover, it is an essential ingredient in a new approach to linear regression via convex $M$-estimation, where the corresponding error densities are projected onto the log-concave class. Motivated by these applications, we study the minimax risk of score estimation with respect to squared $L^2(P_0)$-loss, where $P_0$ denotes an underlying log-concave distribution on $\mathbb{R}$. Such distributions have decreasing score functions, but on its own, this shape constraint is insufficient to guarantee a finite minimax risk. We therefore define subclasses of log-concave densities that capture two fundamental aspects of the estimation problem. First, we establish the crucial impact of tail behaviour on score estimation by determining the minimax rate over a class of log-concave densities whose score function exhibits controlled growth relative to the quantile levels. Second, we explore the interplay between smoothness and log-concavity by considering the class of log-concave densities with a scale restriction and a $(β,L)$-Hölder assumption on the log-density for some $β\in [1,2]$. We show that the minimax risk over this latter class is of order $L^{2/(2β+1)}n^{-β/(2β+1)}$ up to poly-logarithmic factors, where $n$ denotes the sample size. When $β< 2$, this rate is faster than could be obtained under either the shape constraint or the smoothness assumption alone. Our upper bounds are attained by a locally adaptive, multiscale estimator constructed from a uniform confidence band for the score function. This study highlights intriguing differences between the score estimation and density estimation problems over this shape-constrained class.
• Abstract（参考訳）: スコア推定は、拡散モデルによる生成的モデリングにおいて重要な役割を担っているため、近年、重要な統計的課題として浮上している。 さらに、この手法は、対数対数対数対数対の誤差密度を射影する凸$M$-推定による線形回帰に対する新しいアプローチにおいて重要な要素である。 これらの応用に触発されて、正方形の$L^2(P_0)$-lossに対してスコア推定のミニマックスリスクについて研究し、$P_0$は$\mathbb{R}$の対数分布を表す。 このような分布はスコア関数を減少させるが、それ自体では、この形状制約は有限のミニマックスリスクを保証するには不十分である。 したがって、推定問題の2つの基本的な側面を捉えた対数凹密度のサブクラスを定義する。 まず、スコア関数が量子レベルに対して制御された成長を示す対数凹凸密度のクラスに対して、最小値の値を決定することにより、テール挙動がスコア推定に決定的な影響を及ぼすことを示す。 第2に、スケール制限のある対数凹密度のクラスと、ある$β\in [1,2]$の対数密度に関する$(β,L)$-ヘルダー仮定を考慮し、滑らかさと対数凹度の間の相互作用を考察する。 後者のクラスに対するミニマックスリスクは、次の順に$L^{2/(2β+1)}n^{-β/(2β+1)}$であることを示す。 β<2$ の場合、この値は形状制約や滑らか性仮定だけで得られるものよりも高速である。 スコア関数に対する一様信頼帯域から構築した局所適応型マルチスケール推定器により,上界が達成される。 本研究は, この形状制約クラスにおけるスコア推定と密度推定の相違点に着目した。

関連論文リスト

• Minimax Rates for the Estimation of Eigenpairs of Weighted Laplace-Beltrami Operators on Manifolds [7.639886528552829]
  楕円微分作用素の固有ペアを、多様体$M$で支えられる分布$rho$のサンプルから推定する問題について検討する。 グラフラプラシアンの固有ペアは、近似の誤差で正規性多様体推定器を誘導し、対数補正まで、我々の下界と一致する。
  論文  参考訳（メタデータ） (2025-05-30T19:19:25Z)
• A Mean-Field Analysis of Neural Stochastic Gradient Descent-Ascent for Functional Minimax Optimization [90.87444114491116]
  本稿では,超パラメトリック化された2層ニューラルネットワークの無限次元関数クラス上で定義される最小最適化問題について検討する。 i) 勾配降下指数アルゴリズムの収束と, (ii) ニューラルネットワークの表現学習に対処する。 その結果、ニューラルネットワークによって誘導される特徴表現は、ワッサーシュタイン距離で測定された$O(alpha-1)$で初期表現から逸脱することが許された。
  論文  参考訳（メタデータ） (2024-04-18T16:46:08Z)
• Sparse Mean Estimation in Adversarial Settings via Incremental Learning [20.522038784234947]
  本稿では,重み付き分布と対向汚職の存在下で,スパース平均推定を学習するためのスケーラブルな手法を提案する。 提案手法は,情報理論の下界に適合する最適統計率を実現する。 より広範に、我々の研究は、重み付き分布と敵対的腐敗の存在下で、過渡的手法の漸進的な学習現象を初めて明らかにした。
  論文  参考訳（メタデータ） (2023-05-24T16:02:28Z)
• Causal Bandits for Linear Structural Equation Models [58.2875460517691]
  本稿では,因果図形モデルにおける最適な介入順序を設計する問題について検討する。 グラフの構造は知られており、ノードは$N$である。 頻繁性(UCBベース)とベイズ的設定に2つのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-08-26T16:21:31Z)
• Distributed Sparse Regression via Penalization [5.990069843501885]
  エージェントのネットワーク上の線形回帰を、(集中ノードを持たない)無向グラフとしてモデル化する。 推定問題は、局所的なLASSO損失関数の和とコンセンサス制約の2次ペナルティの最小化として定式化される。 本稿では, ペナル化問題に適用した近似勾配アルゴリズムが, 集中的な統計的誤差の順序の許容値まで線形に収束することを示す。
  論文  参考訳（メタデータ） (2021-11-12T01:51:50Z)
• Estimation in Tensor Ising Models [5.161531917413708]
  N$ノード上の分布から1つのサンプルを与えられた$p$-tensor Isingモデルの自然パラメータを推定する問題を考える。 特に、$sqrt N$-consistency of the MPL estimate in the $p$-spin Sherrington-Kirkpatrick (SK) model。 我々は、$p$-tensor Curie-Weiss モデルの特別な場合における MPL 推定の正確なゆらぎを導出する。
  論文  参考訳（メタデータ） (2020-08-29T00:06:58Z)
• Breaking the Sample Size Barrier in Model-Based Reinforcement Learning with a Generative Model [50.38446482252857]
  本稿では、生成モデル(シミュレータ)へのアクセスを想定して、強化学習のサンプル効率について検討する。 最初に$gamma$-discounted infinite-horizon Markov decision process (MDPs) with state space $mathcalS$ and action space $mathcalA$を考える。 対象の精度を考慮すれば,モデルに基づく計画アルゴリズムが最小限のサンプルの複雑さを実現するのに十分であることを示す。
  論文  参考訳（メタデータ） (2020-05-26T17:53:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。