論文の概要: Sub-Gaussian Concentration and Entropic Normality of the Maximum Likelihood Estimator
- arxiv url: http://arxiv.org/abs/2605.07107v1
- Date: Fri, 08 May 2026 01:34:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:38.722448
- Title: Sub-Gaussian Concentration and Entropic Normality of the Maximum Likelihood Estimator
- Title（参考訳）: 最大線量推定器のガウス下濃度とエントロピー正規性
- Authors: Leighton P. Barnes, Alex Dytso,
- Abstract要約: 標準的な正則性条件の下では、最大極大推定器が中心極限定理を満たすことはよく知られている。
本稿では、正規化されたMLEに対して、いくつかのより強い正規性の形式を開発する。
指数的一貫性境界、高モーメント推定、推定器のエントロピー制御引数を含む、独立した興味を持つ補助的ツール。
- 参考スコア（独自算出の注目度）: 14.681656119120584
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: It is well known that, under standard regularity conditions, the maximum likelihood estimator (MLE) satisfies a central limit theorem and converges in distribution to a Gaussian random variable as the sample size grows. This paper strengthens this classical result by developing several stronger forms of asymptotic normality for the normalized MLE. With additional assumptions on the score, we first establish sub-Gaussian tail bounds and convergence of all moments for the normalized estimation error. We then prove an entropic central limit theorem for a smoothed version of the estimator, showing convergence in relative entropy to the limiting Gaussian law. When the Fisher information of the normalized estimate is bounded, or its density has bounded first derivative, we further show that the smoothing can be removed, yielding entropic normality of the MLE itself. The proofs develop auxiliary tools that may be of independent interest, including exponential consistency bounds, high-moment estimates, and entropy-control arguments for the estimator.
- Abstract（参考訳）: 標準正則条件下では、最大極大推定器(MLE)が中心極限定理を満たし、サンプルサイズが大きくなるにつれてガウス確率変数への分布に収束することが知られている。
本稿では、正規化されたMLEに対して、いくつかのより強い漸近正規性の形式を開発することにより、この古典的な結果を強化する。
スコアに関する追加の仮定により、まず正規化推定誤差に対するすべてのモーメントの準ガウス尾境界と収束を確立する。
次に、推定器の滑らかなバージョンに対するエントロピー中心極限定理を証明し、極限ガウス法則に対する相対エントロピーの収束を示す。
正規化推定のフィッシャー情報が有界であるか、あるいはその密度が第一微分に有界であるとき、滑らか化は除去され、MLE自体のエントロピー正規性が得られることを示す。
これらの証明は、指数的一貫性境界、高モーメント推定、推定器のエントロピー制御引数を含む、独立した興味を持つ補助的ツールを開発する。
関連論文リスト
- Central Limit Theorems for Outcome Records in Disordered Quantum Trajectories [0.0]
乱れた環境下での繰り返し測定により生成された離散時間量子軌道の測定記録において、有限パターン数に対するCLTを証明した。
有限群作用によって生じる乱れた歩行型モデルを含む,幅広い事例群にまたがる仮定の基準と検証を行う。
論文 参考訳（メタデータ） (2026-03-30T18:17:02Z) - Statistical Limits in Random Tensors with Multiple Correlated Spikes [6.614637831308917]
確率行列理論のツールを用いてマルチスパイクテンソルモデルを研究する。
本研究では, 位相遷移現象を解析し, 対応する最適化問題の臨界点を求める。
本稿では,方程式系を解くことで,階数=r$重みの新たな推定法を提案する。
論文 参考訳（メタデータ） (2025-03-05T10:37:54Z) - Limit Distribution Theory for Quantum Divergences [8.11839312231511]
推定誤差の変動を特徴付ける極限分布理論はまだ未熟であることを示す。
この結果の適用例として、量子状態のパウリトモグラフィーに基づく量子相対エントロピーの推定器を検討し、その結果の分布が正規であり、パウリ作用素と状態の項で特徴づけられることを示す。
上記の限界分布の知識を利用して、多仮説テスト問題の性能保証を得る。
論文 参考訳（メタデータ） (2023-11-22T21:06:41Z) - Tight Non-asymptotic Inference via Sub-Gaussian Intrinsic Moment Norm [12.400847321321912]
非漸近学習では、ガウス分布の分散型パラメータが最重要である。
正規化されたモーメント列を最大化することで達成されるガウス以下の固有モーメントノルムを用いることを提案する。
論文 参考訳（メタデータ） (2023-03-13T17:03:19Z) - Tight Exponential Analysis for Smoothing the Max-Relative Entropy and
for Quantum Privacy Amplification [56.61325554836984]
最大相対エントロピーとその滑らかなバージョンは、量子情報理論の基本的な道具である。
我々は、精製された距離に基づいて最大相対エントロピーを滑らかにする量子状態の小さな変化の崩壊の正確な指数を導出する。
論文 参考訳（メタデータ） (2021-11-01T16:35:41Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳（メタデータ） (2021-05-03T16:36:27Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳（メタデータ） (2021-03-23T17:15:53Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳（メタデータ） (2020-11-05T08:04:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。