論文の概要: Regularized Variational and Spectral Log-Density-Ratio Estimation in the Gaussian Location Model

• arxiv url: http://arxiv.org/abs/2607.01895v1
• Date: Thu, 02 Jul 2026 08:46:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.749456
• Title: Regularized Variational and Spectral Log-Density-Ratio Estimation in the Gaussian Location Model
• Title（参考訳）: ガウス位置モデルにおける正規化変分とスペクトル対数密度比の推定
• Authors: Francis Bach,
• Abstract要約: ガウス位置モデルにおけるリッジ正規化対数密度比の推定について検討する。 変分推定器は、経験的クルバック・リーブラー(KL)対数正規化フィッティングであり、その非定数係数は2乗 L2-ペナルティである。
• 参考スコア（独自算出の注目度）: 0.554780083433538
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study ridge-regularized log-density-ratio estimation in the Gaussian location model with a common covariance matrix. By affine invariance, the model is written as q $\sim$ N(0, I), p $\sim$ N($Δ$, I), with linear features, where $Δ$ is a mean vector. The variational estimator is the empirical Kullback-Leibler (KL) log-normalized fit with a squared L2-penalty on its nonconstant coefficient, and the spectral estimator recently introduced in [1] replaces a single variational problem by a continuum of ridge-regularized least-squares problems. We derive high-dimensional deterministic asymptotic equivalents when the numbers of observations and dimension tend to infinity with fixed ratios. The regularized variational limit is characterized by a scalar entropy minimization problem derived from the convex-Gaussian-min-max theorem (CGMT), while the regularized spectral limit follows from deterministic equivalents for resolvents of weighted sums of two independent Gaussian sample covariance matrices. We use these formulas to compare population risks, with experiments focused on fixed-signal aspect-ratio sweeps and optimized regularization. Our conclusion is that with many observations, under the criteria and asymptotic regimes analyzed here, the well-specified variational estimator has the smaller risk, while with fewer observations, the spectral estimator is favored because its covariance-based construction has lower variance. We also study how a nuclear penalty can be used and partially analyzed to perform feature learning.
• Abstract（参考訳）: 共通共分散行列を用いたガウス位置モデルにおけるリッジ正規化対数密度比の推定について検討した。 アフィン不変性により、モデルは q $\sim$ N(0, I), p $\sim$ N($Δ$, I) と書かれ、線型特徴を持つ。 変分推定器は、その非定数係数の2乗 L2-ペナルティに適合する経験的クルバック・リーブラー(KL)対数正規化式であり、最近[1]で導入されたスペクトル推定器は、尾根正則化最小二乗問題の連続体によって単一の変分問題を置き換える。 我々は、観測数と次元が固定比で無限大になる傾向にある場合、高次元決定論的漸近同値を導出する。 正規化変動極限は、凸-ガウス-ミン-マックス定理(CGMT)から導かれるスカラーエントロピー最小化問題によって特徴づけられるが、正規化スペクトル極限は、2つの独立ガウスサンプル共分散行列の重み付き和に対する決定論的同値から導かれる。 我々はこれらの式を用いて人口リスクを比較し、固定信号のアスペクト比スイープと最適化された正規化に焦点を当てた実験を行った。 我々の結論は、多くの観測において、ここで分析された基準と漸近的な状態の下では、明確に特定された変動推定器はリスクが小さいが、スペクトル推定器は、共分散に基づく構造が分散の少ないため好まれるということである。 また,核ペナルティをいかに利用し,部分的に分析して特徴学習を行うかについても検討した。

関連論文リスト

• Efficient Covariance Estimation for Sparsified Functional Data [51.69796254617083]
  共分散関数のランダムノット(ランダムノット-空間)とB-スプライン(Bspline-Spatial)推定器は計算的に効率的である。 共分散の漸近的なポイントワイドは、ある規則性条件下でのスパース化された個々の軌跡に対して得られる。
  論文  参考訳（メタデータ） (2025-11-23T00:50:33Z)
• Asymptotics of Linear Regression with Linearly Dependent Data [28.005935031887038]
  非ガウス共変量の設定における線形回帰の計算について検討する。 本稿では,依存性が推定誤差と正規化パラメータの選択にどのように影響するかを示す。
  論文  参考訳（メタデータ） (2024-12-04T20:31:47Z)
• Statistical Inference in Classification of High-dimensional Gaussian Mixture [1.2354076490479515]
  高次元極限における正規化凸分類器の一般クラスの挙動について検討する。 我々の焦点は、推定器の一般化誤差と変数選択性である。
  論文  参考訳（メタデータ） (2024-10-25T19:58:36Z)
• Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
  我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。 我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
  論文  参考訳（メタデータ） (2024-07-11T13:28:34Z)
• Optimal Differentially Private PCA and Estimation for Spiked Covariance Matrices [10.377683220196873]
  共分散行列とその関連する主成分を推定することは、現代統計学における根本的な問題である。 スパイク共分散モデルにおける最適偏微分的主成分分析(PCA)と共分散推定について検討した。 計算効率のよい微分プライベート推定器を提案し、その極小極小性をガウス分布に対して証明する。
  論文  参考訳（メタデータ） (2024-01-08T11:18:14Z)
• Spectrum-Aware Debiasing: A Modern Inference Framework with Applications to Principal Components Regression [1.342834401139078]
  本稿では,高次元回帰のための新しい手法であるSpectrumAware Debiasingを紹介する。 我々のアプローチは、構造的、重く、低ランクな構造に関する問題に適用できる。 シミュレーションおよび実データ実験により本手法を実証する。
  論文  参考訳（メタデータ） (2023-09-14T15:58:30Z)
• Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
  オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。 我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
  論文  参考訳（メタデータ） (2021-12-29T18:46:52Z)
• Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
  カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。 我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
  論文  参考訳（メタデータ） (2021-09-24T14:48:20Z)
• Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
  帰納バイアスは 経験的に過剰フィットを防げる中心的存在です この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。 我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
  論文  参考訳（メタデータ） (2021-03-23T17:15:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。