論文の概要: Riemannian Optimization for Variance Estimation in Linear Mixed Models
- arxiv url: http://arxiv.org/abs/2212.09081v1
- Date: Sun, 18 Dec 2022 13:08:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-20 15:44:15.810539
- Title: Riemannian Optimization for Variance Estimation in Linear Mixed Models
- Title(参考訳): 線形混合モデルにおける変数推定のためのリーマン最適化
- Authors: Lena Sembach, Jan Pablo Burgard, Volker H. Schulz
- Abstract要約: パラメータ空間の内在的幾何を利用した線形混合モデルにおけるパラメータ推定について、全く新しい見方をとる。
提案手法は,既存手法に比べて分散パラメータ推定精度が高い。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Variance parameter estimation in linear mixed models is a challenge for many
classical nonlinear optimization algorithms due to the positive-definiteness
constraint of the random effects covariance matrix. We take a completely novel
view on parameter estimation in linear mixed models by exploiting the intrinsic
geometry of the parameter space. We formulate the problem of residual maximum
likelihood estimation as an optimization problem on a Riemannian manifold.
Based on the introduced formulation, we give geometric higher-order information
on the problem via the Riemannian gradient and the Riemannian Hessian. Based on
that, we test our approach with Riemannian optimization algorithms numerically.
Our approach yields a higher quality of the variance parameter estimates
compared to existing approaches.
- Abstract(参考訳): 線形混合モデルにおける変数パラメータ推定は、確率効果共分散行列の正定値制約による多くの古典的非線形最適化アルゴリズムの課題である。
線形混合モデルにおけるパラメータ推定について,パラメータ空間の固有幾何を生かして,全く新しい視点をとる。
リーマン多様体上の最適化問題として残差最大推定の問題を定式化する。
導入された定式化に基づいて、リーマン勾配とリーマンヘッシアンを通じて問題に関する幾何学的高階情報を与える。
そこで我々はリーマン最適化アルゴリズムを用いて数値解析を行った。
提案手法は,既存の手法と比較して分散パラメータ推定の質が向上する。
関連論文リスト
- Symmetry-informed transferability of optimal parameters in the Quantum Approximate Optimization Algorithm [0.0]
最適パラメータの任意の集合を、対称性を用いて適切な領域に変換する方法を示す。
これらの結果は、関連する物理モデルに対してIsatzing Hamiltonian variational ansatzによって記述された一般的な古典的最適化問題に拡張する。
論文 参考訳(メタデータ) (2024-07-05T13:37:53Z) - Differentially Private Optimization with Sparse Gradients [60.853074897282625]
微分プライベート(DP)最適化問題を個人勾配の空間性の下で検討する。
これに基づいて、スパース勾配の凸最適化にほぼ最適な速度で純粋および近似DPアルゴリズムを得る。
論文 参考訳(メタデータ) (2024-04-16T20:01:10Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Manifold Gaussian Variational Bayes on the Precision Matrix [70.44024861252554]
複雑なモデルにおける変分推論(VI)の最適化アルゴリズムを提案する。
本研究では,変分行列上の正定値制約を満たすガウス変分推論の効率的なアルゴリズムを開発した。
MGVBPはブラックボックスの性質のため、複雑なモデルにおけるVIのための準備が整ったソリューションである。
論文 参考訳(メタデータ) (2022-10-26T10:12:31Z) - Stochastic Mirror Descent for Large-Scale Sparse Recovery [13.500750042707407]
本稿では,2次近似の高次元スパースパラメータの統計的推定への応用について論じる。
提案アルゴリズムは, 回帰器分布の弱い仮定の下で, 推定誤差の最適収束を実現する。
論文 参考訳(メタデータ) (2022-10-23T23:23:23Z) - Noise Estimation in Gaussian Process Regression [1.5002438468152661]
提案手法は, 相関誤差の分散と雑音の分散を, 限界確率関数の最大化に基づいて推定することができる。
従来のパラメータ最適化と比較して,提案手法の計算上の利点とロバスト性を示す。
論文 参考訳(メタデータ) (2022-06-20T19:36:03Z) - First-Order Algorithms for Min-Max Optimization in Geodesic Metric
Spaces [93.35384756718868]
min-maxアルゴリズムはユークリッド設定で解析されている。
指数関数法 (RCEG) が線形速度で最終収束を補正したことを証明した。
論文 参考訳(メタデータ) (2022-06-04T18:53:44Z) - On Riemannian Approach for Constrained Optimization Model in Extreme
Classification Problems [2.7436792484073638]
制約付き最適化問題は行列多様体上の最適化問題として定式化される。
提案手法は,複数の実世界の大規模マルチラベルデータセットで検証される。
論文 参考訳(メタデータ) (2021-09-30T11:28:35Z) - Implicit differentiation for fast hyperparameter selection in non-smooth
convex learning [87.60600646105696]
内部最適化問題が凸であるが非滑らかである場合の一階法を研究する。
本研究では, ヤコビアンの近位勾配降下と近位座標降下収率列の前方モード微分が, 正確なヤコビアンに向かって収束していることを示す。
論文 参考訳(メタデータ) (2021-05-04T17:31:28Z) - Support recovery and sup-norm convergence rates for sparse pivotal
estimation [79.13844065776928]
高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。
非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
論文 参考訳(メタデータ) (2020-01-15T16:11:04Z) - Geometry, Computation, and Optimality in Stochastic Optimization [24.154336772159745]
問題幾何学の計算および統計的結果とオンライン最適化について検討する。
制約集合と勾配幾何学に焦点をあてて、どの次法と適応次法が最適(minimax)であるかという問題族を特徴づける。
論文 参考訳(メタデータ) (2019-09-23T16:14:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。