論文の概要: Neural Generalized Mixed-Effects Models
- arxiv url: http://arxiv.org/abs/2604.10976v1
- Date: Mon, 13 Apr 2026 04:29:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 20:13:16.318487
- Title: Neural Generalized Mixed-Effects Models
- Title(参考訳): ニューラル一般化混合影響モデル
- Authors: Yuli Slavutsky, Sebastian Salazar, David M. Blei,
- Abstract要約: 一般化線形混合効果モデル(GLMM)は、群化および階層データの解析に広く用いられている。
本稿では,線形関数をニューラルネットワークに置き換える。
ニューラル一般化混合効果モデル(NGMM)はより複雑な潜在変数モデルに拡張可能であることを示す。
- 参考スコア(独自算出の注目度): 21.003156385353183
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generalized linear mixed-effects models (GLMMs) are widely used to analyze grouped and hierarchical data. In a GLMM, each response is assumed to follow an exponential-family distribution where the natural parameter is given by a linear function of observed covariates and a latent group-specific random effect. Since exact marginalization over the random effects is typically intractable, model parameters are estimated by maximizing an approximate marginal likelihood. In this paper, we replace the linear function with neural networks. The result is a more flexible model, the neural generalized mixed-effects model (NGMM), which captures complex relationships between covariates and responses. To fit NGMM to data, we introduce an efficient optimization procedure that maximizes the approximate marginal likelihood and is differentiable with respect to network parameters. We show that the approximation error of our objective decays at a Gaussian-tail rate in a user-chosen parameter. On synthetic data, NGMM improves over GLMMs when covariate-response relationships are nonlinear, and on real-world datasets it outperforms prior methods. Finally, we analyze a large dataset of student proficiency to demonstrate how NGMM can be extended to more complex latent-variable models.
- Abstract(参考訳): 一般化線形混合効果モデル(GLMM)は、群化および階層データの解析に広く用いられている。
GLMMでは、各応答は指数族分布に従って仮定され、自然パラメータは観測された共変量の線形関数と潜在群固有のランダム効果によって与えられる。
ランダム効果に対する正確な辺縁化は典型的には難解であるため、モデルパラメータは近似した辺縁確率を最大化することによって推定される。
本稿では,線形関数をニューラルネットワークに置き換える。
その結果、より柔軟なモデル、神経一般化混合効果モデル(NGMM)が、共変量と応答の間の複雑な関係をキャプチャする。
NGMMをデータに適合させるため、ネットワークパラメータに関して、近似限界確率を最大化し、微分可能な効率的な最適化手法を提案する。
ユーザ・コセンパラメータのガウス・テールレートにおける客観的減衰の近似誤差を示す。
合成データでは、共変量-応答関係が非線形である場合、NGMMはGLMMよりも改善され、実世界のデータセットでは先行手法よりも優れる。
最後に、NGMMがより複雑な潜在変数モデルにどのように拡張できるかを示すために、学生の習熟度の大きなデータセットを分析する。
関連論文リスト
- LARGE: A Locally Adaptive Regularization Approach for Estimating Gaussian Graphical Models [2.3696387635465608]
グラフ推定のための局所適応正規化法(LARGE)を開発した。
LARGEは、グラフ推定と選択を改善するためにノードワイズチューニングパラメータを適応的に学習するアプローチである。
実際のfMRIデータセットから脳の接続性を推定し,本手法の実用性を示す。
論文 参考訳(メタデータ) (2026-01-14T18:37:50Z) - Robust Spatiotemporal Epidemic Modeling with Integrated Adaptive Outlier Detection [7.5504472850103435]
疫病モデルでは、アウトレーヤはパラメータ推定を歪め、公衆衛生上の判断を誤ったものにすることができる。
本稿では、この歪みを軽減するために、ロバストな一般化加法モデル(RST-GAM)を導入する。
アメリカ合衆国における郡レベルのCOVID-19感染データを解析し,RTT-GAMの実用性を実証した。
論文 参考訳(メタデータ) (2025-07-12T19:23:25Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
リッジ回帰に関する最近の結果について統一的な視点を提示する。
我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。
我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - A distribution-free mixed-integer optimization approach to hierarchical modelling of clustered and longitudinal data [0.0]
我々は,新しいデータポイントに対するクラスタ効果を評価する革新的なアルゴリズムを導入し,このモデルのロバスト性や精度を高める。
このアプローチの推論的および予測的効果は、学生のスコアリングとタンパク質発現に適用することでさらに説明される。
論文 参考訳(メタデータ) (2023-02-06T23:34:51Z) - Bayesian Inference in High-Dimensional Time-Serieswith the Orthogonal
Stochastic Linear Mixing Model [2.7909426811685893]
現代の時系列データセットの多くは、長期間にわたってサンプリングされた大量の出力応答変数を含んでいる。
本稿では,多種多様な大規模時系列データセット解析のための新しいマルコフ連鎖モンテカルロフレームワークを提案する。
論文 参考訳(メタデータ) (2021-06-25T01:12:54Z) - Post-mortem on a deep learning contest: a Simpson's paradox and the
complementary roles of scale metrics versus shape metrics [61.49826776409194]
我々は、ニューラルネットワーク(NN)モデルの一般化精度を予測するために、コンテストで公に利用可能にされたモデルのコーパスを分析する。
メトリクスが全体としてよく機能するが、データのサブパーティションではあまり機能しない。
本稿では,データに依存しない2つの新しい形状指標と,一連のNNのテスト精度の傾向を予測できるデータ依存指標を提案する。
論文 参考訳(メタデータ) (2021-06-01T19:19:49Z) - Understanding Overparameterization in Generative Adversarial Networks [56.57403335510056]
generative adversarial network (gans) は、非凹型ミニマックス最適化問題を訓練するために用いられる。
ある理論は、グローバル最適解に対する勾配降下 (gd) の重要性を示している。
ニューラルネットワークジェネレータと線形判別器を併用した多層GANにおいて、GDAは、基礎となる非凹面min-max問題の大域的なサドル点に収束することを示す。
論文 参考訳(メタデータ) (2021-04-12T16:23:37Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳(メタデータ) (2021-01-06T17:36:26Z) - Generative Learning of Heterogeneous Tail Dependence [13.60514494665717]
我々のモデルは、各次元のすべての対の間の不均一かつ非対称なテール依存を特徴とする。
パラメータを学習するための新しいモーメント学習アルゴリズムを考案する。
その結果、このフレームワークはコプラベースのベンチマークと比較すると、より優れた有限サンプル性能が得られることがわかった。
論文 参考訳(メタデータ) (2020-11-26T05:34:31Z) - Generalized Matrix Factorization: efficient algorithms for fitting
generalized linear latent variable models to large data arrays [62.997667081978825]
一般化線形潜在変数モデル(GLLVM)は、そのような因子モデルを非ガウス応答に一般化する。
GLLVMのモデルパラメータを推定する現在のアルゴリズムは、集約的な計算を必要とし、大規模なデータセットにスケールしない。
本稿では,GLLVMを高次元データセットに適用するための新しい手法を提案する。
論文 参考訳(メタデータ) (2020-10-06T04:28:19Z) - Slice Sampling for General Completely Random Measures [74.24975039689893]
本稿では, 後続推定のためのマルコフ連鎖モンテカルロアルゴリズムについて, 補助スライス変数を用いてトランケーションレベルを適応的に設定する。
提案アルゴリズムの有効性は、いくつかの一般的な非パラメトリックモデルで評価される。
論文 参考訳(メタデータ) (2020-06-24T17:53:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。