論文の概要: Deep Generalised Mixed Models: a Novel Neural Network Structure for Analysing Hierarchical Data
- arxiv url: http://arxiv.org/abs/2608.05930v2
- Date: Fri, 07 Aug 2026 08:05:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 14:11:31.143467
- Title: Deep Generalised Mixed Models: a Novel Neural Network Structure for Analysing Hierarchical Data
- Title(参考訳): 深部一般化混合モデル:階層データ解析のための新しいニューラルネットワーク構造
- Abstract要約: ESMデータを解析する現在の手順は、様々な課題に直面している。
機械学習の手順は、不足によって引き起こされる選択バイアスによってバイアスのある結果を与えることができる。
我々は、これらの課題を克服するために、混合効果モデルをディープラーニングに一般化する新しいニューラルネットワークアーキテクチャを開発した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The experience sampling method (ESM) is a longitudinal research design where participants report their thoughts, emotional states and behaviours multiple times a day. Our work is motivated by such data collected by the GrowIt! app, which was released to investigate daily emotions among adolescents during the COVID-19 pandemic. Current procedures to analyse ESM data face various challenges. While standard statistical techniques may not scale well to a high-dimensional setting, machine learning procedures can give biased results due to selection bias introduced by missingness. In our motivating dataset, adolescents dropped out due to previous strong feelings of negative emotions. Hence, the implied missing data are of the missing-at-random type that standard machine learning procedures cannot accommodate. We develop a novel neural network architecture that generalises mixed effects models to deep learning to overcome these challenges. It allows semi-parametric and flexible modelling of data's mean and correlation structure through fixed and random effects. For estimation, we use an adaptation of variational auto-encoders and a Bayesian data augmentation algorithm. Through this approach, the model can accommodate longitudinal outcomes following generic distributions, scale well to high-dimensional settings and provide valid inference when data are missing-at-random. We applied the Deep Generalised Mixed Model to the GrowIt! study and various simulations. The results show potential for the Deep Generalised Mixed Model, yet suboptimal performance due to model instability.
- Abstract(参考訳): 体験サンプリング法(英語: Experience sample method, ESM)は、参加者が1日に何回も思考、感情状態、行動などを報告する縦断的な研究設計である。
新型コロナウイルス(COVID-19)のパンデミックで、若者の毎日の感情を調査するためにリリースされたGrowIt!アプリによって収集されたデータに、私たちの研究は動機づけられています。
ESMデータを解析する現在の手順は、様々な課題に直面している。
標準的な統計手法は高次元の設定には適さないが、機械学習の手順は、欠落によって生じる選択バイアスによってバイアスのある結果を与えることができる。
モチベーションデータセットでは、以前の否定的な感情が強かったため、思春期の若者は姿を消した。
したがって、暗黙の欠落データは、標準の機械学習手順が許容できない非ランダム型の欠落である。
我々は、これらの課題を克服するために、混合効果モデルをディープラーニングに一般化する新しいニューラルネットワークアーキテクチャを開発した。
固定効果とランダム効果によって、データの平均と相関構造の半パラメトリックで柔軟なモデリングを可能にする。
推定には変分自動エンコーダとベイズデータ拡張アルゴリズムの適応を用いる。
このアプローチにより、モデルは、汎用分布に続く長手的な結果に対応し、高次元の設定に順応し、データがランダムに欠落している場合に有効な推論を提供する。
我々は、Deep Generalized Mixed ModelをGrowIt!に適用し、様々なシミュレーションを行った。
この結果から, モデル不安定性による準最適性能は, 深部一般化混合モデルの可能性を示した。
関連論文リスト
- FILLER: Feature Imputation via Latent Location Exploration and Retrieval [0.8602553195689513]
本研究では,FILLERと呼ばれる特徴量計算手法を提案し,生成モデルによって生成された2次元潜在空間を探索し,不足した値を適切なエントリで埋める。
生成モデルは、完全に観測されたデータに基づいてトレーニングされ、潜在空間からサンプルを生成する。
FILLERは、様々なレベルの計算複雑性を持つランダムで構造化された欠失パターンの下で、いくつかの画像データセットで評価されている。
論文 参考訳(メタデータ) (2026-07-25T17:10:55Z) - Grassmannian Geometry Meets Dynamic Mode Decomposition in DMD-GEN: A New Metric for Mode Collapse in Time Series Generative Models [0.0]
Generative Adversarial Networks (GANs) や Variational Autoencoders (Es) のような生成モデルは、トレーニングデータの完全な多様性をキャプチャできず、モード崩壊につながることが多い。
本稿では,時系列に特有のモード崩壊の定義を導入し,その重大度を定量化するための新しい計量 DMD-GEN を提案する。
論文 参考訳(メタデータ) (2024-12-15T19:53:17Z) - Towards Theoretical Understandings of Self-Consuming Generative Models [56.84592466204185]
本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。
我々は,このトレーニングが将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。
カーネル密度推定の結果は,混合データトレーニングがエラー伝播に与える影響など,微妙な洞察を与える。
論文 参考訳(メタデータ) (2024-02-19T02:08:09Z) - Learning to Adapt Clinical Sequences with Residual Mixture of Experts [12.881413375147996]
全患者の複雑な動態を表現するために,Mixture-of-Experts (MoE)アーキテクチャを提案する。
アーキテクチャは、患者サブポピュレーションをカバーし、ベースモデルの予測を精査する複数の(専門的な)RNNモデルで構成されている。
一つのRNN予測と比較すると, AUPRC統計は4.1%向上した。
論文 参考訳(メタデータ) (2022-04-06T09:23:12Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - On the Efficacy of Adversarial Data Collection for Question Answering:
Results from a Large-Scale Randomized Study [65.17429512679695]
逆データ収集(ADC)では、人間の労働力がモデルとリアルタイムで対話し、誤った予測を誘発する例を作成しようとする。
ADCの直感的な魅力にも拘わらず、敵対的データセットのトレーニングがより堅牢なモデルを生成するかどうかは不明だ。
論文 参考訳(メタデータ) (2021-06-02T00:48:33Z) - Synthesizing Irreproducibility in Deep Networks [2.28438857884398]
現代のディープネットワークは非生産性に苦しむ(非決定性または不特定化とも呼ばれる)
単一の非線形性や非常に単純なデータやモデルであっても、不再現性が生じることを示す。
モデルの複雑さと非線形性の選択は、深いモデルを再現不能にする上で重要な役割を果たす。
論文 参考訳(メタデータ) (2021-02-21T21:51:28Z) - Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。
我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。
その結果,我々のモデルは最先端の性能を達成できることがわかった。
論文 参考訳(メタデータ) (2020-10-12T03:27:07Z) - Data from Model: Extracting Data from Non-robust and Robust Models [83.60161052867534]
この研究は、データとモデルの関係を明らかにするために、モデルからデータを生成する逆プロセスについて検討する。
本稿では,データ・トゥ・モデル(DtM)とデータ・トゥ・モデル(DfM)を連続的に処理し,特徴マッピング情報の喪失について検討する。
以上の結果から,DtMとDfMの複数シーケンスの後にも,特にロバストモデルにおいて精度低下が制限されることが示唆された。
論文 参考訳(メタデータ) (2020-07-13T05:27:48Z) - Improving Maximum Likelihood Training for Text Generation with Density
Ratio Estimation [51.091890311312085]
本稿では,テキスト生成で遭遇する大規模なサンプル空間において,効率よく安定な自動回帰シーケンス生成モデルのトレーニング手法を提案する。
本手法は,品質と多様性の両面で,最大類似度推定や他の最先端シーケンス生成モデルよりも安定に優れている。
論文 参考訳(メタデータ) (2020-07-12T15:31:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。