論文の概要: Prior-Amortized In-Context Bayesian Inference for Generalized Linear Mixed-Effects Models
- arxiv url: http://arxiv.org/abs/2609.24422v1
- Date: Mon, 21 Sep 2026 11:15:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:01.263187
- Title: Prior-Amortized In-Context Bayesian Inference for Generalized Linear Mixed-Effects Models
- Title(参考訳): 一般化線形混合効果モデルに対する事前補正インコンテキストベイズ推定
- Abstract要約: metabeta(メタベタ)は、GLMMに対する文脈内ベイズ推論を事前に調整したニューラルネットワークである。
連続、バイナリ、カウント結果にまたがる数百万の現実的なシミュレーションデータセットに基づいてトレーニングされている。
後部は全てのパラメータータイプでNUTSのものと密接に一致している。
- 参考スコア(独自算出の注目度): 22.95834831696185
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Hierarchical data is ubiquitous in the empirical sciences and is most commonly analyzed with generalized linear mixed-effects models (GLMMs). Bayesian inference for GLMMs yields calibrated uncertainty but requires MCMC; the No-U-Turn Sampler (NUTS) is the gold standard but is slow and must restart from scratch for every new dataset, model and prior. We introduce metabeta, a pretrained neural network for prior-amortized in-context Bayesian inference over GLMMs. Unlike previous neural posterior estimators that fix the prior at training time, metabeta accepts prior families and hyperparameters as inputs at test time, enabling zero-shot generalization. Two set transformers and conditional normalizing flows mirror the posterior's two-level structure (global parameters shared across groups, local parameters per group). The model is trained on millions of realistic simulated datasets spanning continuous, binary, and count outcomes. By default, the flow posterior is refined by Independence Metropolis-Hastings against the unnormalized posterior, so its correctness rests on the sampler rather than the network; this yields tuning-free inference two to three orders of magnitude faster than NUTS. Alternatively, the flow can warm-start NUTS, giving nearly identical inference with substantially increased speed and stability. On controlled benchmarks with ground-truth parameters, metabeta matches NUTS in parameter recovery, calibration and out-of-sample prediction. On out-of-distribution real datasets, its posteriors closely match those of NUTS across all parameter types, and they remain faithful under misspecified likelihoods and priors, out-of-distribution predictors, collinear designs, and data-poor regimes. The model is open-source and open-weights and thus immediately deployable.
- Abstract(参考訳): 階層的データは経験科学においてユビキタスであり、一般に一般化線形混合効果モデル(GLMM)を用いて解析される。
No-U-Turn Sampler (NUTS) は金の標準であるが、遅く、新しいデータセット、モデル、前のすべてでスクラッチから再起動する必要がある。
本稿では,GLMM上でのコンテキスト内ベイズ推定のための事前学習ニューラルネットワークであるMetabetaを紹介する。
トレーニング時に事前を固定する以前の神経後部推定器とは異なり、メタベタはテスト時の入力として事前のファミリーとハイパーパラメータを受け付け、ゼロショットの一般化を可能にする。
2つの集合変換器と条件正規化フローは、後部の2レベル構造(群間で共有されるグローバルパラメータ、グループごとの局所パラメータ)を反映する。
このモデルは、連続、バイナリ、カウント結果にまたがる数百万の現実的なシミュレーションデータセットに基づいてトレーニングされている。
デフォルトでは、流路後部は非正規化後部に対してインディペンデンス・メトロポリス・ハスティングスによって洗練され、その正しさはネットワークよりもサンプリング器に委ねられる。
あるいは、フローはNUTSをウォームスタートさせ、ほぼ同じ推論を行い、速度と安定性が大幅に向上する。
基底構造パラメータを持つ制御されたベンチマークでは、メタベタはパラメータ回復、キャリブレーション、サンプル外予測においてNUTSと一致する。
アウト・オブ・ディストリビューションの実際のデータセットでは、後部は全てのパラメータータイプでNUTSのデータセットと密に一致しており、不特定の可能性と事前、アウト・オブ・ディストリビューション予測器、コリニア設計、データ・プア・レシシエーションの下では忠実である。
モデルはオープンソースでオープンソースであり、即時にデプロイ可能である。
関連論文リスト
- Aggregated Posterior Predictive Checks for Generative Modeling [0.0]
潜時変数生成モデルは一般に、潜時変数上の単純な先行値を用いて適合する。
現代の生成モデルでは、第1にモデルが適合し、第2に集約された後部を推定する2段階戦略が用いられるようになっている。
集合的後部予測チェック(APPC)を導入する。
広汎性因子が信号空間の回復を許す場合,APPCは不特定潜伏条件下で校正できることを示す。
論文 参考訳(メタデータ) (2026-09-17T18:55:56Z) - Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
現実の時系列では欠落値が一般的である。
現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。
このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。
本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
論文 参考訳(メタデータ) (2025-09-27T20:57:48Z) - BayesTTA: Continual-Temporal Test-Time Adaptation for Vision-Language Models via Gaussian Discriminant Analysis [41.09181390655176]
CLIPのような視覚言語モデル(VLM)は、強いゼロショット認識を実現するが、実世界のシナリオに共通する時空間的な分散シフトの下で大幅に劣化する。
テスト分布が時間とともに徐々に変化するCT-TTA(textitContinal-Temporal Test-Time Adaptation)として、この実践的問題を定式化する。
我々は、時間的に一貫した予測を実行し、視覚表現を動的に調整する、ベイズ適応フレームワークであるtextitBayesTTAを提案する。
論文 参考訳(メタデータ) (2025-07-11T14:02:54Z) - Calibrated One Round Federated Learning with Bayesian Inference in the
Predictive Space [27.259110269667826]
フェデレートラーニング(FL)では、クライアント間で分散されたデータセット上でモデルをトレーニングする。
小さくてノイズの多いデータセットは一般的であり、よく校正されたモデルの必要性を強調している。
予測後部の混合と積を補間するベイズFLアルゴリズムである$beta$-Predictive Bayesを提案する。
論文 参考訳(メタデータ) (2023-12-15T14:17:16Z) - From Reactive to Proactive Volatility Modeling with Hemisphere Neural Networks [0.0]
我々は,新しいニューラルネットワークアーキテクチャを用いて,マクロ経済密度予測のための最大推定値(MLE)を再活性化する。
ヘミスフィアニューラルネットワーク(HNN)は、可能時の主指標に基づく積極的なボラティリティ予測と、必要時の過去の予測誤差の大きさに基づく反応性ボラティリティ予測を提供する。
論文 参考訳(メタデータ) (2023-11-27T21:37:50Z) - Joint Bayesian Inference of Graphical Structure and Parameters with a
Single Generative Flow Network [59.79008107609297]
本稿では,ベイジアンネットワークの構造上の結合後部を近似する手法を提案する。
サンプリングポリシが2フェーズプロセスに従う単一のGFlowNetを使用します。
パラメータは後部分布に含まれるため、これは局所確率モデルに対してより柔軟である。
論文 参考訳(メタデータ) (2023-05-30T19:16:44Z) - Sample-Efficient Optimisation with Probabilistic Transformer Surrogates [66.98962321504085]
本稿では,ベイズ最適化における最先端確率変換器の適用可能性について検討する。
トレーニング手順と損失定義から生じる2つの欠点を観察し、ブラックボックス最適化のプロキシとして直接デプロイすることを妨げる。
1)非一様分散点を前処理するBO調整トレーニング,2)予測性能を向上させるために最適な定常点をフィルタする新しい近似後正則整定器トレードオフ精度と入力感度を導入する。
論文 参考訳(メタデータ) (2022-05-27T11:13:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。