論文の概要: Implementing neural network mixed-effects models in Template Model Builder (TMB)

• arxiv url: http://arxiv.org/abs/2608.31133v1
• Date: Mon, 31 Aug 2026 17:43:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.543383
• Title: Implementing neural network mixed-effects models in Template Model Builder (TMB)
• Title（参考訳）: テンプレートモデルビルダー(TMB)におけるニューラルネットワーク混合効果モデルの実装
• Abstract要約: テンプレートモデルビルダー(TMB)を用いたニューラルネットワーク混合効果モデル(NMM)の実装のための汎用フレームワークを提案する。 TMBでは、ユーザは負の関節ログと任意の正規化条件のみを指定する必要がある。 TMBベースのNMMの効率性, 柔軟性, 統計的性能を2つの数値例で示す。
• 参考スコア（独自算出の注目度）: 1.1352560842946413
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural network mixed-effects models (NMMs) have gained traction by combining the strong representation and predictive power of artificial neural networks with the capacity of mixed-effects modeling to capture complex correlation structures. However, existing estimation approaches rely heavily on manual derivations of objective functions and gradients, which inherently forces simplifying approximations and severely constrains the complexity and accuracy of NMMs. In this work, we introduce a general framework for implementing NMMs using Template Model Builder (TMB). By leveraging automatic differentiation and Laplace approximation, TMB requires users to specify only the negative joint log-likelihood and any regularization terms. The framework automatically integrates out random effects and evaluates the marginal objective function alongside its exact gradients, eliminating the need for manual derivations or ad hoc approximations. We demonstrate the efficiency, flexibility, and statistical performance of TMB-based NMMs across two numerical examples, including an application to monotonic NMMs. Reproducible code is provided to facilitate broader adoption.
• Abstract（参考訳）: ニューラルネットワーク混合効果モデル(NMM)は, ニューラルネットワークの強い表現力と予測力と, 複雑な相関構造を捉える混合効果モデリングの能力を組み合わせることで, 注目を集めている。 しかし、既存の推定手法は、目的関数と勾配のマニュアル導出に大きく依存しており、本質的には近似を単純化し、NMMの複雑さと精度を厳しく制限する。 本稿ではテンプレートモデルビルダー(TMB)を用いたNMMの実装のための一般的なフレームワークを紹介する。 自動微分とラプラス近似を活用することで、TMBは、ユーザは負の関節ログと任意の正規化項のみを指定する必要がある。 このフレームワークは、ランダムな効果を自動的に統合し、その厳密な勾配とともに限界目標関数を評価し、手動の導出やアドホック近似を必要としない。 我々は,TMBに基づくNMMの効率性,柔軟性,統計的性能を,モノトニックNMMへの適用を含む2つの数値例で示す。 より広範な採用を促進するために、再現可能なコードを提供する。

関連論文リスト

• Mixture-of-Models: Unifying Heterogeneous Agents via N-Way Self-Evaluating Deliberation [0.0]
  本稿では,N-Way Self-Evaluating Deliberation (NSED) プロトコル,Mixture-of-Models (MoM) アーキテクチャを提案する。 静的ゲーティングネットワークに依存する従来のMixture-of-Experts (MoE)とは異なり、NSEDはモデル選択をKnapsack問題のバリエーションとして扱うDynamic Expertise Brokerを使用している。
  論文  参考訳（メタデータ） (2026-01-23T16:11:54Z)
• uGMM-NN: Univariate Gaussian Mixture Model Neural Network [0.0]
  uGMM-NNは、ディープネットワークの計算ユニットに直接確率論的推論を組み込む新しいニューラルネットワークである。 従来のマルチ層パーセプトロンと比較して,uGMM-NNは競争力のある識別性能が得られることを示す。
  論文  参考訳（メタデータ） (2025-09-09T10:13:37Z)
• Towards Efficient General Feature Prediction in Masked Skeleton Modeling [59.46799426434277]
  マスクスケルトンモデリングのための新しい汎用特徴予測フレームワーク(GFP)を提案する。 我々の重要な革新は、局所的な動きパターンからグローバルな意味表現にまたがる、従来の低レベルな再構築を高レベルな特徴予測に置き換えることです。
  論文  参考訳（メタデータ） (2025-09-03T18:05:02Z)
• NAN: A Training-Free Solution to Coefficient Estimation in Model Merging [61.36020737229637]
  最適なマージ重み付けは,各モデルに符号化されたタスク固有情報の量とともにスケールする必要があることを示す。 パラメータノルムの逆数を用いてモデルマージ係数を推定する,単純で効果的な手法であるNANを提案する。 NANはトレーニングフリーで、プラグアンドプレイで、幅広いマージ戦略に適用できる。
  論文  参考訳（メタデータ） (2025-05-22T02:46:08Z)
• Reinforced Model Merging [53.84354455400038]
  本稿では,タスク統合に適した環境とエージェントを含むRMM(Reinforced Model Merging)という,革新的なフレームワークを提案する。 評価プロセス中にデータサブセットを利用することで、報酬フィードバックフェーズのボトルネックに対処し、RMMを最大100倍高速化する。
  論文  参考訳（メタデータ） (2025-03-27T08:52:41Z)
• ALWNN Empowered Automatic Modulation Classification: Conquering Complexity and Scarce Sample Conditions [24.59462798452397]
  本稿では、適応軽量ウェーブレットニューラルネットワーク(ALWNN)とマルチショットフレームワーク(MALWNN)に基づく自動変調分類モデルを提案する。 ALWNNモデルは適応ウェーブレットニューラルネットワークと深度分離可能な畳み込みを統合することで、モデルパラメータの数と計算複雑性を低減する。 MALWNNの実験では、他のアルゴリズムと比較して、数ショットの学習シナリオでは優れたパフォーマンスを示している。
  論文  参考訳（メタデータ） (2025-03-24T06:14:33Z)
• End-to-End Reinforcement Learning of Koopman Models for Economic Nonlinear Model Predictive Control [45.84205238554709]
  本研究では, (e)NMPCの一部として最適性能を示すために, Koopman シュロゲートモデルの強化学習法を提案する。 エンドツーエンドトレーニングモデルは,(e)NMPCにおけるシステム識別を用いてトレーニングしたモデルよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-08-03T10:21:53Z)
• Smooth Min-Max Monotonic Networks [9.313156974838076]
  単調性制約は統計モデリングにおける強力な正則化器である。 コンピュータ支援による意思決定における公平性をサポートし、データ駆動科学モデルの妥当性を高めることができる。 セミナル min-max (MM) ニューラルネットワークアーキテクチャは、単調性を保証するが、MM非線形性の偏微分がゼロであるため、トレーニング中に望ましくない局所最適状態に陥ることが多い。 本稿では,この問題を緩和するスムーズな最小関数と最大関数を用いて,MMネットワークの簡易な修正を提案する。
  論文  参考訳（メタデータ） (2023-06-01T21:03:06Z)
• Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
  本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。 FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。 PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
  論文  参考訳（メタデータ） (2023-05-01T20:04:46Z)
• MoEfication: Conditional Computation of Transformer Models for Efficient Inference [66.56994436947441]
  トランスフォーマーベースの事前学習言語モデルは、パラメータ容量が大きいため、ほとんどのNLPタスクにおいて優れた性能を実現することができるが、計算コストも大きい。 スパースアクティベーション現象に基づく条件計算により,大規模モデル推論を高速化する。 そこで本研究では,モデルサイズが等しいMoE(Mix-of-experts)バージョン,すなわちMoEficationに変換することを提案する。
  論文  参考訳（メタデータ） (2021-10-05T02:14:38Z)
• Q-GADMM: Quantized Group ADMM for Communication Efficient Decentralized Machine Learning [66.18202188565922]
  我々はQGADMM(QGADMM)という通信効率の高い分散機械学習(ML)アルゴリズムを提案する。 我々は,凸関数に対するQGADMMの収束性を証明しつつ,モデル化レベルとその確率を適応的に調整する新しい量子化法を開発した。
  論文  参考訳（メタデータ） (2019-10-23T10:47:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。