論文の概要: A Statistical Framework for Model Selection in LSTM Networks

• arxiv url: http://arxiv.org/abs/2506.06840v1
• Date: Sat, 07 Jun 2025 15:44:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-10 16:33:10.511915
• Title: A Statistical Framework for Model Selection in LSTM Networks
• Title（参考訳）: LSTMネットワークにおけるモデル選択のための統計的枠組み
• Authors: Fahad Mostafa,
• Abstract要約: LSTMネットワークにおける系統的モデル選択のための統一的な統計フレームワークを提案する。 我々のフレームワークは、情報基準や縮小推定といった古典的なモデル選択のアイデアを、シーケンシャルニューラルネットワークに拡張する。 いくつかのバイオメディカルデータ中心の例は、提案フレームワークの柔軟性と性能の向上を示している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Long Short-Term Memory (LSTM) neural network models have become the cornerstone for sequential data modeling in numerous applications, ranging from natural language processing to time series forecasting. Despite their success, the problem of model selection, including hyperparameter tuning, architecture specification, and regularization choice remains largely heuristic and computationally expensive. In this paper, we propose a unified statistical framework for systematic model selection in LSTM networks. Our framework extends classical model selection ideas, such as information criteria and shrinkage estimation, to sequential neural networks. We define penalized likelihoods adapted to temporal structures, propose a generalized threshold approach for hidden state dynamics, and provide efficient estimation strategies using variational Bayes and approximate marginal likelihood methods. Several biomedical data centric examples demonstrate the flexibility and improved performance of the proposed framework.
• Abstract（参考訳）: Long Short-Term Memory (LSTM) ニューラルネットワークモデルは、自然言語処理から時系列予測まで、数多くのアプリケーションにおいてシーケンシャルなデータモデリングの基盤となっている。 その成功にもかかわらず、ハイパーパラメータチューニング、アーキテクチャ仕様、正規化選択を含むモデル選択の問題は、主にヒューリスティックで計算的に高価である。 本稿では,LSTMネットワークにおける系統的モデル選択のための統一的な統計フレームワークを提案する。 我々のフレームワークは、情報基準や縮小推定といった古典的なモデル選択のアイデアを、シーケンシャルニューラルネットワークに拡張する。 我々は,時間構造に適応したペナル化確率を定義し,隠れ状態のダイナミクスに対する一般化しきい値アプローチを提案し,変分ベイズと近似限界確率法による効率的な推定戦略を提供する。 いくつかのバイオメディカルデータ中心の例は、提案フレームワークの柔軟性と性能の向上を示している。

関連論文リスト

• Generalized Factor Neural Network Model for High-dimensional Regression [50.554377879576066]
  複素・非線形・雑音に隠れた潜在低次元構造を持つ高次元データセットをモデル化する課題に取り組む。 我々のアプローチは、非パラメトリック回帰、因子モデル、高次元回帰のためのニューラルネットワークの概念のシームレスな統合を可能にする。
  論文  参考訳（メタデータ） (2025-02-16T23:13:55Z)
• Latent Semantic Consensus For Deterministic Geometric Model Fitting [109.44565542031384]
  我々はLSC(Latent Semantic Consensus)と呼ばれる効果的な方法を提案する。 LSCは、モデルフィッティング問題をデータポイントとモデル仮説に基づく2つの潜在意味空間に定式化する。 LSCは、一般的な多構造モデルフィッティングのために、数ミリ秒以内で一貫した、信頼性の高いソリューションを提供することができる。
  論文  参考訳（メタデータ） (2024-03-11T05:35:38Z)
• Embedded feature selection in LSTM networks with multi-objective evolutionary ensemble learning for time series forecasting [49.1574468325115]
  本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。 本手法はLSTMの重みと偏りを分割的に最適化する。 イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
  論文  参考訳（メタデータ） (2023-12-29T08:42:10Z)
• Time Series Continuous Modeling for Imputation and Forecasting with Implicit Neural Representations [15.797295258800638]
  本稿では,実世界のデータでしばしば発生する課題に対処するために,時系列計算と予測のための新しいモデリング手法を提案する。 本手法はシリーズの進化力学の連続時間依存モデルに依存する。 メタラーニングアルゴリズムによって駆動される変調機構は、観測されたタイムウインドウを超えて、見えないサンプルや外挿への適応を可能にする。
  論文  参考訳（メタデータ） (2023-06-09T13:20:04Z)
• Continuous time recurrent neural networks: overview and application to forecasting blood glucose in the intensive care unit [56.801856519460465]
  連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。 重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
  論文  参考訳（メタデータ） (2023-04-14T09:39:06Z)
• A Statistical-Modelling Approach to Feedforward Neural Network Model Selection [0.8287206589886881]
  フィードフォワードニューラルネットワーク(FNN)は非線形回帰モデルと見なすことができる。 FNNのためのベイズ情報基準(BIC)を用いて,新しいモデル選択法を提案する。 サンプル外性能よりもBICを選択することは、真のモデルを回復する確率を増大させる。
  論文  参考訳（メタデータ） (2022-07-09T11:07:04Z)
• Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder [59.69303945834122]
  Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。 我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。 合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
  論文  参考訳（メタデータ） (2021-02-02T06:15:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。