論文の概要: A Statistical Framework for Model Selection in LSTM Networks

• arxiv url: http://arxiv.org/abs/2506.06840v1
• Date: Sat, 07 Jun 2025 15:44:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-10 16:33:10.511915
• Title: A Statistical Framework for Model Selection in LSTM Networks
• Title（参考訳）: LSTMネットワークにおけるモデル選択のための統計的枠組み
• Authors: Fahad Mostafa,
• Abstract要約: LSTMネットワークにおける系統的モデル選択のための統一的な統計フレームワークを提案する。 我々のフレームワークは、情報基準や縮小推定といった古典的なモデル選択のアイデアを、シーケンシャルニューラルネットワークに拡張する。 いくつかのバイオメディカルデータ中心の例は、提案フレームワークの柔軟性と性能の向上を示している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Long Short-Term Memory (LSTM) neural network models have become the cornerstone for sequential data modeling in numerous applications, ranging from natural language processing to time series forecasting. Despite their success, the problem of model selection, including hyperparameter tuning, architecture specification, and regularization choice remains largely heuristic and computationally expensive. In this paper, we propose a unified statistical framework for systematic model selection in LSTM networks. Our framework extends classical model selection ideas, such as information criteria and shrinkage estimation, to sequential neural networks. We define penalized likelihoods adapted to temporal structures, propose a generalized threshold approach for hidden state dynamics, and provide efficient estimation strategies using variational Bayes and approximate marginal likelihood methods. Several biomedical data centric examples demonstrate the flexibility and improved performance of the proposed framework.
• Abstract（参考訳）: Long Short-Term Memory (LSTM) ニューラルネットワークモデルは、自然言語処理から時系列予測まで、数多くのアプリケーションにおいてシーケンシャルなデータモデリングの基盤となっている。 その成功にもかかわらず、ハイパーパラメータチューニング、アーキテクチャ仕様、正規化選択を含むモデル選択の問題は、主にヒューリスティックで計算的に高価である。 本稿では,LSTMネットワークにおける系統的モデル選択のための統一的な統計フレームワークを提案する。 我々のフレームワークは、情報基準や縮小推定といった古典的なモデル選択のアイデアを、シーケンシャルニューラルネットワークに拡張する。 我々は,時間構造に適応したペナル化確率を定義し,隠れ状態のダイナミクスに対する一般化しきい値アプローチを提案し,変分ベイズと近似限界確率法による効率的な推定戦略を提供する。 いくつかのバイオメディカルデータ中心の例は、提案フレームワークの柔軟性と性能の向上を示している。

関連論文リスト

• Generalized Factor Neural Network Model for High-dimensional Regression [50.554377879576066]
  複素・非線形・雑音に隠れた潜在低次元構造を持つ高次元データセットをモデル化する課題に取り組む。 我々のアプローチは、非パラメトリック回帰、因子モデル、高次元回帰のためのニューラルネットワークの概念のシームレスな統合を可能にする。
  論文  参考訳（メタデータ） (2025-02-16T23:13:55Z)
• Deep Learning-based Approaches for State Space Models: A Selective Review [15.295157876811066]
  状態空間モデル(SSM)は動的システム解析のための強力なフレームワークを提供する。 本稿では、SSMに対するディープニューラルネットワークに基づくアプローチの最近の進歩を選択的にレビューする。
  論文  参考訳（メタデータ） (2024-12-15T15:04:35Z)
• Latent Semantic Consensus For Deterministic Geometric Model Fitting [109.44565542031384]
  我々はLSC(Latent Semantic Consensus)と呼ばれる効果的な方法を提案する。 LSCは、モデルフィッティング問題をデータポイントとモデル仮説に基づく2つの潜在意味空間に定式化する。 LSCは、一般的な多構造モデルフィッティングのために、数ミリ秒以内で一貫した、信頼性の高いソリューションを提供することができる。
  論文  参考訳（メタデータ） (2024-03-11T05:35:38Z)
• Embedded feature selection in LSTM networks with multi-objective evolutionary ensemble learning for time series forecasting [49.1574468325115]
  本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。 本手法はLSTMの重みと偏りを分割的に最適化する。 イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
  論文  参考訳（メタデータ） (2023-12-29T08:42:10Z)
• Data-driven Preference Learning Methods for Sorting Problems with Multiple Temporal Criteria [17.673512636899076]
  本研究では,時間的基準が存在する場合の複数基準ソート問題に対する新しい選好学習手法を提案する。 スケーラビリティを向上し、学習可能な時間割引要素に対応するため、新しい単調リカレントニューラルネットワーク(mRNN)を導入する。 提案するmRNNは、時間とともに、限界値関数とパーソナライズされた時間割引係数を記述することにより、好みのダイナミクスを記述することができる。
  論文  参考訳（メタデータ） (2023-09-22T05:08:52Z)
• Time Series Continuous Modeling for Imputation and Forecasting with Implicit Neural Representations [15.797295258800638]
  本稿では,実世界のデータでしばしば発生する課題に対処するために,時系列計算と予測のための新しいモデリング手法を提案する。 本手法はシリーズの進化力学の連続時間依存モデルに依存する。 メタラーニングアルゴリズムによって駆動される変調機構は、観測されたタイムウインドウを超えて、見えないサンプルや外挿への適応を可能にする。
  論文  参考訳（メタデータ） (2023-06-09T13:20:04Z)
• Continuous time recurrent neural networks: overview and application to forecasting blood glucose in the intensive care unit [56.801856519460465]
  連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。 重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
  論文  参考訳（メタデータ） (2023-04-14T09:39:06Z)
• A Statistical-Modelling Approach to Feedforward Neural Network Model Selection [0.8287206589886881]
  フィードフォワードニューラルネットワーク(FNN)は非線形回帰モデルと見なすことができる。 FNNのためのベイズ情報基準(BIC)を用いて,新しいモデル選択法を提案する。 サンプル外性能よりもBICを選択することは、真のモデルを回復する確率を増大させる。
  論文  参考訳（メタデータ） (2022-07-09T11:07:04Z)
• Randomized Neural Networks for Forecasting Time Series with Multiple Seasonality [0.0]
  この研究は、新しいランダム化に基づく学習手法を用いたニューラル予測モデルの開発に寄与する。 時系列のパターンに基づく表現は、複数の季節の時系列を予測するのに有用である。
  論文  参考訳（メタデータ） (2021-07-04T18:39:27Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder [59.69303945834122]
  Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。 我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。 合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
  論文  参考訳（メタデータ） (2021-02-02T06:15:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。