論文の概要: Time-Warping Recurrent Neural Networks for Transfer Learning
- arxiv url: http://arxiv.org/abs/2604.02474v1
- Date: Thu, 02 Apr 2026 19:10:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-06 17:20:24.180522
- Title: Time-Warping Recurrent Neural Networks for Transfer Learning
- Title(参考訳): 伝達学習のための時流リカレントニューラルネットワーク
- Authors: Jonathon Hirschi,
- Abstract要約: 本論文は、時間ワープに基づくリカレントニューラルネットワーク(RNN)のための新しいトランスファー学習法を提案する。
時間ワープ法は、いくつかの既知の移動学習法に対して評価される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dynamical systems describe how a physical system evolves over time. Physical processes can evolve faster or slower in different environmental conditions. We use time-warping as rescaling the time in a model of a physical system. This thesis proposes a new method of transfer learning for Recurrent Neural Networks (RNNs) based on time-warping. We prove that for a class of linear, first-order differential equations known as time lag models, an LSTM can approximate these systems with any desired accuracy, and the model can be time-warped while maintaining the approximation accuracy. The Time-Warping method of transfer learning is then evaluated in an applied problem on predicting fuel moisture content (FMC), an important concept in wildfire modeling. An RNN with LSTM recurrent layers is pretrained on fuels with a characteristic time scale of 10 hours, where there are large quantities of data available for training. The RNN is then modified with transfer learning to generate predictions for fuels with characteristic time scales of 1 hour, 100 hours, and 1000 hours. The Time-Warping method is evaluated against several known methods of transfer learning. The Time-Warping method produces predictions with an accuracy level comparable to the established methods, despite modifying only a small fraction of the parameters that the other methods modify.
- Abstract(参考訳): 力学系は、物理系が時間とともにどのように進化するかを記述する。
物理的プロセスは、異なる環境条件下でより速く、または遅く進化することができる。
物理的システムのモデルで、時間を再スケーリングするために、タイムウォーピングを使用します。
本論文は、時間ワープに基づくリカレントニューラルネットワーク(RNN)のための新しいトランスファー学習法を提案する。
時間ラグモデルとして知られる線形一階微分方程式のクラスでは、LSTMはこれらの系を任意の精度で近似することができ、近似精度を維持しながら時間ウォープできることを示す。
次に, 火炎モデルにおいて重要な概念である燃料含水率(FMC)の予測問題において, 伝達学習の時間ワープ法を評価する。
LSTMリカレント層を持つRNNは、10時間の特徴的な時間スケールを持つ燃料で事前訓練される。
その後、RNNは移動学習で修正され、1時間100時間1000時間の特徴的な時間スケールを持つ燃料の予測を生成する。
時間ワープ法は、いくつかの既知の移動学習法に対して評価される。
Time-Warpingメソッドは、他のメソッドが修正したパラメータのごく一部しか変更していないにもかかわらず、確立したメソッドに匹敵する精度で予測を生成する。
関連論文リスト
- Latent State Models of Training Dynamics [51.88132043461152]
異なるランダムなシードでモデルをトレーニングし、トレーニングを通じてさまざまなメトリクスを計算します。
次に、結果のメトリクス列に隠れマルコフモデル(HMM)を適合させる。
我々はHMM表現を用いて相転移を研究し、収束を遅くする潜伏状態(detour state)を特定する。
論文 参考訳(メタデータ) (2023-08-18T13:20:08Z) - Multivariate Time Series Classification: A Deep Learning Approach [1.0742675209112622]
本稿では時系列分類領域に適用可能な様々な手法とニューラルネットワークアーキテクチャについて検討する。
データは、酸素や音などの量を測定し、追跡するガスセンサー群から得られる。
このデータにより、特定の環境における占有などの事象を検出することができる。
論文 参考訳(メタデータ) (2023-07-05T12:50:48Z) - Neural Differential Recurrent Neural Network with Adaptive Time Steps [11.999568208578799]
隠れ状態の時間的発達を表すためにニューラルODEを用いるRNN-ODE-Adapと呼ばれるRNNベースのモデルを提案する。
我々は、データの変化の急激さに基づいて時間ステップを適応的に選択し、「スパイクのような」時系列に対してより効率的にモデルを訓練する。
論文 参考訳(メタデータ) (2023-06-02T16:46:47Z) - Continuous time recurrent neural networks: overview and application to
forecasting blood glucose in the intensive care unit [56.801856519460465]
連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。
重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
論文 参考訳(メタデータ) (2023-04-14T09:39:06Z) - Forecasting subcritical cylinder wakes with Fourier Neural Operators [58.68996255635669]
実験によって測定された速度場の時間的変化を予測するために,最先端の演算子学習手法を適用した。
その結果、FNOはレイノルズ数の範囲で実験速度場の進化を正確に予測できることがわかった。
論文 参考訳(メタデータ) (2023-01-19T20:04:36Z) - Online learning of windmill time series using Long Short-term Cognitive
Networks [58.675240242609064]
風車農場で生成されたデータの量は、オンライン学習が従うべき最も有効な戦略となっている。
我々はLong Short-term Cognitive Networks (LSTCNs) を用いて、オンライン環境での風車時系列を予測する。
提案手法は,単純なRNN,長期記憶,Gated Recurrent Unit,Hidden Markov Modelに対して最も低い予測誤差を報告した。
論文 参考訳(メタデータ) (2021-07-01T13:13:24Z) - Neural ODE Processes [64.10282200111983]
NDP(Neural ODE Process)は、Neural ODEの分布によって決定される新しいプロセスクラスである。
我々のモデルは,少数のデータポイントから低次元システムのダイナミクスを捉えることができることを示す。
論文 参考訳(メタデータ) (2021-03-23T09:32:06Z) - Accelerated solving of coupled, non-linear ODEs through LSTM-AI [0.0]
本研究の目的は、機械学習、特にニューラルネットワーク(NN)を用いて、結合された常微分方程式(ODE)の集合の軌跡を学習することである。
予測計算時間と数値解を求める計算時間を比較すると,計算速度は9.75倍から197倍に向上した。
論文 参考訳(メタデータ) (2020-09-11T18:31:53Z) - Fast Modeling and Understanding Fluid Dynamics Systems with
Encoder-Decoder Networks [0.0]
本研究では,有限体積シミュレータを用いて,高精度な深層学習に基づくプロキシモデルを効率的に教えることができることを示す。
従来のシミュレーションと比較して、提案したディープラーニングアプローチはより高速なフォワード計算を可能にする。
深層学習モデルの重要物理パラメータに対する感度を定量化することにより、インバージョン問題を大きな加速で解くことができることを示す。
論文 参考訳(メタデータ) (2020-06-09T17:14:08Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳(メタデータ) (2020-06-08T09:53:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。