論文の概要: Towards lifelong learning of Recurrent Neural Networks for control
design
- arxiv url: http://arxiv.org/abs/2208.03980v1
- Date: Mon, 8 Aug 2022 08:51:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-09 14:30:01.072645
- Title: Towards lifelong learning of Recurrent Neural Networks for control
design
- Title(参考訳): 制御設計のためのリカレントニューラルネットワークの生涯学習に向けて
- Authors: Fabio Bonassi, Jing Xie, Marcello Farina, Riccardo Scattolini
- Abstract要約: 本稿では, NNARX, ESN, LSTM, GRUなどのリカレントニューラルネットワークの生涯学習手法を提案する。
新たな情報が利用可能になったり、あるいはシステムが変更される際には、時間が経つにつれてデータの蓄積量が増加することなく、モデルを適応させることが求められます。
本研究では、その収束条件を導出した移動水平推定器にインスパイアされた適応アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 0.803314610321292
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper proposes a method for lifelong learning of Recurrent Neural
Networks, such as NNARX, ESN, LSTM, and GRU, to be used as plant models in
control system synthesis. The problem is significant because in many practical
applications it is required to adapt the model when new information is
available and/or the system undergoes changes, without the need to store an
increasing amount of data as time proceeds. Indeed, in this context, many
problems arise, such as the well known Catastrophic Forgetting and Capacity
Saturation ones. We propose an adaptation algorithm inspired by Moving Horizon
Estimators, deriving conditions for its convergence. The described method is
applied to a simulated chemical plant, already adopted as a challenging
benchmark in the existing literature. The main results achieved are discussed.
- Abstract(参考訳): 本稿では, nnarx, esn, lstm, gruなどのリカレントニューラルネットワークを, 制御系合成における植物モデルとして生涯学習する手法を提案する。
問題は、多くの実用的なアプリケーションにおいて、新しい情報が利用可能になったり、あるいはシステムが変更される際には、時間が経つにつれてデータ量が増加することなしに、モデルを適応させることが要求されるためである。
実際、この文脈では、よく知られたカタストロフィック・フォーッティングやキャパシティ・飽和問題など、多くの問題が発生する。
移動地平線推定器に触発された適応アルゴリズムを提案し,その収束条件を導出する。
本手法は,すでに既存の文献に挑戦的な指標として採用されているシミュレーション化学プラントに適用する。
主な成果について論じる。
関連論文リスト
- Recurrent neural networks and transfer learning for elasto-plasticity in
woven composites [0.0]
本稿では, 織物のメソスケールシミュレーションの代用として, リカレントニューラルネットワーク(RNN)モデルを提案する。
平均場モデルは、弾塑性挙動を表す包括的データセットを生成する。
シミュレーションでは、任意の6次元ひずみヒストリーを用いて、ランダムウォーキング時の応力を原課題として、循環荷重条件を目標課題として予測する。
論文 参考訳(メタデータ) (2023-11-22T14:47:54Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳(メタデータ) (2023-06-04T08:53:27Z) - Go Beyond Multiple Instance Neural Networks: Deep-learning Models based
on Local Pattern Aggregation [0.0]
畳み込みニューラルネットワーク(CNN)は、臨床心電図(ECG)と話者非依存音声の処理においてブレークスルーをもたらした。
本稿では,局所的なパターン集約に基づくディープラーニングモデルを提案する。
LPANetと呼ばれる新しいネットワーク構造には、トリミングと集約操作が組み込まれている。
論文 参考訳(メタデータ) (2022-05-28T13:18:18Z) - On the adaptation of recurrent neural networks for system identification [2.5234156040689237]
本稿では,動的システムのリカレントニューラルネットワーク(RNN)モデルの高速かつ効率的な適応を可能にするトランスファー学習手法を提案する。
その後、システムダイナミクスが変化すると仮定され、摂動系における名目モデルの性能が不可避的に低下する。
ミスマッチに対処するため、新しい動的状態からの新鮮なデータに基づいてトレーニングされた付加的補正項でモデルを拡張する。
論文 参考訳(メタデータ) (2022-01-21T12:04:17Z) - Reducing Catastrophic Forgetting in Self Organizing Maps with
Internally-Induced Generative Replay [67.50637511633212]
生涯学習エージェントは、パターン知覚データの無限のストリームから継続的に学習することができる。
適応するエージェントを構築する上での歴史的難しさの1つは、ニューラルネットワークが新しいサンプルから学ぶ際に、以前取得した知識を維持するのに苦労していることである。
この問題は破滅的な忘れ(干渉)と呼ばれ、今日の機械学習の領域では未解決の問題のままである。
論文 参考訳(メタデータ) (2021-12-09T07:11:14Z) - Convolutional generative adversarial imputation networks for
spatio-temporal missing data in storm surge simulations [86.5302150777089]
GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。
提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
論文 参考訳(メタデータ) (2021-11-03T03:50:48Z) - Contextual HyperNetworks for Novel Feature Adaptation [43.49619456740745]
Contextual HyperNetwork(CHN)は、ベースモデルを新機能に拡張するためのパラメータを生成する。
予測時、CHNはニューラルネットワークを通る単一のフォワードパスのみを必要とし、大幅なスピードアップをもたらす。
本システムでは,既存のインプテーションやメタラーニングベースラインよりも,新しい特徴のマイズショット学習性能が向上することを示す。
論文 参考訳(メタデータ) (2021-04-12T23:19:49Z) - Neural ODE Processes [64.10282200111983]
NDP(Neural ODE Process)は、Neural ODEの分布によって決定される新しいプロセスクラスである。
我々のモデルは,少数のデータポイントから低次元システムのダイナミクスを捉えることができることを示す。
論文 参考訳(メタデータ) (2021-03-23T09:32:06Z) - Neural-iLQR: A Learning-Aided Shooting Method for Trajectory
Optimization [17.25824905485415]
制約のない制御空間上の学習支援シューティング手法であるNeural-iLQRを提案する。
システムモデルにおける不正確さの存在下で、従来のiLQRよりも著しく優れていることが示されている。
論文 参考訳(メタデータ) (2020-11-21T07:17:28Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z) - AdaS: Adaptive Scheduling of Stochastic Gradients [50.80697760166045]
我々は、textit "knowledge gain" と textit "mapping condition" の概念を導入し、Adaptive Scheduling (AdaS) と呼ばれる新しいアルゴリズムを提案する。
実験によると、AdaSは派生した指標を用いて、既存の適応学習手法よりも高速な収束と優れた一般化、そして(b)いつトレーニングを中止するかを決定するための検証セットへの依存の欠如を示す。
論文 参考訳(メタデータ) (2020-06-11T16:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。