論文の概要: Sequential Learning from Noisy Data: Data-Assimilation Meets Echo-State
Network
- arxiv url: http://arxiv.org/abs/2304.00198v1
- Date: Sat, 1 Apr 2023 02:03:08 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-04 19:21:47.800987
- Title: Sequential Learning from Noisy Data: Data-Assimilation Meets Echo-State
Network
- Title(参考訳): ノイズデータからの逐次学習:Echo-State Networkとデータ同化
- Authors: Debdipta Goswami
- Abstract要約: アンサンブルカルマンフィルタを用いた雑音観測を取り入れたエコー状態ネットワーク(ESN)のためのシーケンシャルトレーニングアルゴリズムを開発した。
その結果、カルマン訓練されたエコー状態ネットワーク(KalT-ESN)は、計算コストを抑えながら、最小二乗アルゴリズムで従来の訓練されたESNよりも優れていた。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper explores the problem of training a recurrent neural network from
noisy data. While neural network based dynamic predictors perform well with
noise-free training data, prediction with noisy inputs during training phase
poses a significant challenge. Here a sequential training algorithm is
developed for an echo-state network (ESN) by incorporating noisy observations
using an ensemble Kalman filter. The resultant Kalman-trained echo-state
network (KalT-ESN) outperforms the traditionally trained ESN with least square
algorithm while still being computationally cheap. The proposed method is
demonstrated on noisy observations from three systems: two synthetic datasets
from chaotic dynamical systems and a set of real-time traffic data.
- Abstract(参考訳): 本稿では,雑音データから繰り返しニューラルネットワークを学習する際の問題点を考察する。
ニューラルネットワークに基づく動的予測器はノイズのないトレーニングデータでうまく機能するが、トレーニング段階でのノイズ入力による予測は大きな課題となる。
そこで,アンサンブルカルマンフィルタを用いたノイズ観測を組み込んだエコー状態ネットワーク(esn)のための逐次学習アルゴリズムを開発した。
その結果、カルマン訓練されたエコー状態ネットワーク(KalT-ESN)は、計算コストを抑えながら、最小二乗アルゴリズムで従来の訓練されたESNより優れている。
提案手法は,カオス力学系からの2つの合成データセットとリアルタイムトラフィックデータからなる3つのシステムからの雑音観測で実証された。
関連論文リスト
- Assessing Neural Network Representations During Training Using
Noise-Resilient Diffusion Spectral Entropy [55.014926694758195]
ニューラルネットワークにおけるエントロピーと相互情報は、学習プロセスに関する豊富な情報を提供する。
データ幾何を利用して基礎となる多様体にアクセスし、これらの情報理論測度を確実に計算する。
本研究は,高次元シミュレーションデータにおける固有次元と関係強度の耐雑音性の測定結果である。
論文 参考訳(メタデータ) (2023-12-04T01:32:42Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳(メタデータ) (2023-06-04T08:53:27Z) - Training neural networks with structured noise improves classification and generalization [0.0]
ノイズの多いトレーニングデータに構造を加えることで,アルゴリズムの性能が大幅に向上することを示す。
また,Hebbian Unlearning(ヘビアン・アンラーニング・ルール)と呼ばれる規則は,雑音が最大値である場合のトレーニング・ウィズ・ノイズ・アルゴリズムと一致することを証明した。
論文 参考訳(メタデータ) (2023-02-26T22:10:23Z) - Online Real-time Learning of Dynamical Systems from Noisy Streaming
Data: A Koopman Operator Approach [0.0]
ノイズの多い時系列データから動的システムのオンラインリアルタイム学習のための新しいアルゴリズムを提案する。
提案アルゴリズムはロバスト・クープマン演算子を用いて測定ノイズの影響を緩和する。
論文 参考訳(メタデータ) (2022-12-10T10:21:45Z) - Delay Embedded Echo-State Network: A Predictor for Partially Observed
Systems [0.0]
エコー状態ネットワーク(ESN)と部分観測状態の時間遅延埋め込みを用いて部分観測の予測器を開発する。
提案手法は,Takenの埋め込み定理と非線形系の強い可観測性によって理論的に正当化される。
論文 参考訳(メタデータ) (2022-11-11T04:13:55Z) - Noise Injection as a Probe of Deep Learning Dynamics [0.0]
ノイズインジェクションノード(NIN)を用いたシステム摂動により,ディープニューラルネットワーク(DNN)の学習メカニズムを探索する新しい手法を提案する。
このシステムは,音の音量によって予測される訓練中に異なる位相を呈することがわかった。
ノイズノードの進化は、乱れのない損失のそれと似ており、NINを使って将来、完全なシステムについてより深く学ぶ可能性を示している。
論文 参考訳(メタデータ) (2022-10-24T20:51:59Z) - NAF: Neural Attenuation Fields for Sparse-View CBCT Reconstruction [79.13750275141139]
本稿では,スパースビューCBCT再構成のための新規かつ高速な自己教師型ソリューションを提案する。
所望の減衰係数は、3次元空間座標の連続関数として表現され、完全に接続されたディープニューラルネットワークによってパラメータ化される。
ハッシュ符号化を含む学習ベースのエンコーダが採用され、ネットワークが高周波の詳細をキャプチャするのに役立つ。
論文 参考訳(メタデータ) (2022-09-29T04:06:00Z) - An advanced spatio-temporal convolutional recurrent neural network for
storm surge predictions [73.4962254843935]
本研究では, 人工ニューラルネットワークモデルを用いて, 嵐の軌跡/規模/強度履歴に基づいて, 強風をエミュレートする能力について検討する。
本研究では, 人工嵐シミュレーションのデータベースを用いて, 強風を予測できるニューラルネットワークモデルを提案する。
論文 参考訳(メタデータ) (2022-04-18T23:42:18Z) - Inferring, Predicting, and Denoising Causal Wave Dynamics [3.9407250051441403]
DISTANA(Distributed Artificial Neural Network Architecture)は、グラフ畳み込みニューラルネットワークである。
DISTANAは、再帰パターンが観測されるので、データストリームを飾るのに非常に適していることを示す。
安定かつ正確なクローズドループ予測を数百の時間ステップで生成する。
論文 参考訳(メタデータ) (2020-09-19T08:33:53Z) - Multi-Tones' Phase Coding (MTPC) of Interaural Time Difference by
Spiking Neural Network [68.43026108936029]
雑音の多い実環境下での正確な音像定位のための純粋スパイクニューラルネットワーク(SNN)に基づく計算モデルを提案する。
このアルゴリズムを,マイクロホンアレイを用いたリアルタイムロボットシステムに実装する。
実験の結果, 平均誤差方位は13度であり, 音源定位に対する他の生物学的に妥当なニューロモルフィックアプローチの精度を上回っていることがわかった。
論文 参考訳(メタデータ) (2020-07-07T08:22:56Z) - Applications of Koopman Mode Analysis to Neural Networks [52.77024349608834]
我々は,ニューラルネットワークのトレーニング過程を,高次元の重み空間に作用する力学系と考える。
アーキテクチャに必要なレイヤ数を決定するために、Koopmanスペクトルをどのように利用できるかを示す。
また、Koopmanモードを使えば、ネットワークを選択的にプーンしてトレーニング手順を高速化できることを示す。
論文 参考訳(メタデータ) (2020-06-21T11:00:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。