論文の概要: Time-shift selection for reservoir computing using a rank-revealing QR
algorithm
- arxiv url: http://arxiv.org/abs/2211.17095v3
- Date: Tue, 25 Apr 2023 22:24:31 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-27 17:57:28.712174
- Title: Time-shift selection for reservoir computing using a rank-revealing QR
algorithm
- Title(参考訳): ランク付きQRアルゴリズムを用いた貯水池計算のための時間シフト選択
- Authors: Joseph D. Hart and Francesco Sorrentino and Thomas L. Carroll
- Abstract要約: そこで本研究では, 位置対応QRアルゴリズムを用いて, 貯水池行列のランクを最大化することにより, 時間シフトを選択する手法を提案する。
提案手法は, 基本的にすべての場合において, ランダムな時間シフト選択よりも精度が向上することがわかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reservoir computing, a recurrent neural network paradigm in which only the
output layer is trained, has demonstrated remarkable performance on tasks such
as prediction and control of nonlinear systems. Recently, it was demonstrated
that adding time-shifts to the signals generated by a reservoir can provide
large improvements in performance accuracy. In this work, we present a
technique to choose the time-shifts by maximizing the rank of the reservoir
matrix using a rank-revealing QR algorithm. This technique, which is not task
dependent, does not require a model of the system, and therefore is directly
applicable to analog hardware reservoir computers. We demonstrate our
time-shift selection technique on two types of reservoir computer: one based on
an opto-electronic oscillator and the traditional recurrent network with a
$tanh$ activation function. We find that our technique provides improved
accuracy over random time-shift selection in essentially all cases.
- Abstract(参考訳): 出力層のみをトレーニングしたリカレントニューラルネットワークパラダイムであるReservoir Computingは、非線形システムの予測や制御といったタスクにおいて、顕著なパフォーマンスを示している。
近年,貯水池で発生した信号に時間シフトを加えることで,性能が向上することが実証された。
そこで,本研究では,位取りQRアルゴリズムを用いて,貯水池行列のランクを最大化する手法を提案する。
この技術はタスク依存ではなく、システムのモデルを必要としないため、アナログハードウェア貯水池コンピュータに直接適用することができる。
我々は,光電子発振器に基づく2種類のリザーバコンピュータと,$tanh$アクティベーション関数を持つ従来のリカレントネットワークを用いた時間シフト選択手法を示す。
この手法は,ランダムな時間シフト選択よりも,ほぼすべてのケースにおいて精度が向上することを見出した。
関連論文リスト
- Reservoir computing with logistic map [0.0]
本稿では,仮想ノードを貯水池計算の貯水池として構築し,時間的・非時間的タスクを予測する手法を示す。
時間的タスクに対してはLorenz, Rossler, Hindmarsh-Roseの3つの非線形系を予測し, 高精度な非時間的タスクに対しては7位とした。
注目すべきは、ロジスティックマップがうまく機能し、実際の値や対象値に近いものを予測することである。
論文 参考訳(メタデータ) (2024-01-17T09:22:15Z) - Low-rank extended Kalman filtering for online learning of neural
networks from streaming data [71.97861600347959]
非定常データストリームから非線形関数のパラメータを推定するための効率的なオンライン近似ベイズ推定アルゴリズムを提案する。
この方法は拡張カルマンフィルタ (EKF) に基づいているが、新しい低ランク+斜角行列分解法を用いている。
変分推論に基づく手法とは対照的に,本手法は完全に決定論的であり,ステップサイズチューニングを必要としない。
論文 参考訳(メタデータ) (2023-05-31T03:48:49Z) - Optimization of a Hydrodynamic Computational Reservoir through Evolution [58.720142291102135]
我々は,スタートアップが開発中の流体力学系のモデルと,計算貯水池としてインターフェースする。
我々は、進化探索アルゴリズムを用いて、読み出し時間と入力を波の振幅や周波数にどのようにマッピングするかを最適化した。
この貯水池システムに進化的手法を適用することで、手作業パラメータを用いた実装と比較して、XNORタスクの分離性が大幅に向上した。
論文 参考訳(メタデータ) (2023-04-20T19:15:02Z) - A Stable, Fast, and Fully Automatic Learning Algorithm for Predictive
Coding Networks [65.34977803841007]
予測符号化ネットワークは、ベイズ統計学と神経科学の両方にルーツを持つ神経科学にインスパイアされたモデルである。
シナプス重みに対する更新規則の時間的スケジュールを変更するだけで、元の規則よりもずっと効率的で安定したアルゴリズムが得られることを示す。
論文 参考訳(メタデータ) (2022-11-16T00:11:04Z) - RSC: Accelerating Graph Neural Networks Training via Randomized Sparse
Computations [56.59168541623729]
トレーニンググラフニューラルネットワーク(GNN)は、疎グラフベースの操作がハードウェアによって加速することが難しいため、時間を要する。
我々は,サンプリングに基づく近似による時間的複雑性を低減するために,計算精度のトレードオフを検討する。
本稿では,GNNを近似演算でトレーニングする可能性を初めて示すランダム化スパース計算を提案する。
論文 参考訳(メタデータ) (2022-10-19T17:25:33Z) - A Robust and Explainable Data-Driven Anomaly Detection Approach For
Power Electronics [56.86150790999639]
本稿では,2つの異常検出・分類手法,すなわち行列プロファイルアルゴリズムと異常変換器を提案する。
行列プロファイルアルゴリズムは、ストリーミング時系列データにおけるリアルタイム異常を検出するための一般化可能なアプローチとして適している。
検知器の感度、リコール、検出精度を調整するために、一連のカスタムフィルタが作成され、追加される。
論文 参考訳(メタデータ) (2022-09-23T06:09:35Z) - Convolutional generative adversarial imputation networks for
spatio-temporal missing data in storm surge simulations [86.5302150777089]
GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。
提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
論文 参考訳(メタデータ) (2021-11-03T03:50:48Z) - Next Generation Reservoir Computing [0.0]
貯留層計算(Reservoir computing)は、動的システムによって生成される情報を処理する機械学習アルゴリズムである。
非常に小さなトレーニングデータセットを必要とし、線形最適化を使用するため、最小限の計算資源を必要とする。
最近の結果は, 非線形ベクトル自己回帰に対する貯水池計算の等価性を示している。
論文 参考訳(メタデータ) (2021-06-14T18:12:10Z) - Exploiting Multiple Timescales in Hierarchical Echo State Networks [0.0]
エコー状態ネットワーク(ESN)は、線形出力重みのトレーニングのみを必要とする貯水池コンピューティングの強力な形態である。
ここでは,貯水池を2つの小さな貯水池に分割した階層型esnの時間スケールを考察する。
論文 参考訳(メタデータ) (2021-01-11T22:33:17Z) - P-CRITICAL: A Reservoir Autoregulation Plasticity Rule for Neuromorphic
Hardware [4.416484585765027]
繰り返し発生する人工ニューラルネットワーク上のバックプロパゲーションアルゴリズムは、時間とともに蓄積された状態の展開を必要とする。
自動貯水池調整のためのP-CRITICALという新しい局所塑性則を提案する。
パラメータをチューニングすることなく、様々なモーダルからくるタスクの性能改善を観察する。
論文 参考訳(メタデータ) (2020-09-11T18:13:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。