論文の概要: Optimizing time-shifts for reservoir computing using a rank-revealing QR algorithm

• arxiv url: http://arxiv.org/abs/2211.17095v1
• Date: Tue, 29 Nov 2022 14:55:51 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-01 18:18:30.024361
• Title: Optimizing time-shifts for reservoir computing using a rank-revealing QR algorithm
• Title（参考訳）: ランク回帰QRアルゴリズムを用いた貯水池計算のための時間シフトの最適化
• Authors: Joseph D. Hart and Francesco Sorrentino and Thomas L. Carroll
• Abstract要約: 貯留層コンピューティング(Reservoir computing)は、出力層のみをトレーニングする、リカレントニューラルネットワークパラダイムである。 最適な時間シフトを選択する手法を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reservoir computing is a recurrent neural network paradigm in which only the output layer is trained. Recently, it was demonstrated that adding time-shifts to the signals generated by a reservoir can provide large improvements in performance accuracy. In this work, we present a technique to choose the optimal time shifts. Our technique maximizes the rank of the reservoir matrix using a rank-revealing QR algorithm and is not task dependent. Further, our technique does not require a model of the system, and therefore is directly applicable to analog hardware reservoir computers. We demonstrate our time-shift optimization technique on two types of reservoir computer: one based on an opto-electronic oscillator and the traditional recurrent network with a $tanh$ activation function. We find that our technique provides improved accuracy over random time-shift selection in essentially all cases.
• Abstract（参考訳）: 貯留層コンピューティングは、出力層のみをトレーニングするリカレントニューラルネットワークパラダイムである。 近年,貯水池で発生した信号に時間シフトを加えることで,性能が向上することが実証された。 本研究では,最適な時間シフトを選択する手法を提案する。 本手法は,QRアルゴリズムを用いて貯水池行列のランクを最大化し,タスク依存ではない。 さらに,本手法はシステムのモデルを必要としないため,アナログハードウェア・サーブレット・コンピュータに直接適用可能である。 我々は,光電子発振器に基づく2種類のリザーバコンピュータと,$tanh$アクティベーション関数を持つ従来のリカレントネットワークを用いた時間シフト最適化手法を実証する。 この手法は,ランダムな時間シフト選択よりも,ほぼすべてのケースにおいて精度が向上することを見出した。

関連論文リスト

• Reservoir computing with logistic map [0.0]
  本稿では,仮想ノードを貯水池計算の貯水池として構築し,時間的・非時間的タスクを予測する手法を示す。 時間的タスクに対してはLorenz, Rossler, Hindmarsh-Roseの3つの非線形系を予測し, 高精度な非時間的タスクに対しては7位とした。 注目すべきは、ロジスティックマップがうまく機能し、実際の値や対象値に近いものを予測することである。
  論文  参考訳（メタデータ） (2024-01-17T09:22:15Z)
• Low-rank extended Kalman filtering for online learning of neural networks from streaming data [71.97861600347959]
  非定常データストリームから非線形関数のパラメータを推定するための効率的なオンライン近似ベイズ推定アルゴリズムを提案する。 この方法は拡張カルマンフィルタ (EKF) に基づいているが、新しい低ランク+斜角行列分解法を用いている。 変分推論に基づく手法とは対照的に,本手法は完全に決定論的であり,ステップサイズチューニングを必要としない。
  論文  参考訳（メタデータ） (2023-05-31T03:48:49Z)
• Optimization of a Hydrodynamic Computational Reservoir through Evolution [58.720142291102135]
  我々は,スタートアップが開発中の流体力学系のモデルと,計算貯水池としてインターフェースする。 我々は、進化探索アルゴリズムを用いて、読み出し時間と入力を波の振幅や周波数にどのようにマッピングするかを最適化した。 この貯水池システムに進化的手法を適用することで、手作業パラメータを用いた実装と比較して、XNORタスクの分離性が大幅に向上した。
  論文  参考訳（メタデータ） (2023-04-20T19:15:02Z)
• A Stable, Fast, and Fully Automatic Learning Algorithm for Predictive Coding Networks [65.34977803841007]
  予測符号化ネットワークは、ベイズ統計学と神経科学の両方にルーツを持つ神経科学にインスパイアされたモデルである。 シナプス重みに対する更新規則の時間的スケジュールを変更するだけで、元の規則よりもずっと効率的で安定したアルゴリズムが得られることを示す。
  論文  参考訳（メタデータ） (2022-11-16T00:11:04Z)
• RSC: Accelerating Graph Neural Networks Training via Randomized Sparse Computations [56.59168541623729]
  トレーニンググラフニューラルネットワーク(GNN)は、疎グラフベースの操作がハードウェアによって加速することが難しいため、時間を要する。 我々は,サンプリングに基づく近似による時間的複雑性を低減するために,計算精度のトレードオフを検討する。 本稿では,GNNを近似演算でトレーニングする可能性を初めて示すランダム化スパース計算を提案する。
  論文  参考訳（メタデータ） (2022-10-19T17:25:33Z)
• A Robust and Explainable Data-Driven Anomaly Detection Approach For Power Electronics [56.86150790999639]
  本稿では,2つの異常検出・分類手法,すなわち行列プロファイルアルゴリズムと異常変換器を提案する。 行列プロファイルアルゴリズムは、ストリーミング時系列データにおけるリアルタイム異常を検出するための一般化可能なアプローチとして適している。 検知器の感度、リコール、検出精度を調整するために、一連のカスタムフィルタが作成され、追加される。
  論文  参考訳（メタデータ） (2022-09-23T06:09:35Z)
• Convolutional generative adversarial imputation networks for spatio-temporal missing data in storm surge simulations [86.5302150777089]
  GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。 提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
  論文  参考訳（メタデータ） (2021-11-03T03:50:48Z)
• Next Generation Reservoir Computing [0.0]
  貯留層計算(Reservoir computing)は、動的システムによって生成される情報を処理する機械学習アルゴリズムである。 非常に小さなトレーニングデータセットを必要とし、線形最適化を使用するため、最小限の計算資源を必要とする。 最近の結果は, 非線形ベクトル自己回帰に対する貯水池計算の等価性を示している。
  論文  参考訳（メタデータ） (2021-06-14T18:12:10Z)
• Exploiting Multiple Timescales in Hierarchical Echo State Networks [0.0]
  エコー状態ネットワーク(ESN)は、線形出力重みのトレーニングのみを必要とする貯水池コンピューティングの強力な形態である。 ここでは,貯水池を2つの小さな貯水池に分割した階層型esnの時間スケールを考察する。
  論文  参考訳（メタデータ） (2021-01-11T22:33:17Z)
• P-CRITICAL: A Reservoir Autoregulation Plasticity Rule for Neuromorphic Hardware [4.416484585765027]
  繰り返し発生する人工ニューラルネットワーク上のバックプロパゲーションアルゴリズムは、時間とともに蓄積された状態の展開を必要とする。 自動貯水池調整のためのP-CRITICALという新しい局所塑性則を提案する。 パラメータをチューニングすることなく、様々なモーダルからくるタスクの性能改善を観察する。
  論文  参考訳（メタデータ） (2020-09-11T18:13:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。