論文の概要: Scalable Memristive-Friendly Reservoir Computing for Time Series Classification
- arxiv url: http://arxiv.org/abs/2604.19343v1
- Date: Tue, 21 Apr 2026 11:26:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-22 22:41:49.737991
- Title: Scalable Memristive-Friendly Reservoir Computing for Time Series Classification
- Title(参考訳): 時系列分類のためのスケーラブルなメメリシブフレンドリーな貯留層計算
- Authors: Coşku Can Horuz, Andrea Ceni, Claudio Gallicchio, Sebastian Otte,
- Abstract要約: メムリシブフレンドリーな並列型貯水池(MARS)を開発。
MARSは、新しいサブトラクティブスキップ接続を通じて、効率的なスケーラブル並列計算とより深いモデル構成を可能にする。
我々の研究は、スケーラブルなニューロモルフィック学習システムへの有望な経路として、並列記憶型コンピューティングを位置づけている。
- 参考スコア(独自算出の注目度): 12.117690148815923
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Memristive devices present a promising foundation for next-generation information processing by combining memory and computation within a single physical substrate. This unique characteristic enables efficient, fast, and adaptive computing, particularly well suited for deep learning applications. Among recent developments, the memristive-friendly echo state network (MF-ESN) has emerged as a promising approach that combines memristive-inspired dynamics with the training simplicity of reservoir computing, where only the readout layer is learned. Building on this framework, we propose memristive-friendly parallelized reservoirs (MARS), a simplified yet more effective architecture that enables efficient scalable parallel computation and deeper model composition through novel subtractive skip connections. This design yields two key advantages: substantial training speedups of up to 21x over the inherently lightweight echo state network baseline and significantly improved predictive performance. Moreover, MARS demonstrates what is possible with parallel memristive-friendly reservoir computing: on several long sequence benchmarks our compact gradient-free models substantially outperform strong gradient-based sequence models such as LRU, S5, and Mamba, while reducing full training time from minutes or hours down seconds or even only a few hundred milliseconds. Our work positions parallel memristive-friendly computing as a promising route towards scalable neuromorphic learning systems that combine high predictive capability with radically improved computational efficiency, while providing a clear pathway to energy-efficient, low-latency implementations on emerging memristive and in-memory hardware.
- Abstract(参考訳): メモリと計算を1つの物理基板内で組み合わせることで,次世代情報処理の基礎を提供する。
このユニークな特徴は、特にディープラーニングアプリケーションに適した、効率的で高速で適応的なコンピューティングを可能にする。
近年,MF-ESN (memristive- friendly echo state network) は,記憶にインスパイアされた力学と,読み出し層のみを学習する貯水池コンピューティングのトレーニング単純さを組み合わせた,有望なアプローチとして出現している。
この枠組みに基づいて, 効率的な並列計算と, 新たなサブトラクティブ・スキップ接続によるより深いモデル構成を可能にする, シンプルかつ効率的なアーキテクチャである, メムリシブ・フレンドリな並列化貯水池(MARS)を提案する。
この設計は、2つの大きな利点をもたらす: 本質的に軽量なエコー状態ネットワークベースラインよりも最大21倍のトレーニングスピードアップ、予測性能を大幅に改善する。
さらに、MARSは並列メモリフレンドリーな貯水池計算で何ができるかを示す: 長いシーケンスのベンチマークでは、我々のコンパクトな勾配のないモデルは、LRU、S5、Mambaのような強い勾配ベースのシーケンスモデルよりも大幅に優れています。
本研究は,高予測能力と劇的に向上した計算効率を両立させるスケーラブルなニューロモルフィック学習システムへの有望な経路として,並列記憶型コンピューティングを位置づけるとともに,新たなメモリハードウェア上でのエネルギー効率,低レイテンシ実装への明確な経路を提供する。
関連論文リスト
- Parallelizable memory recurrent units [1.3159512679346688]
本稿では、非線形RNNの永続的メモリ能力とSSMの並列化計算を組み合わせたメモリリカレントユニット(MRU)を新たに導入する。
BMRUは長期依存型タスクにおいて良好な結果が得られ、状態空間モデルと組み合わせて並列化可能で過渡的ダイナミクスと永続メモリを備えたハイブリッドネットワークを構築することができることを示す。
論文 参考訳(メタデータ) (2026-01-14T14:01:11Z) - Echo Flow Networks [4.298381633106637]
非線形読み出しを伴うEcho State Networks (X-ESNs) グループで構成されるフレームワークである Echo Flow Networks (EFNs) を紹介する。
EFNは、PatchTSTのような主要なメソッドに比べて最大4倍高速なトレーニングと3倍のモデルサイズを実現している。
当社のフレームワークのインスタンス化のひとつであるEchoFormerは、5つのベンチマークデータセットで、常に新しい最先端のパフォーマンスを実現しています。
論文 参考訳(メタデータ) (2025-09-28T23:38:55Z) - Echo State Transformer: Attention Over Finite Memories [2.118933003468525]
本稿では,逐次データ処理の課題をエレガントに解決するハイブリッドアーキテクチャであるEcho State Transformers(EST)を紹介する。
ESTはTransformerのアテンションメカニズムとReservoir Computingの原則を統合し、固定サイズのウィンドウ分散メモリシステムを作成する。
ESTは5つのカテゴリのうち2つで総合的にランク付けし、分類と異常検出タスクにおける最先端のベースラインを上回っている。
論文 参考訳(メタデータ) (2025-06-25T09:56:25Z) - MesaNet: Sequence Modeling by Locally Optimal Test-Time Training [67.45211108321203]
我々は,最近提案されたMesa層の数値的に安定かつチャンクワイズ可能な並列化版を導入する。
テストタイムの最適トレーニングにより、従来のRNNよりも言語モデリングの難易度が低く、ダウンストリームベンチマークのパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2025-06-05T16:50:23Z) - Optimizing LLM Inference: Fluid-Guided Online Scheduling with Memory Constraints [14.341123057506827]
大規模言語モデル(LLM)は、今日のアプリケーションでは必須であるが、推論手順は重要な計算資源を必要とする。
本稿では,多段階オンラインスケジューリング問題としてLLM推論最適化を定式化する。
我々は,アルゴリズム設計をガイドするトラクタブルなベンチマークを提供するために,流体力学近似を開発した。
論文 参考訳(メタデータ) (2025-04-15T16:00:21Z) - EPS-MoE: Expert Pipeline Scheduler for Cost-Efficient MoE Inference [49.94169109038806]
本稿では,既存の並列処理方式を超越したMoE用パイプラインスケジューラであるEPS-MoEを紹介する。
その結果,既存の並列推論手法と比較して,プリフィルスループットは52.4%向上した。
論文 参考訳(メタデータ) (2024-10-16T05:17:49Z) - Online Convolutional Re-parameterization [51.97831675242173]
2段階のパイプラインであるオンライン畳み込み再パラメータ化(OREPA)は、複雑なトレーニング時間ブロックを単一の畳み込みに絞ることで、巨大なトレーニングオーバーヘッドを低減することを目的としている。
最先端のre-paramモデルと比較して、OREPAはトレーニング時間のメモリコストを約70%削減し、トレーニング速度を約2倍向上させることができる。
また、オブジェクト検出とセマンティックセグメンテーションの実験を行い、下流タスクに一貫した改善を示す。
論文 参考訳(メタデータ) (2022-04-02T09:50:19Z) - Hybrid In-memory Computing Architecture for the Training of Deep Neural
Networks [5.050213408539571]
ハードウェアアクセラレータ上でのディープニューラルネットワーク(DNN)のトレーニングのためのハイブリッドインメモリコンピューティングアーキテクチャを提案する。
HICをベースとしたトレーニングでは,ベースラインに匹敵する精度を達成するために,推論モデルのサイズが約50%小さくなることを示す。
シミュレーションの結果,HICをベースとしたトレーニングにより,PCMの耐久限界のごく一部に,デバイスによる書き込みサイクルの回数を自然に確保できることがわかった。
論文 参考訳(メタデータ) (2021-02-10T05:26:27Z) - One-step regression and classification with crosspoint resistive memory
arrays [62.997667081978825]
高速で低エネルギーのコンピュータは、エッジでリアルタイム人工知能を実現するために要求されている。
ワンステップ学習は、ボストンの住宅のコスト予測と、MNIST桁認識のための2層ニューラルネットワークのトレーニングによって支援される。
結果は、クロスポイントアレイ内の物理計算、並列計算、アナログ計算のおかげで、1つの計算ステップで得られる。
論文 参考訳(メタデータ) (2020-05-05T08:00:07Z) - Einsum Networks: Fast and Scalable Learning of Tractable Probabilistic Circuits [87.84166068337076]
我々は,PC用の新しい実装設計であるEinsum Networks (EiNets)を提案する。
中心となるのは、E EiNets は単一のモノリシックな einsum-operation に多数の算術演算を組み合わせている。
本稿では,PCにおける予測最大化(EM)の実装を,自動微分を利用した簡易化が可能であることを示す。
論文 参考訳(メタデータ) (2020-04-13T23:09:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。