論文の概要: Leveraging ECRAM for Edge Continual Learning
- arxiv url: http://arxiv.org/abs/2607.19661v1
- Date: Wed, 22 Jul 2026 02:00:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-23 18:51:37.947577
- Title: Leveraging ECRAM for Edge Continual Learning
- Title(参考訳): エッジ連続学習のためのECRAMの活用
- Authors: Nabila Tasnim, Haoran Liu, Qing Cao, Saugata Ghose,
- Abstract要約: インメモリコンピューティング(IMC)は、この無駄を削減し、エッジ計算で連続的な学習を可能にする。
連続学習のためのIMCアクセラレーションを備えた最初のエンドツーエンドシステムであるCLASPを提案する。
我々は,ECRAMを用いたCLASPがIMCトレーニングの精度に近づき,67倍の高速化と132倍の省エネを実現した。
- 参考スコア(独自算出の注目度): 8.240867084753257
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Several edge computing platforms, such as autonomous vehicles and smart sensing devices, need to adapt to dynamic environments in real time by learning from new data in the field. Continual learning has emerged as a promising solution for edge training, by incorporating techniques that successfully combine a highly summarized version of previously trained data (to avoid catastrophic forgetting) with recently sensed data. However, as is the case with other ML algorithms, continual learning generates significant data movement between general-purpose CPUs/GPUs and memory, impacting the suitability of continual learning for edge platforms. In-memory computing (IMC; also known as processing-using-memory) can curtail this waste and make continual learning feasible at the edge, but it faces two unique challenges: (1) IMC architectures make use of noisy computation operations that significantly harm training accuracy; and (2) IMC architectures have poor and often incomplete support for resource-efficient training. To address these challenges, we propose CLASP (the Continual Learning Acceleration System Platform), which to our knowledge is the first end-to-end system with IMC acceleration for continual learning. The hardware and software of CLASP are co-designed to support a wide range of continual learning algorithms, through software-visible assembly-level instructions that can be incorporated without constraints into ML-based algorithms. CLASP is designed around a back-end-of-line (BEOL) compatible ECRAM device that we fabricate, which can overcome the challenges of IMC-based training using other emerging memory devices. We show that CLASP with ECRAM approaches the accuracy of in-GPU training, while delivering a speedup of 67x and energy savings of 132x for learning without forgetting and experience replay using MNIST.
- Abstract(参考訳): 自動運転車やスマートセンシングデバイスなどのエッジコンピューティングプラットフォームでは、現場の新しいデータから学習することで、動的環境にリアルタイムで適応する必要がある。
エッジトレーニングのための有望なソリューションとして継続的学習が登場し、以前にトレーニングされたデータの高度に要約されたバージョンと、最近検出されたデータを組み合わせたテクニックが取り入れられている。
しかし、他のMLアルゴリズムと同様に、連続学習は汎用CPU/GPUとメモリ間の重要なデータ移動を生成し、エッジプラットフォームにおける連続学習の適合性に影響を与える。
インメモリコンピューティング(IMC; processing-using-Memory)は、この無駄を削減し、エッジで連続的な学習を実現することができるが、(1)IMCアーキテクチャはトレーニング精度を著しく損なうノイズの多い計算処理を、(2)IMCアーキテクチャはリソース効率のトレーニングに対して貧弱で、しばしば不完全である、という2つの難題に直面している。
これらの課題に対処するため,我々は,連続学習のためのIMCアクセラレーションを備えた最初のエンドツーエンドシステムであるCLASP(Continuous Learning Acceleration System Platform)を提案する。
CLASPのハードウェアとソフトウェアは、MLベースのアルゴリズムに制約なしに組み込むことができるソフトウェア可視のアセンブリレベル命令を通じて、幅広い連続的な学習アルゴリズムをサポートするように設計されている。
CLASPは、私たちが製造するBEOL互換のECRAMデバイスを中心に設計されており、他の新興メモリデバイスを使用したIMCベースのトレーニングの課題を克服することができる。
我々は,ECRAMを用いたCLASPがGPU内トレーニングの精度に近づき,MNISTを用いたリプレイを忘れずに,67倍の高速化と132倍の省エネを実現していることを示す。
関連論文リスト
- Continual Learning at the Edge: An Agnostic IIoT Architecture [1.4680035572775534]
我々は,産業セクターのエッジコンピューティングシナリオに漸進的な学習哲学を適用した新しいアプローチを導入する。
継続的な学習を適用することで、破滅的な忘れの影響を減らし、効率的で効果的なソリューションを提供する。
論文 参考訳(メタデータ) (2025-12-16T11:28:54Z) - Ilargi: a GPU Compatible Factorized ML Model Training Framework [11.291108172692438]
Ilargiは、CPUとGPU環境間の自動因数分解を容易にする、コストのかかるリレーショナル結合を必要としない、新しい因数分解学習フレームワークである。
IlargiはMLベースのコスト推定器を組み込んで、データ特性、アルゴリズムの複雑さ、ハードウェア環境、およびそれらのインタラクションに基づいて、因子化と物質化をインテリジェントに選択する。
論文 参考訳(メタデータ) (2025-02-04T03:59:17Z) - LifeLearner: Hardware-Aware Meta Continual Learning System for Embedded
Computing Platforms [17.031135153343502]
継続学習(CL)は、ユーザのパーソナライズや家庭用ロボットといったアプリケーションが、リアルタイムで学習し、コンテキストに適応することを可能にする。
LifeLearnerは、システムリソースを劇的に最適化するハードウェア対応のメタ学習システムである。
LifeLearnerは、Oracleのベースラインに比べて精度がわずか2.8%低下した、ほぼ最適のCLパフォーマンスを実現している。
論文 参考訳(メタデータ) (2023-11-19T20:39:35Z) - Federated Fine-Tuning of LLMs on the Very Edge: The Good, the Bad, the Ugly [62.473245910234304]
本稿では,最新のエッジコンピューティングシステムにおいて,Large Language Modelsをどのように導入できるかを,ハードウェア中心のアプローチで検討する。
マイクロレベルのハードウェアベンチマークを行い、FLOPモデルと最先端のデータセンターGPUを比較し、現実的な条件下でのネットワーク利用について検討する。
論文 参考訳(メタデータ) (2023-10-04T20:27:20Z) - In Situ Framework for Coupling Simulation and Machine Learning with
Application to CFD [51.04126395480625]
近年、流体力学計算を容易にする機械学習(ML)の多くの成功例が報告されている。
シミュレーションが大きくなるにつれて、従来のオフライン学習のための新しいトレーニングデータセットの生成は、I/Oとストレージのボトルネックを生み出します。
この作業は、この結合を単純化し、異種クラスタでのその場トレーニングと推論を可能にするソリューションを提供する。
論文 参考訳(メタデータ) (2023-06-22T14:07:54Z) - FLEdge: Benchmarking Federated Machine Learning Applications in Edge Computing Systems [61.335229621081346]
フェデレートラーニング(FL)は,ネットワークエッジ上での分散ディープラーニングのプライバシ強化を実現する上で,有効なテクニックとなっている。
本稿では,既存のFLベンチマークを補完するFLEdgeを提案する。
論文 参考訳(メタデータ) (2023-06-08T13:11:20Z) - Machine Learning Training on a Real Processing-in-Memory System [9.286176889576996]
機械学習アルゴリズムのトレーニングは計算集約的なプロセスであり、しばしばメモリバウンドである。
メモリ内処理機能を備えたメモリ中心のコンピューティングシステムは、このデータ移動ボトルネックを軽減することができる。
我々の研究は、現実世界の汎用PIMアーキテクチャ上で機械学習アルゴリズムのトレーニングを評価する最初のものである。
論文 参考訳(メタデータ) (2022-06-13T10:20:23Z) - Reconfigurable Intelligent Surface Assisted Mobile Edge Computing with
Heterogeneous Learning Tasks [53.1636151439562]
モバイルエッジコンピューティング(MEC)は、AIアプリケーションに自然なプラットフォームを提供します。
再構成可能なインテリジェントサーフェス(RIS)の助けを借りて、MECで機械学習タスクを実行するインフラストラクチャを提示します。
具体的には,モバイルユーザの送信パワー,基地局のビームフォーミングベクトル,risの位相シフト行列を共同で最適化することにより,参加ユーザの学習誤差を最小化する。
論文 参考訳(メタデータ) (2020-12-25T07:08:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。