論文の概要: Random resistive memory-based deep extreme point learning machine for unified visual processing

• arxiv url: http://arxiv.org/abs/2312.09262v1
• Date: Thu, 14 Dec 2023 09:46:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-18 18:11:51.037252
• Title: Random resistive memory-based deep extreme point learning machine for unified visual processing
• Title（参考訳）: 統一視覚処理のためのランダム抵抗型メモリ深部極端学習装置
• Authors: Shaocong Wang, Yizhao Gao, Yi Li, Woyu Zhang, Yifei Yu, Bo Wang, Ning Lin, Hegan Chen, Yue Zhang, Yang Jiang, Dingchen Wang, Jia Chen, Peng Dai, Hao Jiang, Peng Lin, Xumeng Zhang, Xiaojuan Qi, Xiaoxin Xu, Hayden So, Zhongrui Wang, Dashan Shang, Qi Liu, Kwang-Ting Cheng, Ming Liu
• Abstract要約: ハードウェア・ソフトウェア共同設計型, ランダム抵抗型メモリベース深部極点学習マシン(DEPLM)を提案する。 我々の共同設計システムは,従来のシステムと比較して,エネルギー効率の大幅な向上とトレーニングコストの削減を実現している。
• 参考スコア（独自算出の注目度）: 67.51600474104171
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Visual sensors, including 3D LiDAR, neuromorphic DVS sensors, and conventional frame cameras, are increasingly integrated into edge-side intelligent machines. Realizing intensive multi-sensory data analysis directly on edge intelligent machines is crucial for numerous emerging edge applications, such as augmented and virtual reality and unmanned aerial vehicles, which necessitates unified data representation, unprecedented hardware energy efficiency and rapid model training. However, multi-sensory data are intrinsically heterogeneous, causing significant complexity in the system development for edge-side intelligent machines. In addition, the performance of conventional digital hardware is limited by the physically separated processing and memory units, known as the von Neumann bottleneck, and the physical limit of transistor scaling, which contributes to the slowdown of Moore's law. These limitations are further intensified by the tedious training of models with ever-increasing sizes. We propose a novel hardware-software co-design, random resistive memory-based deep extreme point learning machine (DEPLM), that offers efficient unified point set analysis. We show the system's versatility across various data modalities and two different learning tasks. Compared to a conventional digital hardware-based system, our co-design system achieves huge energy efficiency improvements and training cost reduction when compared to conventional systems. Our random resistive memory-based deep extreme point learning machine may pave the way for energy-efficient and training-friendly edge AI across various data modalities and tasks.
• Abstract（参考訳）: 3D LiDAR、ニューロモルフィックDVSセンサー、従来のフレームカメラを含む視覚センサーは、ますますエッジサイドのインテリジェントマシンに統合されている。 エッジインテリジェントマシン上での集中型多感覚データ分析の実現は、統合されたデータ表現、前例のないハードウェアエネルギー効率、迅速なモデルトレーニングを必要とする拡張現実や仮想現実、無人航空機など、数多くの新興エッジアプリケーションにとって不可欠である。 しかし、マルチ感覚データは本質的に異質であり、エッジ側インテリジェントマシンのシステム開発にかなりの複雑さをもたらす。 さらに、従来のデジタルハードウェアの性能は、フォン・ノイマンのボトルネックとして知られる物理的に分離された処理とメモリユニットと、ムーアの法則の減速に寄与するトランジスタスケーリングの物理的限界によって制限される。 これらの制限は、サイズがますます増大するモデルの退屈なトレーニングによってさらに強化される。 本稿では, ハードウェアとソフトウェアを併用した, ランダム抵抗型メモリベース深部極端学習マシン(DEPLM)を提案する。 様々なデータモダリティと2つの異なる学習タスクにまたがるシステムの汎用性を示す。 従来のデジタルハードウェアシステムと比較すると, 従来のシステムと比較して, エネルギー効率が大幅に向上し, 訓練コストが削減される。 私たちのランダム抵抗メモリベースのディープラーニングマシンは、さまざまなデータモダリティやタスクにわたって、エネルギー効率とトレーニングフレンドリーなエッジaiへの道を開くかもしれません。

関連論文リスト

• Efficient and accurate neural field reconstruction using resistive memory [52.68088466453264]
  デジタルコンピュータにおける従来の信号再構成手法は、ソフトウェアとハードウェアの両方の課題に直面している。 本稿では,スパース入力からの信号再構成のためのソフトウェア・ハードウェア協調最適化を用いた体系的アプローチを提案する。 この研究は、AI駆動の信号復元技術を進歩させ、将来の効率的で堅牢な医療AIと3Dビジョンアプリケーションへの道を開く。
  論文  参考訳（メタデータ） (2024-04-15T09:33:09Z)
• Resistive Memory-based Neural Differential Equation Solver for Score-based Diffusion Model [55.116403765330084]
  スコアベースの拡散のような現在のAIGC法は、迅速性と効率性の点で依然として不足している。 スコアベース拡散のための時間連続型およびアナログ型インメモリ型ニューラル微分方程式解法を提案する。 我々は180nmの抵抗型メモリインメモリ・コンピューティング・マクロを用いて,我々の解を実験的に検証した。
  論文  参考訳（メタデータ） (2024-04-08T16:34:35Z)
• Dynamic Early Exiting Predictive Coding Neural Networks [3.542013483233133]
  より小型で正確なデバイスを求めると、Deep Learningモデルはデプロイするには重すぎる。 予測符号化理論と動的早期退避に基づく浅層双方向ネットワークを提案する。 我々は,CIFAR-10上の画像分類におけるVGG-16と同等の精度を,より少ないパラメータと少ない計算量で達成した。
  論文  参考訳（メタデータ） (2023-09-05T08:00:01Z)
• Enable Deep Learning on Mobile Devices: Methods, Systems, and Applications [46.97774949613859]
  ディープニューラルネットワーク(DNN)は人工知能(AI)分野において前例のない成功を収めた しかし、それらの優れた性能は、計算の複雑さのかなりのコストを伴っている。 本稿では,効率的なディープラーニング手法,システム,応用について概説する。
  論文  参考訳（メタデータ） (2022-04-25T16:52:48Z)
• FPGA-optimized Hardware acceleration for Spiking Neural Networks [69.49429223251178]
  本研究は,画像認識タスクに適用したオフライントレーニングによるSNN用ハードウェアアクセラレータの開発について述べる。 この設計はXilinx Artix-7 FPGAをターゲットにしており、利用可能なハードウェアリソースの40%を合計で使用している。 分類時間を3桁に短縮し、ソフトウェアと比較すると精度にわずか4.5%の影響を与えている。
  論文  参考訳（メタデータ） (2022-01-18T13:59:22Z)
• Resistive Neural Hardware Accelerators [0.46198289193451136]
  ReRAMベースのインメモリコンピューティングは、領域と電力効率のよい推論の実装において大きな可能性を秘めている。 ReRAMベースのインメモリコンピューティングへの移行は、領域と電力効率のよい推論の実装において大きな可能性を秘めている。 本稿では,最先端のReRAMベースディープニューラルネットワーク(DNN)多コアアクセラレータについて概説する。
  論文  参考訳（メタデータ） (2021-09-08T21:11:48Z)
• Model of the Weak Reset Process in HfOx Resistive Memory for Deep Learning Frameworks [0.6745502291821955]
  酸化ハフニウムRRAMにおける弱いRESET過程のモデルを提案する。 私たちはこのモデルをPyTorchディープラーニングフレームワークに統合します。 我々はこのツールを用いて、MNIST手書き文字認識タスクのためのバイナリニューラルネットワークを訓練する。
  論文  参考訳（メタデータ） (2021-07-02T08:50:35Z)
• One-step regression and classification with crosspoint resistive memory arrays [62.997667081978825]
  高速で低エネルギーのコンピュータは、エッジでリアルタイム人工知能を実現するために要求されている。 ワンステップ学習は、ボストンの住宅のコスト予測と、MNIST桁認識のための2層ニューラルネットワークのトレーニングによって支援される。 結果は、クロスポイントアレイ内の物理計算、並列計算、アナログ計算のおかげで、1つの計算ステップで得られる。
  論文  参考訳（メタデータ） (2020-05-05T08:00:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。