論文の概要: Voltage-Controlled Magnetoelectric Devices for Neuromorphic Diffusion Process
- arxiv url: http://arxiv.org/abs/2407.12261v1
- Date: Wed, 17 Jul 2024 02:14:22 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-18 18:49:00.086567
- Title: Voltage-Controlled Magnetoelectric Devices for Neuromorphic Diffusion Process
- Title（参考訳）: ニューロモルフィック拡散プロセスのための電圧制御型磁気素子
- Authors: Yang Cheng, Qingyuan Shu, Albert Lee, Haoran He, Ivy Zhu, Haris Suhail, Minzhang Chen, Renhe Chen, Zirui Wang, Hantao Zhang, Chih-Yao Wang, Shan-Yi Yang, Yu-Chen Hsin, Cheng-Yi Shih, Hsin-Han Lee, Ran Cheng, Sudhakar Pamarti, Xufeng Kou, Kang L. Wang,
- Abstract要約: 我々は、ニューロモルフィック拡散プロセスのためのスピントロニック電圧制御磁気メモリハードウェアを開発した。
磁気メモリの非揮発性により,高速かつ低コストな計算が可能となる。
- 参考スコア（独自算出の注目度）: 16.157882920146324
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Stochastic diffusion processes are pervasive in nature, from the seemingly erratic Brownian motion to the complex interactions of synaptically-coupled spiking neurons. Recently, drawing inspiration from Langevin dynamics, neuromorphic diffusion models were proposed and have become one of the major breakthroughs in the field of generative artificial intelligence. Unlike discriminative models that have been well developed to tackle classification or regression tasks, diffusion models as well as other generative models such as ChatGPT aim at creating content based upon contexts learned. However, the more complex algorithms of these models result in high computational costs using today's technologies, creating a bottleneck in their efficiency, and impeding further development. Here, we develop a spintronic voltage-controlled magnetoelectric memory hardware for the neuromorphic diffusion process. The in-memory computing capability of our spintronic devices goes beyond current Von Neumann architecture, where memory and computing units are separated. Together with the non-volatility of magnetic memory, we can achieve high-speed and low-cost computing, which is desirable for the increasing scale of generative models in the current era. We experimentally demonstrate that the hardware-based true random diffusion process can be implemented for image generation and achieve comparable image quality to software-based training as measured by the Frechet inception distance (FID) score, achieving ~10^3 better energy-per-bit-per-area over traditional hardware.
- Abstract（参考訳）: 確率拡散過程は、一見不規則なブラウン運動から、シナプス的に結合されたスパイキングニューロンの複雑な相互作用まで、自然界に広く分布する。
近年、ランゲヴィン力学からインスピレーションを得て、ニューロモルフィック拡散モデルが提案され、生成人工知能分野における大きなブレークスルーの1つとなっている。
分類や回帰タスクに取り組むためによく開発された差別モデルとは異なり、拡散モデルだけでなく、ChatGPTのような他の生成モデルも、学習した文脈に基づいてコンテンツを作成することを目的としている。
しかし、これらのモデルのより複雑なアルゴリズムは、今日の技術による高い計算コストをもたらし、その効率のボトルネックを生み出し、さらなる開発を妨げる。
本稿では, スピントロニック電圧制御型磁気メモリハードウェアを開発し, ニューロモルフィック拡散プロセスについて述べる。
スピントロニクスデバイスのインメモリコンピューティング能力は、現在のVon Neumannアーキテクチャを超えており、メモリとコンピューティングユニットが分離されている。
磁気メモリの非ボラティリティと相まって、高速かつ低コストな計算が可能であり、現在の生成モデルの規模拡大に好適である。
本稿では,Frechet Inception distance (FID) スコアによって測定された,画像生成のためのハードウェアベースの真のランダム拡散プロセスが,従来のハードウェアよりも10^3よいエネルギー/ビット/領域のトレーニングを実現することを実験的に実証した。
関連論文リスト
- A Realistic Simulation Framework for Analog/Digital Neuromorphic Architectures [73.65190161312555]
ARCANAは、混合信号ニューロモルフィック回路の特性を考慮に入れたスパイクニューラルネットワークシミュレータである。
その結果,ソフトウェアでトレーニングしたスパイクニューラルネットワークの挙動を,信頼性の高い推定結果として提示した。
論文 参考訳（メタデータ） (2024-09-23T11:16:46Z) - Resistive Memory-based Neural Differential Equation Solver for Score-based Diffusion Model [55.116403765330084]
スコアベースの拡散のような現在のAIGC法は、迅速性と効率性の点で依然として不足している。
スコアベース拡散のための時間連続型およびアナログ型インメモリ型ニューラル微分方程式解法を提案する。
我々は180nmの抵抗型メモリインメモリ・コンピューティング・マクロを用いて,我々の解を実験的に検証した。
論文 参考訳（メタデータ） (2024-04-08T16:34:35Z) - Random resistive memory-based deep extreme point learning machine for
unified visual processing [67.51600474104171]
ハードウェア・ソフトウェア共同設計型, ランダム抵抗型メモリベース深部極点学習マシン(DEPLM)を提案する。
我々の共同設計システムは,従来のシステムと比較して,エネルギー効率の大幅な向上とトレーニングコストの削減を実現している。
論文 参考訳（メタデータ） (2023-12-14T09:46:16Z) - DiffuseBot: Breeding Soft Robots With Physics-Augmented Generative
Diffusion Models [102.13968267347553]
本稿では,様々なタスクにおいて優れたソフトロボット形態を生成する物理拡張拡散モデルであるDiffuseBotを提案する。
我々は、その能力とともに、シミュレーションされた、そして製造された様々なロボットを紹介します。
論文 参考訳（メタデータ） (2023-11-28T18:58:48Z) - Spike-based Neuromorphic Computing for Next-Generation Computer Vision [1.2367795537503197]
ニューロモルフィック・コンピューティングは、従来のフォン・ノイマン・コンピューティング・パラダイムと比較してエネルギー効率の桁違いの改善を約束する。
目標は、適応的でフォールトトレラント、低フットプリント、高速、低エネルギーの知能システムを開発することであり、脳の機能を学び、エミュレートすることである。
論文 参考訳（メタデータ） (2023-10-15T01:05:35Z) - The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。
ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。
本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
論文 参考訳（メタデータ） (2023-06-14T13:34:13Z) - A perspective on physical reservoir computing with nanomagnetic devices [1.9007022664972197]
我々は、スピントロニクスデバイスを用いた計算に適した単純なトレーニングアルゴリズムを備えたリカレントネットワークである貯水池コンピューティングパラダイムに焦点を当てた。
我々はニューロモルフィック・スピントロニクスデバイスを開発するための技術や手法をレビューし、そのようなデバイスが広く使われるようになる前に対処すべき重要なオープン・イシューを結論付ける。
論文 参考訳（メタデータ） (2022-12-09T13:43:21Z) - Time-coded Spiking Fourier Transform in Neuromorphic Hardware [4.432142139656578]
本研究では,Fourier変換と数学的に等価な時間ベースのスパイクニューラルネットワークを提案する。
我々はニューロモルフィックチップLoihiにネットワークを実装し、自動車周波数変調連続波レーダを用いた5つの実シナリオの実験を行った。
論文 参考訳（メタデータ） (2022-02-25T12:15:46Z) - Mapping and Validating a Point Neuron Model on Intel's Neuromorphic
Hardware Loihi [77.34726150561087]
インテルの第5世代ニューロモルフィックチップ「Loihi」の可能性について検討する。
Loihiは、脳内のニューロンをエミュレートするスパイキングニューラルネットワーク(SNN)という新しいアイデアに基づいている。
Loihiは従来のシミュレーションを非常に効率的に再現し、ネットワークが大きくなるにつれて、時間とエネルギーの両方のパフォーマンスにおいて顕著にスケールする。
論文 参考訳（メタデータ） (2021-09-22T16:52:51Z) - Ultra-Low-Power FDSOI Neural Circuits for Extreme-Edge Neuromorphic
Intelligence [2.6199663901387997]
インメモリコンピューティング 混合信号ニューロモルフィックアーキテクチャはエッジコンピューティングのセンサ処理への応用に期待できる超低消費電力のソリューションを提供する。
本稿では、FDSOI(Fully-Depleted Silicon on Insulator)統合プロセスの特徴を利用する混合信号アナログ/デジタル回路を提案する。
論文 参考訳（メタデータ） (2020-06-25T09:31:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。