論文の概要: Modular Simulation Framework for Process Variation Analysis of
MRAM-based Deep Belief Networks
- arxiv url: http://arxiv.org/abs/2002.00897v1
- Date: Mon, 3 Feb 2020 17:20:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-04 08:38:31.408254
- Title: Modular Simulation Framework for Process Variation Analysis of
MRAM-based Deep Belief Networks
- Title(参考訳): MRAMに基づくディープリーフネットワークのプロセス変動解析のためのモジュールシミュレーションフレームワーク
- Authors: Paul Wood, Hossein Pourmeidani, and Ronald F. DeMara
- Abstract要約: Magnetic Random-Access Memory (MRAM)ベースのpビットニューロモルフィックコンピューティングデバイスは、Boltzmann Machines (RBMs) における機械学習操作をコンパクトかつ効率的に実現する手段として、関心が高まりつつある。
活性化の制限は、MRAM装置のエネルギー障壁に依存し、シグモイド関数の電圧依存性挙動に対するプロセス変動の影響を評価することが不可欠である。
ここでは、トランスポート可能なPythonスクリプトを開発し、機械学習アプリケーションの正確性に基づいてデバイス次元の変化の下で出力の変動を分析する。
- 参考スコア(独自算出の注目度): 2.0222827433041535
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Magnetic Random-Access Memory (MRAM) based p-bit neuromorphic computing
devices are garnering increasing interest as a means to compactly and
efficiently realize machine learning operations in Restricted Boltzmann
Machines (RBMs). When embedded within an RBM resistive crossbar array, the
p-bit based neuron realizes a tunable sigmoidal activation function. Since the
stochasticity of activation is dependent on the energy barrier of the MRAM
device, it is essential to assess the impact of process variation on the
voltage-dependent behavior of the sigmoid function. Other influential
performance factors arise from varying energy barriers on power consumption
requiring a simulation environment to facilitate the multi-objective
optimization of device and network parameters. Herein, transportable Python
scripts are developed to analyze the output variation under changes in device
dimensions on the accuracy of machine learning applications. Evaluation with
RBM circuits using the MNIST dataset reveal impacts and limits for processing
variation of device fabrication in terms of the resulting energy vs. accuracy
tradeoffs, and the resulting simulation framework is available via a Creative
Commons license.
- Abstract(参考訳): 制限ボルツマンマシン(RBM)における機械学習操作をコンパクトかつ効率的に実現する手段として、MRAMベースのpビットニューロモルフィックコンピューティング装置が注目されている。
RBM抵抗性クロスバーアレイに埋め込まれると、pビットベースのニューロンは調節可能なシグモダル活性化機能を実現する。
活性化の確率性はMRAM装置のエネルギー障壁に依存するため、シグモイド関数の電圧依存性挙動に対するプロセス変動の影響を評価することが不可欠である。
その他の影響要因は、デバイスとネットワークパラメータの多目的最適化を容易にするシミュレーション環境を必要とする電力消費の様々なエネルギー障壁から生じる。
ここで、トランスポート可能なPythonスクリプトを開発し、機械学習アプリケーションの正確性に基づいてデバイス次元の変化による出力変動を分析する。
MNISTデータセットを用いたRBM回路の評価では、結果として生じるエネルギー対精度のトレードオフの観点から、デバイス製造の変形に対する影響と限界を明らかにし、その結果のシミュレーションフレームワークはCreative Commonsライセンスを通じて利用可能である。
関連論文リスト
- Experimental demonstration of magnetic tunnel junction-based
computational random-access memory [4.754352096105998]
「計算ランダムアクセスメモリ(CRAM)が登場し、この基本的限界に対処している」
CRAMは、データがメモリを離れることなく、メモリセルを直接使用するロジック操作を実行する。
本研究では,磁気トンネル接合(MTJ)に基づくCRAMアレイ実験を行った。
論文 参考訳(メタデータ) (2023-12-21T19:28:54Z) - End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。
我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
論文 参考訳(メタデータ) (2023-05-25T10:58:46Z) - Energy-efficient Task Adaptation for NLP Edge Inference Leveraging
Heterogeneous Memory Architectures [68.91874045918112]
Adapter-ALBERTは、様々なタスクにわたる最大データ再利用のための効率的なモデル最適化である。
検証されたNLPエッジアクセラレータ上でシミュレーションを行うことにより、モデルを不均一なオンチップメモリアーキテクチャにマッピングする利点を実証する。
論文 参考訳(メタデータ) (2023-03-25T14:40:59Z) - Unitary Approximate Message Passing for Matrix Factorization [90.84906091118084]
行列分解 (MF) を一定の制約で考慮し, 様々な分野の応用を見いだす。
我々は,効率の良いメッセージパッシング実装であるUAMPMFを用いて,MFに対するベイズ的アプローチを開発する。
UAMPMFは、回復精度、ロバスト性、計算複雑性の観点から、最先端のアルゴリズムを著しく上回ることを示す。
論文 参考訳(メタデータ) (2022-07-31T12:09:32Z) - Neural-PIM: Efficient Processing-In-Memory with Neural Approximation of
Peripherals [11.31429464715989]
本稿では,ディープラーニングタスクを効率的に高速化する新しいPIMアーキテクチャを提案する。
アナログ集積回路とニューラル近似周辺回路で必要となるA/D変換を最小化する。
異なるベンチマークによる評価では、Neural-PIMはエネルギー効率を5.36x (1.73x)向上し、スループットを3.43x (1.59x)向上する。
論文 参考訳(メタデータ) (2022-01-30T16:14:49Z) - Nonprehensile Riemannian Motion Predictive Control [57.295751294224765]
本稿では,リアル・ツー・シムの報酬分析手法を導入し,リアルなロボット・プラットフォームに対する行動の可能性を確実に予測する。
連続的なアクション空間でオブジェクトを反応的にプッシュするクローズドループコントローラを作成します。
我々は,RMPCが乱雑な環境だけでなく,乱雑な環境においても頑健であり,ベースラインよりも優れていることを観察した。
論文 参考訳(メタデータ) (2021-11-15T18:50:04Z) - Tiny Machine Learning for Concept Drift [8.452237741722726]
本稿では,ディープラーニング特徴抽出器とk-アネレスト近傍に基づくTML-CD(Tiny Machine Learning for Concept Drift)ソリューションを提案する。
適応モジュールは、TML-CDの知識ベースを継続的に更新し、データ生成プロセスに影響を与える概念ドリフトに対処する。
3つの市販マイクロコントローラユニットへのTML-CDの移植は、現実世界の広範システムで提案されていることの実現可能性を示している。
論文 参考訳(メタデータ) (2021-07-30T17:02:04Z) - Model of the Weak Reset Process in HfOx Resistive Memory for Deep
Learning Frameworks [0.6745502291821955]
酸化ハフニウムRRAMにおける弱いRESET過程のモデルを提案する。
私たちはこのモデルをPyTorchディープラーニングフレームワークに統合します。
我々はこのツールを用いて、MNIST手書き文字認識タスクのためのバイナリニューラルネットワークを訓練する。
論文 参考訳(メタデータ) (2021-07-02T08:50:35Z) - Efficient Micro-Structured Weight Unification and Pruning for Neural
Network Compression [56.83861738731913]
ディープニューラルネットワーク(DNN)モデルは、特にリソース制限されたデバイスにおいて、実用的なアプリケーションに不可欠である。
既往の非構造的あるいは構造化された重量刈り法は、推論を真に加速することはほとんど不可能である。
ハードウェア互換のマイクロ構造レベルでの一般化された重み統一フレームワークを提案し,高い圧縮と加速度を実現する。
論文 参考訳(メタデータ) (2021-06-15T17:22:59Z) - Bayesian Transformer Language Models for Speech Recognition [59.235405107295655]
トランスフォーマーで表現される最先端のニューラルネットワークモデル(LM)は非常に複雑である。
本稿では,トランスフォーマーLM推定のためのベイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2021-02-09T10:55:27Z) - SOT-MRAM based Sigmoidal Neuron for Neuromorphic Architectures [0.0]
本稿では、スピン軌道トルク(SOT)磁気抵抗性ランダムアクセスメモリ(MRAM)デバイス固有の物理特性を活用し、ニューロモルフィックアーキテクチャにおけるシグモダルニューロンを実現する。
提案したSOT-MRAM系ニューロンの出力-面積-積値の74倍と12倍の低下を示す。
論文 参考訳(メタデータ) (2020-06-01T20:18:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。