Fugu-MT 論文翻訳(概要): Bayesian Inference on Binary Spiking Networks Leveraging Nanoscale Device Stochasticity

論文の概要: Bayesian Inference on Binary Spiking Networks Leveraging Nanoscale Device Stochasticity

arxiv url: http://arxiv.org/abs/2302.01302v1
Date: Thu, 2 Feb 2023 18:27:31 GMT
ステータス: 処理完了
システム内更新日: 2023-02-03 12:48:12.641355
Title: Bayesian Inference on Binary Spiking Networks Leveraging Nanoscale Device Stochasticity
Title（参考訳）: ナノスケールデバイス確率を利用した二元スパイクネットワークのベイズ推定
Authors: Prabodh Katti, Nicolas Skatchkovsky, Osvaldo Simeone, Bipin Rajendran, Bashir M. Al-Hashimi
Abstract要約: 本稿では,BNNの2値合成による新しい位相変化メモリ(PCM)によるハードウェア実装を提案する。ハードウェアの精度とキャリブレーション誤差は、8ビット固定点(FxP8)実装と一致し、コア領域トランジスタ数では9$times$以上と予測される。
参考スコア（独自算出の注目度）: 27.046123432931207
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Bayesian Neural Networks (BNNs) can overcome the problem of overconfidence that plagues traditional frequentist deep neural networks, and are hence considered to be a key enabler for reliable AI systems. However, conventional hardware realizations of BNNs are resource intensive, requiring the implementation of random number generators for synaptic sampling. Owing to their inherent stochasticity during programming and read operations, nanoscale memristive devices can be directly leveraged for sampling, without the need for additional hardware resources. In this paper, we introduce a novel Phase Change Memory (PCM)-based hardware implementation for BNNs with binary synapses. The proposed architecture consists of separate weight and noise planes, in which PCM cells are configured and operated to represent the nominal values of weights and to generate the required noise for sampling, respectively. Using experimentally observed PCM noise characteristics, for the exemplary Breast Cancer Dataset classification problem, we obtain hardware accuracy and expected calibration error matching that of an 8-bit fixed-point (FxP8) implementation, with projected savings of over 9$\times$ in terms of core area transistor count.
Abstract（参考訳）: ベイジアンニューラルネットワーク(BNN)は、従来の頻繁なディープニューラルネットワークを悩ませる過信の問題を克服することができるため、信頼できるAIシステムにとって重要な実現手段であると考えられている。しかしながら、従来のBNNのハードウェア実現はリソース集約であり、シナプスサンプリングのための乱数生成器の実装が必要である。プログラミングや読み取り操作において固有の確率性のため、ナノスケールのメムリシティブデバイスは、追加のハードウェアリソースを必要とせずに直接サンプリングに利用することができる。本稿では,BNNの2次シナプスを用いた新しい位相変化メモリ(PCM)によるハードウェア実装を提案する。提案アーキテクチャは,PCMセルを重みの固有値を表すように構成・操作し,それぞれにサンプリングに必要なノイズを生成する,分離された重みとノイズプレーンから構成される。実験的に観測されたpcmノイズ特性を用いて、例えば乳がんの分類問題において、コア領域トランジスタ数で9$\times$以上の節約が期待できる8ビット固定点(fxp8)実装のハードウェア精度と予測校正誤差を求める。

関連論文リスト

Entanglement Classification of Arbitrary Three-Qubit States via Artificial Neural Networks [2.715284063484557]
3ビットシステムの絡みを検知・分類する人工知能ニューラルネットワーク(ANN)を設計・実装する。モデルはランダムに生成された状態のシミュレーションデータセット上で訓練され、検証される。注目すべきは、密度行列の7つの対角要素をANNに供給するだけで、両方のタスクに対して94%以上の精度が得られることである。
論文参考訳（メタデータ） (2024-11-18T06:50:10Z)
Neuromorphic Wireless Split Computing with Multi-Level Spikes [69.73249913506042]
ニューロモルフィックコンピューティングでは、スパイクニューラルネットワーク(SNN)が推論タスクを実行し、シーケンシャルデータを含むワークロードの大幅な効率向上を提供する。ハードウェアとソフトウェアの最近の進歩は、スパイクニューロン間で交換された各スパイクに数ビットのペイロードを埋め込むことにより、推論精度をさらに高めることを示した。本稿では,マルチレベルSNNを用いた無線ニューロモルフィック分割計算アーキテクチャについて検討する。
論文参考訳（メタデータ） (2024-11-07T14:08:35Z)
Low-latency machine learning FPGA accelerator for multi-qubit-state discrimination [1.6773398825542363]
量子ビット状態を測定することは、量子コンピューティングにおいて基本的ながエラーを起こしやすい操作である。ここでは、ニューラルネットワークをフィールドプログラマブルゲートアレイ(FPGA)上に展開するための統合的なアプローチを用いる。マルチキュービット読み出しに完全接続型ニューラルネットワークアクセラレータを実装するのが有利であることを示す。
論文参考訳（メタデータ） (2024-07-04T11:34:43Z)
An Automata-Theoretic Approach to Synthesizing Binarized Neural Networks [13.271286153792058]
量子ニューラルネットワーク(QNN)が開発され、二項化ニューラルネットワーク(BNN)は特殊なケースとしてバイナリ値に制限されている。本稿では,指定された特性を満たすBNNの自動合成手法を提案する。
論文参考訳（メタデータ） (2023-07-29T06:27:28Z)
CorrectNet: Robustness Enhancement of Analog In-Memory Computing for Neural Networks by Error Suppression and Compensation [4.570841222958966]
本稿では,ニューラルネットワークの変動と雑音下での堅牢性を高める枠組みを提案する。ニューラルネットワークの予測精度は、変動とノイズの下で1.69%以下から回復可能であることを示す。
論文参考訳（メタデータ） (2022-11-27T19:13:33Z)
Signal Detection in MIMO Systems with Hardware Imperfections: Message Passing on Neural Networks [101.59367762974371]
本稿では,Multi-Input-multiple-output (MIMO)通信システムにおける信号検出について検討する。パイロット信号が限られているディープニューラルネットワーク(DNN)のトレーニングは困難であり、実用化を妨げている。我々は、ユニタリ近似メッセージパッシング(UAMP)アルゴリズムを利用して、効率的なメッセージパッシングに基づくベイズ信号検出器を設計する。
論文参考訳（メタデータ） (2022-10-08T04:32:58Z)
Mixed Precision Low-bit Quantization of Neural Network Language Models for Speech Recognition [67.95996816744251]
長期間のメモリリカレントニューラルネットワーク(LSTM-RNN)とトランスフォーマーで表される最先端言語モデル(LM)は、実用アプリケーションではますます複雑で高価なものになりつつある。現在の量子化法は、均一な精度に基づいており、量子化誤差に対するLMの異なる部分での様々な性能感度を考慮できない。本稿では,新しい混合精度ニューラルネットワークLM量子化法を提案する。
論文参考訳（メタデータ） (2021-11-29T12:24:02Z)
Sub-bit Neural Networks: Learning to Compress and Accelerate Binary Neural Networks [72.81092567651395]
Sub-bit Neural Networks (SNN) は、BNNの圧縮と高速化に適した新しいタイプのバイナリ量子化設計である。 SNNは、微細な畳み込みカーネル空間におけるバイナリ量子化を利用するカーネル対応最適化フレームワークで訓練されている。ビジュアル認識ベンチマークの実験とFPGA上でのハードウェア展開は、SNNの大きな可能性を検証する。
論文参考訳（メタデータ） (2021-10-18T11:30:29Z)
SignalNet: A Low Resolution Sinusoid Decomposition and Estimation Network [79.04274563889548]
本稿では,正弦波数を検出するニューラルネットワークアーキテクチャであるSignalNetを提案する。基礎となるデータ分布と比較して,ネットワークの結果を比較するための最悪の学習しきい値を導入する。シミュレーションでは、我々のアルゴリズムは常に3ビットデータのしきい値を超えることができるが、しばしば1ビットデータのしきい値を超えることはできない。
論文参考訳（メタデータ） (2021-06-10T04:21:20Z)
Multi-Tones' Phase Coding (MTPC) of Interaural Time Difference by Spiking Neural Network [68.43026108936029]
雑音の多い実環境下での正確な音像定位のための純粋スパイクニューラルネットワーク(SNN)に基づく計算モデルを提案する。このアルゴリズムを,マイクロホンアレイを用いたリアルタイムロボットシステムに実装する。実験の結果, 平均誤差方位は13度であり, 音源定位に対する他の生物学的に妥当なニューロモルフィックアプローチの精度を上回っていることがわかった。
論文参考訳（メタデータ） (2020-07-07T08:22:56Z)
Compressing deep neural networks on FPGAs to binary and ternary precision with HLS4ML [13.325670094073383]
本稿では, hls4mlライブラリにおける2次ニューラルネットワークと3次ニューラルネットワークの実装について述べる。モデル精度と資源消費のトレードオフについて論じる。二分法と三分法の実装は、FPGAリソースを劇的に減らしながら高い精度の実装と類似した性能を持つ。
論文参考訳（メタデータ） (2020-03-11T10:46:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。