論文の概要: Highly-scalable stochastic neuron based on Ovonic Threshold Switch (OTS) and its applications in Restricted Boltzmann Machine (RBM)

• arxiv url: http://arxiv.org/abs/2010.10986v1
• Date: Wed, 21 Oct 2020 13:20:01 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-05 00:54:22.371868
• Title: Highly-scalable stochastic neuron based on Ovonic Threshold Switch (OTS) and its applications in Restricted Boltzmann Machine (RBM)
• Title（参考訳）: Ovonic Threshold Switch(OTS)に基づく高分解能確率ニューロンとその制限ボルツマンマシン(RBM)への応用
• Authors: Seong-il Im, Hyejin Lee, Jaesang Lee, Jae-Seung Jeong, Joon Young Kwak, Keunsu Kim, Jeong Ho Cho, Hyunsu Ju, Suyoun Lee
• Abstract要約: 我々は、Ovonic Threshold Switch(OTS)に基づく高度に拡張可能なニューロンデバイスを提案する。 真の乱数発生器(TRNG)の候補として、国立標準技術研究所(NIST)統計テストスイートの16テストのうち15テストに合格している。 ノイズで汚染された画像を用いて画像の再構成が成功し、ノイズを除去した画像が得られる。
• 参考スコア（独自算出の注目度）: 0.2529563359433233
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Interest in Restricted Boltzmann Machine (RBM) is growing as a generative stochastic artificial neural network to implement a novel energy-efficient machine-learning (ML) technique. For a hardware implementation of the RBM, an essential building block is a reliable stochastic binary neuron device that generates random spikes following the Boltzmann distribution. Here, we propose a highly-scalable stochastic neuron device based on Ovonic Threshold Switch (OTS) which utilizes the random emission and capture process of traps as the source of stochasticity. The switching probability is well described by the Boltzmann distribution, which can be controlled by operating parameters. As a candidate for a true random number generator (TRNG), it passes 15 among the 16 tests of the National Institute of Standards and Technology (NIST) Statistical Test Suite (Special Publication 800-22). In addition, the recognition task of handwritten digits (MNIST) is demonstrated using a simulated RBM network consisting of the proposed device with a maximum recognition accuracy of 86.07 %. Furthermore, reconstruction of images is successfully demonstrated using images contaminated with noises, resulting in images with the noise removed. These results show the promising properties of OTS-based stochastic neuron devices for applications in RBM systems.
• Abstract（参考訳）: 制約ボルツマンマシン(RBM)への関心は、新しいエネルギー効率の機械学習(ML)技術を実装するために、生成確率的ニューラルネットワークとして成長している。 RBMのハードウェア実装において、本質的なビルディングブロックはボルツマン分布に続くランダムスパイクを生成する信頼性の高い確率的バイナリニューロンデバイスである。 本稿では,トラップのランダム放出・捕捉過程を確率源として用いた,オボニックしきい値スイッチ(ots)に基づく高スカラブルな確率ニューロンデバイスを提案する。 スイッチング確率はボルツマン分布によってよく説明され、操作パラメータによって制御できる。 真の乱数発生器(TRNG)の候補として、国立標準技術研究所(NIST)統計テストスイート(スペシャルパブリケーション800-22)の16の試験のうち15をパスしている。 さらに、提案した装置からなるシミュレーションRBMネットワークを用いて、手書き桁の認識タスク(MNIST)を86.07%の最大認識精度で示す。 さらに、ノイズで汚染された画像を用いて画像の再構成を成功させ、ノイズを除去した画像を生成する。 これらの結果は、rbm系におけるots系確率ニューロンの応用に有望な特性を示す。

関連論文リスト

• Photonic probabilistic machine learning using quantum vacuum noise [8.194733686324204]
  確率論的機械学習は、ランダム性の制御可能なソースを利用して不確実性を符号化し、統計的モデリングを可能にする。 ここでは、制御可能なフォトニック要素からなるフォトニック確率コンピュータを実装した。 我々の研究は、スケーラブルで超高速でエネルギー効率の良い機械学習ハードウェアの道を開いた。
  論文  参考訳（メタデータ） (2024-03-07T18:35:18Z)
• Synaptic Sampling of Neural Networks [0.14732811715354452]
  本稿では,重みをBernoulliのコインフリップとして扱うことで,ニューラルネットワークを直接サンプリング可能にする,skANNテクニックについて説明する。
  論文  参考訳（メタデータ） (2023-11-21T22:56:13Z)
• SMRD: SURE-based Robust MRI Reconstruction with Diffusion Models [76.43625653814911]
  拡散モデルは、高い試料品質のため、MRIの再生を加速するために人気を博している。 推論時に柔軟にフォワードモデルを組み込んだまま、効果的にリッチなデータプリエントとして機能することができる。 拡散モデル(SMRD)を用いたSUREに基づくMRI再構成を導入し,テスト時の堅牢性を向上する。
  論文  参考訳（メタデータ） (2023-10-03T05:05:35Z)
• Neural Boltzmann Machines [2.179313476241343]
  条件生成モデルは、コンテキスト情報を入力として使用して、新しい想像的出力を生成することができる。 条件付き制限ボルツマンマシン(英: Conditional Restricted Boltzmann Machines, CRBM)は、ノイズの多い離散データや連続データをモデル化するのに特に有効であることが証明された条件付き生成モデルの一種である。 CRBMパラメータのそれぞれを、条件入力の関数として許容される独自のニューラルネットワークに変換することで、CRBMを一般化する。
  論文  参考訳（メタデータ） (2023-05-15T04:03:51Z)
• Bayesian Inference on Binary Spiking Networks Leveraging Nanoscale Device Stochasticity [27.046123432931207]
  本稿では,BNNの2値合成による新しい位相変化メモリ(PCM)によるハードウェア実装を提案する。 ハードウェアの精度とキャリブレーション誤差は、8ビット固定点(FxP8)実装と一致し、コア領域トランジスタ数では9$times$以上と予測される。
  論文  参考訳（メタデータ） (2023-02-02T18:27:31Z)
• Learning Probabilistic Models from Generator Latent Spaces with Hat EBM [81.35199221254763]
  本研究では、エネルギーベースモデル(EBM)の基礎として、任意のジェネレータネットワークを使用する方法を提案する。 128x128解像度の非条件画像ネット合成,(2)既存の生成装置の出力の精細化,(3)非確率的生成装置を組み込んだ学習用EMMにおいて,提案手法の強い性能を示す。
  論文  参考訳（メタデータ） (2022-10-29T03:55:34Z)
• Multi-layered Discriminative Restricted Boltzmann Machine with Untrained Probabilistic Layer [0.0]
  極端な学習機械(ELM)は、訓練されていないパラメータを持つ3層フィードフォワードニューラルネットワークである。 ELMに触発されて,確率ELM層と呼ばれる確率的未学習層を提案する。 分類問題を解くために、識別限定ボルツマンマシン(DRBM)と組み合わせられる。
  論文  参考訳（メタデータ） (2022-10-27T13:56:17Z)
• Macroscopic noise amplification by asymmetric dyads in non-Hermitian optical systems for generative diffusion models [55.2480439325792]
  非対称な非エルミートダイアドは、効率的なセンサーと超高速な乱数発生器の候補である。 このような非対称なダイアドからの集積光放射は、機械学習の全光学的退化拡散モデルに効率的に利用できる。
  論文  参考訳（メタデータ） (2022-06-24T10:19:36Z)
• Adversarial Examples Detection with Bayesian Neural Network [57.185482121807716]
  本稿では,ランダムな成分が予測器の滑らかさを向上できるという観測によって動機づけられた敵の例を検出するための新しい枠組みを提案する。 本稿では,BATer を略した新しいベイズ対向型サンプル検出器を提案し,対向型サンプル検出の性能を向上させる。
  論文  参考訳（メタデータ） (2021-05-18T15:51:24Z)
• And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
  ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。 そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。 MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-15T08:19:05Z)
• Sampling asymmetric open quantum systems for artificial neural networks [77.34726150561087]
  非対称な開系に対する高速収束時間と高いスケーラビリティを実現し,非対称性を考慮したハイブリッドサンプリング戦略を提案する。 我々は、ニューラルネットワークの普遍的適用性を強調し、ニューラルネットワークの普遍的適用性を概説する。
  論文  参考訳（メタデータ） (2020-12-20T18:25:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。