論文の概要: Machine learning using magnetic stochastic synapses
- arxiv url: http://arxiv.org/abs/2303.01886v1
- Date: Fri, 3 Mar 2023 12:33:29 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-06 15:16:26.714613
- Title: Machine learning using magnetic stochastic synapses
- Title（参考訳）: 磁気確率シナプスを用いた機械学習
- Authors: Matthew O. A. Ellis, Alex Welbourne, Stephan J. Kyle, Paul W. Fry, Dan
A. Allwood, Thomas J. Hayward and Eleni Vasilaki
- Abstract要約: ナノワイヤの磁区壁運動における従来の有害効果を利用した手法を提案する。
機能的バイナリ・シナプスを勾配学習規則とともに示し、様々なシステムに適用可能なトレーニングを可能にした。
単一測定の場合、この規則は最小限の神経性を持つバイナリシナプスとなり、強靭性に対する潜在的な性能を犠牲にする。
この観察により、所望のパフォーマンスと装置の動作速度とエネルギーコストに応じて設計原則を選択できる。
- 参考スコア（独自算出の注目度）: 0.9236074230806579
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The impressive performance of artificial neural networks has come at the cost
of high energy usage and CO$_2$ emissions. Unconventional computing
architectures, with magnetic systems as a candidate, have potential as
alternative energy-efficient hardware, but, still face challenges, such as
stochastic behaviour, in implementation. Here, we present a methodology for
exploiting the traditionally detrimental stochastic effects in magnetic
domain-wall motion in nanowires. We demonstrate functional binary stochastic
synapses alongside a gradient learning rule that allows their training with
applicability to a range of stochastic systems. The rule, utilising the mean
and variance of the neuronal output distribution, finds a trade-off between
synaptic stochasticity and energy efficiency depending on the number of
measurements of each synapse. For single measurements, the rule results in
binary synapses with minimal stochasticity, sacrificing potential performance
for robustness. For multiple measurements, synaptic distributions are broad,
approximating better-performing continuous synapses. This observation allows us
to choose design principles depending on the desired performance and the
device's operational speed and energy cost. We verify performance on physical
hardware, showing it is comparable to a standard neural network.
- Abstract（参考訳）: ニューラルネットワークの印象的なパフォーマンスは、高エネルギー使用とco$_2$排出のコストで達成されている。
磁気システムを候補とする非従来型コンピューティングアーキテクチャは、代替エネルギー効率のよいハードウェアとして可能性を持っているが、その実装において確率的振る舞いなどの課題に直面している。
本稿では, ナノワイヤの磁区壁運動における従来のデトリメント確率効果を利用する方法を提案する。
機能的二分確率合成を勾配学習規則とともに示し,様々な確率系に適用可能な訓練を可能にする。
このルールは、ニューロンの出力分布の平均とばらつきを利用しており、各シナプスの測定数に依存するシナプス確率性とエネルギー効率のトレードオフを見出す。
単一測定の場合、この規則は最小確率で二項合成を行い、強靭性に対する潜在的な性能を犠牲にする。
複数の測定では、シナプス分布は広く、より優れた連続的なシナプスを近似する。
この観察により、所望のパフォーマンスと装置の動作速度とエネルギーコストに応じて設計原則を選択することができる。
物理ハードウェアの性能を検証することで、標準的なニューラルネットワークに匹敵する性能を示す。
関連論文リスト
- Single Neuromorphic Memristor closely Emulates Multiple Synaptic
Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。
これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
論文 参考訳（メタデータ） (2024-02-26T15:01:54Z) - Learning with Chemical versus Electrical Synapses -- Does it Make a
Difference? [61.85704286298537]
バイオインスパイアされたニューラルネットワークは、ニューラルネットワークの理解を深め、AIシステムの最先端を改善する可能性がある。
我々は,光リアルな自律走行シミュレータを用いて自律車線維持実験を行い,その性能を種々の条件下で評価する。
論文 参考訳（メタデータ） (2023-11-21T13:07:20Z) - Neuromorphic Hebbian learning with magnetic tunnel junction synapses [41.92764939721262]
磁気トンネル接合(MTJ)の双対抵抗状態による高精度推論を実現するニューロモルフィックネットワークの提案と実験的検討を行った。
MTJシナプスで直接実装したニューロモルフィックネットワークの最初の実演を行った。
また,STT-MTJシナプスを用いた非教師型ヘビアン学習システムにより,MNIST手書き文字認識の競争精度が向上できることをシミュレーションにより実証した。
論文 参考訳（メタデータ） (2023-08-21T19:58:44Z) - Shape-Dependent Multi-Weight Magnetic Artificial Synapses for
Neuromorphic Computing [4.567086462167893]
神経形コンピューティングにおいて、人工シナプスは、脳に類似したニューロンからの入力に基づいて設定される多重コンダクタンス状態を提供する。
本稿では,磁気トンネル接合と磁区壁を用いた磁気材料を用いた人工シナプスの測定を行った。
論文 参考訳（メタデータ） (2021-11-22T20:27:14Z) - Optimal input representation in neural systems at the edge of chaos [0.0]
私たちは、人工知能ニューラルネットワークを構築し、画像を分類するように訓練します。
我々は,ネットワークが臨界点付近で動作している場合に,そのようなタスクで最高の性能が得られることを見出した。
私たちは、ほぼ臨界に近い操作は、通常主張される美徳以外に、柔軟で堅牢で効率的な入力表現を可能にするという利点がある、と結論付けました。
論文 参考訳（メタデータ） (2021-07-12T19:55:03Z) - Neural Sampling Machine with Stochastic Synapse allows Brain-like
Learning and Inference [6.138129592577736]
NNの新しいクラスであるNeural-Sampling-Machineを紹介し、シナプス接続におけるシナプス性を利用してベイズ推定を近似する。
クロスバーと金属状態の間のセレクタ要素の固有のスイッチングは、NSMのシナプス内の乗算ノイズをもたらすことを実験的に示した。
回転試料における標準画像分類タスクとデータ不確実性推定について報告する。
論文 参考訳（メタデータ） (2021-02-20T23:45:24Z) - And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。
そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。
MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
論文 参考訳（メタデータ） (2021-02-15T08:19:05Z) - Variational Monte Carlo calculations of $\mathbf{A\leq 4}$ nuclei with
an artificial neural-network correlator ansatz [62.997667081978825]
光核の基底状態波動関数をモデル化するためのニューラルネットワーク量子状態アンサッツを導入する。
我々は、Aleq 4$核の結合エネルギーと点核密度を、上位のピオンレス実効場理論から生じるものとして計算する。
論文 参考訳（メタデータ） (2020-07-28T14:52:28Z) - Optimal Learning with Excitatory and Inhibitory synapses [91.3755431537592]
相関関係の存在下でアナログ信号間の関連性を保持するという課題について検討する。
ランダムな入力および出力プロセスのパワースペクトルの観点から、典型的な学習性能を特徴付ける。
論文 参考訳（メタデータ） (2020-05-25T18:25:54Z) - Towards Efficient Processing and Learning with Spikes: New Approaches
for Multi-Spike Learning [59.249322621035056]
各種タスクにおける他のベースラインよりも優れた性能を示すための2つの新しいマルチスパイク学習ルールを提案する。
特徴検出タスクでは、教師なしSTDPの能力と、その制限を提示する能力を再検討する。
提案した学習ルールは,特定の制約を適用せずに,幅広い条件で確実にタスクを解くことができる。
論文 参考訳（メタデータ） (2020-05-02T06:41:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。