Fugu-MT 論文翻訳(概要): Evaluating complexity and resilience trade-offs in emerging memory inference machines

論文の概要: Evaluating complexity and resilience trade-offs in emerging memory inference machines

arxiv url: http://arxiv.org/abs/2003.10396v1
Date: Tue, 25 Feb 2020 21:40:08 GMT
ステータス: 処理完了
システム内更新日: 2022-12-28 20:17:53.842622
Title: Evaluating complexity and resilience trade-offs in emerging memory inference machines
Title（参考訳）: 新興メモリ推論マシンにおける複雑性とレジリエンストレードオフの評価
Authors: Christopher H. Bennett, Ryan Dellana, T. Patrick Xiao, Ben Feinberg, Sapan Agarwal, Suma Cardwell, Matthew J. Marinella, William Severa, Brad Aimone
Abstract要約: 深層ニューラルネットワークのコンパクトな実装は、予期せず、複数のシステム障害から崩壊するおそれがあることが示される。我々の研究は、モザイクフレームワークを利用した高性能で強力なレジリエンスへの中間経路を提案する。
参考スコア（独自算出の注目度）: 0.6970352368216021
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Neuromorphic-style inference only works well if limited hardware resources are maximized properly, e.g. accuracy continues to scale with parameters and complexity in the face of potential disturbance. In this work, we use realistic crossbar simulations to highlight that compact implementations of deep neural networks are unexpectedly susceptible to collapse from multiple system disturbances. Our work proposes a middle path towards high performance and strong resilience utilizing the Mosaics framework, and specifically by re-using synaptic connections in a recurrent neural network implementation that possesses a natural form of noise-immunity.
Abstract（参考訳）: ニューロモルフィックスタイルの推論は、限られたハードウェアリソースが適切に最大化されている場合にのみうまく機能する。本研究では,複数のシステム障害による崩壊に予期せぬ影響を受けない,ニューラルネットワークのコンパクトな実装を実現するために,現実的なクロスバーシミュレーションを用いる。本研究では,モザイクの枠組み,特に,ノイズ免疫の自然な形態を持つリカレントニューラルネットワークの実装においてシナプス接続を再利用することにより,高いパフォーマンスと強いレジリエンスを実現するための中間経路を提案する。

関連論文リスト

Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
論文参考訳（メタデータ） (2024-09-17T04:48:45Z)
Explosive neural networks via higher-order interactions in curved statistical manifolds [43.496401697112695]
曲線ニューラルネットワークは,パラメータ数に制限のあるプロトタイプモデルのクラスとして導入する。これらの曲線ニューラルネットワークは、メモリ検索を高速化する自己制御プロセスを実装している。強磁性相とスピングラス相の境界付近のレプリカ手法を用いて, メモリ・検索能力の解析を行った。
論文参考訳（メタデータ） (2024-08-05T09:10:29Z)
Heterogenous Memory Augmented Neural Networks [84.29338268789684]
ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。 In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
論文参考訳（メタデータ） (2023-10-17T01:05:28Z)
Leveraging Low-Rank and Sparse Recurrent Connectivity for Robust Closed-Loop Control [63.310780486820796]
繰り返し接続のパラメータ化が閉ループ設定のロバスト性にどのように影響するかを示す。パラメータが少ないクローズドフォーム連続時間ニューラルネットワーク(CfCs)は、フルランクで完全に接続されたニューラルネットワークよりも優れています。
論文参考訳（メタデータ） (2023-10-05T21:44:18Z)
Stochastic resonance neurons in artificial neural networks [0.0]
アーキテクチャの固有部分として共鳴を用いた新しいタイプのニューラルネットワークを提案する。このようなニューラルネットワークは、ノイズの影響に対してより堅牢であることを示す。
論文参考訳（メタデータ） (2022-05-06T18:42:36Z)
Learning to Modulate Random Weights: Neuromodulation-inspired Neural Networks For Efficient Continual Learning [1.9580473532948401]
生体神経系における神経調節にインスパイアされた新しいニューラルネットワークアーキテクチャを導入する。学習可能なパラメータが極めて少ないにもかかわらず,本手法はタスク毎の学習性能が極めて高いことを示す。
論文参考訳（メタデータ） (2022-04-08T21:12:13Z)
Deep Impulse Responses: Estimating and Parameterizing Filters with Deep Networks [76.830358429947]
高雑音および地中設定におけるインパルス応答推定は難しい問題である。本稿では,ニューラル表現学習の最近の進歩に基づいて,インパルス応答のパラメータ化と推定を行う新しいフレームワークを提案する。
論文参考訳（メタデータ） (2022-02-07T18:57:23Z)
Online Training of Spiking Recurrent Neural Networks with Phase-Change Memory Synapses [1.9809266426888898]
専用のニューロモルフィックハードウェア上でのスパイクニューラルネットワーク(RNN)のトレーニングは、依然としてオープンな課題である。本稿では,PCMデバイスモデルに基づく差分構造アレイのシミュレーションフレームワークを提案する。我々は,最近提案されたe-prop学習規則を用いて,提案したシミュレーションフレームワークに重みをエミュレートしたスパイクRNNを訓練する。
論文参考訳（メタデータ） (2021-08-04T01:24:17Z)
Physical Constraint Embedded Neural Networks for inference and noise regulation [0.0]
ニューラルネットワークに偶数ノード対称性と保存則を埋め込む方法を提案する。先行知識を使わずに正確に対称性を推測できることを実証する。物理拘束型組込みニューラルネットワークの雑音耐性特性を強調した。
論文参考訳（メタデータ） (2021-05-19T14:07:20Z)
Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文参考訳（メタデータ） (2021-02-23T20:59:30Z)
Network Diffusions via Neural Mean-Field Dynamics [52.091487866968286]
本稿では,ネットワーク上の拡散の推論と推定のための新しい学習フレームワークを提案する。本研究の枠組みは, ノード感染確率の正確な進化を得るために, モリ・ズワンジッヒ形式から導かれる。我々のアプローチは、基礎となる拡散ネットワークモデルのバリエーションに対して多用途で堅牢である。
論文参考訳（メタデータ） (2020-06-16T18:45:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。