Fugu-MT 論文翻訳(概要): Sparsifying Spiking Networks through Local Rhythms

論文の概要: Sparsifying Spiking Networks through Local Rhythms

arxiv url: http://arxiv.org/abs/2305.10191v1
Date: Sun, 30 Apr 2023 02:01:54 GMT
ステータス: 翻訳完了
システム内更新日: 2023-05-21 10:43:59.209059
Title: Sparsifying Spiking Networks through Local Rhythms
Title（参考訳）: 局所リズムによるスパイクネットワークのスパース化
Authors: Wilkie Olin-Ammentorp
Abstract要約: スパイクニューラルネットワークは、局所情報を用いて、ゼロに近い値を表すスパイクの伝達を防止することができることを実証する。これにより、精度を保ちながら、これらのネットワークでの通信や計算に必要なエネルギーを削減できる。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: It has been well-established that within conventional neural networks, many of the values produced at each layer are zero. In this work, I demonstrate that spiking neural networks can prevent the transmission of spikes representing values close to zero using local information. This can reduce the amount of energy required for communication and computation in these networks while preserving accuracy. Additionally, this demonstrates a novel application of biologically observed spiking rhythms.
Abstract（参考訳）: 従来のニューラルネットワークでは、各層で生成された値の多くがゼロであることがよく確立されている。本研究では,スパイクニューラルネットワークが,局所情報を用いてゼロに近い値を表すスパイクの伝達を防止できることを実証する。これにより、精度を保ちながら、これらのネットワークでの通信や計算に必要なエネルギーを削減できる。さらに、生物学的に観察されたスパイキングリズムの新しい応用を示す。

関連論文リスト

Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文参考訳（メタデータ） (2023-10-02T03:25:32Z)
Addressing caveats of neural persistence with deep graph persistence [54.424983583720675]
神経の持続性に影響を与える主な要因は,ネットワークの重みのばらつきと大きな重みの空間集中である。単一層ではなく,ニューラルネットワーク全体へのニューラルネットワークの持続性に基づくフィルタリングの拡張を提案する。これにより、ネットワーク内の永続的なパスを暗黙的に取り込み、分散に関連する問題を緩和するディープグラフの永続性測定が得られます。
論文参考訳（メタデータ） (2023-07-20T13:34:11Z)
Decomposing spiking neural networks with Graphical Neural Activity Threads [0.734084539365505]
本稿では,神経活動を複数の非結合な並列スレッドに分解するスパイクニューラルネットワークの解析手法を提案する。このスパイク活性のグラフは自然に空間と時間に重なる解離連結成分に分解される。我々は,大きなスパイクデータセットで再起する類似スレッドを見つけるための効率的なアルゴリズムを提案する。
論文参考訳（メタデータ） (2023-06-29T05:10:11Z)
A Scalable Walsh-Hadamard Regularizer to Overcome the Low-degree Spectral Bias of Neural Networks [79.28094304325116]
任意の関数を学習するニューラルネットワークの能力にもかかわらず、勾配降下によって訓練されたモデルは、しばしばより単純な関数に対するバイアスを示す。我々は、この低度周波数に対するスペクトルバイアスが、現実のデータセットにおけるニューラルネットワークの一般化を実際にいかに損なうかを示す。本稿では,ニューラルネットワークによる高次周波数学習を支援する,スケーラブルな機能正規化手法を提案する。
論文参考訳（メタデータ） (2023-05-16T20:06:01Z)
Fully Automatic Neural Network Reduction for Formal Verification [8.017543518311196]
到達可能性解析を用いたニューラルネットワークの完全自動・音量低減手法を提案する。音質は、低減されたネットワークの検証が元のネットワークの検証を必要とすることを保証します。提案手法は, ニューロンの数を, 小さい外近似で, 元のニューロン数のごく一部に減らすことができることを示す。
論文参考訳（メタデータ） (2023-05-03T07:13:47Z)
Local learning through propagation delays in spiking neural networks [0.0]
本研究では,スパイク伝播時間に活動依存性の可塑性が生じるスパイクニューラルネットワークの局所学習規則を提案する。本手法を手書き桁のデータベースから入力した3層フィードフォワードネットワークで実演する。
論文参考訳（メタデータ） (2022-10-27T13:48:40Z)
Spiking neural network for nonlinear regression [68.8204255655161]
スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
論文参考訳（メタデータ） (2022-10-06T13:04:45Z)
SignalNet: A Low Resolution Sinusoid Decomposition and Estimation Network [79.04274563889548]
本稿では,正弦波数を検出するニューラルネットワークアーキテクチャであるSignalNetを提案する。基礎となるデータ分布と比較して,ネットワークの結果を比較するための最悪の学習しきい値を導入する。シミュレーションでは、我々のアルゴリズムは常に3ビットデータのしきい値を超えることができるが、しばしば1ビットデータのしきい値を超えることはできない。
論文参考訳（メタデータ） (2021-06-10T04:21:20Z)
Artificial Neural Networks generated by Low Discrepancy Sequences [59.51653996175648]
我々は、高密度ネットワークグラフ上のランダムウォーキングとして、人工ニューラルネットワークを生成する。このようなネットワークはスクラッチからスパースを訓練することができ、高密度ネットワークをトレーニングし、その後圧縮する高価な手順を避けることができる。我々は,低差分シーケンスで生成された人工ニューラルネットワークが,より低い計算複雑性で,密度の高いニューラルネットワークの到達範囲内で精度を達成できることを実証した。
論文参考訳（メタデータ） (2021-03-05T08:45:43Z)
Finding trainable sparse networks through Neural Tangent Transfer [16.092248433189816]
深層学習において、特定のタスクでうまく機能する訓練可能なスパースネットワークは通常、ラベル依存プルーニング基準を用いて構築される。本稿では,学習可能なスパースネットワークをラベルフリーで検出する手法であるNeural Tangent Transferを紹介する。
論文参考訳（メタデータ） (2020-06-15T08:58:01Z)
Probabilistic spike propagation for FPGA implementation of spiking neural networks [0.0]
本稿では,重みの確率論的解釈に基づくスパイク伝播手法を提案する。我々は,Xilinx Zynqプラットフォーム上でのMNISTおよびCIFAR10データセットの完全接続および畳み込みネットワーク上でのアーキテクチャとトレードオフについて述べる。
論文参考訳（メタデータ） (2020-01-07T06:55:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。