論文の概要: From Convolutions towards Spikes: The Environmental Metric that the
Community currently Misses
- arxiv url: http://arxiv.org/abs/2111.08361v1
- Date: Tue, 16 Nov 2021 11:04:42 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-17 22:57:29.271611
- Title: From Convolutions towards Spikes: The Environmental Metric that the
Community currently Misses
- Title(参考訳): コンボリューションからスパイクスへ:現在コミュニティが見逃している環境基準
- Authors: Aviral Chharia, Shivu Chauhan, Rahul Upadhyay, Vinay Kumar
- Abstract要約: 現在使われているANNは自然界で見られるものではなく、なぜパフォーマンスが低いにもかかわらず、スパイクニューラルネットワークが大きな関心を集めているのかを示す。
我々は、スパイクベースの計算を用いてニューロモルフィックなエネルギー効率のマイクロチップを開発することを妨げるハードウェアギャップを強調した。
また、AIモデルの炭素フットプリントを報告するための新しい評価指標「ナチュア」も定義する。
- 参考スコア(独自算出の注目度): 3.498371632913735
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Today, the AI community is obsessed with 'state-of-the-art' scores (80%
papers in NeurIPS) as the major performance metrics, due to which an important
parameter, i.e., the environmental metric, remains unreported. Computational
capabilities were a limiting factor a decade ago; however, in foreseeable
future circumstances, the challenge will be to develop environment-friendly and
power-efficient algorithms. The human brain, which has been optimizing itself
for almost a million years, consumes the same amount of power as a typical
laptop. Therefore, developing nature-inspired algorithms is one solution to it.
In this study, we show that currently used ANNs are not what we find in nature,
and why, although having lower performance, spiking neural networks, which
mirror the mammalian visual cortex, have attracted much interest. We further
highlight the hardware gaps restricting the researchers from using spike-based
computation for developing neuromorphic energy-efficient microchips on a large
scale. Using neuromorphic processors instead of traditional GPUs might be more
environment friendly and efficient. These processors will turn SNNs into an
ideal solution for the problem. This paper presents in-depth attention
highlighting the current gaps, the lack of comparative research, while
proposing new research directions at the intersection of two fields --
neuroscience and deep learning. Further, we define a new evaluation metric
'NATURE' for reporting the carbon footprint of AI models.
- Abstract(参考訳): 今日、aiコミュニティは、重要なパラメータ、すなわち環境指標が未報告であるために、主要なパフォーマンス指標として、'最先端'スコア(neuripsの80%の論文)に夢中になっている。
計算能力は10年前は制限要因だったが、将来は環境にやさしく電力効率の良いアルゴリズムを開発することが課題となる。
人間の脳は100万年近く最適化されてきたが、通常のラップトップと同じ量の電力を消費している。
したがって、自然にインスパイアされたアルゴリズムを開発することは、その解決策の1つだ。
本研究では,現在使用されているANNが自然界で見られるものではないこと,そして哺乳類の視覚野を反映した低性能のスパイクニューラルネットワークが注目されている理由について述べる。
さらに、スパイクベースの計算を用いて、大規模でニューロモルフィックなエネルギー効率のマイクロチップを開発することを妨げるハードウェアギャップを強調した。
従来のGPUの代わりにニューロモーフィックプロセッサを使うことは、環境に優しく、効率的かもしれない。
これらのプロセッサは、SNNを問題の理想的な解決策にする。
本稿では,神経科学と深層学習の交点における新たな研究の方向性を提案するとともに,現在のギャップ,比較研究の欠如を強調する。
さらに、AIモデルの炭素フットプリントを報告するための新しい評価指標「ナチュア」を定義した。
関連論文リスト
- Topology Optimization of Random Memristors for Input-Aware Dynamic SNN [44.38472635536787]
入力対応動的旋回型スパイクニューラルネットワーク(PRIME)のプルーニング最適化について紹介する。
信号表現の面では、PRIMEは脳固有のスパイキング機構をエミュレートするために、漏れやすい統合と発火のニューロンを使用する。
計算深度の動的調整にインスパイアされた再構成性のために、PRIMEは入力対応の動的早期停止ポリシーを採用している。
論文 参考訳(メタデータ) (2024-07-26T09:35:02Z) - On the Opportunities of Green Computing: A Survey [80.21955522431168]
人工知能(AI)は数十年にわたり、技術と研究において大きな進歩を遂げてきた。
高いコンピューティングパワーの必要性は、より高い二酸化炭素排出量をもたらし、研究の公正性を損なう。
コンピューティングリソースの課題とAIの環境への影響に取り組むため、グリーンコンピューティングはホットな研究トピックとなっている。
論文 参考訳(メタデータ) (2023-11-01T11:16:41Z) - Spike-based Neuromorphic Computing for Next-Generation Computer Vision [1.2367795537503197]
ニューロモルフィック・コンピューティングは、従来のフォン・ノイマン・コンピューティング・パラダイムと比較してエネルギー効率の桁違いの改善を約束する。
目標は、適応的でフォールトトレラント、低フットプリント、高速、低エネルギーの知能システムを開発することであり、脳の機能を学び、エミュレートすることである。
論文 参考訳(メタデータ) (2023-10-15T01:05:35Z) - Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。
PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
論文 参考訳(メタデータ) (2023-08-15T16:37:16Z) - To Spike or Not To Spike: A Digital Hardware Perspective on Deep
Learning Acceleration [4.712922151067433]
ディープラーニングモデルがスケールするにつれて、コンピュータビジョンから自然言語処理まで、ドメイン間の競争が激化する。
生物学的脳のパワー効率は、大規模深層学習(DL)モデルよりも優れている。
ニューロモルフィックコンピューティングは、DLモデルの効率を改善するために、脳の操作を模倣しようとする。
論文 参考訳(メタデータ) (2023-06-27T19:04:00Z) - Neuromorphic Computing and Sensing in Space [69.34740063574921]
神経型コンピュータチップは、生物学的脳の構造を模倣するように設計されている。
ニューロモルフィックデバイスの低消費電力とエネルギー効率に重点を置くことは、宇宙応用には最適である。
論文 参考訳(メタデータ) (2022-12-10T07:46:29Z) - Benchmarking energy consumption and latency for neuromorphic computing
in condensed matter and particle physics [0.309894133212992]
本稿では,従来のハードウェア上でのニューラルネットワーク(ANN)を用いた推論タスクのエネルギーコストと計算時間を測定する手法を提案する。
我々は、ニューロモルフィックコンピューティングの重要なパラダイムの一つである、最先端のアナログインメモリコンピューティングプラットフォームに基づいて、同じメトリクスを推定する。
AIMCは、従来のハードウェアよりも最大で1桁も短く、エネルギーコストが最大で3桁も小さいことが分かりました。
論文 参考訳(メタデータ) (2022-09-21T16:33:44Z) - MS-RANAS: Multi-Scale Resource-Aware Neural Architecture Search [94.80212602202518]
我々は,MS-RANAS(Multi-Scale Resource-Aware Neural Architecture Search)を提案する。
我々は,検索コストの削減を図るために,ワンショットのアーキテクチャ探索手法を採用した。
我々は精度-速度トレードオフの観点から最先端の結果を得る。
論文 参考訳(メタデータ) (2020-09-29T11:56:01Z) - Neuromorphic Computing for Content-based Image Retrieval [0.0]
画像検索のコンピュータビジョンタスクにおいて,Intelが開発したニューロモルフィックコンピューティングチップであるLoihiの応用について検討する。
この結果は,ARM Cortex-A72 CPUと比較してニューロモルフィックソリューションのエネルギー効率は2.5倍,軽量畳み込みニューラルネットワークの12.5倍であった。
論文 参考訳(メタデータ) (2020-08-04T07:34:07Z) - Optimizing Memory Placement using Evolutionary Graph Reinforcement
Learning [56.83172249278467]
大規模検索空間を対象とした進化グラフ強化学習(EGRL)を提案する。
我々は、推論のために、Intel NNP-Iチップ上で、我々のアプローチを直接訓練し、検証する。
また,NNP-Iコンパイラと比較して28~78%の高速化を実現している。
論文 参考訳(メタデータ) (2020-07-14T18:50:12Z) - Spiking Neural Networks Hardware Implementations and Challenges: a
Survey [53.429871539789445]
スパイキングニューラルネットワークは、ニューロンとシナプスの操作原理を模倣する認知アルゴリズムである。
スパイキングニューラルネットワークのハードウェア実装の現状について述べる。
本稿では,これらのイベント駆動アルゴリズムの特性をハードウェアレベルで活用するための戦略について論じる。
論文 参考訳(メタデータ) (2020-05-04T13:24:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。