論文の概要: Analog Alchemy: Neural Computation with In-Memory Inference, Learning and Routing

• arxiv url: http://arxiv.org/abs/2412.20848v1
• Date: Mon, 30 Dec 2024 10:35:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-31 16:04:51.478042
• Title: Analog Alchemy: Neural Computation with In-Memory Inference, Learning and Routing
• Title（参考訳）: Analog Alchemy: インメモリ推論、学習、ルーティングによるニューラル計算
• Authors: Yigit Demirag,
• Abstract要約: そこでは、推論、学習、ルーティングにデバイス固有の物理ダイナミクスが使用される。 筆者は, スケーラブルなアーキテクチャのために, 局所学習の基板への適応性, 新たな材料スタック, 回路ブロックをハードウェアで証明し, クレジット代入問題の解決, アナログクロスバー間の効率的なルーティングを行う。
• 参考スコア（独自算出の注目度）: 0.08965418284317034
• License:
• Abstract: As neural computation is revolutionizing the field of Artificial Intelligence (AI), rethinking the ideal neural hardware is becoming the next frontier. Fast and reliable von Neumann architecture has been the hosting platform for neural computation. Although capable, its separation of memory and computation creates the bottleneck for the energy efficiency of neural computation, contrasting the biological brain. The question remains: how can we efficiently combine memory and computation, while exploiting the physics of the substrate, to build intelligent systems? In this thesis, I explore an alternative way with memristive devices for neural computation, where the unique physical dynamics of the devices are used for inference, learning and routing. Guided by the principles of gradient-based learning, we selected functions that need to be materialized, and analyzed connectomics principles for efficient wiring. Despite non-idealities and noise inherent in analog physics, I will provide hardware evidence of adaptability of local learning to memristive substrates, new material stacks and circuit blocks that aid in solving the credit assignment problem and efficient routing between analog crossbars for scalable architectures.
• Abstract（参考訳）: ニューラルネットワークが人工知能(AI)の分野に革命をもたらす中、理想的なニューラルハードウェアの再考が次のフロンティアになりつつある。 高速で信頼性の高いvon Neumannアーキテクチャは、ニューラルネットワークのホスティングプラットフォームとなっている。 能力はあるものの、メモリと計算の分離は、生物学的脳とは対照的に、神経計算のエネルギー効率のボトルネックを生み出す。 メモリと計算を効率的に組み合わせて、基板の物理を利用してインテリジェントなシステムを構築するにはどうすればよいのか? この論文では、このデバイス特有の物理力学を推論、学習、ルーティングに利用する、ニューラルネットワークのための経験的デバイスによる代替方法を探る。 勾配に基づく学習の原則に導かれて、我々は物質化が必要な関数を選択し、効率的な配線のためのコネクトロミクスの原理を分析した。 アナログ物理に固有の非イデアル性やノイズにもかかわらず、我々は、スケーラブルなアーキテクチャのためのアナログクロスバー間の効率的なルーティングと、クレジット割り当て問題を解決するのに役立つ、局所学習の中間基板、新しい材料スタック、回路ブロックへの適応性のハードウェア証拠を提供する。

関連論文リスト

• Resistive Memory-based Neural Differential Equation Solver for Score-based Diffusion Model [55.116403765330084]
  スコアベースの拡散のような現在のAIGC法は、迅速性と効率性の点で依然として不足している。 スコアベース拡散のための時間連続型およびアナログ型インメモリ型ニューラル微分方程式解法を提案する。 我々は180nmの抵抗型メモリインメモリ・コンピューティング・マクロを用いて,我々の解を実験的に検証した。
  論文  参考訳（メタデータ） (2024-04-08T16:34:35Z)
• Pruning random resistive memory for optimizing analogue AI [54.21621702814583]
  AIモデルは、エネルギー消費と環境持続可能性に前例のない課題を提示する。 有望な解決策の1つは、アナログコンピューティングを再考することである。 ここでは、構造的塑性に着想を得たエッジプルーニングを用いたユニバーサルソリューション、ソフトウェア・ハードウエアの共設計について報告する。
  論文  参考訳（メタデータ） (2023-11-13T08:59:01Z)
• Biologically Plausible Learning on Neuromorphic Hardware Architectures [27.138481022472]
  ニューロモルフィックコンピューティング(Neuromorphic Computing)は、アナログメモリの計算によってこの不均衡に直面している新興パラダイムである。 この研究は、異なる学習アルゴリズムがCompute-In-Memoryベースのハードウェアに与える影響を初めて比較し、その逆も行った。
  論文  参考訳（メタデータ） (2022-12-29T15:10:59Z)
• Neuromorphic Artificial Intelligence Systems [58.1806704582023]
  フォン・ノイマンアーキテクチャと古典的ニューラルネットワークに基づく現代のAIシステムは、脳と比較して多くの基本的な制限がある。 この記事では、そのような制限と、それらが緩和される方法について論じる。 これは、これらの制限が克服されている現在利用可能なニューロモーフィックAIプロジェクトの概要を示す。
  論文  参考訳（メタデータ） (2022-05-25T20:16:05Z)
• A Robust Learning Rule for Soft-Bounded Memristive Synapses Competitive with Supervised Learning in Standard Spiking Neural Networks [0.0]
  理論神経科学における見解は、脳を機能計算装置と見なしている。 関数を近似できることは、将来の脳研究のための基礎となる公理である。 本研究では,非自明な多次元関数の学習に,ニオブをドープしたチタン酸ストロンチウムの旋律的シナプスを制御した新しい教師付き学習アルゴリズムを適用する。
  論文  参考訳（メタデータ） (2022-04-12T10:21:22Z)
• Mapping and Validating a Point Neuron Model on Intel's Neuromorphic Hardware Loihi [77.34726150561087]
  インテルの第5世代ニューロモルフィックチップ「Loihi」の可能性について検討する。 Loihiは、脳内のニューロンをエミュレートするスパイキングニューラルネットワーク(SNN)という新しいアイデアに基づいている。 Loihiは従来のシミュレーションを非常に効率的に再現し、ネットワークが大きくなるにつれて、時間とエネルギーの両方のパフォーマンスにおいて顕著にスケールする。
  論文  参考訳（メタデータ） (2021-09-22T16:52:51Z)
• A deep learning theory for neural networks grounded in physics [2.132096006921048]
  ニューロモルフィックアーキテクチャ上で大規模で高速で効率的なニューラルネットワークを構築するには、それらを実装および訓練するためのアルゴリズムを再考する必要がある。 私たちのフレームワークは、非常に幅広いモデル、すなわち状態やダイナミクスが変動方程式によって記述されるシステムに適用されます。
  論文  参考訳（メタデータ） (2021-03-18T02:12:48Z)
• One-step regression and classification with crosspoint resistive memory arrays [62.997667081978825]
  高速で低エネルギーのコンピュータは、エッジでリアルタイム人工知能を実現するために要求されている。 ワンステップ学習は、ボストンの住宅のコスト予測と、MNIST桁認識のための2層ニューラルネットワークのトレーニングによって支援される。 結果は、クロスポイントアレイ内の物理計算、並列計算、アナログ計算のおかげで、1つの計算ステップで得られる。
  論文  参考訳（メタデータ） (2020-05-05T08:00:07Z)
• Spiking Neural Networks Hardware Implementations and Challenges: a Survey [53.429871539789445]
  スパイキングニューラルネットワークは、ニューロンとシナプスの操作原理を模倣する認知アルゴリズムである。 スパイキングニューラルネットワークのハードウェア実装の現状について述べる。 本稿では,これらのイベント駆動アルゴリズムの特性をハードウェアレベルで活用するための戦略について論じる。
  論文  参考訳（メタデータ） (2020-05-04T13:24:00Z)
• Memristors -- from In-memory computing, Deep Learning Acceleration, Spiking Neural Networks, to the Future of Neuromorphic and Bio-inspired Computing [25.16076541420544]
  機械学習は、特にディープラーニングの形で、人工知能の最近の基本的な発展のほとんどを駆動している。 ディープラーニングは、オブジェクト/パターン認識、音声と自然言語処理、自動運転車、インテリジェントな自己診断ツール、自律ロボット、知識に富んだパーソナルアシスタント、監視といった分野に成功している。 本稿では、電力効率の高いインメモリコンピューティング、ディープラーニングアクセラレーター、スパイクニューラルネットワークの実装のための潜在的なソリューションとして、CMOSハードウェア技術、memristorsを超越した小説をレビューする。
  論文  参考訳（メタデータ） (2020-04-30T16:49:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。