論文の概要: Learning-to-learn enables rapid learning with phase-change memory-based in-memory computing

• arxiv url: http://arxiv.org/abs/2405.05141v1
• Date: Mon, 22 Apr 2024 15:03:46 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-12 15:40:48.829703
• Title: Learning-to-learn enables rapid learning with phase-change memory-based in-memory computing
• Title（参考訳）: ラーニング・トゥ・ラーン(Learning-to-Lern)は、位相変化メモリベースのインメモリコンピューティングによる高速学習を実現する
• Authors: Thomas Ortner, Horst Petschenig, Athanasios Vasilopoulos, Roland Renner, Špela Brglez, Thomas Limbacher, Enrique Piñero, Alejandro Linares Barranco, Angeliki Pantazi, Robert Legenstein,
• Abstract要約: 低消費電力で自律的に学習する人工知能(AI)システムに対する需要は、エッジに適用でき、デプロイメントサイトの特定の状況に迅速に適応できる。 本研究では、L2Lとインメモリコンピューティングニューロモルフィックハードウェアを組み合わせ、新しいタスクに迅速に適応できる効率的なAIモデルを構築する。 画像分類を行う畳み込みニューラルネットワークと、本物のロボットアームのモーターコマンドを生成する生物学的にインスパイアされたスパイクニューラルネットワークの2つのシナリオで、我々のアプローチの汎用性を実証する。
• 参考スコア（独自算出の注目度）: 38.34244217803562
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: There is a growing demand for low-power, autonomously learning artificial intelligence (AI) systems that can be applied at the edge and rapidly adapt to the specific situation at deployment site. However, current AI models struggle in such scenarios, often requiring extensive fine-tuning, computational resources, and data. In contrast, humans can effortlessly adjust to new tasks by transferring knowledge from related ones. The concept of learning-to-learn (L2L) mimics this process and enables AI models to rapidly adapt with only little computational effort and data. In-memory computing neuromorphic hardware (NMHW) is inspired by the brain's operating principles and mimics its physical co-location of memory and compute. In this work, we pair L2L with in-memory computing NMHW based on phase-change memory devices to build efficient AI models that can rapidly adapt to new tasks. We demonstrate the versatility of our approach in two scenarios: a convolutional neural network performing image classification and a biologically-inspired spiking neural network generating motor commands for a real robotic arm. Both models rapidly learn with few parameter updates. Deployed on the NMHW, they perform on-par with their software equivalents. Moreover, meta-training of these models can be performed in software with high-precision, alleviating the need for accurate hardware models.
• Abstract（参考訳）: 低消費電力で自律的に学習する人工知能(AI)システムは、エッジで適用でき、デプロイメントサイトの特定の状況に迅速に適応できるという需要が高まっている。 しかし、現在のAIモデルはこのようなシナリオで苦労しており、広範囲な微調整、計算リソース、データを必要とすることが多い。 対照的に、人間は関連するタスクから知識を移すことで、新しいタスクに力ずくで適応することができる。 ラーニング・トゥ・ラーン(L2L)の概念は、このプロセスを模倣し、AIモデルが計算労力とデータのみで迅速に適応できるようにする。 インメモリコンピューティングニューロモルフィックハードウェア(NMHW)は、脳の動作原理にインスパイアされ、メモリと計算の物理的コロケーションを模倣する。 本研究では、位相変化メモリデバイスをベースとしたメモリ内計算NMHWとL2Lを組み合わせ、新しいタスクに迅速に適応できる効率的なAIモデルを構築する。 画像分類を行う畳み込みニューラルネットワークと、本物のロボットアームのモーターコマンドを生成する生物学的にインスパイアされたスパイクニューラルネットワークの2つのシナリオで、我々のアプローチの汎用性を実証する。 どちらのモデルもパラメータの更新をほとんど行わずに急速に学習する。 NMHW上にデプロイされ、ソフトウェアと同等の動作を行う。 さらに、これらのモデルのメタトレーニングは、高精度なソフトウェアで行うことができ、正確なハードウェアモデルの必要性を軽減することができる。

関連論文リスト

• Emulating Brain-like Rapid Learning in Neuromorphic Edge Computing [3.735012564657653]
  デジタルニューロモルフィック技術は、学習の2段階を用いて脳の神経とシナプスの過程をシミュレートする。 イベント駆動型視覚センサデータとIntel Loihiニューロモルフィックプロセッサの塑性ダイナミクスを用いたアプローチを実証する。 提案手法は任意の可塑性モデルで展開可能であり,学習の迅速化と適応を要求される状況に適用可能である。
  論文  参考訳（メタデータ） (2024-08-28T13:51:52Z)
• GreenLightningAI: An Efficient AI System with Decoupled Structural and Quantitative Knowledge [0.0]
  強力な、人気のあるディープニューラルネットワークのトレーニングには、非常に高い経済的および環境的コストが伴う。 この作業は、GreenLightningAIを提案することによって、根本的に異なるアプローチを取る。 新しいAIシステムは、所定のサンプルに対してシステムサブセットを選択するために必要な情報を格納する。 我々は,AIシステムを新しいサンプルで再学習する際に,構造情報を無修正で保持できることを実験的に示す。
  論文  参考訳（メタデータ） (2023-12-15T17:34:11Z)
• Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
  予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。 PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
  論文  参考訳（メタデータ） (2023-08-15T16:37:16Z)
• Meta-Learning in Spiking Neural Networks with Reward-Modulated STDP [2.179313476241343]
  本研究では,海馬と前頭前皮質にインスパイアされた生物工学的メタラーニングモデルを提案する。 我々の新しいモデルはスパイクベースのニューロモーフィックデバイスに容易に適用でき、ニューロモーフィックハードウェアにおける高速な学習を可能にする。
  論文  参考訳（メタデータ） (2023-06-07T13:08:46Z)
• Hindsight States: Blending Sim and Real Task Elements for Efficient Reinforcement Learning [61.3506230781327]
  ロボット工学では、第一原理から導かれた力学モデルに基づくシミュレーションに基づいて、トレーニングデータを生成する方法がある。 ここでは、力学の複雑さの不均衡を利用して、より標本効率のよい学習を行う。 提案手法をいくつかの課題に対して検証し,既存の近視アルゴリズムと組み合わせた場合の学習改善を実証する。
  論文  参考訳（メタデータ） (2023-03-03T21:55:04Z)
• Incremental Online Learning Algorithms Comparison for Gesture and Visual Smart Sensors [68.8204255655161]
  本稿では,加速度センサデータに基づくジェスチャー認識と画像分類の2つの実例として,最先端の4つのアルゴリズムを比較した。 以上の結果から,これらのシステムの信頼性と小型メモリMCUへのデプロイの可能性が確認された。
  論文  参考訳（メタデータ） (2022-09-01T17:05:20Z)
• Reservoir Memory Machines as Neural Computers [70.5993855765376]
  微分可能なニューラルネットワークは、干渉することなく明示的なメモリで人工ニューラルネットワークを拡張する。 我々は、非常に効率的に訓練できるモデルを用いて、微分可能なニューラルネットワークの計算能力を実現する。
  論文  参考訳（メタデータ） (2020-09-14T12:01:30Z)
• One-step regression and classification with crosspoint resistive memory arrays [62.997667081978825]
  高速で低エネルギーのコンピュータは、エッジでリアルタイム人工知能を実現するために要求されている。 ワンステップ学習は、ボストンの住宅のコスト予測と、MNIST桁認識のための2層ニューラルネットワークのトレーニングによって支援される。 結果は、クロスポイントアレイ内の物理計算、並列計算、アナログ計算のおかげで、1つの計算ステップで得られる。
  論文  参考訳（メタデータ） (2020-05-05T08:00:07Z)
• Memristors -- from In-memory computing, Deep Learning Acceleration, Spiking Neural Networks, to the Future of Neuromorphic and Bio-inspired Computing [25.16076541420544]
  機械学習は、特にディープラーニングの形で、人工知能の最近の基本的な発展のほとんどを駆動している。 ディープラーニングは、オブジェクト/パターン認識、音声と自然言語処理、自動運転車、インテリジェントな自己診断ツール、自律ロボット、知識に富んだパーソナルアシスタント、監視といった分野に成功している。 本稿では、電力効率の高いインメモリコンピューティング、ディープラーニングアクセラレーター、スパイクニューラルネットワークの実装のための潜在的なソリューションとして、CMOSハードウェア技術、memristorsを超越した小説をレビューする。
  論文  参考訳（メタデータ） (2020-04-30T16:49:03Z)
• Integration of Leaky-Integrate-and-Fire-Neurons in Deep Learning Architectures [0.0]
  生物学的にインスパイアされたニューロンモデルが情報符号化の斬新で効率的な方法を提供することを示す。 LIF単位に対する簡単な更新ルールを微分方程式から導出した。 本手法をIRIS花のイメージデータセットに適用し,画像分類タスクにおけるLIFニューロンのトレーニングに使用することができることを示す。
  論文  参考訳（メタデータ） (2020-04-28T13:57:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。