論文の概要: Learning Task-Based Trainable Neuromorphic ADCs via Power-Aware Distillation

• arxiv url: http://arxiv.org/abs/2409.15300v1
• Date: Wed, 4 Sep 2024 12:10:47 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-06 20:05:48.778617
• Title: Learning Task-Based Trainable Neuromorphic ADCs via Power-Aware Distillation
• Title（参考訳）: パワーアウェア蒸留によるタスクベース学習型学習型ニューロモルフィックADC
• Authors: Tal Vol, Loai Danial, Nir Shlezinger,
• Abstract要約: 本稿では,デジタル処理とアナログ処理の両方と並行して,タスクベースの経験的ADCをチューニングするデータ駆動アルゴリズムを提案する。 提案手法は, 精度を最大27%向上し, 消費電力を最大66%削減する。 ノイズ条件下であっても, 精度は19%, 消費電力は57%向上した。
• 参考スコア（独自算出の注目度）: 24.103729832774935
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The ability to process signals in digital form depends on analog-to-digital converters (ADCs). Traditionally, ADCs are designed to ensure that the digital representation closely matches the analog signal. However, recent studies have shown that significant power and memory savings can be achieved through task-based acquisition, where the acquisition process is tailored to the downstream processing task. An emerging technology for task-based acquisition involves the use of memristors, which are considered key enablers for neuromorphic computing. Memristors can implement ADCs with tunable mappings, allowing adaptation to specific system tasks or power constraints. In this work, we study task-based acquisition for a generic classification task using memristive ADCs. We consider the unique characteristics of this such neuromorphic ADCs, including their power consumption and noisy read-write behavior, and propose a physically compliant model based on resistive successive approximation register ADCs integrated with memristor components, enabling the adjustment of quantization regions. To optimize performance, we introduce a data-driven algorithm that jointly tunes task-based memristive ADCs alongside both digital and analog processing. Our design addresses the inherent stochasticity of memristors through power-aware distillation, complemented by a specialized learning algorithm that adapts to their unique analog-to-digital mapping. The proposed approach is shown to enhance accuracy by up to 27% and reduce power consumption by up to 66% compared to uniform ADCs. Even under noisy conditions, our method achieves substantial gains, with accuracy improvements of up to 19% and power reductions of up to 57%. These results highlight the effectiveness of our power-aware neuromorphic ADCs in improving system performance across diverse tasks.
• Abstract（参考訳）: デジタル形式で信号を処理する能力はアナログ・デジタルコンバータ(ADC)に依存している。 伝統的に、ADCはデジタル表現がアナログ信号と密接に一致するように設計されている。 しかし、近年の研究では、ダウンストリーム処理タスクに合わせて取得プロセスが調整されたタスクベースの取得によって、かなりの電力とメモリの節約が達成できることが示されている。 タスクベースの獲得のための新しい技術は、ニューロモルフィックコンピューティングのキーイネーラであるメムリスタ(memristor)の使用を含む。 Memristorは、調整可能なマッピングでADCを実装し、特定のシステムタスクや電力制約への適応を可能にする。 本研究では,経験的ADCを用いた汎用分類タスクのタスクベース獲得について検討する。 本稿では,これらのニューロモルフィックADCの特性について考察し,その電力消費と雑音による読み書き動作を考慮し,メムリスタ成分と統合された抵抗性逐次近似レジスタADCに基づく物理的に適合したモデルを提案し,量子化領域の調整を可能にする。 性能を最適化するために,デジタル処理とアナログ処理の両面からタスクベースの経験的ADCを協調的に調整するデータ駆動アルゴリズムを提案する。 本設計では, 固有アナログ-ディジタルマッピングに適応する特殊な学習アルゴリズムによって補足された, パワー・アウェア蒸留によるメムリスタの固有確率性に対処する。 提案手法は、一様ADCと比較して、最大27%の精度向上と最大66%の消費電力削減を実現している。 ノイズ条件下であっても, 精度は19%, 消費電力は57%向上した。 これらの結果は,多種多様なタスクにおけるシステム性能向上におけるパワーアウェアニューロモルフィックADCの有効性を浮き彫りにした。

関連論文リスト

• Towards training digitally-tied analog blocks via hybrid gradient computation [1.800676987432211]
  フィードフォワード型エネルギーベースモデル(ff-EBM)を紹介する。 フィードフォワード部とエネルギーベース部でそれぞれ逆プロパゲーションと「eqプロパゲーション」することで、FF-EBMの勾配をエンドツーエンドに計算する新しいアルゴリズムを導出する。 我々のアプローチは、自己学習可能なアナログ計算プリミティブを既存のデジタルアクセラレータに徐々に統合する、原則的でスケーラブルで漸進的なロードマップを提供する。
  論文  参考訳（メタデータ） (2024-09-05T07:22:19Z)
• Sustainable Diffusion-based Incentive Mechanism for Generative AI-driven Digital Twins in Industrial Cyber-Physical Systems [65.22300383287904]
  産業用サイバー物理システム(ICPS)は、現代の製造業と産業にとって不可欠なコンポーネントである。 製品ライフサイクルを通じてデータをデジタル化することで、ICPSのDigital Twins(DT)は、現在の産業インフラからインテリジェントで適応的なインフラへの移行を可能にします。 産業用IoT(Industrial Internet of Things, IIoT)デバイスを利用すれば、DTを構築するためのデータを共有するメカニズムは、悪い選択問題の影響を受けやすい。
  論文  参考訳（メタデータ） (2024-08-02T10:47:10Z)
• StoX-Net: Stochastic Processing of Partial Sums for Efficient In-Memory Computing DNN Accelerators [5.245727758971415]
  ディープニューラルネットワーク(DNN)のハードウェアアクセラレーションのための有望なプラットフォームとして、クロスバーウェアベースのインメモリコンピューティング(IMC)が登場した。
  論文  参考訳（メタデータ） (2024-07-17T07:56:43Z)
• Pruning for Improved ADC Efficiency in Crossbar-based Analog In-memory Accelerators [9.169425049927554]
  クロスバー型アナログインメモリアーキテクチャはディープニューラルネットワーク(DNN)の高速化に魅力的である クロスバー出力の通信にはアナログ・デジタル変換器(ADC)が必要である。 ADCは各クロスバー処理ユニットのエネルギーと面積の大部分を消費する。 ADC固有の非効率性を目標とするクロスバー調整プルーニングの動機付けを行う。
  論文  参考訳（メタデータ） (2024-03-19T18:26:45Z)
• EKGNet: A 10.96{\mu}W Fully Analog Neural Network for Intra-Patient Arrhythmia Classification [79.7946379395238]
  心電図不整脈分類におけるアナログ計算と深層学習を組み合わせた統合的アプローチを提案する。 本稿では,低消費電力で高精度にアーカイブするハードウェア効率と完全アナログ不整脈分類アーキテクチャであるEKGNetを提案する。
  論文  参考訳（メタデータ） (2023-10-24T02:37:49Z)
• DGSD: Dynamical Graph Self-Distillation for EEG-Based Auditory Spatial Attention Detection [49.196182908826565]
  AAD(Auditory Attention Detection)は、マルチスピーカー環境で脳信号からターゲット話者を検出することを目的としている。 現在のアプローチは主に、画像のようなユークリッドデータを処理するために設計された従来の畳み込みニューラルネットワークに依存している。 本稿では、入力として音声刺激を必要としないAADのための動的グラフ自己蒸留(DGSD)手法を提案する。
  論文  参考訳（メタデータ） (2023-09-07T13:43:46Z)
• ADC/DAC-Free Analog Acceleration of Deep Neural Networks with Frequency Transformation [2.7488316163114823]
  本稿では,アナログ領域の周波数ベーステンソル変換を用いた周波数領域ニューラルネットワークのエネルギー効率向上手法を提案する。 提案手法は,変換行列のトレーニング可能なパラメータを不要にすることで,よりコンパクトなセルを実現する。 16$times$16のクロスバーで8ビット入力処理を行い,Watt当たりの1602テラ演算のエネルギー効率を実現する。
  論文  参考訳（メタデータ） (2023-09-04T19:19:39Z)
• Learning Better with Less: Effective Augmentation for Sample-Efficient Visual Reinforcement Learning [57.83232242068982]
  データ拡張(DA)は、ビジュアル強化学習(RL)アルゴリズムのサンプル効率を高める重要な手法である。 サンプル効率のよい視覚的RLを実現する上で, DAのどの属性が有効かは明らかになっていない。 本研究は,DAの属性が有効性に与える影響を評価するための総合的な実験を行う。
  論文  参考訳（メタデータ） (2023-05-25T15:46:20Z)
• An Accelerated Doubly Stochastic Gradient Method with Faster Explicit Model Identification [97.28167655721766]
  本稿では、分散正規化損失最小化問題に対する2倍加速勾配降下法(ADSGD)を提案する。 まず、ADSGDが線形収束率を達成でき、全体的な計算複雑性を低減できることを示す。
  論文  参考訳（メタデータ） (2022-08-11T22:27:22Z)
• Stabilizing Voltage in Power Distribution Networks via Multi-Agent Reinforcement Learning with Transformer [128.19212716007794]
  本稿では,変圧器を用いたマルチエージェント・アクタ・クリティカル・フレームワーク(T-MAAC)を提案する。 さらに、電圧制御タスクに適した新しい補助タスクトレーニングプロセスを採用し、サンプル効率を向上する。
  論文  参考訳（メタデータ） (2022-06-08T07:48:42Z)
• An Intelligent Control Strategy for buck DC-DC Converter via Deep Reinforcement Learning [1.4502611532302039]
  定電力負荷(CPL)を有するバックDC-DCコンバータの革新的な知的制御戦略を初めて構築する。 DC-DCコンバータでは、マルコフ決定プロセス(MDP)モデルとディープQネットワーク(DQN)アルゴリズムが定義される。 エージェント-環境相互作用を調整するために,モデルフリーの深層強化学習(DRL)制御戦略を適切に設計する。
  論文  参考訳（メタデータ） (2020-08-11T06:38:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。