論文の概要: AVAC: A Machine Learning based Adaptive RRAM Variability-Aware
Controller for Edge Devices
- arxiv url: http://arxiv.org/abs/2005.03077v1
- Date: Wed, 6 May 2020 19:06:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-06 06:33:10.304712
- Title: AVAC: A Machine Learning based Adaptive RRAM Variability-Aware
Controller for Edge Devices
- Title(参考訳): AVAC: エッジデバイスのための機械学習ベースの適応RRAM変数認識コントローラ
- Authors: Shikhar Tuli and Shreshth Tuli
- Abstract要約: 本稿ではAVAC(Adaptive RRAM Variability-Aware Controller)を提案する。
AVACにより、Edgeデバイスは異なるアプリケーションとそのステージに適応し、パフォーマンスを改善し、エネルギー消費を減らすことができる。
- 参考スコア(独自算出の注目度): 3.7346292069282643
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recently, the Edge Computing paradigm has gained significant popularity both
in industry and academia. Researchers now increasingly target to improve
performance and reduce energy consumption of such devices. Some recent efforts
focus on using emerging RRAM technologies for improving energy efficiency,
thanks to their no leakage property and high integration density. As the
complexity and dynamism of applications supported by such devices escalate, it
has become difficult to maintain ideal performance by static RRAM controllers.
Machine Learning provides a promising solution for this, and hence, this work
focuses on extending such controllers to allow dynamic parameter updates. In
this work we propose an Adaptive RRAM Variability-Aware Controller, AVAC, which
periodically updates Wait Buffer and batch sizes using on-the-fly learning
models and gradient ascent. AVAC allows Edge devices to adapt to different
applications and their stages, to improve computation performance and reduce
energy consumption. Simulations demonstrate that the proposed model can provide
up to 29% increase in performance and 19% decrease in energy, compared to
static controllers, using traces of real-life healthcare applications on a
Raspberry-Pi based Edge deployment.
- Abstract(参考訳): 最近、Edge Computingパラダイムは業界でも学界でも大きな人気を集めている。
研究者は、こうした機器の性能向上とエネルギー消費の削減をますます目標としています。
近年の取り組みは, 漏れ特性と高積分密度のため, エネルギー効率向上に新たなRRAM技術を利用することに重点を置いている。
このようなデバイスがサポートするアプリケーションの複雑さとダイナミズムがエスカレートするにつれて、静的RRAMコントローラによる理想的な性能維持が困難になっている。
機械学習は、これに有望なソリューションを提供するため、この作業は、動的なパラメータ更新を可能にするために、そのようなコントローラの拡張に焦点を当てる。
本研究では,オンザフライ学習モデルと勾配上昇モデルを用いて,待ちバッファとバッチサイズを定期的に更新する適応型rram可変性アウェアコントローラavacを提案する。
AVACにより、Edgeデバイスは異なるアプリケーションとそのステージに適応し、計算性能を改善し、エネルギー消費を減らすことができる。
シミュレーションでは、raspberry-piベースのエッジデプロイメントで実際のヘルスケアアプリケーションのトレースを使用することで、提案されたモデルが最大29%のパフォーマンス向上と19%のエネルギー削減をもたらすことが示されている。
関連論文リスト
- HPC Application Parameter Autotuning on Edge Devices: A Bandit Learning Approach [0.4543820534430522]
エッジデバイスにおけるパラメータ検索空間の問題に対処するために設計された新しい戦略であるLASPを紹介する。
当社の戦略は、オンライン探索とエクスプロイトに焦点を当てたマルチアーム・バンディット(MAB)技術を用いている。
私たちはLulesh、Kripke、Clomp、Hypreの4つのHPCアプリケーションでLASPをテストしました。
論文 参考訳(メタデータ) (2025-01-02T04:59:32Z) - Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。
既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。
ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T19:02:54Z) - Enhancing User Experience in On-Device Machine Learning with Gated Compression Layers [0.0]
オンデバイス機械学習(ODML)は強力なエッジアプリケーションを実現するが、リソース制約のあるデバイスにとって電力消費は依然として重要な課題である。
本研究は,パワーを保ちながらODMLモデル性能を向上させるため,GC(Gated Compression)層の利用に焦点を当てる。
GCレイヤは、ニューラルネットワーク内のニューロンの活性化を選択的にゲーティングし、非必要入力を効果的にフィルタリングすることで、データフローを動的に制御する。
論文 参考訳(メタデータ) (2024-05-02T21:18:06Z) - Simulating Battery-Powered TinyML Systems Optimised using Reinforcement Learning in Image-Based Anomaly Detection [0.0]
この研究は、バッテリ駆動のイメージベースの異常検出(IoT)システムを最適化することによって、TinyMLの研究を拡張し、貢献する。
提案したソリューションは、800Bのメモリフットプリントが低いため、リソース制約のあるハードウェアにデプロイすることができる。
これにより、スマート農業などの重要な分野を含む、そのようなシステムの現実的な展開が促進される。
論文 参考訳(メタデータ) (2024-03-08T07:09:56Z) - etuner: A Redundancy-Aware Framework for Efficient Continual Learning Application on Edge Devices [47.365775210055396]
推論精度、微調整実行時間、エネルギー効率を最適化する効率的なエッジ連続学習フレームワークであるETunerを提案する。
実験結果から,ETunerは全体の微調整実行時間を64%削減し,エネルギー消費量を56%削減し,即時モデル微調整アプローチよりも平均推定精度を1.75%向上した。
論文 参考訳(メタデータ) (2024-01-30T02:41:05Z) - TransCODE: Co-design of Transformers and Accelerators for Efficient
Training and Inference [6.0093441900032465]
本稿では,アクセラレータの設計空間におけるトランスフォーマー推論とトレーニングをシミュレートするフレームワークを提案する。
我々はこのシミュレータとTransCODEと呼ばれる共同設計手法を併用して最適性能のモデルを得る。
得られた変圧器・加速器対は、最先端の対よりも0.3%高い精度を達成する。
論文 参考訳(メタデータ) (2023-03-27T02:45:18Z) - Energy-efficient Task Adaptation for NLP Edge Inference Leveraging
Heterogeneous Memory Architectures [68.91874045918112]
Adapter-ALBERTは、様々なタスクにわたる最大データ再利用のための効率的なモデル最適化である。
検証されたNLPエッジアクセラレータ上でシミュレーションを行うことにより、モデルを不均一なオンチップメモリアーキテクチャにマッピングする利点を実証する。
論文 参考訳(メタデータ) (2023-03-25T14:40:59Z) - DUET: A Tuning-Free Device-Cloud Collaborative Parameters Generation Framework for Efficient Device Model Generalization [66.27399823422665]
デバイスモデル一般化(Device Model Generalization, DMG)は、デバイス上での機械学習アプリケーションにおいて、実用的ながら実証されていない研究トピックである。
本稿では,Device-cloUdコラボレーティブパラメトリクスフレームワークDUETを提案する。
論文 参考訳(メタデータ) (2022-09-12T13:26:26Z) - LEAF + AIO: Edge-Assisted Energy-Aware Object Detection for Mobile
Augmented Reality [77.00418462388525]
モバイル拡張現実(MAR)アプリケーションは非常にエネルギーを消費する。
我々は、MARデバイスが動的に構成を変更することができるエッジベースのエネルギー対応MARシステムを設計する。
提案した動的MAR構成適応は、複数のMARクライアントのフレーム当たりのエネルギー消費を最小限に抑えることができる。
論文 参考訳(メタデータ) (2022-05-27T06:11:50Z) - Hardware-Robust In-RRAM-Computing for Object Detection [0.15113576014047125]
In-RRAMコンピューティングは、ハードウェアにおいて大きなデバイスバリエーションと多くの非理想的効果に悩まされた。
本稿では,オブジェクト検出のためのハードウェアロバストIRCマクロを設計するためのハードウェアとソフトウェアの共同最適化手法を提案する。
提案手法は3.85%のmAP降下しか持たない複雑な物体検出タスクにうまく適用されている。
論文 参考訳(メタデータ) (2022-05-09T01:46:24Z) - Improving Computational Efficiency in Visual Reinforcement Learning via
Stored Embeddings [89.63764845984076]
効率的な強化学習のためのストアド埋め込み(SEER)について紹介します。
SEERは、既存の非政治深層強化学習方法の簡単な修正です。
計算とメモリを大幅に節約しながら、SEERがRLizableエージェントのパフォーマンスを低下させないことを示します。
論文 参考訳(メタデータ) (2021-03-04T08:14:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。