論文の概要: A Sequential Concept Drift Detection Method for On-Device Learning on
Low-End Edge Devices
- arxiv url: http://arxiv.org/abs/2212.09637v1
- Date: Mon, 19 Dec 2022 17:13:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-20 15:18:41.439069
- Title: A Sequential Concept Drift Detection Method for On-Device Learning on
Low-End Edge Devices
- Title(参考訳): ローエンドエッジデバイス上でのオンデバイス学習のためのシーケンシャルコンセプトドリフト検出法
- Authors: Takeya Yamada, Hiroki Matsutani
- Abstract要約: エッジAIシステムの現実的な問題は、トレーニングされたデータセットとデプロイされた環境のデータ分布が、時間とともにノイズや環境の変化によって異なる可能性があることである。
本稿では,ニューラルネットワークのデバイス上での学習手法と協調して,軽量なコンセプトドリフト検出手法を提案する。
- 参考スコア(独自算出の注目度): 2.520804666686246
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A practical issue of edge AI systems is that data distributions of trained
dataset and deployed environment may differ due to noise and environmental
changes over time. Such a phenomenon is known as a concept drift, and this gap
degrades the performance of edge AI systems and may introduce system failures.
To address this gap, a retraining of neural network models triggered by concept
drift detection is a practical approach. However, since available compute
resources are strictly limited in edge devices, in this paper we propose a
lightweight concept drift detection method in cooperation with a recently
proposed on-device learning technique of neural networks. In this case, both
the neural network retraining and the proposed concept drift detection are done
by sequential computation only to reduce computation cost and memory
utilization. Evaluation results of the proposed approach shows that while the
accuracy is decreased by 3.8%-4.3% compared to existing batch-based detection
methods, it decreases the memory size by 88.9%-96.4% and the execution time by
1.3%-83.8%. As a result, the combination of the neural network retraining and
the proposed concept drift detection method is demonstrated on Raspberry Pi
Pico that has 264kB memory.
- Abstract(参考訳): エッジaiシステムの現実的な問題は、トレーニングされたデータセットとデプロイされた環境のデータ分布がノイズや環境の変化によって異なる可能性があることだ。
このような現象はコンセプトドリフトとして知られており、このギャップはエッジAIシステムの性能を低下させ、システム障害を引き起こす可能性がある。
このギャップに対処するために、概念ドリフト検出によって引き起こされるニューラルネットワークモデルのリトレーニングは実用的なアプローチである。
しかし、エッジデバイスで利用可能な計算資源は厳密に制限されているため、近年提案されているニューラルネットワークのオンデバイス学習技術と連携して、軽量なコンセプトドリフト検出手法を提案する。
この場合、ニューラルネットワークの再トレーニングと提案されたドリフト検出は、計算コストとメモリ使用率を削減し、逐次計算によって行われる。
提案手法の評価結果から,従来のバッチ検出法に比べて3.8%-4.3%,メモリサイズが88.9%-96.4%,実行時間が1.3%-83.8%減少した。
その結果,264kbのメモリを持つraspberry pi piのpicoにおいて,ニューラルネットワークの再トレーニングと提案するドリフト検出法の組み合わせが実証された。
関連論文リスト
- SEF: A Method for Computing Prediction Intervals by Shifting the Error Function in Neural Networks [0.0]
本稿では,このカテゴリに属する新しい手法としてSEF(Shifting the Error Function)法を提案する。
提案手法では,1つのニューラルネットワークを3回トレーニングすることで,与えられた問題に対して対応する上境界と下限とを推定する。
この革新的なプロセスは、PIを効果的に生成し、不確実性定量化のための堅牢で効率的な技術をもたらす。
論文 参考訳(メタデータ) (2024-09-08T19:46:45Z) - Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。
我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。
我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文 参考訳(メタデータ) (2023-10-02T03:25:32Z) - The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。
FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。
我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
論文 参考訳(メタデータ) (2023-03-17T02:01:11Z) - Estimation of Sea State Parameters from Ship Motion Responses Using
Attention-based Neural Networks [0.6193838300896448]
本研究では, 船舶のピッチ, ヒーブ, ロール運動の時系列データから, 海の状態パラメータを推定するための新しいアテンションベースニューラルネットワーク(AT-NN)を適用した。
改良された最先端技術による提案手法により,MSEを23%,MAEを16%削減できることが実証された。
論文 参考訳(メタデータ) (2023-01-21T13:21:50Z) - Pushing the Limits of Asynchronous Graph-based Object Detection with
Event Cameras [62.70541164894224]
低計算を維持しながら、そのようなモデルの深さと複雑さを拡大できるアーキテクチャ選択をいくつか導入する。
我々の手法は、密度の高いグラフニューラルネットワークよりも3.7倍高速に動作し、前方通過はわずか8.4msである。
論文 参考訳(メタデータ) (2022-11-22T15:14:20Z) - Fast Exploration of the Impact of Precision Reduction on Spiking Neural
Networks [63.614519238823206]
ターゲットハードウェアがコンピューティングの端に達すると、スパイキングニューラルネットワーク(SNN)が実用的な選択となる。
我々は、近似誤差を伝播するそのようなモデルの能力を生かした探索手法を開発するために、インターヴァル算術(IA)モデルを用いる。
論文 参考訳(メタデータ) (2022-11-22T15:08:05Z) - Drift Reduction for Monocular Visual Odometry of Intelligent Vehicles
using Feedforward Neural Networks [0.0]
視覚計測アルゴリズムは、連続するカメラフレーム間の車両のインクリメンタルな動きを計算する。
提案するニューラルネットワークは,車両の姿勢推定における誤差を低減する。
その結果,漸進方向推定における誤差の低減に提案手法の有効性が示された。
論文 参考訳(メタデータ) (2022-07-02T21:28:41Z) - Autoregressive based Drift Detection Method [0.0]
我々はADDMと呼ばれる自己回帰モデルに基づく新しい概念ドリフト検出手法を提案する。
以上の結果から,新しいドリフト検出法は最先端ドリフト検出法よりも優れていることがわかった。
論文 参考訳(メタデータ) (2022-03-09T14:36:16Z) - Detecting Concept Drift With Neural Network Model Uncertainty [0.0]
不確実ドリフト検出(UDD)は、真のラベルにアクセスすることなくドリフトを検出することができる。
入力データに基づくドリフト検出とは対照的に,現在の入力データが予測モデルの特性に与える影響を考察する。
UDDは2つの合成および10の実世界のデータセットにおいて、回帰処理と分類処理の両方において、他の最先端戦略よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-07-05T08:56:36Z) - SignalNet: A Low Resolution Sinusoid Decomposition and Estimation
Network [79.04274563889548]
本稿では,正弦波数を検出するニューラルネットワークアーキテクチャであるSignalNetを提案する。
基礎となるデータ分布と比較して,ネットワークの結果を比較するための最悪の学習しきい値を導入する。
シミュレーションでは、我々のアルゴリズムは常に3ビットデータのしきい値を超えることができるが、しばしば1ビットデータのしきい値を超えることはできない。
論文 参考訳(メタデータ) (2021-06-10T04:21:20Z) - Identity-Aware Attribute Recognition via Real-Time Distributed Inference
in Mobile Edge Clouds [53.07042574352251]
我々は、MEC対応カメラ監視システムにおいて、re-IDを用いた歩行者属性認識のための新しいモデルの設計を行う。
本稿では,属性認識と人物再IDを協調的に考慮し,分散モジュールの集合を持つ新しい推論フレームワークを提案する。
そこで我々は,提案した分散推論フレームワークのモジュール分布の学習に基づくアルゴリズムを考案した。
論文 参考訳(メタデータ) (2020-08-12T12:03:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。