論文の概要: Tiny Machine Learning for Concept Drift

• arxiv url: http://arxiv.org/abs/2107.14759v1
• Date: Fri, 30 Jul 2021 17:02:04 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-02 12:58:00.858217
• Title: Tiny Machine Learning for Concept Drift
• Title（参考訳）: コンセプトドリフトのための小さな機械学習
• Authors: Simone Disabato and Manuel Roveri
• Abstract要約: 本稿では,ディープラーニング特徴抽出器とk-アネレスト近傍に基づくTML-CD(Tiny Machine Learning for Concept Drift)ソリューションを提案する。 適応モジュールは、TML-CDの知識ベースを継続的に更新し、データ生成プロセスに影響を与える概念ドリフトに対処する。 3つの市販マイクロコントローラユニットへのTML-CDの移植は、現実世界の広範システムで提案されていることの実現可能性を示している。
• 参考スコア（独自算出の注目度）: 8.452237741722726
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Tiny Machine Learning (TML) is a new research area whose goal is to design machine and deep learning techniques able to operate in Embedded Systems and IoT units, hence satisfying the severe technological constraints on memory, computation, and energy characterizing these pervasive devices. Interestingly, the related literature mainly focused on reducing the computational and memory demand of the inference phase of machine and deep learning models. At the same time, the training is typically assumed to be carried out in Cloud or edge computing systems (due to the larger memory and computational requirements). This assumption results in TML solutions that might become obsolete when the process generating the data is affected by concept drift (e.g., due to periodicity or seasonality effect, faults or malfunctioning affecting sensors or actuators, or changes in the users' behavior), a common situation in real-world application scenarios. For the first time in the literature, this paper introduces a Tiny Machine Learning for Concept Drift (TML-CD) solution based on deep learning feature extractors and a k-nearest neighbors classifier integrating a hybrid adaptation module able to deal with concept drift affecting the data-generating process. This adaptation module continuously updates (in a passive way) the knowledge base of TML-CD and, at the same time, employs a Change Detection Test to inspect for changes (in an active way) to quickly adapt to concept drift by removing the obsolete knowledge. Experimental results on both image and audio benchmarks show the effectiveness of the proposed solution, whilst the porting of TML-CD on three off-the-shelf micro-controller units shows the feasibility of what is proposed in real-world pervasive systems.
• Abstract（参考訳）: Tiny Machine Learning (TML)は、組み込みシステムとIoTユニットで動作可能な機械学習およびディープラーニング技術を設計することを目的としている新しい研究分野である。 興味深いことに、関連する文献は主に、機械学習モデルとディープラーニングモデルの推論フェーズの計算とメモリ需要の削減に焦点を当てている。 同時に、トレーニングは通常、クラウドまたはエッジコンピューティングシステム(より大きなメモリと計算要求のため)で実行されると仮定される。 この仮定は、データを生成するプロセスが概念ドリフト(例えば、周期性や季節性の影響、センサーやアクチュエータに影響を及ぼす障害や機能不全、あるいはユーザの振る舞いの変化)によって影響を受ける場合、tmlソリューションが時代遅れになる可能性がある。 本稿では,ディープラーニング特徴抽出器をベースとしたTiny Machine Learning for Concept Drift(TML-CD)ソリューションと,データ生成プロセスに影響を与える概念ドリフトに対処可能なハイブリッド適応モジュールを統合したk-nearest neighbors分類器を紹介する。 この適応モジュールは、TML-CDの知識ベースを(受動的に)継続的に更新し、同時に変更検出テストを使用して(アクティブな方法で)変更を検査し、廃れた知識を取り除き、概念のドリフトに迅速に適応する。 画像と音声のベンチマークによる実験結果から,TML-CDを市販マイクロコントローラユニット3台に移植することで,現実の広汎なシステムにおける提案手法の有効性が示された。

関連論文リスト

• A Continual and Incremental Learning Approach for TinyML On-device Training Using Dataset Distillation and Model Size Adaption [0.4345992906143838]
  Tiny Machine Learning (TinyML) の文脈における漸進学習のための新しいアルゴリズムを提案する。 低性能でエネルギー効率のよい組み込みデバイスに最適化されている。 提案アルゴリズムは,組込みデバイス上でのTinyMLインクリメンタル学習に有望なアプローチを提供することを示す。
  論文  参考訳（メタデータ） (2024-09-11T09:02:33Z)
• Learn while Unlearn: An Iterative Unlearning Framework for Generative Language Models [49.043599241803825]
  Iterative Contrastive Unlearning (ICU)フレームワークは3つのコアコンポーネントで構成されている。 知識未学習誘導モジュールは、未学習の損失を通じて特定の知識を除去する。 Contrastive Learning Enhancementモジュールは、純粋な未学習の目標に対してモデルの表現力を維持する。 また、特定のデータ片の未学習範囲を動的に評価し、反復的な更新を行う反復未学習リファインメントモジュールも用意されている。
  論文  参考訳（メタデータ） (2024-07-25T07:09:35Z)
• On-device Online Learning and Semantic Management of TinyML Systems [8.183732025472766]
  本研究の目的は,単一TinyMLモデルのプロトタイピングと信頼性の高いTinyMLシステムの開発のギャップを埋めることである。 我々は,制約のあるデバイス上でのトレーニングを可能にするオンライン学習を提案し,最新のフィールド条件に局所モデルを適用する。 モデルとデバイスを大規模に管理するためのセマンティックマネジメントを提案する。
  論文  参考訳（メタデータ） (2024-05-13T10:03:34Z)
• Goldfish: An Efficient Federated Unlearning Framework [3.956103498302838]
  Goldfishは機械学習アルゴリズムのための新しいフレームワークだ。 基本モデル、損失関数、最適化、拡張の4つのモジュールで構成されている。 既存の機械学習アルゴリズムの妥当性の低い課題に対処するため,新しい損失関数を提案する。
  論文  参考訳（メタデータ） (2024-04-04T03:29:41Z)
• Random resistive memory-based deep extreme point learning machine for unified visual processing [67.51600474104171]
  ハードウェア・ソフトウェア共同設計型, ランダム抵抗型メモリベース深部極点学習マシン(DEPLM)を提案する。 我々の共同設計システムは,従来のシステムと比較して,エネルギー効率の大幅な向上とトレーニングコストの削減を実現している。
  論文  参考訳（メタデータ） (2023-12-14T09:46:16Z)
• Incremental Online Learning Algorithms Comparison for Gesture and Visual Smart Sensors [68.8204255655161]
  本稿では,加速度センサデータに基づくジェスチャー認識と画像分類の2つの実例として,最先端の4つのアルゴリズムを比較した。 以上の結果から,これらのシステムの信頼性と小型メモリMCUへのデプロイの可能性が確認された。
  論文  参考訳（メタデータ） (2022-09-01T17:05:20Z)
• SOLIS -- The MLOps journey from data acquisition to actionable insights [62.997667081978825]
  本稿では,基本的なクロスプラットフォームテンソルフレームワークとスクリプト言語エンジンを使用しながら,すべての要件をサポートする統合デプロイメントパイプラインとフリー・ツー・オペレートアプローチを提案する。 しかし、このアプローチは、実際のプロダクショングレードシステムに機械学習機能を実際にデプロイするために必要な手順やパイプラインを提供していない。
  論文  参考訳（メタデータ） (2021-12-22T14:45:37Z)
• Model of the Weak Reset Process in HfOx Resistive Memory for Deep Learning Frameworks [0.6745502291821955]
  酸化ハフニウムRRAMにおける弱いRESET過程のモデルを提案する。 私たちはこのモデルをPyTorchディープラーニングフレームワークに統合します。 我々はこのツールを用いて、MNIST手書き文字認識タスクのためのバイナリニューラルネットワークを訓練する。
  論文  参考訳（メタデータ） (2021-07-02T08:50:35Z)
• Automated Machine Learning Techniques for Data Streams [91.3755431537592]
  本稿では、最先端のオープンソースAutoMLツールを調査し、ストリームから収集したデータに適用し、時間とともにパフォーマンスがどのように変化するかを測定する。 この結果から,既製のAutoMLツールで十分な結果が得られることが示されたが,概念ドリフトや検出,適応といった手法が適用されれば,予測精度を時間とともに維持することが可能になる。
  論文  参考訳（メタデータ） (2021-06-14T11:42:46Z)
• An Efficient One-Class SVM for Anomaly Detection in the Internet of Things [25.78558553080511]
  安全なモノのインターネット(IoT)デバイスは、重要なインフラストラクチャとインターネット全体に重大な脅威をもたらします。 これらのデバイスから異常な行動を検出することは 依然として重要です ワンクラスサポートベクターマシン(OCSVM)は、ノベルティ検出のための最先端のアプローチの1つです。
  論文  参考訳（メタデータ） (2021-04-22T15:59:56Z)
• Transfer Learning without Knowing: Reprogramming Black-box Machine Learning Models with Scarce Data and Limited Resources [78.72922528736011]
  そこで我々は,ブラックボックス・アタベラル・リプログラミング (BAR) という新しい手法を提案する。 ゼロオーダー最適化とマルチラベルマッピング技術を用いて、BARは入力出力応答のみに基づいてブラックボックスMLモデルをプログラムする。 BARは最先端の手法より優れ、バニラ対逆プログラミング法に匹敵する性能を得る。
  論文  参考訳（メタデータ） (2020-07-17T01:52:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。