論文の概要: Explainable Lifelong Stream Learning Based on "Glocal" Pairwise Fusion
- arxiv url: http://arxiv.org/abs/2306.13410v1
- Date: Fri, 23 Jun 2023 09:54:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-26 13:05:33.817999
- Title: Explainable Lifelong Stream Learning Based on "Glocal" Pairwise Fusion
- Title（参考訳）: glocal"ペアワイズ融合による説明可能な生涯ストリーム学習
- Authors: Chu Kiong Loo, Wei Shiung Liew, Stefan Wermter
- Abstract要約: リアルタイムデバイス上での連続学習アプリケーションは、携帯電話、消費者向けロボット、スマートアプライアンスで使用されている。
本研究では,いくつかの重要な特徴を取り入れたExplainable Lifelong Learning(ExLL)モデルを提案する。
ExLLはテストシナリオの大部分において、正確性のためにすべてのアルゴリズムを上回ります。
- 参考スコア（独自算出の注目度）: 17.11983414681928
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Real-time on-device continual learning applications are used on mobile
phones, consumer robots, and smart appliances. Such devices have limited
processing and memory storage capabilities, whereas continual learning acquires
data over a long period of time. By necessity, lifelong learning algorithms
have to be able to operate under such constraints while delivering good
performance. This study presents the Explainable Lifelong Learning (ExLL)
model, which incorporates several important traits: 1) learning to learn, in a
single pass, from streaming data with scarce examples and resources; 2) a
self-organizing prototype-based architecture that expands as needed and
clusters streaming data into separable groups by similarity and preserves data
against catastrophic forgetting; 3) an interpretable architecture to convert
the clusters into explainable IF-THEN rules as well as to justify model
predictions in terms of what is similar and dissimilar to the inference; and 4)
inferences at the global and local level using a pairwise decision fusion
process to enhance the accuracy of the inference, hence ``Glocal Pairwise
Fusion.'' We compare ExLL against contemporary online learning algorithms for
image recognition, using OpenLoris, F-SIOL-310, and Places datasets to evaluate
several continual learning scenarios for video streams, low-sample learning,
ability to scale, and imbalanced data streams. The algorithms are evaluated for
their performance in accuracy, number of parameters, and experiment runtime
requirements. ExLL outperforms all algorithms for accuracy in the majority of
the tested scenarios.
- Abstract（参考訳）: リアルタイムデバイス上での連続学習アプリケーションは、携帯電話、消費者向けロボット、スマートアプライアンスで使用されている。
このようなデバイスは処理能力とメモリストレージ能力に制限があるが、continual learningは長期間にわたってデータを取得する。
必然的に、生涯学習アルゴリズムは、優れたパフォーマンスを提供しながら、そのような制約の下で操作できなければならない。
本研究では,いくつかの重要な特徴を取り入れたExplainable Lifelong Learning(ExLL)モデルを提案する。
1) サンプルやリソースの少ないストリーミングデータから,ひとつのパスで学ぶことを学ぶこと。
2 必要に応じて拡大し、ストリーミングデータを類似性により分離可能なグループにクラスタ化し、破滅的な忘れ物に対してデータを保存する自己組織型プロトタイプベースのアーキテクチャ。
3) クラスタを説明可能なif-thenルールに変換するための解釈可能なアーキテクチャ,および推論と類似し,異なるものに関してモデル予測を正当化する。
4)大域的および局所的なレベルでの推論は、ペア的決定融合プロセスを用いて推論の精度を高め、したがって ``glocal pairwise fusion' となる。
openloris、f-siol-310を用いて、画像認識のための現代オンライン学習アルゴリズムとexllを比較し、ビデオストリーム、低サンプル学習、スケール能力、不均衡データストリームの連続学習シナリオを評価するためにデータセットを配置する。
アルゴリズムは、精度、パラメータの数、実行時要求の実験で評価される。
ExLLはテストシナリオの大部分で,すべてのアルゴリズムの精度を向上する。
関連論文リスト
- FedLALR: Client-Specific Adaptive Learning Rates Achieve Linear Speedup
for Non-IID Data [54.81695390763957]
フェデレートラーニング(Federated Learning)は、分散機械学習の手法である。
我々は,AMSGradの異種局所変種であるFedLALRを提案し,各クライアントが学習率を調整する。
クライアントが指定した自動調整型学習率スケジューリングが,クライアント数に対して収束し,線形高速化を実現することを示す。
論文 参考訳（メタデータ） (2023-09-18T12:35:05Z) - Homological Convolutional Neural Networks [4.615338063719135]
本稿では,トポロジ的に制約されたネットワーク表現を通じて,データ構造構造を利用した新しいディープラーニングアーキテクチャを提案する。
5つの古典的な機械学習モデルと3つのディープラーニングモデルに対して、18のベンチマークデータセットでモデルをテストします。
論文 参考訳（メタデータ） (2023-08-26T08:48:51Z) - NEVIS'22: A Stream of 100 Tasks Sampled from 30 Years of Computer Vision
Research [96.53307645791179]
我々は,100以上の視覚的分類タスクのストリームからなるベンチマークであるNever-Ending VIsual-classification Stream (NEVIS'22)を紹介する。
分類に制限されているにもかかわらず、OCR、テクスチャ分析、シーン認識など、様々なタスクが生成される。
NEVIS'22は、タスクの規模と多様性のために、現在のシーケンシャルな学習アプローチに対して前例のない課題を提起している。
論文 参考訳（メタデータ） (2022-11-15T18:57:46Z) - Benchmarking Learning Efficiency in Deep Reservoir Computing [23.753943709362794]
我々は、機械学習モデルがトレーニングデータからいかに早く学習するかを測定するために、データ効率の指標とともに、ますます困難なタスクのベンチマークを導入する。
我々は、RNN、LSTM、Transformersなどの確立された逐次教師付きモデルの学習速度を、貯水池計算に基づく比較的知られていない代替モデルと比較する。
論文 参考訳（メタデータ） (2022-09-29T08:16:52Z) - Incremental Online Learning Algorithms Comparison for Gesture and Visual
Smart Sensors [68.8204255655161]
本稿では,加速度センサデータに基づくジェスチャー認識と画像分類の2つの実例として,最先端の4つのアルゴリズムを比較した。
以上の結果から,これらのシステムの信頼性と小型メモリMCUへのデプロイの可能性が確認された。
論文 参考訳（メタデータ） (2022-09-01T17:05:20Z) - Parallel Successive Learning for Dynamic Distributed Model Training over
Heterogeneous Wireless Networks [50.68446003616802]
フェデレートラーニング(Federated Learning, FedL)は、一連の無線デバイスにモデルトレーニングを配布する一般的なテクニックとして登場した。
我々は,FedLアーキテクチャを3次元に拡張した並列逐次学習(PSL)を開発した。
我々の分析は、分散機械学習におけるコールド対ウォームアップモデルの概念とモデル慣性について光を当てている。
論文 参考訳（メタデータ） (2022-02-07T05:11:01Z) - SOLIS -- The MLOps journey from data acquisition to actionable insights [62.997667081978825]
本稿では,基本的なクロスプラットフォームテンソルフレームワークとスクリプト言語エンジンを使用しながら,すべての要件をサポートする統合デプロイメントパイプラインとフリー・ツー・オペレートアプローチを提案する。
しかし、このアプローチは、実際のプロダクショングレードシステムに機械学習機能を実際にデプロイするために必要な手順やパイプラインを提供していない。
論文 参考訳（メタデータ） (2021-12-22T14:45:37Z) - Learning Centric Wireless Resource Allocation for Edge Computing:
Algorithm and Experiment [15.577056429740951]
Edge Intelligenceは、センサー、通信、コンピューティングコンポーネントを統合し、さまざまな機械学習アプリケーションをサポートする、新興ネットワークアーキテクチャである。
既存の方法は2つの重要な事実を無視している: 1) 異なるモデルがトレーニングデータに不均一な要求を持っている; 2) シミュレーション環境と実環境との間にはミスマッチがある。
本稿では,複数のタスクの最悪の学習性能を最大化する学習中心の無線リソース割り当て方式を提案する。
論文 参考訳（メタデータ） (2020-10-29T06:20:40Z) - Network Classifiers Based on Social Learning [71.86764107527812]
空間と時間に対して独立に訓練された分類器を結合する新しい手法を提案する。
提案したアーキテクチャは、ラベルのないデータで時間とともに予測性能を改善することができる。
この戦略は高い確率で一貫した学習をもたらすことが示され、未訓練の分類器に対して頑健な構造が得られる。
論文 参考訳（メタデータ） (2020-10-23T11:18:20Z) - Towards Efficient Scheduling of Federated Mobile Devices under
Computational and Statistical Heterogeneity [16.069182241512266]
本稿では,モバイルデバイス上での分散学習の実装について検討する。
チューニングノブとしてデータを使用し、異なるワークロードをスケジュールする2つの効率的な時間アルゴリズムを提案する。
一般的なベンチマークと比較すると,提案アルゴリズムはCIFAR10で2-100倍の高速化,2-7%の精度向上,収束率を100%以上達成している。
論文 参考訳（メタデータ） (2020-05-25T18:21:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。