論文の概要: Tracking changes using Kullback-Leibler divergence for the continual learning

• arxiv url: http://arxiv.org/abs/2210.04865v1
• Date: Mon, 10 Oct 2022 17:30:41 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-11 15:16:23.970622
• Title: Tracking changes using Kullback-Leibler divergence for the continual learning
• Title（参考訳）: Kullback-Leibler分散を用いた連続学習における追跡変化
• Authors: Sebasti\'an Basterrech and Michal Wo\'zniak
• Abstract要約: 本稿では,多次元データストリームの確率分布の変化をモニタリングする新しい手法を提案する。 変化の速さの尺度として、人気のあるKulback-Leiblerの発散を分析する。 我々は,この指標を用いて,概念の漂流の発生を予測し,その性質を理解する方法を示す。
• 参考スコア（独自算出の注目度）: 2.0305676256390934
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recently, continual learning has received a lot of attention. One of the significant problems is the occurrence of \emph{concept drift}, which consists of changing probabilistic characteristics of the incoming data. In the case of the classification task, this phenomenon destabilizes the model's performance and negatively affects the achieved prediction quality. Most current methods apply statistical learning and similarity analysis over the raw data. However, similarity analysis in streaming data remains a complex problem due to time limitation, non-precise values, fast decision speed, scalability, etc. This article introduces a novel method for monitoring changes in the probabilistic distribution of multi-dimensional data streams. As a measure of the rapidity of changes, we analyze the popular Kullback-Leibler divergence. During the experimental study, we show how to use this metric to predict the concept drift occurrence and understand its nature. The obtained results encourage further work on the proposed methods and its application in the real tasks where the prediction of the future appearance of concept drift plays a crucial role, such as predictive maintenance.
• Abstract（参考訳）: 近年,継続的な学習が注目されている。 重要な問題の1つは、入ってくるデータの確率的特性を変化させる「emph{concept drift}」の発生である。 分類タスクの場合、この現象はモデルの性能を不安定化し、達成された予測品質に悪影響を及ぼす。 現在のほとんどの方法は、生データに対して統計的学習と類似性分析を適用する。 しかし、ストリーミングデータの類似性分析は、時間制限、非精度値、高速な意思決定速度、スケーラビリティなど、複雑な問題である。 本稿では,多次元データストリームの確率分布の変化をモニタリングする新しい手法を提案する。 変化の速さの尺度として,一般的なkullback-leiblerダイバージェンスを解析した。 実験では,この指標を用いて,コンセプトドリフトの発生を予測し,その性質を理解する方法を示す。 得られた結果は,今後の概念ドリフトの出現予測が予測維持など重要な役割を果たす実作業における提案手法とその適用について,さらなる研究を奨励する。

関連論文リスト

• Dreaming Learning [41.94295877935867]
  機械学習システムに新しい情報を導入することは、以前に格納されたデータに干渉する可能性がある。 スチュアート・カウフマンの随伴可能性の概念に着想を得た学習アルゴリズムを提案する。 ニューラルネットワークは、予想と異なる統計特性を持つデータシーケンスを円滑に受け入れ、統合することを前提としている。
  論文  参考訳（メタデータ） (2024-10-23T09:17:31Z)
• Unsupervised Assessment of Landscape Shifts Based on Persistent Entropy and Topological Preservation [0.0]
  入力データのドリフトは、学習予測器とシステムの安定性に負の結果をもたらす可能性がある。 本稿では,多次元データストリームの変化をモニタリングする新しいフレームワークを提案する。 このフレームワークは、教師なし環境と教師なし環境の両方で動作する。
  論文  参考訳（メタデータ） (2024-10-05T14:57:52Z)
• Causally-Aware Spatio-Temporal Multi-Graph Convolution Network for Accurate and Reliable Traffic Prediction [5.200012764049096]
  本研究は,高精度かつ信頼性の高い予測を行うための高度な深層学習モデルを実証するために,時間的問題-トラヒック予測の事例に焦点を当てた。 本稿では,3つの主要コンポーネントを有効活用し,高精度かつ信頼性の高いトラフィック予測を行う,エンドツーエンドのトラフィック予測フレームワークを提案する。 2つの実世界の交通データセットの実験結果から,この手法は予測精度においていくつかの最先端モデルより優れていることが示された。
  論文  参考訳（メタデータ） (2024-08-23T14:35:54Z)
• Performative Time-Series Forecasting [71.18553214204978]
  我々は,機械学習の観点から,パフォーマンス時系列予測(PeTS)を定式化する。 本稿では,予測分布シフトに対する遅延応答の概念を活用する新しい手法であるFeature Performative-Shifting(FPS)を提案する。 新型コロナウイルスの複数の時系列モデルと交通予報タスクを用いた総合的な実験を行った。
  論文  参考訳（メタデータ） (2023-10-09T18:34:29Z)
• Discovering Predictable Latent Factors for Time Series Forecasting [39.08011991308137]
  我々は,観測可能な時系列によって示唆される本質的な潜伏因子を推定するための新しい枠組みを開発する。 予測可能性,充足性,識別性という3つの特性を導入し,これらの特性を強力な潜伏力学モデルを用いてモデル化する。 複数の実データに対する実験結果から, 時系列予測の手法の有効性が示唆された。
  論文  参考訳（メタデータ） (2023-03-18T14:37:37Z)
• Adapting to Continuous Covariate Shift via Online Density Ratio Estimation [64.8027122329609]
  分散シフトへの対処は、現代の機械学習における中心的な課題の1つだ。 歴史的情報を適切に再利用するオンライン手法を提案する。 我々の密度比推定法は, ダイナミックなリセットバウンドを楽しむことにより, 良好に動作できることが証明された。
  論文  参考訳（メタデータ） (2023-02-06T04:03:33Z)
• TACTiS: Transformer-Attentional Copulas for Time Series [76.71406465526454]
  時間変化量の推定は、医療や金融などの分野における意思決定の基本的な構成要素である。 本稿では,アテンションベースデコーダを用いて関節分布を推定する多元的手法を提案する。 本研究では,本モデルが実世界の複数のデータセットに対して最先端の予測を生成することを示す。
  論文  参考訳（メタデータ） (2022-02-07T21:37:29Z)
• Accurate and Robust Feature Importance Estimation under Distribution Shifts [49.58991359544005]
  PRoFILEは、新しい特徴重要度推定法である。 忠実さと頑健さの両面で、最先端のアプローチよりも大幅に改善されていることを示す。
  論文  参考訳（メタデータ） (2020-09-30T05:29:01Z)
• On Robustness and Transferability of Convolutional Neural Networks [147.71743081671508]
  現代の深層畳み込みネットワーク(CNN)は、分散シフトの下で一般化しないとしてしばしば批判される。 現代画像分類CNNにおける分布外と転送性能の相互作用を初めて検討した。 トレーニングセットとモデルサイズを増大させることで、分散シフトロバスト性が著しく向上することがわかった。
  論文  参考訳（メタデータ） (2020-07-16T18:39:04Z)
• New Perspectives on the Use of Online Learning for Congestion Level Prediction over Traffic Data [6.664111208927475]
  本研究は時系列データによる分類に焦点を当てる。 非定常現象によって時系列が生成されると、予測されるクラスと系列に関連するパターンは時間とともに進化する。 オンライン学習方法は、時間とともに到着する新しいデータサンプルから漸進的に学習し、データストリームに沿った最終的な変更に対応する。
  論文  参考訳（メタデータ） (2020-03-27T09:44:57Z)
• Value-driven Hindsight Modelling [68.658900923595]
  値推定は強化学習(RL)パラダイムの重要な構成要素である。 モデル学習は、観測系列に存在する豊富な遷移構造を利用することができるが、このアプローチは通常、報酬関数に敏感ではない。 この2つの極点の間に位置するRLにおける表現学習のアプローチを開発する。 これにより、タスクに直接関連し、値関数の学習を加速できる、抽出可能な予測ターゲットが提供される。
  論文  参考訳（メタデータ） (2020-02-19T18:10:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。