論文の概要: Bilevel Online Deep Learning in Non-stationary Environment
- arxiv url: http://arxiv.org/abs/2201.10236v1
- Date: Tue, 25 Jan 2022 11:05:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-27 02:10:05.779890
- Title: Bilevel Online Deep Learning in Non-stationary Environment
- Title(参考訳): 非定常環境におけるバイレベルオンラインディープラーニング
- Authors: Ya-nan Han, Jian-wei Liu, Bing-biao Xiao, Xin-Tan Wang, Xiong-lin Luo
- Abstract要約: Bilevel Online Deep Learning (BODL)フレームワークは、双方向最適化戦略とオンラインアンサンブル分類器を組み合わせたフレームワークである。
概念ドリフトが検出されると、BODLアルゴリズムはバイレベル最適化によりモデルパラメータを適応的に更新し、大きなドリフトを回避し、正の転送を促進する。
- 参考スコア(独自算出の注目度): 4.565872584112864
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent years have witnessed enormous progress of online learning. However, a
major challenge on the road to artificial agents is concept drift, that is, the
data probability distribution would change where the data instance arrives
sequentially in a stream fashion, which would lead to catastrophic forgetting
and degrade the performance of the model. In this paper, we proposed a new
Bilevel Online Deep Learning (BODL) framework, which combine bilevel
optimization strategy and online ensemble classifier. In BODL algorithm, we use
an ensemble classifier, which use the output of different hidden layers in deep
neural network to build multiple base classifiers, the important weights of the
base classifiers are updated according to exponential gradient descent method
in an online manner. Besides, we apply the similar constraint to overcome the
convergence problem of online ensemble framework. Then an effective concept
drift detection mechanism utilizing the error rate of classifier is designed to
monitor the change of the data probability distribution. When the concept drift
is detected, our BODL algorithm can adaptively update the model parameters via
bilevel optimization and then circumvent the large drift and encourage positive
transfer. Finally, the extensive experiments and ablation studies are conducted
on various datasets and the competitive numerical results illustrate that our
BODL algorithm is a promising approach.
- Abstract(参考訳): 近年、オンライン学習の著しい進歩が見られた。
しかし、人工エージェントへの道の1つの大きな課題はコンセプトドリフトであり、データ確率分布は、データインスタンスがストリーム形式で順次到着した場所で変化し、破滅的なモデルの性能の低下につながる。
本稿では,バイレベル最適化戦略とオンラインアンサンブル分類器を組み合わせた新しいbilevel Online Deep Learning(BODL)フレームワークを提案する。
BODLアルゴリズムでは,深層ニューラルネットワークの異なる隠蔽層を出力して複数の基底分類器を構築するアンサンブル分類器を用いて,指数勾配降下法に基づいて基本分類器の重要な重みをオンライン的に更新する。
さらに,オンラインアンサンブルフレームワークの収束問題を克服するために,同様の制約を適用した。
次に、分類器の誤差率を利用した効率的な概念ドリフト検出機構を設計し、データ確率分布の変化を監視する。
概念ドリフトが検出されると、BODLアルゴリズムはバイレベル最適化によりモデルパラメータを適応的に更新し、大きなドリフトを回避し、正の転送を促進する。
最後に,様々なデータセットを用いた広範な実験とアブレーション実験を行い,bodlアルゴリズムが有望な手法であることを示す。
関連論文リスト
- Online Boosting Adaptive Learning under Concept Drift for Multistream
Classification [34.64751041290346]
マルチストリーム分類は,コンセプトドリフトを伴う動的ストリーミングプロセスにおいて,迅速な適応の必要性から,重要な課題となっている。
本稿では,異なるストリーム間の動的相関を適応的に学習する新しいオンラインブースティング適応学習法を提案する。
論文 参考訳(メタデータ) (2023-12-17T23:10:39Z) - Beyond Deep Ensembles: A Large-Scale Evaluation of Bayesian Deep
Learning under Distribution Shift [19.945634052291542]
我々は、WILDSコレクションから現実のデータセットに対する最新のBDLアルゴリズムを評価し、難解な分類と回帰タスクを含む。
我々は、大規模な、畳み込み、トランスフォーマーベースのニューラルネットワークアーキテクチャにおいて、アルゴリズムを比較した。
そこで本研究では,BDLを用いた大規模事前学習モデルのシステム評価を行った。
論文 参考訳(メタデータ) (2023-06-21T14:36:03Z) - Stochastic Unrolled Federated Learning [85.6993263983062]
本稿では,UnRolled Federated Learning (SURF)を導入する。
提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
論文 参考訳(メタデータ) (2023-05-24T17:26:22Z) - The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。
FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。
我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
論文 参考訳(メタデータ) (2023-03-17T02:01:11Z) - A Broad Ensemble Learning System for Drifting Stream Classification [3.087840197124265]
本研究では,概念ドリフトを用いたストリーム分類のためのBroad Ensemble Learning System (BELS)を提案する。
BELSは、クラス内の最高のモデルの精度を大幅に向上させる新しい更新方法を使用している。
提案手法は,BLSに比べて平均44%改善し,他の競争基準に比べて29%改善した。
論文 参考訳(メタデータ) (2021-10-07T15:01:33Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳(メタデータ) (2021-06-17T17:26:31Z) - Solving Sparse Linear Inverse Problems in Communication Systems: A Deep
Learning Approach With Adaptive Depth [51.40441097625201]
疎信号回復問題に対するエンドツーエンドの訓練可能なディープラーニングアーキテクチャを提案する。
提案手法は,出力するレイヤ数を学習し,各タスクのネットワーク深さを推論フェーズで動的に調整する。
論文 参考訳(メタデータ) (2020-10-29T06:32:53Z) - A Differential Game Theoretic Neural Optimizer for Training Residual
Networks [29.82841891919951]
本稿では、残差接続と畳み込み層の両方を受け入れる一般化微分動的プログラミング(DDP)ニューラルアーキテクチャを提案する。
得られた最適制御表現は、トレーニング残余ネットワークを、状態拡張システム上での協調的軌道最適化と解釈できるゲーム論的視点を許容する。
論文 参考訳(メタデータ) (2020-07-17T10:19:17Z) - An Ode to an ODE [78.97367880223254]
我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。
この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
論文 参考訳(メタデータ) (2020-06-19T22:05:19Z) - Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。
このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる
このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
論文 参考訳(メタデータ) (2020-03-13T13:11:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。