論文の概要: Discussion of Ensemble Learning under the Era of Deep Learning
- arxiv url: http://arxiv.org/abs/2101.08387v1
- Date: Thu, 21 Jan 2021 01:33:23 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-21 08:05:36.130813
- Title: Discussion of Ensemble Learning under the Era of Deep Learning
- Title（参考訳）: 深層学習時代におけるアンサンブル学習の考察
- Authors: Yongquan Yang, Haijun Lv
- Abstract要約: 深層学習のアンサンブル化は,学習システムの一般化に大きく貢献している。
複数のベース深層学習者のトレーニングとアンサンブル深層学習者によるテストのための時間と空間のオーバーヘッドは、従来のアンサンブル学習よりもはるかに大きい。
緊急に解決すべき問題は、必要な時間と空間のオーバーヘッドを減らしながら、ディープラーニングをアンサンブルする大きな利点をいかに活用するかである。
- 参考スコア（独自算出の注目度）: 4.061135251278187
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to the dominant position of deep learning (mostly deep neural networks)
in various artificial intelligence applications, recently, ensemble learning
based on deep neural networks (ensemble deep learning) has shown significant
performances in improving the generalization of learning system. However, since
modern deep neural networks usually have millions to billions of parameters,
the time and space overheads for training multiple base deep learners and
testing with the ensemble deep learner are far greater than that of traditional
ensemble learning. Though several algorithms of fast ensemble deep learning
have been proposed to promote the deployment of ensemble deep learning in some
applications, further advances still need to be made for many applications in
specific fields, where the developing time and computing resources are usually
restricted or the data to be processed is of large dimensionality. An urgent
problem needs to be solved is how to take the significant advantages of
ensemble deep learning while reduce the required time and space overheads so
that many more applications in specific fields can benefit from it. For the
alleviation of this problem, it is necessary to know about how ensemble
learning has developed under the era of deep learning. Thus, in this article,
we present discussion focusing on data analyses of published works, the
methodology and unattainability of traditional ensemble learning, and recent
developments of ensemble deep learning. We hope this article will be helpful to
realize the technical challenges faced by future developments of ensemble
learning under the era of deep learning.
- Abstract（参考訳）: 様々な人工知能応用におけるディープラーニング(主にディープニューラルネットワーク)の優位な位置から、近年、深層ニューラルネットワーク(センスブル深層学習)に基づくアンサンブル学習は、学習システムの一般化を改善する上で大きな成果を上げている。
しかし、現代のディープニューラルネットワークは通常、数百万から数十億のパラメータを持つため、複数のベース深層学習者とアンサンブル深層学習者によるテストのための時間と空間オーバーヘッドは、従来のアンサンブル学習よりもはるかに大きい。
いくつかのアプリケーションでアンサンブル深層学習の展開を促進するために、高速アンサンブル深層学習のアルゴリズムが提案されているが、開発時間や計算資源が制限されたり、処理すべきデータが大次元的であったり、特定の分野で多くのアプリケーションでさらなる進歩が求められる。
緊急に解決すべき問題は、深層学習をアンサンブルし、必要な時間と空間のオーバーヘッドを減らし、特定の分野の多くのアプリケーションがその恩恵を受けられるようにする方法である。
この問題を解決するためには,深層学習の時代にアンサンブル学習がどのように発達してきたのかを知る必要がある。
そこで,本稿では,出版作品のデータ分析,従来のアンサンブル学習の方法論と不適合性,および近年のアンサンブル深層学習の発展について論じる。
深層学習の時代におけるアンサンブル学習の今後の発展に直面する技術的課題を実現する上で,本稿が役立つことを願っている。
関連論文リスト
- Deep Internal Learning: Deep Learning from a Single Input [88.59966585422914]
多くの場合、手元にある入力からネットワークをトレーニングする価値がある。
これは、トレーニングデータが少なく、多様性が大きい多くの信号および画像処理問題に特に関係している。
本研究の目的は,この2つの重要な方向に向けて,過去数年間に提案されてきた深層学習技術について報告することである。
論文 参考訳（メタデータ） (2023-12-12T16:48:53Z) - When Meta-Learning Meets Online and Continual Learning: A Survey [39.53836535326121]
メタ学習は学習アルゴリズムを最適化するためのデータ駆動型アプローチである。
継続的な学習とオンライン学習はどちらも、ストリーミングデータでモデルを漸進的に更新する。
本稿では,一貫した用語と形式記述を用いて,様々な問題設定を整理する。
論文 参考訳（メタデータ） (2023-11-09T09:49:50Z) - Knowledge-augmented Deep Learning and Its Applications: A Survey [60.221292040710885]
知識強化ディープラーニング(KADL)は、ドメイン知識を特定し、それをデータ効率、一般化可能、解釈可能なディープラーニングのためのディープモデルに統合することを目的としている。
本調査は,既存の研究成果を補足し,知識強化深層学習の一般分野における鳥眼研究の展望を提供する。
論文 参考訳（メタデータ） (2022-11-30T03:44:15Z) - Transferability in Deep Learning: A Survey [80.67296873915176]
知識を習得し再利用する能力は、ディープラーニングにおける伝達可能性として知られている。
本研究は,深層学習における異なる孤立領域と伝達可能性との関係を関連付けるための調査である。
我々はベンチマークとオープンソースライブラリを実装し、転送可能性の観点からディープラーニング手法の公平な評価を可能にする。
論文 参考訳（メタデータ） (2022-01-15T15:03:17Z) - Ten Quick Tips for Deep Learning in Biology [116.78436313026478]
機械学習は、データのパターンを認識し、予測モデリングに使用するアルゴリズムの開発と応用に関係している。
ディープラーニングは、独自の機械学習のサブフィールドになっている。
生物学的研究の文脈において、ディープラーニングは高次元の生物学的データから新しい洞察を導き出すためにますます使われてきた。
論文 参考訳（メタデータ） (2021-05-29T21:02:44Z) - A Comprehensive Survey on Community Detection with Deep Learning [93.40332347374712]
コミュニティは、ネットワーク内の他のコミュニティと異なるメンバーの特徴と接続を明らかにする。
この調査は、最先端の手法の様々なカテゴリをカバーする新しい分類法を考案し、提案する。
ディープニューラルネットワーク(Deep Neural Network)は、畳み込みネットワーク(convolutional network)、グラフアテンションネットワーク( graph attention network)、生成的敵ネットワーク(generative adversarial network)、オートエンコーダ(autoencoder)に分けられる。
論文 参考訳（メタデータ） (2021-05-26T14:37:07Z) - A neural anisotropic view of underspecification in deep learning [60.119023683371736]
ニューラルネットが問題の未特定化を扱う方法が,データ表現に大きく依存していることを示す。
深層学習におけるアーキテクチャ的インダクティブバイアスの理解は,これらのシステムの公平性,堅牢性,一般化に対処する上で基本的であることを強調した。
論文 参考訳（メタデータ） (2021-04-29T14:31:09Z) - An Overview of Deep Semi-Supervised Learning [8.894935073145252]
半教師付き学習とそのディープニューラルネットワークへの応用に対する研究の関心が高まっている。
本稿では,本分野の紹介から始まる深層半教師あり学習の概要について概説する。
論文 参考訳（メタデータ） (2020-06-09T14:08:03Z) - Structure preserving deep learning [1.2263454117570958]
深層学習は、大きな関心事のトピックとして、前景に浮かび上がっています。
ディープラーニングの適用には、いくつかの挑戦的な数学的問題がある。
既存のディープラーニング手法の構造を数学的に理解する努力が増えている。
論文 参考訳（メタデータ） (2020-06-05T10:59:09Z) - A Survey of Deep Learning for Scientific Discovery [13.372738220280317]
私たちは、ディープラーニングにおけるコア問題における根本的なブレークスルーを、主にディープニューラルネットワークの進歩によって見てきた。
幅広い科学領域で収集されるデータの量は、サイズと複雑さの両方で劇的に増加しています。
これは、科学的な設定でディープラーニングを応用するための多くのエキサイティングな機会を示唆している。
論文 参考訳（メタデータ） (2020-03-26T06:16:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。