論文の概要: Survey: Exploiting Data Redundancy for Optimization of Deep Learning
- arxiv url: http://arxiv.org/abs/2208.13363v1
- Date: Mon, 29 Aug 2022 04:31:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-30 14:22:55.603725
- Title: Survey: Exploiting Data Redundancy for Optimization of Deep Learning
- Title(参考訳): データ冗長性を活用した深層学習の最適化
- Authors: Jou-An Chen, Wei Niu, Bin Ren, Yanzhi Wang, Xipeng Shen
- Abstract要約: 深部ニューラルネットワーク(DNN)の入力と中間結果におけるデータの冗長性
この記事では、このトピックに関する最近の何百もの論文を調査します。
様々なテクニックを単一の分類の枠組みに組み込む新しい分類法を導入している。
- 参考スコア(独自算出の注目度): 42.1585031880029
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Data redundancy is ubiquitous in the inputs and intermediate results of Deep
Neural Networks (DNN). It offers many significant opportunities for improving
DNN performance and efficiency and has been explored in a large body of work.
These studies have scattered in many venues across several years. The targets
they focus on range from images to videos and texts, and the techniques they
use to detect and exploit data redundancy also vary in many aspects. There is
not yet a systematic examination and summary of the many efforts, making it
difficult for researchers to get a comprehensive view of the prior work, the
state of the art, differences and shared principles, and the areas and
directions yet to explore. This article tries to fill the void. It surveys
hundreds of recent papers on the topic, introduces a novel taxonomy to put the
various techniques into a single categorization framework, offers a
comprehensive description of the main methods used for exploiting data
redundancy in improving multiple kinds of DNNs on data, and points out a set of
research opportunities for future to explore.
- Abstract(参考訳): データ冗長性は、Deep Neural Networks (DNN) の入力と中間結果においてユビキタスである。
dnnのパフォーマンスと効率を改善する多くの重要な機会を提供し、多くの仕事で研究されている。
これらの研究は数年にわたって多くの場所で散らばっている。
対象は画像からビデオやテキストまで多岐にわたるが、データ冗長性の検出と活用にはさまざまな側面がある。
多くの取り組みの体系的な検証と要約がまだないため、研究者は以前の研究、芸術の状況、相違点と共有原則、そしてまだ探求されていない領域と方向性を総合的に把握することは困難である。
この記事はその空白を埋めようとする。
トピックに関する最近の数百の論文を調査し、様々なテクニックを単一の分類フレームワークに組み込むための新しい分類法を導入し、データ上の複数の種類のDNNを改善するためにデータ冗長性を利用する主要な手法を包括的に記述し、今後の研究機会を指摘している。
関連論文リスト
- Domain Generalization through Meta-Learning: A Survey [6.524870790082051]
ディープニューラルネットワーク(DNN)は人工知能に革命をもたらしたが、アウト・オブ・ディストリビューション(OOD)データに直面すると、しばしばパフォーマンスが低下する。
本調査はメタラーニングの領域を掘り下げ,ドメインの一般化への貢献に焦点をあてたものである。
論文 参考訳(メタデータ) (2024-04-03T14:55:17Z) - A Survey on Data Selection for Language Models [148.300726396877]
データ選択方法は、トレーニングデータセットに含まれるデータポイントを決定することを目的としている。
ディープラーニングは、主に実証的な証拠によって駆動され、大規模なデータに対する実験は高価である。
広範なデータ選択研究のリソースを持つ組織はほとんどない。
論文 参考訳(メタデータ) (2024-02-26T18:54:35Z) - Data Augmentations in Deep Weight Spaces [89.45272760013928]
そこで本研究では,Mixup法に基づく新しい拡張手法を提案する。
既存のベンチマークと新しいベンチマークでこれらのテクニックのパフォーマンスを評価する。
論文 参考訳(メタデータ) (2023-11-15T10:43:13Z) - Semi-supervised Object Detection: A Survey on Recent Research and
Progress [2.2398477810999817]
半教師対象検出(SSOD)は、高い研究価値と実践性のために、ますます注目されている。
本稿では,5つの側面からSSODのアプローチに関する包括的かつ最新の調査を紹介する。
論文 参考訳(メタデータ) (2023-06-25T02:54:03Z) - A Comprehensive Survey on Source-free Domain Adaptation [69.17622123344327]
ソースフリードメイン適応(SFDA)の研究は近年注目を集めている。
SFDAの最近の進歩を包括的に調査し、それらを統一的な分類体系に整理する。
一般的な3つの分類基準で30以上のSFDA法を比較検討した。
論文 参考訳(メタデータ) (2023-02-23T06:32:09Z) - Deep networks for system identification: a Survey [56.34005280792013]
システム識別は、入力出力データから動的システムの数学的記述を学習する。
同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。
我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
論文 参考訳(メタデータ) (2023-01-30T12:38:31Z) - Data Augmentation techniques in time series domain: A survey and
taxonomy [0.20971479389679332]
時系列を扱うディープニューラルネットワークは、トレーニングで使用されるデータセットのサイズと一貫性に大きく依存する。
この研究は、すべての利用可能なアルゴリズムの概要を提供するために、この分野の最先端を体系的にレビューする。
本研究の究極的な目的は、この分野の将来の研究者を導くために、より良い結果をもたらす領域の進化と性能を概説することである。
論文 参考訳(メタデータ) (2022-06-25T17:09:00Z) - Deep Depth Completion: A Survey [26.09557446012222]
我々は、読者が研究動向をよりよく把握し、現在の進歩を明確に理解するのに役立つ総合的な文献レビューを提供する。
ネットワークアーキテクチャ,損失関数,ベンチマークデータセット,学習戦略の設計面から,関連する研究について検討する。
室内および屋外のデータセットを含む,広く使用されている2つのベンチマークデータセットに対して,モデル性能の定量的比較を行った。
論文 参考訳(メタデータ) (2022-05-11T08:24:00Z) - Recent Few-Shot Object Detection Algorithms: A Survey with Performance
Comparison [54.357707168883024]
Few-Shot Object Detection (FSOD)は、人間の学習能力を模倣する。
FSODは、学習した汎用オブジェクトの知識を共通のヘビーテールから新しいロングテールオブジェクトクラスにインテリジェントに転送する。
本稿では,問題定義,共通データセット,評価プロトコルなどを含むFSODの概要を紹介する。
論文 参考訳(メタデータ) (2022-03-27T04:11:28Z) - Network Comparison Study of Deep Activation Feature Discriminability
with Novel Objects [0.5076419064097732]
最先端のコンピュータビジョンアルゴリズムは、Deep Neural Networks(DNN)を特徴抽出に取り入れ、Deep Convolutional Activation Features(DeCAF)を作成する。
本研究では、6つの主要な視覚認識DNNアーキテクチャのDeCAF空間に符号化された新しい物体の視覚的外観の一般的な識別可能性について分析する。
論文 参考訳(メタデータ) (2022-02-08T07:40:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。