論文の概要: Backbones-Review: Feature Extraction Networks for Deep Learning and Deep
Reinforcement Learning Approaches
- arxiv url: http://arxiv.org/abs/2206.08016v1
- Date: Thu, 16 Jun 2022 09:18:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-17 15:58:53.195560
- Title: Backbones-Review: Feature Extraction Networks for Deep Learning and Deep
Reinforcement Learning Approaches
- Title(参考訳): Backbones-Review:Deep LearningとDeep Reinforcement Learningのための特徴抽出ネットワーク
- Authors: Omar Elharroussad, Younes Akbari, Noor Almaadeed, Somaya Al-Maadeed
- Abstract要約: CNNは、大規模なデータサイズに取り組むだけでなく、特定のタスクのさまざまなシナリオをカバーすることができる。
多くのネットワークが提案され、あらゆるAIタスクでDLモデルに使用される有名なネットワークとなっている。
バックボーンは、他の多くのタスクでトレーニングされた既知のネットワークであり、その効果を実証する。
- 参考スコア(独自算出の注目度): 3.255610188565679
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: To understand the real world using various types of data, Artificial
Intelligence (AI) is the most used technique nowadays. While finding the
pattern within the analyzed data represents the main task. This is performed by
extracting representative features step, which is proceeded using the
statistical algorithms or using some specific filters. However, the selection
of useful features from large-scale data represented a crucial challenge. Now,
with the development of convolution neural networks (CNNs), the feature
extraction operation has become more automatic and easier. CNNs allow to work
on large-scale size of data, as well as cover different scenarios for a
specific task. For computer vision tasks, convolutional networks are used to
extract features also for the other parts of a deep learning model. The
selection of a suitable network for feature extraction or the other parts of a
DL model is not random work. So, the implementation of such a model can be
related to the target task as well as the computational complexity of it. Many
networks have been proposed and become the famous networks used for any DL
models in any AI task. These networks are exploited for feature extraction or
at the beginning of any DL model which is named backbones. A backbone is a
known network trained in many other tasks before and demonstrates its
effectiveness. In this paper, an overview of the existing backbones, e.g. VGGs,
ResNets, DenseNet, etc, is given with a detailed description. Also, a couple of
computer vision tasks are discussed by providing a review of each task
regarding the backbones used. In addition, a comparison in terms of performance
is also provided, based on the backbone used for each task.
- Abstract(参考訳): 様々な種類のデータを使って現実世界を理解するために、人工知能(AI)が近年最も使われている技術である。
分析データ内のパターンを見つけることは、メインタスクを表します。
これは、統計アルゴリズムや特定のフィルタを用いて進行する代表的特徴ステップを抽出することによって行われる。
しかし,大規模データから有用な機能を選択することは重要な課題であった。
現在、畳み込みニューラルネットワーク(CNN)の開発により、特徴抽出操作はより自動化され、容易になっている。
CNNは、大規模なデータサイズに取り組むだけでなく、特定のタスクのさまざまなシナリオをカバーすることができる。
コンピュータビジョンタスクでは、畳み込みネットワークがディープラーニングモデルの他の部分でも機能を抽出するために使用される。
特徴抽出やDLモデルの他の部分に適したネットワークの選択は、ランダムな作業ではない。
したがって、そのようなモデルの実装は、対象のタスクとそれの計算複雑性に関連付けられる。
多くのネットワークが提案され、あらゆるaiタスクでdlモデルに使用される有名なネットワークとなった。
これらのネットワークは機能抽出やバックボーンと呼ばれる任意のDLモデルの開始時に利用される。
バックボーンは、他の多くのタスクでトレーニングされた既知のネットワークであり、その効果を実証する。
本稿では,VGGs,ResNets,DenseNetなどの既存のバックボーンの概要を詳述する。
また、使用するバックボーンに関する各タスクのレビューを提供することで、コンピュータビジョンタスクの2つについて論じる。
さらに、各タスクに使用されるバックボーンに基づいて、パフォーマンスの面での比較も提供される。
関連論文リスト
- Towards Scalable and Versatile Weight Space Learning [51.78426981947659]
本稿では,重み空間学習におけるSANEアプローチを紹介する。
ニューラルネットワーク重みのサブセットの逐次処理に向けて,超表現の概念を拡張した。
論文 参考訳(メタデータ) (2024-06-14T13:12:07Z) - Provable Multi-Task Representation Learning by Two-Layer ReLU Neural Networks [69.38572074372392]
本稿では,複数タスクにおける非線形モデルを用いたトレーニング中に特徴学習が発生することを示す最初の結果を示す。
私たちのキーとなる洞察は、マルチタスク事前トレーニングは、通常タスク間で同じラベルを持つポイントを整列する表現を好む擬似コントラスト的損失を誘導するということです。
論文 参考訳(メタデータ) (2023-07-13T16:39:08Z) - Deep networks for system identification: a Survey [56.34005280792013]
システム識別は、入力出力データから動的システムの数学的記述を学習する。
同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。
我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
論文 参考訳(メタデータ) (2023-01-30T12:38:31Z) - ALSO: Automotive Lidar Self-supervision by Occupancy estimation [70.70557577874155]
本稿では,ポイントクラウド上で動作している深層知覚モデルのバックボーンを事前学習するための自己教師型手法を提案する。
中心となる考え方は、3Dポイントがサンプリングされる表面の再構成であるプリテキストタスクでモデルをトレーニングすることである。
直感的には、もしネットワークがわずかな入力ポイントのみを考慮し、シーン表面を再構築できるなら、おそらく意味情報の断片をキャプチャする。
論文 参考訳(メタデータ) (2022-12-12T13:10:19Z) - X-Learner: Learning Cross Sources and Tasks for Universal Visual
Representation [71.51719469058666]
本稿では,X-Learnerという表現学習フレームワークを提案する。
X-Learnerは、様々なソースによって管理される複数の視覚タスクの普遍的な特徴を学習する。
X-Learnerは、追加のアノテーションやモダリティ、計算コストを使わずに、様々なタスクで強力なパフォーマンスを達成する。
論文 参考訳(メタデータ) (2022-03-16T17:23:26Z) - Learning Purified Feature Representations from Task-irrelevant Labels [18.967445416679624]
本稿では,タスク関連ラベルから抽出したタスク関連機能を利用したPurifiedLearningという新しい学習フレームワークを提案する。
本研究は,PurifiedLearningの有効性を実証する,ソリッド理論解析と広範囲な実験に基づいている。
論文 参考訳(メタデータ) (2021-02-22T12:50:49Z) - Self-Supervision based Task-Specific Image Collection Summarization [3.115375810642661]
本稿では,意味情報と自己スーパービジョンを用いたタスク固有画像コーパス要約手法を提案する。
特徴生成ネットワークとして,分類に基づくWasserstein generation adversarial Network (WGAN) を用いる。
モデルは、セマンティック埋め込み空間におけるK平均クラスタリングを用いて、推論時に要約を生成する。
論文 参考訳(メタデータ) (2020-12-19T10:58:04Z) - Graph-Based Neural Network Models with Multiple Self-Supervised
Auxiliary Tasks [79.28094304325116]
グラフ畳み込みネットワークは、構造化されたデータポイント間の関係をキャプチャするための最も有望なアプローチである。
マルチタスク方式でグラフベースニューラルネットワークモデルを学習するための3つの新しい自己教師付き補助タスクを提案する。
論文 参考訳(メタデータ) (2020-11-14T11:09:51Z) - Emotion Recognition on large video dataset based on Convolutional
Feature Extractor and Recurrent Neural Network [0.2855485723554975]
我々のモデルは、畳み込みニューラルネットワーク(CNN)とリカレントニューラルネットワーク(RNN)を組み合わせて、ビデオデータ上での次元的感情を予測する。
実験は、最新のAff-Wild2データベースを含む、公開データセットで実施されている。
論文 参考訳(メタデータ) (2020-06-19T14:54:13Z) - Deep Multi-Task Augmented Feature Learning via Hierarchical Graph Neural
Network [4.121467410954028]
深層マルチタスク学習のための拡張機能を学習するための階層型グラフニューラルネットワークを提案する。
実世界のデータステスの実験では、この戦略を使用する際の大幅なパフォーマンス向上が示されている。
論文 参考訳(メタデータ) (2020-02-12T06:02:20Z) - NeurAll: Towards a Unified Visual Perception Model for Automated Driving [8.49826472556323]
本稿では,複数のタスクを同時に学習するためのマルチタスクネットワーク設計を提案する。
自動運転システムの主なボトルネックは、デプロイメントハードウェアで利用可能な限られた処理能力である。
論文 参考訳(メタデータ) (2019-02-10T12:45:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。