論文の概要: Filter Distribution Templates in Convolutional Networks for Image
Classification Tasks
- arxiv url: http://arxiv.org/abs/2104.13993v1
- Date: Wed, 28 Apr 2021 19:47:22 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-30 13:03:57.820180
- Title: Filter Distribution Templates in Convolutional Networks for Image
Classification Tasks
- Title(参考訳): 画像分類のための畳み込みネットワークにおけるフィルタ分布テンプレート
- Authors: Ramon Izquierdo-Cordova and Walterio Mayol-Cuevas
- Abstract要約: 我々は,4つのニューラルネットワークモデルにおいて,フィルタの分布に一連の変更を加える。
結果、いくつかのモデルでは精度が8.9%向上し、パラメータが54%減少した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural network designers have reached progressive accuracy by increasing
models depth, introducing new layer types and discovering new combinations of
layers. A common element in many architectures is the distribution of the
number of filters in each layer. Neural network models keep a pattern design of
increasing filters in deeper layers such as those in LeNet, VGG, ResNet,
MobileNet and even in automatic discovered architectures such as NASNet. It
remains unknown if this pyramidal distribution of filters is the best for
different tasks and constrains. In this work we present a series of
modifications in the distribution of filters in four popular neural network
models and their effects in accuracy and resource consumption. Results show
that by applying this approach, some models improve up to 8.9% in accuracy
showing reductions in parameters up to 54%.
- Abstract(参考訳): ニューラルネットワークデザイナは、モデルの深度を高め、新しいレイヤタイプを導入し、新しいレイヤの組み合わせを発見することで、進歩的な精度に達した。
多くのアーキテクチャにおいて共通する要素は、各層におけるフィルタ数の分布である。
ニューラルネットワークモデルは、LeNet、VGG、ResNet、MobileNet、NASNetのような自動検出アーキテクチャでさえも、より深いレイヤでフィルタを増やすパターン設計を維持している。
このフィルタのピラミッド分布が、異なるタスクや制約に対して最適かどうかは不明だ。
本稿では,4つの一般的なニューラルネットワークモデルにおけるフィルタ分布の変化と,その精度と資源消費への影響について述べる。
その結果、このアプローチを適用することで、パラメータの減少を示す精度が最大8.9%向上したモデルもある。
関連論文リスト
- Unveiling the Unseen: Identifiable Clusters in Trained Depthwise
Convolutional Kernels [56.69755544814834]
深部分離型畳み込みニューラルネットワーク(DS-CNN)の最近の進歩は、新しいアーキテクチャをもたらす。
本稿では,DS-CNNアーキテクチャのもう一つの顕著な特性を明らかにする。
論文 参考訳(メタデータ) (2024-01-25T19:05:53Z) - Development of a Novel Quantum Pre-processing Filter to Improve Image
Classification Accuracy of Neural Network Models [1.2965700352825555]
本稿では,ニューラルネットワーク(NN)モデルの画像分類精度を向上させるために,新しい量子前処理フィルタ(QPF)を提案する。
その結果,MNIST (手書き10桁) とEMNIST (手書き47桁と文字) のデータセットに基づく画像分類精度を向上させることができた。
しかし,43種類の実生活交通標識画像を用いた比較的複雑なGTSRBデータセットに対するQPF手法による検証の結果,分類精度の低下が認められた。
論文 参考訳(メタデータ) (2023-08-22T01:27:04Z) - Layer-wise Linear Mode Connectivity [52.6945036534469]
ニューラルネットワークパラメータの平均化は、2つの独立したモデルの知識の直感的な方法である。
フェデレートラーニングにおいて最も顕著に用いられている。
私たちは、単一グループやグループを平均化するモデルの性能を分析します。
論文 参考訳(メタデータ) (2023-07-13T09:39:10Z) - Deep Variational Models for Collaborative Filtering-based Recommender
Systems [63.995130144110156]
ディープラーニングは、リコメンダシステムの結果を改善するために、正確な協調フィルタリングモデルを提供する。
提案するモデルは, 深層建築の潜伏空間において, 変分概念を注入性に適用する。
提案手法は, 入射雑音効果を超える変動エンリッチメントのシナリオにおいて, 提案手法の優位性を示す。
論文 参考訳(メタデータ) (2021-07-27T08:59:39Z) - Implementing a foveal-pit inspired filter in a Spiking Convolutional
Neural Network: a preliminary study [0.0]
我々は,網膜卵管刺激によるガウスフィルタとランク順符号化の差異を取り入れたスポーキング畳み込みニューラルネットワーク(SCNN)を提示した。
このモデルは、Nengoライブラリーで実装されているように、スパイキングニューロンで動作するように適応されたバックプロパゲーションアルゴリズムの変種を用いて訓練される。
ネットワークは最大90%の精度で達成され、損失はクロスエントロピー関数を用いて計算される。
論文 参考訳(メタデータ) (2021-05-29T15:28:30Z) - Graph Neural Networks with Adaptive Frequency Response Filter [55.626174910206046]
適応周波数応答フィルタを用いたグラフニューラルネットワークフレームワークAdaGNNを開発した。
提案手法の有効性を,様々なベンチマークデータセット上で実証的に検証した。
論文 参考訳(メタデータ) (2021-04-26T19:31:21Z) - Towards Efficient Convolutional Network Models with Filter Distribution
Templates [0.0]
機能マップの縮小に伴う深い層でのフィルタ数の増加は畳み込みネットワーク設計において広く採用されているパターンである。
本稿では,フィルタのピラミッド型分布の簡単な実装,直感的,かつ積極的なバリエーションからなるテンプレートセットを提案する。
CIFAR、CINIC10、TinyImagenetデータセットの実験では、テンプレートによって生成されたモデルは、より少ないパラメータとメモリ要求の観点からより効率的であることが示されています。
論文 参考訳(メタデータ) (2021-04-17T04:51:29Z) - Deep Model Compression based on the Training History [13.916984628784768]
本稿では,ネットワークトレーニング履歴をフィルタプルーニングに用いるヒストリベースフィルタプルーニング手法を提案する。
提案手法は, LeNet-5, VGG-16, ResNet-56, ResNet-110 の各モデルに対して, FLOPs の 97.98%, 83.42%, 78.43%, 74.95% を削減した。
論文 参考訳(メタデータ) (2021-01-30T06:04:21Z) - The Heterogeneity Hypothesis: Finding Layer-Wise Differentiated Network
Architectures [179.66117325866585]
我々は、通常見過ごされる設計空間、すなわち事前定義されたネットワークのチャネル構成を調整することを検討する。
この調整は、拡張ベースラインネットワークを縮小することで実現でき、性能が向上する。
画像分類、視覚追跡、画像復元のための様々なネットワークとデータセットで実験を行う。
論文 参考訳(メタデータ) (2020-06-29T17:59:26Z) - Network Adjustment: Channel Search Guided by FLOPs Utilization Ratio [101.84651388520584]
本稿では,ネットワークの精度をFLOPの関数として考慮した,ネットワーク調整という新しいフレームワークを提案する。
標準画像分類データセットと幅広いベースネットワークの実験は、我々のアプローチの有効性を実証している。
論文 参考訳(メタデータ) (2020-04-06T15:51:00Z) - Effects of Degradations on Deep Neural Network Architectures [18.79337509555511]
ディープ畳み込みニューラルネットワーク(CNN)は、大規模画像分類の最近の進歩に影響を与えている。
劣化信号(ノイズ)の存在下でのそのようなネットワークの挙動は、ほとんど探索されていない。
本稿では,最も一般的な6つの画像劣化モデルに基づいて,画像分類のための6つの深層アーキテクチャの性能解析を行った。
論文 参考訳(メタデータ) (2018-07-26T13:20:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。