論文の概要: On filter design in deep convolutional neural network

• arxiv url: http://arxiv.org/abs/2410.21644v3
• Date: Thu, 31 Oct 2024 04:02:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-01 09:54:58.603711
• Title: On filter design in deep convolutional neural network
• Title（参考訳）: 深部畳み込みニューラルネットワークにおけるフィルタ設計について
• Authors: Gaurav Hirani, Waleed Abdulla,
• Abstract要約: コンピュータビジョンにおけるディープ畳み込みニューラルネットワーク(DCNN)は、有望な結果をもたらした。 フィルタやウェイトはDCNNで学習する上で重要な要素である。 過去10年間に、半監督的、自己監督的、そして非監督的手法に関する様々な研究がなされてきた。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: The deep convolutional neural network (DCNN) in computer vision has given promising results. It is widely applied in many areas, from medicine, agriculture, self-driving car, biometric system, and almost all computer vision-based applications. Filters or weights are the critical elements responsible for learning in DCNN. Backpropagation has been the primary learning algorithm for DCNN and provides promising results, but the size and numbers of the filters remain hyper-parameters. Various studies have been done in the last decade on semi-supervised, self-supervised, and unsupervised methods and their properties. The effects of filter initialization, size-shape selection, and the number of filters on learning and optimization have not been investigated in a separate publication to collate all the options. Such attributes are often treated as hyper-parameters and lack mathematical understanding. Computer vision algorithms have many limitations in real-life applications, and understanding the learning process is essential to have some significant improvement. To the best of our knowledge, no separate investigation has been published discussing the filters; this is our primary motivation. This study focuses on arguments for choosing specific physical parameters of filters, initialization, and learning technic over scattered methods. The promising unsupervised approaches have been evaluated. Additionally, the limitations, current challenges, and future scope have been discussed in this paper.
• Abstract（参考訳）: コンピュータビジョンにおけるディープ畳み込みニューラルネットワーク(DCNN)は、有望な結果をもたらした。 医学、農業、自動運転車、生体認証システム、そしてほぼ全てのコンピュータビジョンベースのアプリケーションなど、多くの分野で広く使われている。 フィルタやウェイトはDCNNで学習する上で重要な要素である。 バックプロパゲーションはDCNNの主要な学習アルゴリズムであり、有望な結果を提供するが、フィルタのサイズと数はハイパーパラメータのままである。 半監督的・自己監督的・非監督的手法とその特性について、過去10年間に様々な研究がなされてきた。 フィルタの初期化, サイズ-形状選択, および学習と最適化に対するフィルタ数の影響は, 全ての選択肢を照合するために, 別誌で検討されていない。 このような属性は、しばしば超パラメータとして扱われ、数学的理解が欠如している。 コンピュータビジョンアルゴリズムは現実の応用において多くの制限があり、学習プロセスを理解することは、いくつかの大幅な改善を行うために不可欠である。 私たちの知る限りでは、フィルターについて議論する別の調査は公開されていません。 本研究では,フィルタの物理パラメータの選択,初期化,分散手法による学習技術について論じる。 有望な教師なしのアプローチが評価されている。 さらに,本論文では,限界,現状の課題,今後の課題について論じている。

関連論文リスト

• Class-Aware Pruning for Efficient Neural Networks [5.918784236241883]
  ディープニューラルネットワーク(DNN)の実行における計算コスト削減のために、プルーニングが導入されている。 本稿では,DNNを圧縮するクラスアウェアプルーニング手法を提案する。 実験結果から, このクラス認識プルーニング技術は, 重量とFLOPを著しく削減できることがわかった。
  論文  参考訳（メタデータ） (2023-12-10T13:07:54Z)
• Adaptive Topological Feature via Persistent Homology: Filtration Learning for Point Clouds [13.098609653951893]
  ニューラルネットワークを用いてフィルタを適応的に学習するフレームワークを提案する。 フィルタ関数の有限次元近似に関する理論的結果を示し,提案したネットワークアーキテクチャを正当化する。
  論文  参考訳（メタデータ） (2023-07-18T13:43:53Z)
• Deep networks for system identification: a Survey [56.34005280792013]
  システム識別は、入力出力データから動的システムの数学的記述を学習する。 同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。 我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
  論文  参考訳（メタデータ） (2023-01-30T12:38:31Z)
• Learning Versatile Convolution Filters for Efficient Visual Recognition [125.34595948003745]
  本稿では,効率的な畳み込みニューラルネットワーク構築のための多目的フィルタを提案する。 本稿では,ネットワークの複雑性に関する理論的解析を行い,効率的な畳み込み手法を提案する。 ベンチマークデータセットとニューラルネットワークの実験結果は、我々の汎用フィルタが元のフィルタと同等の精度を達成できることを実証している。
  論文  参考訳（メタデータ） (2021-09-20T06:07:14Z)
• Graph Neural Networks with Adaptive Frequency Response Filter [55.626174910206046]
  適応周波数応答フィルタを用いたグラフニューラルネットワークフレームワークAdaGNNを開発した。 提案手法の有効性を,様々なベンチマークデータセット上で実証的に検証した。
  論文  参考訳（メタデータ） (2021-04-26T19:31:21Z)
• Boosting Deep Neural Networks with Geometrical Prior Knowledge: A Survey [77.99182201815763]
  ディープニューラルネットワーク(DNN)は多くの異なる問題設定において最先端の結果を達成する。 DNNはしばしばブラックボックスシステムとして扱われ、評価と検証が複雑になる。 コンピュータビジョンタスクにおける畳み込みニューラルネットワーク(CNN)の成功に触発された、有望な分野のひとつは、対称幾何学的変換に関する知識を取り入れることである。
  論文  参考訳（メタデータ） (2020-06-30T14:56:05Z)
• Exploring Filterbank Learning for Keyword Spotting [27.319236923928205]
  本稿ではキーワードスポッティングのためのフィルタバンク学習について検討する。 パワースペクトル領域におけるフィルタバンク行列学習と、精神音響的に動機付けられたガンマチャープフィルタバンクのパラメータ学習の2つの手法について検討した。 実験結果から,学習したフィルタバンクと手作り音声の特徴との間には,KWSの精度において統計的に有意な差はないことが明らかとなった。
  論文  参考訳（メタデータ） (2020-05-30T08:11:58Z)
• Dependency Aware Filter Pruning [74.69495455411987]
  重要でないフィルタを割ることは、推論コストを軽減するための効率的な方法である。 以前の作業は、その重み基準やそれに対応するバッチノームスケーリング要因に従ってフィルタをプルークする。 所望の空間性を達成するために,空間性誘導正規化を動的に制御する機構を提案する。
  論文  参考訳（メタデータ） (2020-05-06T07:41:22Z)
• Filter Grafting for Deep Neural Networks [71.39169475500324]
  ディープニューラルネットワーク(DNN)の表現能力向上を目的としたフィルタグラフト 我々は,フィルタの情報を測定するエントロピーベースの基準と,ネットワーク間のグラフト情報のバランスをとるための適応重み付け戦略を開発する。 例えば、グラフトされたMobileNetV2は、CIFAR-100データセットで非グラフトされたMobileNetV2を約7%上回っている。
  論文  参考訳（メタデータ） (2020-01-15T03:18:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。