論文の概要: Identifying Class Specific Filters with L1 Norm Frequency Histograms in
Deep CNNs
- arxiv url: http://arxiv.org/abs/2112.07719v1
- Date: Tue, 14 Dec 2021 19:40:55 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-16 14:43:01.180476
- Title: Identifying Class Specific Filters with L1 Norm Frequency Histograms in
Deep CNNs
- Title(参考訳): 深部CNNにおけるL1ノルム周波数ヒストグラムを用いたクラス特定フィルタの同定
- Authors: Akshay Badola, Cherian Roy, Vineet Padmanabhan, Rajendra Lal
- Abstract要約: 我々はDeep Convolutional Networksの最終層と最後層を分析した。
クラスに対するネットワークの決定に最も寄与する機能のサブセットを特定します。
- 参考スコア(独自算出の注目度): 1.1278903078792917
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Interpretability of Deep Neural Networks has become a major area of
exploration. Although these networks have achieved state of the art accuracy in
many tasks, it is extremely difficult to interpret and explain their decisions.
In this work we analyze the final and penultimate layers of Deep Convolutional
Networks and provide an efficient method for identifying subsets of features
that contribute most towards the network's decision for a class. We demonstrate
that the number of such features per class is much lower in comparison to the
dimension of the final layer and therefore the decision surface of Deep CNNs
lies on a low dimensional manifold and is proportional to the network depth.
Our methods allow to decompose the final layer into separate subspaces which is
far more interpretable and has a lower computational cost as compared to the
final layer of the full network.
- Abstract(参考訳): ディープニューラルネットワークの解釈可能性は探索の大きな領域となっている。
これらのネットワークは多くのタスクにおいて技術精度の状態を達成しているが、それらの決定を解釈し説明することは極めて困難である。
本研究では,ディープ畳み込みネットワークの最終層と最終層を解析し,ネットワークのクラス決定に最も寄与する機能のサブセットを識別するための効率的な手法を提案する。
クラスごとのそのような特徴の数は最終層の次元よりもはるかに小さく、したがってDeep CNNsの決定面は低次元多様体上にあり、ネットワーク深さに比例することを示した。
提案手法では,最終層を分離した部分空間に分解することが可能であり,全ネットワークの最終層に比べてはるかに解釈可能で計算コストも低い。
関連論文リスト
- Neural Collapse in the Intermediate Hidden Layers of Classification
Neural Networks [0.0]
(NC)は、分類ニューラルネットワークの最終的な隠蔽層におけるクラスの表現を正確に記述する。
本稿では,中間層におけるNCの出現を包括的に解析する。
論文 参考訳(メタデータ) (2023-08-05T01:19:38Z) - SAR Despeckling Using Overcomplete Convolutional Networks [53.99620005035804]
スペックルはSAR画像を劣化させるため、リモートセンシングにおいて重要な問題である。
近年の研究では、畳み込みニューラルネットワーク(CNN)が古典的解法よりも優れていることが示されている。
本研究は、受容場を制限することで低レベルの特徴を学習することに集中するために、過剰なCNNアーキテクチャを用いる。
本稿では,合成および実SAR画像の非特定化手法と比較して,提案手法により非特定化性能が向上することを示す。
論文 参考訳(メタデータ) (2022-05-31T15:55:37Z) - A layer-stress learning framework universally augments deep neural
network tasks [6.2067442999727644]
本稿では,深層ネットワークにおける浅層・深層特徴マップの自動的・賢明な深度決定を実現する階層型深層学習フレームワーク(x-NN)を提案する。
x-NNは、アルツハイマー病分類技術チャレンジ(PRCV 2021)において、優れた予測能力を示し、トップローレルを獲得し、他のすべてのAIモデルを上回った。
論文 参考訳(メタデータ) (2021-11-14T15:14:13Z) - Dive into Layers: Neural Network Capacity Bounding using Algebraic
Geometry [55.57953219617467]
ニューラルネットワークの学習性はそのサイズと直接関連していることを示す。
入力データとニューラルネットワークのトポロジ的幾何学的複雑さを測定するためにベッチ数を用いる。
実世界のデータセットMNISTで実験を行い、分析結果と結論を検証した。
論文 参考訳(メタデータ) (2021-09-03T11:45:51Z) - Towards Interpretable Deep Networks for Monocular Depth Estimation [78.84690613778739]
我々は,深部MDEネットワークの解釈可能性について,その隠蔽ユニットの深さ選択性を用いて定量化する。
本稿では,解釈可能なMDE深層ネットワークを,元のアーキテクチャを変更することなく学習する手法を提案する。
実験により,本手法は深部MDEネットワークの解釈可能性を向上させることができることが示された。
論文 参考訳(メタデータ) (2021-08-11T16:43:45Z) - Subspace Clustering Based Analysis of Neural Networks [7.451579925406617]
入力セット上でトレーニングされたニューラルネットワーク層の潜在構造から親和性グラフを学習する。
次に、コミュニティ検出のツールを使用して、入力に存在する構造を定量化します。
ネットワークの最終畳み込み層の学習親和性グラフを解析し、入力の局所的近傍がネットワークによる分類にどのように影響するかを示す。
論文 参考訳(メタデータ) (2021-07-02T22:46:40Z) - The Mind's Eye: Visualizing Class-Agnostic Features of CNNs [92.39082696657874]
本稿では,特定のレイヤの最も情報性の高い特徴を表現した対応する画像を作成することにより,画像の集合を視覚的に解釈する手法を提案する。
本手法では, 生成ネットワークを必要とせず, 元のモデルに変更を加えることなく, デュアルオブジェクトのアクティベーションと距離損失を利用する。
論文 参考訳(メタデータ) (2021-01-29T07:46:39Z) - Pooling Methods in Deep Neural Networks, a Review [6.1678491628787455]
プーリングレイヤは、前のレイヤから来るフィーチャーマップのダウンサンプリングを実行する重要なレイヤである。
本稿では,有名な,有用なプーリング手法について概説する。
論文 参考訳(メタデータ) (2020-09-16T06:11:40Z) - ESPN: Extremely Sparse Pruned Networks [50.436905934791035]
簡単な反復マスク探索法により,非常に深いネットワークの最先端の圧縮を実現することができることを示す。
本アルゴリズムは,シングルショット・ネットワーク・プルーニング法とロッテ・ティケット方式のハイブリッド・アプローチを示す。
論文 参考訳(メタデータ) (2020-06-28T23:09:27Z) - Binary Neural Networks: A Survey [126.67799882857656]
バイナリニューラルネットワークは、リソース制限されたデバイスにディープモデルをデプロイするための有望なテクニックとして機能する。
バイナライゼーションは必然的に深刻な情報損失を引き起こし、さらに悪いことに、その不連続性はディープネットワークの最適化に困難をもたらす。
本稿では,2項化を直接実施するネイティブソリューションと,量子化誤差の最小化,ネットワーク損失関数の改善,勾配誤差の低減といった手法を用いて,これらのアルゴリズムを探索する。
論文 参考訳(メタデータ) (2020-03-31T16:47:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。