論文の概要: Quantization Effects on Neural Networks Perception: How would quantization change the perceptual field of vision models?
- arxiv url: http://arxiv.org/abs/2403.09939v1
- Date: Fri, 15 Mar 2024 00:43:03 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-18 20:56:05.862504
- Title: Quantization Effects on Neural Networks Perception: How would quantization change the perceptual field of vision models?
- Title(参考訳): 量子化がニューラルネットワークの知覚に与える影響:視覚モデルの知覚場をどのように変えるか?
- Authors: Mohamed Amine Kerkouri, Marouane Tliba, Aladine Chetouani, Alessandro Bruno,
- Abstract要約: 本研究では,視覚モデルの知覚領域における空間認識能力に量子化がどう影響するかを検討する。
この結果から,異なるアーキテクチャの量子化に対する感度の相違が明らかになった。
この研究の主な貢献は、ニューラルネットワークの量子化に対する理解を深めることにあります。
- 参考スコア(独自算出の注目度): 48.04565928175536
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Neural network quantization is an essential technique for deploying models on resource-constrained devices. However, its impact on model perceptual fields, particularly regarding class activation maps (CAMs), remains a significant area of investigation. In this study, we explore how quantization alters the spatial recognition ability of the perceptual field of vision models, shedding light on the alignment between CAMs and visual saliency maps across various architectures. Leveraging a dataset of 10,000 images from ImageNet, we rigorously evaluate six diverse foundational CNNs: VGG16, ResNet50, EfficientNet, MobileNet, SqueezeNet, and DenseNet. We uncover nuanced changes in CAMs and their alignment with human visual saliency maps through systematic quantization techniques applied to these models. Our findings reveal the varying sensitivities of different architectures to quantization and underscore its implications for real-world applications in terms of model performance and interpretability. The primary contribution of this work revolves around deepening our understanding of neural network quantization, providing insights crucial for deploying efficient and interpretable models in practical settings.
- Abstract(参考訳): ニューラルネットワークの量子化は、リソース制約のあるデバイスにモデルをデプロイするための重要な技術である。
しかし、特にクラスアクティベーションマップ(CAM)に関するモデル知覚領域への影響は、依然として重要な研究領域である。
本研究では,視覚モデルの知覚領域における空間認識能力の定量化について検討し,CAMと様々なアーキテクチャを横断する視覚塩分マップのアライメントに光を当てた。
ImageNetから1万の画像のデータセットを活用し、VGG16、ResNet50、EfficientNet、MobileNet、SqueezeNet、DenseNetの6つの多様な基盤CNNを厳格に評価した。
これらのモデルに適用した体系的量子化手法により,CAMの微妙な変化と人間の視覚的サリエンシマップとの整合性を明らかにする。
本研究は, 各種アーキテクチャの量子化と, モデル性能と解釈可能性の両面から, 実世界の応用への意義を明らかにするものである。
この研究の主な貢献は、ニューラルネットワークの量子化に対する理解を深めることに集中し、実用的な環境で効率的で解釈可能なモデルをデプロイする上で重要な洞察を提供する。
関連論文リスト
- Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T18:01:01Z) - Efficient and Accurate Hyperspectral Image Demosaicing with Neural Network Architectures [3.386560551295746]
本研究では,ハイパースペクトル画像復調におけるニューラルネットワークアーキテクチャの有効性について検討した。
様々なネットワークモデルと修正を導入し、それらを従来の手法や既存の参照ネットワークアプローチと比較する。
その結果、我々のネットワークは、例外的な性能を示す両方のデータセットにおいて、参照モデルよりも優れるか、一致していることがわかった。
論文 参考訳(メタデータ) (2023-12-21T08:02:49Z) - CAManim: Animating end-to-end network activation maps [0.2509487459755192]
本稿では,CNN予測に対するエンドユーザの理解の拡大と集中を目的とした,CAManimという新しいXAI可視化手法を提案する。
また,Remove and Debias(ROAD)尺度に基づいて,新たな定量的評価法を提案する。
これは、解釈可能で堅牢で透明なモデルアセスメント方法論に対する需要の増加に対応するために、先行研究に基づいている。
論文 参考訳(メタデータ) (2023-12-19T01:07:36Z) - Visual Prompting Upgrades Neural Network Sparsification: A Data-Model
Perspective [67.25782152459851]
より優れた重量空間を実現するために、新しいデータモデル共設計視点を導入する。
具体的には、提案したVPNフレームワークでニューラルネットワークのスパーシフィケーションをアップグレードするために、カスタマイズされたVisual Promptが実装されている。
論文 参考訳(メタデータ) (2023-12-03T13:50:24Z) - A Hierarchical Architecture for Neural Materials [13.144139872006287]
我々は新しいレベルの精度を提供するニューラルな外観モデルを導入する。
インセプションベースのコアネットワーク構造は、複数のスケールで素材の外観をキャプチャする。
入力を周波数空間にエンコードし、勾配に基づく損失を導入し、学習フェーズの進行に適応させる。
論文 参考訳(メタデータ) (2023-07-19T17:00:45Z) - Internal Representations of Vision Models Through the Lens of Frames on
Data Manifolds [8.67467876089153]
多様体の接束上のフレームの概念から着想を得た、そのような表現を研究するための新しいアプローチを提案する。
私たちの構成は、ニューラルネットワークフレームと呼ばれ、データポイントの特定の種類の摂動を表すベクトルの集合を組み立てることによって形成されます。
ニューラルフレームを用いて、データポイントの小さな近傍でモデル、層間、特定の変動モードの処理方法について観察する。
論文 参考訳(メタデータ) (2022-11-19T01:48:19Z) - Influencer Detection with Dynamic Graph Neural Networks [56.1837101824783]
インフルエンサー検出のための動的グラフニューラルネットワーク(GNN)の構成について検討する。
GNNにおける深層多面的注意と時間特性の符号化が性能を著しく向上させることを示す。
論文 参考訳(メタデータ) (2022-11-15T13:00:25Z) - Peripheral Vision Transformer [52.55309200601883]
我々は生物学的にインスパイアされたアプローチを採用し、視覚認識のためのディープニューラルネットワークの周辺視覚をモデル化する。
本稿では,マルチヘッド自己アテンション層に周辺位置エンコーディングを組み込むことにより,トレーニングデータから視覚領域を様々な周辺領域に分割することをネットワークが学べるようにすることを提案する。
大規模画像Netデータセット上でPerViTと呼ばれる提案したネットワークを評価し,マシン知覚モデルの内部動作を体系的に検討した。
論文 参考訳(メタデータ) (2022-06-14T12:47:47Z) - Revisiting Facial Key Point Detection: An Efficient Approach Using Deep
Neural Networks [0.0]
モデルサイズ,パラメータ,推論時間の観点から,効率的なディープラーニングモデルを構築した。
MobileNetV2アーキテクチャは最低のRMSEと推論時間を生み出した。
手動で最適化されたCNNアーキテクチャは、Auto Kerasのチューニングアーキテクチャと同様に実行された。
論文 参考訳(メタデータ) (2022-05-14T19:49:03Z) - FuNNscope: Visual microscope for interactively exploring the loss
landscape of fully connected neural networks [77.34726150561087]
ニューラルネットワークの高次元景観特性を探索する方法を示す。
我々は、小さなニューラルネットワークの観測結果をより複雑なシステムに一般化する。
インタラクティブダッシュボードは、いくつかのアプリケーションネットワークを開放する。
論文 参考訳(メタデータ) (2022-04-09T16:41:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。