論文の概要: PCACE: A Statistical Approach to Ranking Neurons for CNN Interpretability

• arxiv url: http://arxiv.org/abs/2112.15571v1
• Date: Fri, 31 Dec 2021 17:54:57 GMT
• ステータス: 処理完了
• システム内更新日: 2022-01-03 14:42:36.151079
• Title: PCACE: A Statistical Approach to Ranking Neurons for CNN Interpretability
• Title（参考訳）: PCACE:CNNの解釈可能性に関する統計的アプローチ
• Authors: S\'ilvia Casacuberta, Esra Suel, Seth Flaxman
• Abstract要約: ネットワークのどの畳み込み層にも隠れたニューロンをランク付けするための新しい統計手法を提案する。 街路画像を用いた大気汚染予測への本手法の実際の応用について述べる。
• 参考スコア（独自算出の注目度）: 1.0742675209112622
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this paper we introduce a new problem within the growing literature of interpretability for convolution neural networks (CNNs). While previous work has focused on the question of how to visually interpret CNNs, we ask what it is that we care to interpret, that is, which layers and neurons are worth our attention? Due to the vast size of modern deep learning network architectures, automated, quantitative methods are needed to rank the relative importance of neurons so as to provide an answer to this question. We present a new statistical method for ranking the hidden neurons in any convolutional layer of a network. We define importance as the maximal correlation between the activation maps and the class score. We provide different ways in which this method can be used for visualization purposes with MNIST and ImageNet, and show a real-world application of our method to air pollution prediction with street-level images.
• Abstract（参考訳）: 本稿では,畳み込みニューラルネットワーク(CNN)の解釈可能性向上における新たな課題を紹介する。 これまでの研究は、CNNを視覚的に解釈する方法に関する問題に焦点を合わせてきたが、どの層やニューロンに注意を向けるべきなのか、ということを問う。 現代のディープラーニングネットワークアーキテクチャの規模が大きいため、ニューロンの相対的重要性をランク付けするためには、自動化された定量的手法が必要である。 ネットワークのどの畳み込み層にも隠れたニューロンをランク付けするための新しい統計手法を提案する。 我々は,アクティベーションマップとクラススコアの最大相関として重要度を定義する。 本手法をmnistおよびimagenetを用いて可視化するために用いる方法が異なる方法を示し, 道路レベル画像を用いた大気汚染予測への実世界への応用を示す。

関連論文リスト

• CNN2GNN: How to Bridge CNN with GNN [59.42117676779735]
  蒸留によりCNNとGNNを統一する新しいCNN2GNNフレームワークを提案する。 Mini-ImageNetにおける蒸留ブースターの2層GNNの性能は、ResNet152のような数十層を含むCNNよりもはるかに高い。
  論文  参考訳（メタデータ） (2024-04-23T08:19:08Z)
• Feature CAM: Interpretable AI in Image Classification [2.4409988934338767]
  セキュリティ、金融、健康、製造業など、重要かつ高精度な分野で人工知能を使用するという信頼の欠如がある。 本稿では,摂動・活性化の組み合わせに該当する特徴CAM(Feature CAM)を提案する。 その結果, ABMの3～4倍の精度が得られた。
  論文  参考訳（メタデータ） (2024-03-08T20:16:00Z)
• Addressing caveats of neural persistence with deep graph persistence [54.424983583720675]
  神経の持続性に影響を与える主な要因は,ネットワークの重みのばらつきと大きな重みの空間集中である。 単一層ではなく,ニューラルネットワーク全体へのニューラルネットワークの持続性に基づくフィルタリングの拡張を提案する。 これにより、ネットワーク内の永続的なパスを暗黙的に取り込み、分散に関連する問題を緩和するディープグラフの永続性測定が得られます。
  論文  参考訳（メタデータ） (2023-07-20T13:34:11Z)
• The Mind's Eye: Visualizing Class-Agnostic Features of CNNs [92.39082696657874]
  本稿では,特定のレイヤの最も情報性の高い特徴を表現した対応する画像を作成することにより,画像の集合を視覚的に解釈する手法を提案する。 本手法では, 生成ネットワークを必要とせず, 元のモデルに変更を加えることなく, デュアルオブジェクトのアクティベーションと距離損失を利用する。
  論文  参考訳（メタデータ） (2021-01-29T07:46:39Z)
• Overcoming Catastrophic Forgetting in Graph Neural Networks [50.900153089330175]
  破滅的な忘れは、ニューラルネットワークが新しいタスクを学ぶ前に学んだ知識を「忘れる」傾向を指します。 本稿では,この問題を克服し,グラフニューラルネットワーク(GNN)における継続学習を強化するための新しいスキームを提案する。 私たちのアプローチの中心には、トポロジ認識重量保存(TWP)と呼ばれる汎用モジュールがあります。
  論文  参考訳（メタデータ） (2020-12-10T22:30:25Z)
• What do CNN neurons learn: Visualization & Clustering [0.0]
  畳み込みニューラルネットワーク(CNN)は、様々なタスクにおいて顕著な進歩を示している。 高いパフォーマンスにもかかわらず、トレーニングと予測のプロセスはブラックボックスのままである。 入力画像の焦点と好みの面からCNNを解釈する問題に対処する。
  論文  参考訳（メタデータ） (2020-10-18T05:29:22Z)
• Locality Guided Neural Networks for Explainable Artificial Intelligence [12.435539489388708]
  LGNN(Locality Guided Neural Network)と呼ばれる,バック伝搬のための新しいアルゴリズムを提案する。 LGNNはディープネットワークの各層内の隣接ニューロン間の局所性を保っている。 実験では,CIFAR100 上の画像分類のための様々な VGG と Wide ResNet (WRN) ネットワークを訓練した。
  論文  参考訳（メタデータ） (2020-07-12T23:45:51Z)
• An Information-theoretic Visual Analysis Framework for Convolutional Neural Networks [11.15523311079383]
  CNNモデルから抽出可能なデータを整理するデータモデルを提案する。 次に、異なる状況下でエントロピーを計算する2つの方法を提案する。 我々は,モデル内の情報変化量をインタラクティブに探索する視覚解析システムCNNSlicerを開発した。
  論文  参考訳（メタデータ） (2020-05-02T21:36:50Z)
• Stochastic encoding of graphs in deep learning allows for complex analysis of gender classification in resting-state and task functional brain networks from the UK Biobank [0.13706331473063876]
  我々は,機能的コネクトームを性別別に分類するために,CNNのアンサンブルに符号化手法を導入する。 課題と休息状態に関わる3つの脳ネットワークとその相互作用の塩分濃度を測定した。
  論文  参考訳（メタデータ） (2020-02-25T15:10:51Z)
• Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
  XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。 コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
  論文  参考訳（メタデータ） (2020-02-02T21:09:39Z)
• Understanding Graph Isomorphism Network for rs-fMRI Functional Connectivity Analysis [49.05541693243502]
  グラフ同型ネットワーク(GIN)を用いてfMRIデータを解析するフレームワークを開発する。 本稿では,GINがグラフ空間における畳み込みニューラルネットワーク(CNN)の二重表現であることを示す。 我々は,提案したGINをワンホット符号化で調整するGNNに対して,CNNベースのサリエンシマップ技術を利用する。
  論文  参考訳（メタデータ） (2020-01-10T23:40:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。