論文の概要: Visualizing Deep Neural Networks with Topographic Activation Maps

• arxiv url: http://arxiv.org/abs/2204.03528v1
• Date: Thu, 7 Apr 2022 15:56:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-08 13:27:49.485626
• Title: Visualizing Deep Neural Networks with Topographic Activation Maps
• Title（参考訳）: 地形活性化マップを用いた深部ニューラルネットワークの可視化
• Authors: Andreas Krug, Raihan Kabir Ratul, Sebastian Stober
• Abstract要約: ネットワーク層内のニューロンの地形的レイアウトを得るための異なる手法を紹介し比較する。 得られた地形活性化マップを用いて、DNNやデータセットの誤りや符号化バイアスを識別する方法を実証する。
• 参考スコア（独自算出の注目度）: 1.4180331276028657
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine Learning with Deep Neural Networks (DNNs) has become a successful tool in solving tasks across various fields of application. The success of DNNs is strongly connected to their high complexity in terms of the number of network layers or of neurons in each layer, which severely complicates to understand how DNNs solve their learned task. To improve the explainability of DNNs, we adapt methods from neuroscience because this field has a rich experience in analyzing complex and opaque systems. In this work, we draw inspiration from how neuroscience uses topographic maps to visualize the activity of the brain when it performs certain tasks. Transferring this approach to DNNs can help to visualize and understand their internal processes more intuitively, too. However, the inner structures of brains and DNNs differ substantially. Therefore, to be able to visualize activations of neurons in DNNs as topographic maps, we research techniques to layout the neurons in a two-dimensional space in which neurons of similar activity are in the vicinity of each other. In this work, we introduce and compare different methods to obtain a topographic layout of the neurons in a network layer. Moreover, we demonstrate how to use the resulting topographic activation maps to identify errors or encoded biases in DNNs or data sets. Our novel visualization technique improves the transparency of DNN-based algorithmic decision-making systems and is accessible to a broad audience because topographic maps are intuitive to interpret without expert-knowledge in Machine Learning.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)による機械学習は、さまざまな分野のアプリケーションでタスクを解くのに成功している。 DNNの成功は、ネットワーク層数や各層内のニューロン数の観点から、DNNが学習したタスクをどのように解決するかを理解するために、非常に複雑であるという点において、その複雑さに強く結びついている。 DNNの説明可能性を改善するために,我々は,複雑で不透明なシステムを解析した経験が豊富であるため,神経科学の手法を適応させる。 本研究は,神経科学が脳の活動を可視化する上での地形図の応用から着想を得たものである。 このアプローチをDNNに転送することで,内部プロセスをより直感的に視覚化し,理解することが可能になる。 しかし、脳とDNNの内部構造は大きく異なる。 そこで,DNNにおけるニューロンの活性化を地形図として可視化するために,類似活動ニューロンが互いに近接する2次元空間においてニューロンを配置する手法について検討した。 本研究では,ネットワーク層内のニューロンの地形的レイアウトを得るための異なる手法を紹介し,比較する。 さらに,得られた地形活性化マップを用いて,dnnやデータセットの誤りやバイアスを識別する方法を示す。 我々の新しい可視化技術は、DNNベースのアルゴリズムによる意思決定システムの透明性を向上し、地理地図が機械学習のエキスパート知識を必要とせず、直感的に解釈できるため、広く利用することができる。

関連論文リスト

• Graph Neural Networks for Brain Graph Learning: A Survey [53.74244221027981]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データのマイニングにおいて大きな優位性を示している。 脳障害解析のための脳グラフ表現を学習するGNNが最近注目を集めている。 本稿では,GNNを利用した脳グラフ学習の成果をレビューすることで,このギャップを埋めることを目的としている。
  論文  参考訳（メタデータ） (2024-06-01T02:47:39Z)
• Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks [74.3099028063756]
  我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。 我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。 我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
  論文  参考訳（メタデータ） (2024-02-19T09:29:37Z)
• Transferability of coVariance Neural Networks and Application to Interpretable Brain Age Prediction using Anatomical Features [119.45320143101381]
  グラフ畳み込みネットワーク(GCN)は、トポロジー駆動のグラフ畳み込み演算を利用して、推論タスクのためにグラフをまたいだ情報を結合する。 我々は、共分散行列をグラフとして、共分散ニューラルネットワーク(VNN)の形でGCNを研究した。 VNNは、GCNからスケールフリーなデータ処理アーキテクチャを継承し、ここでは、共分散行列が極限オブジェクトに収束するデータセットに対して、VNNが性能の転送可能性を示すことを示す。
  論文  参考訳（メタデータ） (2023-05-02T22:15:54Z)
• Deep Reinforcement Learning Guided Graph Neural Networks for Brain Network Analysis [61.53545734991802]
  本稿では,各脳ネットワークに最適なGNNアーキテクチャを探索する新しい脳ネットワーク表現フレームワークBN-GNNを提案する。 提案するBN-GNNは,脳ネットワーク解析タスクにおける従来のGNNの性能を向上させる。
  論文  参考訳（メタデータ） (2022-03-18T07:05:27Z)
• Explainability Tools Enabling Deep Learning in Future In-Situ Real-Time Planetary Explorations [58.720142291102135]
  ディープラーニング(DL)は、効果的な機械学習とコンピュータビジョン技術であることが証明されている。 ディープニューラルネットワーク(DNN)アーキテクチャのほとんどは複雑すぎて'ブラックボックス'と見なされている。 本稿では,各ニューロンの出力クラスへの属性を記述するために,積分勾配を用いた。 DNNのブラックボックスを開くための説明可能性ツールセット(ET)を提供するので、分類へのニューロンの個々の貢献をランク付けし視覚化することができる。
  論文  参考訳（メタデータ） (2022-01-15T07:10:00Z)
• Joint Embedding of Structural and Functional Brain Networks with Graph Neural Networks for Mental Illness Diagnosis [17.48272758284748]
  グラフニューラルネットワーク(GNN)は,グラフ構造化データを解析するためのデファクトモデルとなっている。 我々はマルチモーダル脳ネットワークのための新しいマルチビューGNNを開発した。 特に、各モダリティを脳ネットワークの視点とみなし、マルチモーダル融合のためのコントラスト学習を採用する。
  論文  参考訳（メタデータ） (2021-07-07T13:49:57Z)
• Towards interpreting computer vision based on transformation invariant optimization [10.820985444099536]
  本研究では、ニューラルネットワークをターゲットクラスに活性化できる可視化画像を、バックプロパゲーション法により生成する。 このような手法がニューラルネットワークの洞察を得るのに役立つケースがいくつかある。
  論文  参考訳（メタデータ） (2021-06-18T08:04:10Z)
• Graph Neural Networks in Network Neuroscience [1.6114012813668934]
  グラフニューラルネットワーク(GNN)は、ディープグラフ構造を学ぶための巧妙な方法を提供する。 GNNベースの手法は、脳グラフ合成の欠如や疾患の分類など、脳グラフに関連するいくつかのアプリケーションで使用されている。 神経疾患の診断と集団グラフ統合のためのネットワーク神経科学分野におけるGNNモデルのより良い応用に向けての道筋をグラフ化して結論付ける。
  論文  参考訳（メタデータ） (2021-06-07T11:49:57Z)
• Boosting Deep Neural Networks with Geometrical Prior Knowledge: A Survey [77.99182201815763]
  ディープニューラルネットワーク(DNN)は多くの異なる問題設定において最先端の結果を達成する。 DNNはしばしばブラックボックスシステムとして扱われ、評価と検証が複雑になる。 コンピュータビジョンタスクにおける畳み込みニューラルネットワーク(CNN)の成功に触発された、有望な分野のひとつは、対称幾何学的変換に関する知識を取り入れることである。
  論文  参考訳（メタデータ） (2020-06-30T14:56:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。