論文の概要: NeuroCartography: Scalable Automatic Visual Summarization of Concepts in Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2108.12931v1
• Date: Sun, 29 Aug 2021 22:43:52 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-31 14:40:12.276707
• Title: NeuroCartography: Scalable Automatic Visual Summarization of Concepts in Deep Neural Networks
• Title（参考訳）: ニューロカルトグラフィー:ディープニューラルネットワークにおける概念のスケーラブルな自動ビジュアル要約
• Authors: Haekyu Park, Nilaksh Das, Rahul Duggal, Austin P. Wright, Omar Shaikh, Fred Hohman, Duen Horng Chau
• Abstract要約: NeuroCartographyは、ニューラルネットワークで学んだ概念を要約し視覚化するインタラクティブシステムである。 同じ概念を検知するニューロンを自動的に発見し、グループ化する。 このようなニューロン群がどのように相互作用し、より高いレベルの概念とその後の予測を形成するかを記述する。
• 参考スコア（独自算出の注目度）: 18.62960153659548
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing research on making sense of deep neural networks often focuses on neuron-level interpretation, which may not adequately capture the bigger picture of how concepts are collectively encoded by multiple neurons. We present NeuroCartography, an interactive system that scalably summarizes and visualizes concepts learned by neural networks. It automatically discovers and groups neurons that detect the same concepts, and describes how such neuron groups interact to form higher-level concepts and the subsequent predictions. NeuroCartography introduces two scalable summarization techniques: (1) neuron clustering groups neurons based on the semantic similarity of the concepts detected by neurons (e.g., neurons detecting "dog faces" of different breeds are grouped); and (2) neuron embedding encodes the associations between related concepts based on how often they co-occur (e.g., neurons detecting "dog face" and "dog tail" are placed closer in the embedding space). Key to our scalable techniques is the ability to efficiently compute all neuron pairs' relationships, in time linear to the number of neurons instead of quadratic time. NeuroCartography scales to large data, such as the ImageNet dataset with 1.2M images. The system's tightly coordinated views integrate the scalable techniques to visualize the concepts and their relationships, projecting the concept associations to a 2D space in Neuron Projection View, and summarizing neuron clusters and their relationships in Graph View. Through a large-scale human evaluation, we demonstrate that our technique discovers neuron groups that represent coherent, human-meaningful concepts. And through usage scenarios, we describe how our approaches enable interesting and surprising discoveries, such as concept cascades of related and isolated concepts. The NeuroCartography visualization runs in modern browsers and is open-sourced.
• Abstract（参考訳）: 深層ニューラルネットワークの理解に関する既存の研究は、しばしばニューロンレベルの解釈に焦点を当てている。 ニューロカルトグラフィー(neurocartography)は,ニューラルネットワークによって学習された概念をスカラブルに要約し,可視化する対話型システムである。 同じ概念を検出するニューロンを自動で見つけてグループ化し、そのようなニューロン群がどのように相互作用してハイレベルな概念とその後の予測を形成するかを記述する。 ニューロカルトグラフィーは、(1)神経細胞によって検出された概念のセマンティックな類似性に基づくニューロン群(例えば、異なる品種の「犬の顔」を検出するニューロンがグループ化される)、(2)ニューロンの埋め込みは、共起頻度に基づいて関連する概念間の関連を符号化する(例えば、「犬の顔」を検知するニューロンと「犬の尾」を埋め込む)。 スケーラブルな手法の鍵は、二次時間の代わりにニューロンの数に線形な時間で、すべてのニューロン対の関係を効率的に計算できることです。 NeuroCartographyは、1.2MイメージのImageNetデータセットなど、大規模なデータにスケールする。 システムの緊密に協調されたビューは、スケーラブルなテクニックを統合して概念とその関係を視覚化し、概念関連をニューロン投影ビューの2次元空間に投影し、ニューロンクラスタとその関係をグラフビューで要約する。 大規模人間の評価を通して、この手法は、コヒーレントで人間を意味する概念を表現するニューロン群を発見できることを実証する。 そして、利用シナリオを通じて、私たちのアプローチが、関連する概念や孤立した概念のカスケードなど、興味深い、驚くべき発見を可能にする方法を説明します。 neurocartography visualizationは、現代のブラウザで動作し、オープンソースである。

関連論文リスト

• Artificial Kuramoto Oscillatory Neurons [65.16453738828672]
  しきい値単位の動的代替として人工内蔵ニューロン(AKOrN)を導入する。 このアイデアは、幅広いタスクにまたがってパフォーマンス改善をもたらすことを示しています。 これらの経験的結果は、神経表現の最も基本的なレベルにおいて、私たちの仮定の重要性を示していると信じている。
  論文  参考訳（メタデータ） (2024-10-17T17:47:54Z)
• Interpreting the Second-Order Effects of Neurons in CLIP [73.54377859089801]
  CLIPの個々のニューロンの機能をテキストで自動的に記述することで解釈する。 ニューロンから後続のアテンションヘッドに流れる影響を、直接出力に解析する「第2次レンズ」を提案する。 以上の結果から,ニューロンのスケーラブルな理解は,モデル騙しや新しいモデル機能の導入に有効であることが示唆された。
  論文  参考訳（メタデータ） (2024-06-06T17:59:52Z)
• Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks [74.3099028063756]
  我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。 我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。 我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
  論文  参考訳（メタデータ） (2024-02-19T09:29:37Z)
• Learn to integrate parts for whole through correlated neural variability [8.173681663544757]
  感覚知覚は感覚ニューロンの反応に起因し、特定の知覚物体の物理的特性に関連付けられた知覚信号の集まりに反応する。 これらの神経反応から脳がどのように知覚情報を抽出するかを明らかにすることは、計算神経科学と機械学習の両方において重要な課題である。 本稿では,知覚情報を知覚ニューロンの相関変数に符号化し,下流ニューロンの発火速度に変換する統計力学理論を提案する。
  論文  参考訳（メタデータ） (2024-01-01T13:05:29Z)
• Identifying Interpretable Visual Features in Artificial and Biological Neural Systems [3.604033202771937]
  ニューラルネットワークの単一ニューロンはしばしば、個々の直感的に意味のある特徴を表すものとして解釈される。 多くのニューロンは$textitmixed selectivity$、すなわち複数の無関係な特徴を示す。 本稿では、視覚的解釈可能性の定量化と、ネットワークアクティベーション空間における意味のある方向を見つけるためのアプローチを提案する。
  論文  参考訳（メタデータ） (2023-10-17T17:41:28Z)
• Cones: Concept Neurons in Diffusion Models for Customized Generation [41.212255848052514]
  本稿では,特定の対象に対応する拡散モデルにおいて,ニューロンの小さな集合を見出す。 概念ニューロンは、生成結果の解釈と操作において磁気特性を示す。 大規模な応用においては、ニューロンは環境に優しいため、密度の高いfloat32値ではなく、sparseクラスタのintインデックスを格納するだけである。
  論文  参考訳（メタデータ） (2023-03-09T09:16:04Z)
• Constraints on the design of neuromorphic circuits set by the properties of neural population codes [61.15277741147157]
  脳内では、情報はコード化され、伝達され、行動を伝えるために使用される。 ニューロモルフィック回路は、脳内のニューロンの集団が使用するものと互換性のある方法で情報を符号化する必要がある。
  論文  参考訳（メタデータ） (2022-12-08T15:16:04Z)
• Brain-inspired Graph Spiking Neural Networks for Commonsense Knowledge Representation and Reasoning [11.048601659933249]
  神経科学、認知科学、心理学、人工知能において、人間の脳におけるニューラルネットワークがどのように常識知識を表現するかは重要な研究トピックである。 本研究は, 個体群エンコーディングとスパイクタイミング依存的可塑性(STDP)機構をスパイクニューラルネットワークの学習に組み込む方法について検討する。 異なるコミュニティのニューロン集団は、コモンセンス知識グラフ全体を構成し、巨大なグラフがニューラルネットワークをスパイクする。
  論文  参考訳（メタデータ） (2022-07-11T05:22:38Z)
• POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with Integer Quadratic Integrate-and-Fire Neurons [50.591267188664666]
  2つの階層構造を持つ180nmプロセス技術において,集団に基づくディジタルスパイキングニューロモルフィックプロセッサを提案する。 提案手法は,生体模倣型ニューロモルフィックシステム,低消費電力,低遅延推論処理アプリケーションの開発を可能にする。
  論文  参考訳（メタデータ） (2022-01-19T09:26:34Z)
• Drop, Swap, and Generate: A Self-Supervised Approach for Generating Neural Activity [33.06823702945747]
  我々はSwap-VAEと呼ばれる神経活動の不整合表現を学習するための新しい教師なしアプローチを導入する。 このアプローチは、生成モデリングフレームワークとインスタンス固有のアライメント損失を組み合わせたものです。 我々は、行動に関連付けられた関連する潜在次元に沿って、ニューラルネットワークをアンタングルする表現を構築することが可能であることを示す。
  論文  参考訳（メタデータ） (2021-11-03T16:39:43Z)
• Compositional Explanations of Neurons [52.71742655312625]
  本稿では, 合成論理的概念を同定し, 深部表現におけるニューロンの説明手順について述べる。 本稿では,視覚と自然言語処理のモデルにおける解釈可能性に関するいくつかの疑問に答えるために,この手順を用いる。
  論文  参考訳（メタデータ） (2020-06-24T20:37:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。