論文の概要: HINT: Hierarchical Neuron Concept Explainer

• arxiv url: http://arxiv.org/abs/2203.14196v1
• Date: Sun, 27 Mar 2022 03:25:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-02 22:27:39.190928
• Title: HINT: Hierarchical Neuron Concept Explainer
• Title（参考訳）: HINT:階層型ニューロン概念記述器
• Authors: Andong Wang, Wei-Ning Lee, Xiaojuan Qi
• Abstract要約: 人類の階層的認知プロセスに触発された階層的概念を研究する。 本稿では,ニューロンと階層概念の双方向関係を効果的に構築するために,階層型ニューロンコンセプT説明器(HINT)を提案する。 HINTは、概念の暗黙的な階層的関係がニューロンに埋め込まれているかどうかを体系的に定量的に研究することを可能にする。
• 参考スコア（独自算出の注目度）: 35.07575535848492
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: To interpret deep networks, one main approach is to associate neurons with human-understandable concepts. However, existing methods often ignore the inherent relationships of different concepts (e.g., dog and cat both belong to animals), and thus lose the chance to explain neurons responsible for higher-level concepts (e.g., animal). In this paper, we study hierarchical concepts inspired by the hierarchical cognition process of human beings. To this end, we propose HIerarchical Neuron concepT explainer (HINT) to effectively build bidirectional associations between neurons and hierarchical concepts in a low-cost and scalable manner. HINT enables us to systematically and quantitatively study whether and how the implicit hierarchical relationships of concepts are embedded into neurons, such as identifying collaborative neurons responsible to one concept and multimodal neurons for different concepts, at different semantic levels from concrete concepts (e.g., dog) to more abstract ones (e.g., animal). Finally, we verify the faithfulness of the associations using Weakly Supervised Object Localization, and demonstrate its applicability in various tasks such as discovering saliency regions and explaining adversarial attacks. Code is available on https://github.com/AntonotnaWang/HINT.
• Abstract（参考訳）: 深層ネットワークを解釈するには、ニューロンと人間の理解可能な概念を関連付けるアプローチが主流である。 しかし、既存の方法はしばしば異なる概念(例えば犬と猫はどちらも動物に属する)の固有の関係を無視し、より高い概念(例えば動物)に責任を持つニューロンを説明する機会を失う。 本稿では,人間の階層的認知プロセスに触発された階層的概念について考察する。 そこで本稿では,階層的ニューロン概念説明器(hint)を提案し,ニューロンと階層的概念の双方向関係を低コストかつスケーラブルに構築する。 ヒントは、特定の概念(例えば犬)からより抽象的な概念(例えば動物)まで、異なる意味レベルで、ある概念に責任を持つ協調ニューロンや異なる概念のマルチモーダルニューロンを識別するなど、概念の暗黙的な階層的関係がニューロンにどのように埋め込まれているのかを、体系的に、そして定量的に研究できる。 最後に,Weakly Supervised Object Localization を用いてアソシエーションの忠実さを検証し,サリエンシ領域の発見や敵攻撃の説明など,様々なタスクに適用可能性を示す。 コードはhttps://github.com/AntonotnaWang/HINTで入手できる。

関連論文リスト

• Artificial Kuramoto Oscillatory Neurons [65.16453738828672]
  しきい値単位の動的代替として人工内蔵ニューロン(AKOrN)を導入する。 このアイデアは、幅広いタスクにまたがってパフォーマンス改善をもたらすことを示しています。 これらの経験的結果は、神経表現の最も基本的なレベルにおいて、私たちの仮定の重要性を示していると信じている。
  論文  参考訳（メタデータ） (2024-10-17T17:47:54Z)
• From Neural Activations to Concepts: A Survey on Explaining Concepts in Neural Networks [15.837316393474403]
  概念は学習と推論の自然な結びつきとして機能する。 知識はニューラルネットワークから抽出できるだけでなく、概念知識をニューラルネットワークアーキテクチャに挿入することもできる。
  論文  参考訳（メタデータ） (2023-10-18T11:08:02Z)
• Cones: Concept Neurons in Diffusion Models for Customized Generation [41.212255848052514]
  本稿では,特定の対象に対応する拡散モデルにおいて,ニューロンの小さな集合を見出す。 概念ニューロンは、生成結果の解釈と操作において磁気特性を示す。 大規模な応用においては、ニューロンは環境に優しいため、密度の高いfloat32値ではなく、sparseクラスタのintインデックスを格納するだけである。
  論文  参考訳（メタデータ） (2023-03-09T09:16:04Z)
• Cognitive modelling with multilayer networks: Insights, advancements and future challenges [0.6067748036747219]
  メンタルレキシコン(英: mental lexicon)とは、自分が知っている単語や概念に関する情報を表す認知システムである。 意味論的、音韻論的、統語論的、その他の概念的関連は、どのようにしてコヒーレントな数学的枠組みの中にマッピングされ、メンタルレキシコンがどのように機能するかを研究することができるのか? 認知多層ネットワークは、複数の種類の情報を同時にマッピングすることができ、それによって、異なる関連層の層がメンタルレキシコン内でどのように共存するかをキャプチャする。
  論文  参考訳（メタデータ） (2022-10-02T12:22:53Z)
• NeuroCartography: Scalable Automatic Visual Summarization of Concepts in Deep Neural Networks [18.62960153659548]
  NeuroCartographyは、ニューラルネットワークで学んだ概念を要約し視覚化するインタラクティブシステムである。 同じ概念を検知するニューロンを自動的に発見し、グループ化する。 このようなニューロン群がどのように相互作用し、より高いレベルの概念とその後の予測を形成するかを記述する。
  論文  参考訳（メタデータ） (2021-08-29T22:43:52Z)
• HALMA: Humanlike Abstraction Learning Meets Affordance in Rapid Problem Solving [104.79156980475686]
  人間は自然主義的タスクの構造に応じて構成的および因果的抽象化、つまり知識を学ぶ。 エージェントがその知識をどのように表現するかには、知覚、概念、アルゴリズムの3段階の一般化がある、と我々は主張する。 このベンチマークは、ビジュアルコンセプト開発と迅速な問題解決のための新しいタスクドメイン、HALMAを中心にしています。
  論文  参考訳（メタデータ） (2021-02-22T20:37:01Z)
• Bongard-LOGO: A New Benchmark for Human-Level Concept Learning and Reasoning [78.13740873213223]
  ボナード問題(BP)は、インテリジェントシステムにおける視覚認知へのインスピレーションとして導入された。 我々は人間レベルの概念学習と推論のための新しいベンチマークBongard-LOGOを提案する。
  論文  参考訳（メタデータ） (2020-10-02T03:19:46Z)
• Compositional Explanations of Neurons [52.71742655312625]
  本稿では, 合成論理的概念を同定し, 深部表現におけるニューロンの説明手順について述べる。 本稿では,視覚と自然言語処理のモデルにおける解釈可能性に関するいくつかの疑問に答えるために,この手順を用いる。
  論文  参考訳（メタデータ） (2020-06-24T20:37:05Z)
• Towards a Neural Model for Serial Order in Frontal Cortex: a Brain Theory from Memory Development to Higher-Level Cognition [53.816853325427424]
  そこで本研究では,未熟な前頭前野 (PFC) が側頭葉信号の階層的パターンを検出する主要な機能を利用していることを提案する。 我々の仮説では、PFCは順序パターンの形で時間的配列の階層構造を検出し、それらを脳の異なる部分で階層的に情報をインデックスするために利用する。 これにより、抽象的な知識を操作し、時間的に順序付けられた情報を計画するための言語対応の脳にツールを提供する。
  論文  参考訳（メタデータ） (2020-05-22T14:29:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。