論文の概要: Towards a fuller understanding of neurons with Clustered Compositional Explanations

• arxiv url: http://arxiv.org/abs/2310.18443v1
• Date: Fri, 27 Oct 2023 19:39:50 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-31 18:32:30.254776
• Title: Towards a fuller understanding of neurons with Clustered Compositional Explanations
• Title（参考訳）: 集合的構成説明による神経細胞の理解を深める
• Authors: Biagio La Rosa, Leilani H. Gilpin, Roberto Capobianco
• Abstract要約: 本稿では、構成説明とクラスタリングを組み合わせたクラスタ化と、ニューロンの行動の幅広いスペクトルを近似する新しい探索を提案する。 本稿では,これらの手法を複数のアクティベーション領域に適用する際の問題点を定義し,提案アルゴリズムを用いて探索可能な洞察を解析し,異なるアルゴリズムで返される説明を研究するために使用できるデシラタ質を提案する。
• 参考スコア（独自算出の注目度）: 8.440673378588489
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Compositional Explanations is a method for identifying logical formulas of concepts that approximate the neurons' behavior. However, these explanations are linked to the small spectrum of neuron activations (i.e., the highest ones) used to check the alignment, thus lacking completeness. In this paper, we propose a generalization, called Clustered Compositional Explanations, that combines Compositional Explanations with clustering and a novel search heuristic to approximate a broader spectrum of the neurons' behavior. We define and address the problems connected to the application of these methods to multiple ranges of activations, analyze the insights retrievable by using our algorithm, and propose desiderata qualities that can be used to study the explanations returned by different algorithms.
• Abstract（参考訳）: 構成説明は、ニューロンの振る舞いを近似する概念の論理式を特定する方法である。 しかし、これらの説明はアライメントをチェックするのに使用されるニューロン活性化のスペクトル(すなわち最も高いスペクトル)と結びついており、完全性が欠如している。 本稿では,合成説明とクラスタリングを融合したクラスタ化合成説明(clustered compositional explanations)と,ニューロンの行動のより広いスペクトルを近似する新しい探索ヒューリスティック(search heuristic)を提案する。 我々は,これらの手法をアクティベーションの多岐にわたる範囲に適用することに関連する問題を定義し,対処し,アルゴリズムを用いて検索可能な洞察を分析し,異なるアルゴリズムで返される説明を研究するために使用できるdesiderata品質を提案する。

関連論文リスト

• Relational Composition in Neural Networks: A Survey and Call to Action [54.47858085003077]
  多くのニューラルネットは、データを「機能ベクトル」の線形結合として表現しているように見える。 我々は、この成功は関係性の構成を理解せずに不完全であると主張する。
  論文  参考訳（メタデータ） (2024-07-19T20:50:57Z)
• Vector-based Representation is the Key: A Study on Disentanglement and Compositional Generalization [77.57425909520167]
  良質な概念認識と斬新な概念構成を両立させることが可能であることを示す。 本研究では,スカラーベース・アンタングル化作業のベクトルベース化を図り,両機能を向上する手法を提案する。
  論文  参考訳（メタデータ） (2023-05-29T13:05:15Z)
• Disentangling Neuron Representations with Concept Vectors [0.0]
  本研究の主な貢献は, 異なる特徴をカプセル化した概念ベクトルに多面体ニューロンをアンタングル化する手法である。 評価の結果,概念ベクトルはコヒーレントで人間に理解可能な特徴をエンコードしていることがわかった。
  論文  参考訳（メタデータ） (2023-04-19T14:55:31Z)
• Neural-Symbolic Recursive Machine for Systematic Generalization [113.22455566135757]
  我々は、基底記号システム(GSS)のコアとなるニューラル・シンボリック再帰機械(NSR)を紹介する。 NSRは神経知覚、構文解析、意味推論を統合している。 我々はNSRの有効性を,系統的一般化能力の探索を目的とした4つの挑戦的ベンチマークで評価した。
  論文  参考訳（メタデータ） (2022-10-04T13:27:38Z)
• Generalizable Neuro-symbolic Systems for Commonsense Question Answering [67.72218865519493]
  この章では、言語理解に適したニューロシンボリックモデルが、下流タスクにおけるドメインの一般化性と堅牢性を実現する方法について説明する。 ニューラルネットワークモデルと知識グラフを統合するための様々な方法について議論する。
  論文  参考訳（メタデータ） (2022-01-17T06:13:37Z)
• Compositional Explanations of Neurons [52.71742655312625]
  本稿では, 合成論理的概念を同定し, 深部表現におけるニューロンの説明手順について述べる。 本稿では,視覚と自然言語処理のモデルにおける解釈可能性に関するいくつかの疑問に答えるために,この手順を用いる。
  論文  参考訳（メタデータ） (2020-06-24T20:37:05Z)
• Compositional Generalization by Learning Analytical Expressions [87.15737632096378]
  メモリ拡張ニューラルモデルは、合成一般化を達成するために解析式に接続される。 良く知られたベンチマークSCANの実験は、我々のモデルが構成的一般化の優れた能力をつかむことを示した。
  論文  参考訳（メタデータ） (2020-06-18T15:50:57Z)
• Distilling neural networks into skipgram-level decision lists [4.109840601429086]
  スキップグラム上の決定リスト(ルールとも呼ばれる)を用いてRNNを説明するパイプラインを提案する。 提案手法は,高い説明忠実度と定性的に解釈可能な規則を持続的に達成することを発見した。
  論文  参考訳（メタデータ） (2020-05-14T16:25:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。