論文の概要: Towards a fuller understanding of neurons with Clustered Compositional
Explanations
- arxiv url: http://arxiv.org/abs/2310.18443v1
- Date: Fri, 27 Oct 2023 19:39:50 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-31 18:32:30.254776
- Title: Towards a fuller understanding of neurons with Clustered Compositional
Explanations
- Title(参考訳): 集合的構成説明による神経細胞の理解を深める
- Authors: Biagio La Rosa, Leilani H. Gilpin, Roberto Capobianco
- Abstract要約: 本稿では、構成説明とクラスタリングを組み合わせたクラスタ化と、ニューロンの行動の幅広いスペクトルを近似する新しい探索を提案する。
本稿では,これらの手法を複数のアクティベーション領域に適用する際の問題点を定義し,提案アルゴリズムを用いて探索可能な洞察を解析し,異なるアルゴリズムで返される説明を研究するために使用できるデシラタ質を提案する。
- 参考スコア(独自算出の注目度): 8.440673378588489
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Compositional Explanations is a method for identifying logical formulas of
concepts that approximate the neurons' behavior. However, these explanations
are linked to the small spectrum of neuron activations (i.e., the highest ones)
used to check the alignment, thus lacking completeness. In this paper, we
propose a generalization, called Clustered Compositional Explanations, that
combines Compositional Explanations with clustering and a novel search
heuristic to approximate a broader spectrum of the neurons' behavior. We define
and address the problems connected to the application of these methods to
multiple ranges of activations, analyze the insights retrievable by using our
algorithm, and propose desiderata qualities that can be used to study the
explanations returned by different algorithms.
- Abstract(参考訳): 構成説明は、ニューロンの振る舞いを近似する概念の論理式を特定する方法である。
しかし、これらの説明はアライメントをチェックするのに使用されるニューロン活性化のスペクトル(すなわち最も高いスペクトル)と結びついており、完全性が欠如している。
本稿では,合成説明とクラスタリングを融合したクラスタ化合成説明(clustered compositional explanations)と,ニューロンの行動のより広いスペクトルを近似する新しい探索ヒューリスティック(search heuristic)を提案する。
我々は,これらの手法をアクティベーションの多岐にわたる範囲に適用することに関連する問題を定義し,対処し,アルゴリズムを用いて検索可能な洞察を分析し,異なるアルゴリズムで返される説明を研究するために使用できるdesiderata品質を提案する。
関連論文リスト
- Vector-based Representation is the Key: A Study on Disentanglement and
Compositional Generalization [77.57425909520167]
良質な概念認識と斬新な概念構成を両立させることが可能であることを示す。
本研究では,スカラーベース・アンタングル化作業のベクトルベース化を図り,両機能を向上する手法を提案する。
論文 参考訳(メタデータ) (2023-05-29T13:05:15Z) - Disentangling Neuron Representations with Concept Vectors [0.0]
本研究の主な貢献は, 異なる特徴をカプセル化した概念ベクトルに多面体ニューロンをアンタングル化する手法である。
評価の結果,概念ベクトルはコヒーレントで人間に理解可能な特徴をエンコードしていることがわかった。
論文 参考訳(メタデータ) (2023-04-19T14:55:31Z) - Generalizable Neuro-symbolic Systems for Commonsense Question Answering [67.72218865519493]
この章では、言語理解に適したニューロシンボリックモデルが、下流タスクにおけるドメインの一般化性と堅牢性を実現する方法について説明する。
ニューラルネットワークモデルと知識グラフを統合するための様々な方法について議論する。
論文 参考訳(メタデータ) (2022-01-17T06:13:37Z) - Discriminative Attribution from Counterfactuals [64.94009515033984]
本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。
本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
論文 参考訳(メタデータ) (2021-09-28T00:53:34Z) - Compositional Explanations of Neurons [52.71742655312625]
本稿では, 合成論理的概念を同定し, 深部表現におけるニューロンの説明手順について述べる。
本稿では,視覚と自然言語処理のモデルにおける解釈可能性に関するいくつかの疑問に答えるために,この手順を用いる。
論文 参考訳(メタデータ) (2020-06-24T20:37:05Z) - Compositional Generalization by Learning Analytical Expressions [87.15737632096378]
メモリ拡張ニューラルモデルは、合成一般化を達成するために解析式に接続される。
良く知られたベンチマークSCANの実験は、我々のモデルが構成的一般化の優れた能力をつかむことを示した。
論文 参考訳(メタデータ) (2020-06-18T15:50:57Z) - Distilling neural networks into skipgram-level decision lists [4.109840601429086]
スキップグラム上の決定リスト(ルールとも呼ばれる)を用いてRNNを説明するパイプラインを提案する。
提案手法は,高い説明忠実度と定性的に解釈可能な規則を持続的に達成することを発見した。
論文 参考訳(メタデータ) (2020-05-14T16:25:42Z) - The Explanation Game: Towards Prediction Explainability through Sparse
Communication [6.497816402045099]
我々は,説明責任の統一的な視点を,説明者と素人の間の問題として提供する。
このフレームワークを使って、説明の抽出にいくつかの先行したアプローチを比較します。
本稿では,選択的,スパースな注意力を用いて,説明可能性のための新しい組込み手法を提案する。
論文 参考訳(メタデータ) (2020-04-28T22:27:19Z) - Parallelization Techniques for Verifying Neural Networks [52.917845265248744]
検証問題に基づくアルゴリズムを反復的に導入し、2つの分割戦略を探索する。
また、ニューラルネットワークの検証問題を単純化するために、ニューロンアクティベーションフェーズを利用する、高度に並列化可能な前処理アルゴリズムも導入する。
論文 参考訳(メタデータ) (2020-04-17T20:21:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。