Fugu-MT 論文翻訳(概要): C-SENN: Contrastive Self-Explaining Neural Network

論文の概要: C-SENN: Contrastive Self-Explaining Neural Network

arxiv url: http://arxiv.org/abs/2206.09575v1
Date: Mon, 20 Jun 2022 05:23:02 GMT
ステータス: 処理完了
システム内更新日: 2022-06-25 15:13:07.024693
Title: C-SENN: Contrastive Self-Explaining Neural Network
Title（参考訳）: C-SENN: 対照的な自己説明型ニューラルネットワーク
Authors: Yoshihide Sawada, Keigo Nakamura
Abstract要約: 本研究では、コントラスト学習と概念学習を組み合わせることで、概念の可読性とタスクの精度を向上させる。我々はこのモデルをContrastive Self-Explaining Neural Network (C-SENN)と呼ぶ。
参考スコア（独自算出の注目度）: 0.5939410304994348
License: http://creativecommons.org/licenses/by/4.0/
Abstract: In this study, we use a self-explaining neural network (SENN), which learns unsupervised concepts, to acquire concepts that are easy for people to understand automatically. In concept learning, the hidden layer retains verbalizable features relevant to the output, which is crucial when adapting to real-world environments where explanations are required. However, it is known that the interpretability of concepts output by SENN is reduced in general settings, such as autonomous driving scenarios. Thus, this study combines contrastive learning with concept learning to improve the readability of concepts and the accuracy of tasks. We call this model Contrastive Self-Explaining Neural Network (C-SENN).
Abstract（参考訳）: 本研究では、教師なし概念を学習する自己説明型ニューラルネットワーク(SENN)を用いて、人々が自動的に理解しやすい概念を取得する。概念学習において、隠れた層は出力に関連する言語可能な特徴を保持しており、説明が必要な実環境に適応する場合に重要である。しかし、SENNが出力する概念の解釈性は、自律運転シナリオのような一般的な設定では低下することが知られている。そこで本研究では,コントラスト学習と概念学習を組み合わせることで,概念の可読性とタスクの精度を向上させる。このモデルをContrastive Self-Explaining Neural Network (C-SENN)と呼ぶ。

関連論文リスト

LLM-assisted Concept Discovery: Automatically Identifying and Explaining Neuron Functions [15.381209058506078]
以前の研究は、概念の例や事前に定義された概念のセットに基づいて、ニューロンに関連づけられた概念を持っている。本稿では,マルチモーダルな大規模言語モデルを用いて,自動的かつオープンな概念発見を提案する。我々は,この新たな画像に対して,サンプルと反例を生成し,ニューロンの反応を評価することにより,それぞれの概念を検証する。
論文参考訳（メタデータ） (2024-06-12T18:19:37Z)
Manipulating Feature Visualizations with Gradient Slingshots [54.31109240020007]
本稿では,モデルの決定過程に大きな影響を及ぼすことなく,特徴可視化(FV)を操作する新しい手法を提案する。ニューラルネットワークモデルにおける本手法の有効性を評価し,任意の選択したニューロンの機能を隠蔽する能力を示す。
論文参考訳（メタデータ） (2024-01-11T18:57:17Z)
Q-SENN: Quantized Self-Explaining Neural Networks [24.305850756291246]
自己説明型ニューラルネットワーク(SENN)は、解釈可能な概念を忠実さ、多様性、基礎として抽出し、それらを線形に組み合わせて意思決定する。本稿では,量子自己説明型ニューラルネットワークQ-SENNを提案する。 Q-SENNは、より複雑なデータセットに適用しながら、SENNのデシラタを満たすか、超える。
論文参考訳（メタデータ） (2023-12-21T13:39:18Z)
OC-NMN: Object-centric Compositional Neural Module Network for Generative Visual Analogical Reasoning [49.12350554270196]
モジュラリティがいかにして、想像にインスパイアされた構成データ拡張フレームワークを導出できるかを示す。本手法は, オブジェクト中心合成ニューラルネットワーク (OC-NMN) を用いて, 視覚生成推論タスクを, ドメイン固有言語を使わずに, オブジェクトに適用した一連のプリミティブに分解する。
論文参考訳（メタデータ） (2023-10-28T20:12:58Z)
From Neural Activations to Concepts: A Survey on Explaining Concepts in Neural Networks [15.837316393474403]
概念は学習と推論の自然な結びつきとして機能する。知識はニューラルネットワークから抽出できるだけでなく、概念知識をニューラルネットワークアーキテクチャに挿入することもできる。
論文参考訳（メタデータ） (2023-10-18T11:08:02Z)
Seeing in Words: Learning to Classify through Language Bottlenecks [59.97827889540685]
人間は簡潔で直感的な説明を使って予測を説明することができる。特徴表現がテキストである視覚モデルでは,画像ネットイメージを効果的に分類できることを示す。
論文参考訳（メタデータ） (2023-06-29T00:24:42Z)
Interpreting Neural Policies with Disentangled Tree Representations [58.769048492254555]
本稿では,コンパクトなニューラルポリシーの解釈可能性について,不整合表現レンズを用いて検討する。決定木を利用して,ロボット学習における絡み合いの要因を抽出する。学習したニューラルダイナミクスの絡み合いを計測する解釈可能性指標を導入する。
論文参考訳（メタデータ） (2022-10-13T01:10:41Z)
Searching for the Essence of Adversarial Perturbations [73.96215665913797]
本稿では,ニューラルネットワークの誤予測の原因となる,人間の認識可能な情報を含む対人摂動について述べる。この人間の認識可能な情報の概念は、敵の摂動に関連する重要な特徴を説明できる。
論文参考訳（メタデータ） (2022-05-30T18:04:57Z)
Human-Centered Concept Explanations for Neural Networks [47.71169918421306]
概念活性化ベクトル(Concept Activation Vectors, CAV)のクラスを含む概念的説明を紹介する。次に、自動的に概念を抽出するアプローチと、それらの注意事項に対処するアプローチについて議論する。最後に、このような概念に基づく説明が、合成設定や実世界の応用において有用であることを示すケーススタディについて論じる。
論文参考訳（メタデータ） (2022-02-25T01:27:31Z)
Learning Semantically Meaningful Features for Interpretable Classifications [17.88784870849724]
SemCNNは視覚特徴と単語句の関連を学習する。複数のベンチマークデータセットの実験結果は、SemCNNが明確な意味を持つ特徴を学習できることを実証している。
論文参考訳（メタデータ） (2021-01-11T14:35:16Z)
A neural network model of perception and reasoning [0.0]
生物学的に一貫した構成原理の単純なセットが神経ネットワークにこれらの能力を与えることを示す。我々はこれらの原理を、最適化の代わりに概念構築に基づく新しい機械学習アルゴリズムで実装し、説明可能なニューロン活動で推論されるディープニューラルネットワークを設計する。
論文参考訳（メタデータ） (2020-02-26T06:26:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。