論文の概要: CHAIN: Concept-harmonized Hierarchical Inference Interpretation of Deep Convolutional Neural Networks

• arxiv url: http://arxiv.org/abs/2002.01660v1
• Date: Wed, 5 Feb 2020 06:45:23 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-03 21:37:36.451027
• Title: CHAIN: Concept-harmonized Hierarchical Inference Interpretation of Deep Convolutional Neural Networks
• Title（参考訳）: CHAIN:深部畳み込みニューラルネットワークの概念調和階層的推論解釈
• Authors: Dan Wang, Xinrui Cui, and Z. Jane Wang
• Abstract要約: The Concept-harmonized HierArchical Inference (CHAIN) is proposed to interpretation the net decision-making process。 ネット決定を解釈するために、提案手法は、ネット決定を階層的に導出できるCHAIN解釈を示す。 定量的および定性的な実験では、CHAINのインスタンスレベルとクラスレベルでの有効性を示す。
• 参考スコア（独自算出の注目度）: 25.112903533844296
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the great success of networks, it witnesses the increasing demand for the interpretation of the internal network mechanism, especially for the net decision-making logic. To tackle the challenge, the Concept-harmonized HierArchical INference (CHAIN) is proposed to interpret the net decision-making process. For net-decisions being interpreted, the proposed method presents the CHAIN interpretation in which the net decision can be hierarchically deduced into visual concepts from high to low semantic levels. To achieve it, we propose three models sequentially, i.e., the concept harmonizing model, the hierarchical inference model, and the concept-harmonized hierarchical inference model. Firstly, in the concept harmonizing model, visual concepts from high to low semantic-levels are aligned with net-units from deep to shallow layers. Secondly, in the hierarchical inference model, the concept in a deep layer is disassembled into units in shallow layers. Finally, in the concept-harmonized hierarchical inference model, a deep-layer concept is inferred from its shallow-layer concepts. After several rounds, the concept-harmonized hierarchical inference is conducted backward from the highest semantic level to the lowest semantic level. Finally, net decision-making is explained as a form of concept-harmonized hierarchical inference, which is comparable to human decision-making. Meanwhile, the net layer structure for feature learning can be explained based on the hierarchical visual concepts. In quantitative and qualitative experiments, we demonstrate the effectiveness of CHAIN at the instance and class levels.
• Abstract（参考訳）: ネットワークの大きな成功により、内部ネットワーク機構、特にネット決定ロジックの解釈に対する需要が増大するのを目撃する。 この課題に対処するために、概念調和型階層推論(CHAIN)を提案し、ネット意思決定プロセスの解釈を行う。 ネット決定を解釈するために、提案手法は、ネット決定を階層的に高い意味レベルから低い意味レベルまで視覚概念に導出できるCHAIN解釈を示す。 そこで本研究では,3つのモデル,すなわち概念調和モデル,階層型推論モデル,概念調和型階層型推論モデルを提案する。 まず、概念調和モデルにおいて、高レベルから低レベルまでの視覚的概念は、深層から浅層までのネットユニットと整合する。 第二に、階層的推論モデルでは、深層の概念は浅い層の単位に分解される。 最後に、概念調和階層推論モデルにおいて、深層の概念はその浅層の概念から推測される。 数回のラウンドの後、概念調和階層推論は、最高意味レベルから最低意味レベルまで後方に行われる。 最後に、ネット意思決定は、人間の意思決定に匹敵する概念調和階層推論の一形態として説明される。 一方、特徴学習のためのネット層構造は階層的な視覚概念に基づいて説明できる。 定量的および定性的な実験では、CHAINのインスタンスレベルとクラスレベルでの有効性を示す。

関連論文リスト

• Shortcuts and Identifiability in Concept-based Models from a Neuro-Symbolic Lens [19.324263034925796]
  概念ベースモデル(concept-based Model)は、入力を高レベルな概念にマッピングする概念抽出器と、これらを予測に変換する推論層を学習するニューラルネットワークである。 概念ベースモデルと推論ショートカット(RS)の新たな接続を確立することでこの問題を研究する。 具体的には、まずRSを概念ベースモデルのより複雑な設定に拡張し、次に概念と推論層の両方を識別するための理論的条件を導出する。
  論文  参考訳（メタデータ） (2025-02-16T19:45:09Z)
• OmniPrism: Learning Disentangled Visual Concept for Image Generation [57.21097864811521]
  創造的な視覚概念の生成は、しばしば関連する結果を生み出すために参照イメージ内の特定の概念からインスピレーションを引き出す。 我々は,創造的画像生成のための視覚的概念分離手法であるOmniPrismを提案する。 提案手法は,自然言語で案内される不整合概念表現を学習し,これらの概念を組み込むために拡散モデルを訓練する。
  論文  参考訳（メタデータ） (2024-12-16T18:59:52Z)
• A Self-explaining Neural Architecture for Generalizable Concept Learning [29.932706137805713]
  現在,SOTA の概念学習アプローチは,概念の忠実さの欠如と,概念の相互運用の限界という2つの大きな問題に悩まされている。 ドメイン間の概念学習のための新しい自己説明型アーキテクチャを提案する。 提案手法は,現在広く使われている4つの実世界のデータセットに対するSOTA概念学習手法に対して有効であることを示す。
  論文  参考訳（メタデータ） (2024-05-01T06:50:18Z)
• Visual Concept Connectome (VCC): Open World Concept Discovery and their Interlayer Connections in Deep Models [21.245185285617698]
  視覚概念接続(VCC)は、人間の解釈可能な概念とその層間接続を、完全に教師なしの方法で発見する。 提案手法は,すべての層にまたがる接続重み付けを同時に実現し,ネットワーク構造のグローバルな解析に有効である。
  論文  参考訳（メタデータ） (2024-04-02T18:40:55Z)
• Understanding Distributed Representations of Concepts in Deep Neural Networks without Supervision [25.449397570387802]
  本稿では,ニューロンの主部分集合を選択することによって,概念の分散表現を発見する教師なし手法を提案する。 我々の経験から、類似のニューロン活性化状態のインスタンスはコヒーレントな概念を共有する傾向があることが示されている。 データ内のラベルなしサブクラスを特定し、誤分類の原因を検出するために利用することができる。
  論文  参考訳（メタデータ） (2023-12-28T07:33:51Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• A Recursive Bateson-Inspired Model for the Generation of Semantic Formal Concepts from Spatial Sensory Data [77.34726150561087]
  本稿では,複雑な感覚データから階層構造を生成するための記号のみの手法を提案する。 このアプローチは、概念や概念の創始の鍵としてのバテソンの差異の概念に基づいている。 このモデルは、トレーニングなしでかなりリッチだが人間に読まれる概念表現を生成することができる。
  論文  参考訳（メタデータ） (2023-07-16T15:59:13Z)
• Hierarchical Semantic Tree Concept Whitening for Interpretable Image Classification [19.306487616731765]
  ポストホック分析は、モデルに自然に存在するパターンやルールのみを発見することができる。 我々は、隠された層における人間の理解可能な概念の表現を変えるために、積極的に知識を注入する。 本手法は,モデル分類性能に悪影響を及ぼすことなく,セマンティックな概念の絡み合いを良くし,モデルの解釈可能性を向上させる。
  論文  参考訳（メタデータ） (2023-07-10T04:54:05Z)
• Concept Gradient: Concept-based Interpretation Without Linear Assumption [77.96338722483226]
  概念活性化ベクトル(Concept Activation Vector, CAV)は、与えられたモデルと概念の潜在表現の間の線形関係を学習することに依存する。 我々は、線形概念関数を超えて概念に基づく解釈を拡張する概念グラディエント(CG)を提案した。 我々は、CGがおもちゃの例と実世界のデータセットの両方でCAVより優れていることを実証した。
  論文  参考訳（メタデータ） (2022-08-31T17:06:46Z)
• Human-Centered Concept Explanations for Neural Networks [47.71169918421306]
  概念活性化ベクトル(Concept Activation Vectors, CAV)のクラスを含む概念的説明を紹介する。 次に、自動的に概念を抽出するアプローチと、それらの注意事項に対処するアプローチについて議論する。 最後に、このような概念に基づく説明が、合成設定や実世界の応用において有用であることを示すケーススタディについて論じる。
  論文  参考訳（メタデータ） (2022-02-25T01:27:31Z)
• Developing Constrained Neural Units Over Time [81.19349325749037]
  本稿では,既存のアプローチと異なるニューラルネットワークの定義方法に焦点をあてる。 ニューラルネットワークの構造は、データとの相互作用にも拡張される制約の特別なクラスによって定義される。 提案した理論は時間領域にキャストされ, データを順序づけられた方法でネットワークに提示する。
  論文  参考訳（メタデータ） (2020-09-01T09:07:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。