論文の概要: CHAIN: Concept-harmonized Hierarchical Inference Interpretation of Deep Convolutional Neural Networks

• arxiv url: http://arxiv.org/abs/2002.01660v1
• Date: Wed, 5 Feb 2020 06:45:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-01-03 21:37:36.451027
• Title: CHAIN: Concept-harmonized Hierarchical Inference Interpretation of Deep Convolutional Neural Networks
• Title（参考訳）: CHAIN:深部畳み込みニューラルネットワークの概念調和階層的推論解釈
• Abstract要約: The Concept-harmonized HierArchical Inference (CHAIN) is proposed to interpretation the net decision-making process。 ネット決定を解釈するために、提案手法は、ネット決定を階層的に導出できるCHAIN解釈を示す。 定量的および定性的な実験では、CHAINのインスタンスレベルとクラスレベルでの有効性を示す。
• 参考スコア（独自算出の注目度）: 25.112903533844296
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the great success of networks, it witnesses the increasing demand for the interpretation of the internal network mechanism, especially for the net decision-making logic. To tackle the challenge, the Concept-harmonized HierArchical INference (CHAIN) is proposed to interpret the net decision-making process. For net-decisions being interpreted, the proposed method presents the CHAIN interpretation in which the net decision can be hierarchically deduced into visual concepts from high to low semantic levels. To achieve it, we propose three models sequentially, i.e., the concept harmonizing model, the hierarchical inference model, and the concept-harmonized hierarchical inference model. Firstly, in the concept harmonizing model, visual concepts from high to low semantic-levels are aligned with net-units from deep to shallow layers. Secondly, in the hierarchical inference model, the concept in a deep layer is disassembled into units in shallow layers. Finally, in the concept-harmonized hierarchical inference model, a deep-layer concept is inferred from its shallow-layer concepts. After several rounds, the concept-harmonized hierarchical inference is conducted backward from the highest semantic level to the lowest semantic level. Finally, net decision-making is explained as a form of concept-harmonized hierarchical inference, which is comparable to human decision-making. Meanwhile, the net layer structure for feature learning can be explained based on the hierarchical visual concepts. In quantitative and qualitative experiments, we demonstrate the effectiveness of CHAIN at the instance and class levels.
• Abstract（参考訳）: ネットワークの大きな成功により、内部ネットワーク機構、特にネット決定ロジックの解釈に対する需要が増大するのを目撃する。 この課題に対処するために、概念調和型階層推論(CHAIN)を提案し、ネット意思決定プロセスの解釈を行う。 ネット決定を解釈するために、提案手法は、ネット決定を階層的に高い意味レベルから低い意味レベルまで視覚概念に導出できるCHAIN解釈を示す。 そこで本研究では,3つのモデル,すなわち概念調和モデル,階層型推論モデル,概念調和型階層型推論モデルを提案する。 まず、概念調和モデルにおいて、高レベルから低レベルまでの視覚的概念は、深層から浅層までのネットユニットと整合する。 第二に、階層的推論モデルでは、深層の概念は浅い層の単位に分解される。 最後に、概念調和階層推論モデルにおいて、深層の概念はその浅層の概念から推測される。 数回のラウンドの後、概念調和階層推論は、最高意味レベルから最低意味レベルまで後方に行われる。 最後に、ネット意思決定は、人間の意思決定に匹敵する概念調和階層推論の一形態として説明される。 一方、特徴学習のためのネット層構造は階層的な視覚概念に基づいて説明できる。 定量的および定性的な実験では、CHAINのインスタンスレベルとクラスレベルでの有効性を示す。

関連論文リスト

• Concept Flow Models: Anchoring Concept-Based Reasoning with Hierarchical Bottlenecks [4.944427102119257]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、学習した機能を人間の理解可能な概念空間に投影することで、解釈可能性を高める。 最近のアプローチでは、視覚言語モデルを利用して概念埋め込みを生成し、手動の概念アノテーションの必要性を減らす。 本稿では,フラットボトルネックを階層的な概念駆動決定木に置き換える概念フローモデル(CFM)を提案する。
  論文  参考訳（メタデータ） (2026-06-17T18:27:17Z)
• Formal Concept Lattices are Good Semantic Scaffolds for Concept-Based Learning [22.873980931052685]
  ディープラーニングモデルにとって、セマンティクスの学習は、解釈可能で、人間の推論に適合することが不可欠である。 概念ベースのモデルは、意味のあるセマンティック抽象化を通じてクラスを表現することによって、これにアプローチする。 ニューラルネットワーク学習を導くために,形式的概念格子が基本的意味足場を提供することを示す。
  論文  参考訳（メタデータ） (2026-06-03T21:50:29Z)
• ConceptSeg-R1: Segment Any Concept via Meta-Reinforcement Learning [134.61875033137514]
  プロンプト可能なセグメンテーションの最近の進歩は、視覚知覚をオブジェクトレベルのローカライゼーションから概念レベルの理解へとシフトさせてきた。 我々は文脈非依存(CI)、文脈依存(CD)、文脈推論(CR)の概念からなる3段階の分類によって概念セグメンテーションを定式化する。 本稿では,概念セグメンテーションをルール誘発概念基盤として再構成する統合フレームワークであるConceptSeg-R1を提案する。
  論文  参考訳（メタデータ） (2026-05-19T18:35:38Z)
• Subgraph Concept Networks: Concept Levels in Graph Classification [52.68412528211993]
  Subgraph Concept Networkは、サブグラフとグラフレベルの概念を排除した最初のグラフニューラルネットワークアーキテクチャである。 ノードの概念の埋め込みに対してソフトクラスタリングを行い、サブグラフとグラフレベルの概念を導出することで、これを実現する。 以上の結果から,サブグラフ概念ネットワークは,ネットワークの異なるレベルにおいて意味のある概念を発見しながら,競争力のあるモデルの精度を得ることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2026-04-20T21:44:05Z)
• Digging Deeper: Learning Multi-Level Concept Hierarchies [23.16720677779406]
  概念に基づくモデルは一般的に、人間の理解可能な概念で予測を説明するために徹底的なアノテーションに依存している。 マルチレベル概念分割(MLCS)を導入し,トップレベルの監督のみから多レベル概念階層を発見する。 また、発見された階層を表現し、複数の抽象化レベルでの介入を可能にするアーキテクチャであるDeep-HiCEMについても紹介する。
  論文  参考訳（メタデータ） (2026-03-10T12:48:20Z)
• Insight: Interpretable Semantic Hierarchies in Vision-Language Encoders [52.94006363830628]
  言語対応の視覚基盤モデルは、下流の様々なタスクで強く機能する。 近年の研究では、これらの表現を人間の解釈可能な概念に分解するが、空間的接地が乏しく、画像分類に限られている。 入力画像に人間が解釈可能で空間的に接地した、きめ細かい概念を提供する言語対応概念基盤モデルであるInsightを提案する。
  論文  参考訳（メタデータ） (2026-01-20T09:57:26Z)
• FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
  ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。 本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。 私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
  論文  参考訳（メタデータ） (2025-10-29T13:35:46Z)
• ConceptFlow: Hierarchical and Fine-grained Concept-Based Explanation for Convolutional Neural Networks [14.365259717799034]
  畳み込みニューラルネットワーク(CNN)の概念に基づく解釈可能性とは、内部モデル表現と高レベルの意味論的概念の整合性である。 モデルの内部の「思考経路」をシミュレートする概念ベースの解釈可能性フレームワークであるConceptFlowを提案する。
  論文  参考訳（メタデータ） (2025-09-16T03:02:46Z)
• Shortcuts and Identifiability in Concept-based Models from a Neuro-Symbolic Lens [19.324263034925796]
  概念ベースモデル(concept-based Model)は、入力を高レベルな概念にマッピングする概念抽出器と、これらを予測に変換する推論層を学習するニューラルネットワークである。 概念ベースモデルと推論ショートカット(RS)の新たな接続を確立することでこの問題を研究する。 具体的には、まずRSを概念ベースモデルのより複雑な設定に拡張し、次に概念と推論層の両方を識別するための理論的条件を導出する。
  論文  参考訳（メタデータ） (2025-02-16T19:45:09Z)
• OmniPrism: Learning Disentangled Visual Concept for Image Generation [57.21097864811521]
  創造的な視覚概念の生成は、しばしば関連する結果を生み出すために参照イメージ内の特定の概念からインスピレーションを引き出す。 我々は,創造的画像生成のための視覚的概念分離手法であるOmniPrismを提案する。 提案手法は,自然言語で案内される不整合概念表現を学習し,これらの概念を組み込むために拡散モデルを訓練する。
  論文  参考訳（メタデータ） (2024-12-16T18:59:52Z)
• On the Role of Entity and Event Level Conceptualization in Generalizable Reasoning: A Survey of Tasks, Methods, Applications, and Future Directions [62.06913340614293]
  本稿では,概念化されるインスタンスのタイプに基づいて,異なる概念化のタイプを4つのレベルに分類する。 本稿では,150以上の論文を包括的に調査し,概念化に関連するさまざまな定義,リソース,手法,下流アプリケーションについて調査する。
  論文  参考訳（メタデータ） (2024-06-16T10:32:41Z)
• A Self-explaining Neural Architecture for Generalizable Concept Learning [29.932706137805713]
  現在,SOTA の概念学習アプローチは,概念の忠実さの欠如と,概念の相互運用の限界という2つの大きな問題に悩まされている。 ドメイン間の概念学習のための新しい自己説明型アーキテクチャを提案する。 提案手法は,現在広く使われている4つの実世界のデータセットに対するSOTA概念学習手法に対して有効であることを示す。
  論文  参考訳（メタデータ） (2024-05-01T06:50:18Z)
• Visual Concept Connectome (VCC): Open World Concept Discovery and their Interlayer Connections in Deep Models [21.245185285617698]
  視覚概念接続(VCC)は、人間の解釈可能な概念とその層間接続を、完全に教師なしの方法で発見する。 提案手法は,すべての層にまたがる接続重み付けを同時に実現し,ネットワーク構造のグローバルな解析に有効である。
  論文  参考訳（メタデータ） (2024-04-02T18:40:55Z)
• Understanding Distributed Representations of Concepts in Deep Neural Networks without Supervision [25.449397570387802]
  本稿では,ニューロンの主部分集合を選択することによって,概念の分散表現を発見する教師なし手法を提案する。 我々の経験から、類似のニューロン活性化状態のインスタンスはコヒーレントな概念を共有する傾向があることが示されている。 データ内のラベルなしサブクラスを特定し、誤分類の原因を検出するために利用することができる。
  論文  参考訳（メタデータ） (2023-12-28T07:33:51Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• A Recursive Bateson-Inspired Model for the Generation of Semantic Formal Concepts from Spatial Sensory Data [77.34726150561087]
  本稿では,複雑な感覚データから階層構造を生成するための記号のみの手法を提案する。 このアプローチは、概念や概念の創始の鍵としてのバテソンの差異の概念に基づいている。 このモデルは、トレーニングなしでかなりリッチだが人間に読まれる概念表現を生成することができる。
  論文  参考訳（メタデータ） (2023-07-16T15:59:13Z)
• Hierarchical Semantic Tree Concept Whitening for Interpretable Image Classification [19.306487616731765]
  ポストホック分析は、モデルに自然に存在するパターンやルールのみを発見することができる。 我々は、隠された層における人間の理解可能な概念の表現を変えるために、積極的に知識を注入する。 本手法は,モデル分類性能に悪影響を及ぼすことなく,セマンティックな概念の絡み合いを良くし,モデルの解釈可能性を向上させる。
  論文  参考訳（メタデータ） (2023-07-10T04:54:05Z)
• Interpretable Neural-Symbolic Concept Reasoning [7.1904050674791185]
  概念に基づくモデルは、人間の理解可能な概念のセットに基づいてタスクを学習することでこの問題に対処することを目的としている。 本稿では,概念埋め込みに基づく最初の解釈可能な概念ベースモデルであるDeep Concept Reasoner (DCR)を提案する。
  論文  参考訳（メタデータ） (2023-04-27T09:58:15Z)
• Concept Gradient: Concept-based Interpretation Without Linear Assumption [77.96338722483226]
  概念活性化ベクトル(Concept Activation Vector, CAV)は、与えられたモデルと概念の潜在表現の間の線形関係を学習することに依存する。 我々は、線形概念関数を超えて概念に基づく解釈を拡張する概念グラディエント(CG)を提案した。 我々は、CGがおもちゃの例と実世界のデータセットの両方でCAVより優れていることを実証した。
  論文  参考訳（メタデータ） (2022-08-31T17:06:46Z)
• Rank Diminishing in Deep Neural Networks [71.03777954670323]
  ニューラルネットワークのランクは、層をまたがる情報を測定する。 これは機械学習の幅広い領域にまたがる重要な構造条件の例である。 しかし、ニューラルネットワークでは、低ランク構造を生み出す固有のメカニズムはあいまいで不明瞭である。
  論文  参考訳（メタデータ） (2022-06-13T12:03:32Z)
• Human-Centered Concept Explanations for Neural Networks [47.71169918421306]
  概念活性化ベクトル(Concept Activation Vectors, CAV)のクラスを含む概念的説明を紹介する。 次に、自動的に概念を抽出するアプローチと、それらの注意事項に対処するアプローチについて議論する。 最後に、このような概念に基づく説明が、合成設定や実世界の応用において有用であることを示すケーススタディについて論じる。
  論文  参考訳（メタデータ） (2022-02-25T01:27:31Z)
• Developing Constrained Neural Units Over Time [81.19349325749037]
  本稿では,既存のアプローチと異なるニューラルネットワークの定義方法に焦点をあてる。 ニューラルネットワークの構造は、データとの相互作用にも拡張される制約の特別なクラスによって定義される。 提案した理論は時間領域にキャストされ, データを順序づけられた方法でネットワークに提示する。
  論文  参考訳（メタデータ） (2020-09-01T09:07:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。