論文の概要: Wider Vision: Enriching Convolutional Neural Networks via Alignment to External Knowledge Bases

• arxiv url: http://arxiv.org/abs/2102.11132v1
• Date: Mon, 22 Feb 2021 16:00:03 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-24 13:20:24.042366
• Title: Wider Vision: Enriching Convolutional Neural Networks via Alignment to External Knowledge Bases
• Title（参考訳）: Wider Vision: 外部知識ベースへのアライメントによる畳み込みニューラルネットワークの拡張
• Authors: Xuehao Liu, Sarah Jane Delany, Susan McKeever
• Abstract要約: CNNのミラーリングまたはアライメントを通じて、CNNのモデルを外部の知識ベースに説明し、拡張することを目指しています。 これにより、視覚機能ごとにセマンティックなコンテキストやラベルを与えることができます。 その結果,アライメント埋め込み空間では,ナレッジグラフのノードは類似した意味を持つcnn特徴ノードに近いことがわかった。
• 参考スコア（独自算出の注目度）: 0.3867363075280543
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Deep learning models suffer from opaqueness. For Convolutional Neural Networks (CNNs), current research strategies for explaining models focus on the target classes within the associated training dataset. As a result, the understanding of hidden feature map activations is limited by the discriminative knowledge gleaned during training. The aim of our work is to explain and expand CNNs models via the mirroring or alignment of CNN to an external knowledge base. This will allow us to give a semantic context or label for each visual feature. We can match CNN feature activations to nodes in our external knowledge base. This supports knowledge-based interpretation of the features associated with model decisions. To demonstrate our approach, we build two separate graphs. We use an entity alignment method to align the feature nodes in a CNN with the nodes in a ConceptNet based knowledge graph. We then measure the proximity of CNN graph nodes to semantically meaningful knowledge base nodes. Our results show that in the aligned embedding space, nodes from the knowledge graph are close to the CNN feature nodes that have similar meanings, indicating that nodes from an external knowledge base can act as explanatory semantic references for features in the model. We analyse a variety of graph building methods in order to improve the results from our embedding space. We further demonstrate that by using hierarchical relationships from our external knowledge base, we can locate new unseen classes outside the CNN training set in our embeddings space, based on visual feature activations. This suggests that we can adapt our approach to identify unseen classes based on CNN feature activations. Our demonstrated approach of aligning a CNN with an external knowledge base paves the way to reason about and beyond the trained model, with future adaptations to explainable models and zero-shot learning.
• Abstract（参考訳）: ディープラーニングモデルは不透明さに苦しむ。 Convolutional Neural Networks(CNN)では、モデルを説明するための現在の研究戦略は、関連するトレーニングデータセット内のターゲットクラスに焦点を当てている。 その結果、隠れた特徴マップのアクティベーションの理解は、トレーニング中に獲得した識別的知識によって制限されます。 本研究の目的は、CNNを外部知識ベースにミラーリングまたはアライメントすることで、CNNモデルを説明・拡張することである。 これにより、視覚機能ごとにセマンティックなコンテキストやラベルを与えることができます。 CNN機能のアクティベーションを外部知識ベースのノードにマッチさせることができます。 これはモデル決定に関連する機能の知識に基づく解釈をサポートする。 アプローチを実証するために、2つの別々のグラフを構築します。 我々は、cnnの機能ノードを概念ネットベースの知識グラフのノードにアライメントするためにエンティティアライメント法を用いる。 次に、CNNグラフノードと意味のある知識ベースノードの近接度を測定します。 その結果,アライメント埋め込み空間において,ナレッジグラフからのノードは,類似した意味を持つcnn特徴ノードに近く,外部知識ベースからのノードがモデルの特徴の説明的意味参照として機能することが示された。 埋め込み空間の結果を改善するために,様々なグラフ構築手法を分析した。 さらに,外部知識ベースからの階層的関係を利用することで,視覚特徴のアクティベーションに基づいて,埋め込み空間内のcnnトレーニングセットの外部に新たな未認識クラスを配置できることを実証する。 このことは,CNN機能アクティベーションに基づいた未知のクラスを識別するために,我々のアプローチに適応できることを示唆している。 cnnを外部の知識ベースと整合させるアプローチは、トレーニングされたモデルに対する推論方法と、説明可能なモデルとゼロショット学習への将来の適応方法を提供します。

関連論文リスト

• Linking in Style: Understanding learned features in deep learning models [0.0]
  畳み込みニューラルネットワーク(CNN)は抽象的な特徴を学び、オブジェクト分類を行う。 本稿では,CNNにおける学習特徴を可視化し,体系的に解析する自動手法を提案する。
  論文  参考訳（メタデータ） (2024-09-25T12:28:48Z)
• Graph Neural Networks Provably Benefit from Structural Information: A Feature Learning Perspective [53.999128831324576]
  グラフニューラルネットワーク(GNN)は、グラフ表現学習の先駆けとなった。 本研究では,特徴学習理論の文脈におけるグラフ畳み込みの役割について検討する。
  論文  参考訳（メタデータ） (2023-06-24T10:21:11Z)
• A novel feature-scrambling approach reveals the capacity of convolutional neural networks to learn spatial relations [0.0]
  畳み込みニューラルネットワーク(CNN)は、物体認識を解く最も成功したコンピュータビジョンシステムの一つである。 しかし、CNNが実際にどのように決断を下すのか、内部表現の性質や認識戦略が人間とどのように異なるのかは、いまだに理解されていない。
  論文  参考訳（メタデータ） (2022-12-12T16:40:29Z)
• Robust Knowledge Adaptation for Dynamic Graph Neural Networks [61.8505228728726]
  動的グラフニューラルネットワークのための強化学習による堅牢な知識適応フレームワークであるAda-DyGNNを提案する。 我々のアプローチは、強化学習による堅牢な知識適応を探求する最初の試みである。 3つのベンチマークデータセットの実験は、Ada-DyGNNが最先端のパフォーマンスを達成することを示した。
  論文  参考訳（メタデータ） (2022-07-22T02:06:53Z)
• The Mind's Eye: Visualizing Class-Agnostic Features of CNNs [92.39082696657874]
  本稿では,特定のレイヤの最も情報性の高い特徴を表現した対応する画像を作成することにより,画像の集合を視覚的に解釈する手法を提案する。 本手法では, 生成ネットワークを必要とせず, 元のモデルに変更を加えることなく, デュアルオブジェクトのアクティベーションと距離損失を利用する。
  論文  参考訳（メタデータ） (2021-01-29T07:46:39Z)
• What Do Deep Nets Learn? Class-wise Patterns Revealed in the Input Space [88.37185513453758]
  本研究では,深層ニューラルネットワーク(DNN)が学習するクラスワイズな知識を,異なる環境下で可視化し,理解する手法を提案する。 本手法は,各クラスのモデルが学習した知識を表現するために,画素空間内の1つの予測パターンを探索する。 逆境環境では、逆境に訓練されたモデルはより単純化された形状パターンを学ぶ傾向がある。
  論文  参考訳（メタデータ） (2021-01-18T06:38:41Z)
• Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
  今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。 対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。 また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
  論文  参考訳（メタデータ） (2021-01-06T03:05:37Z)
• Decoding CNN based Object Classifier Using Visualization [6.666597301197889]
  CNNのさまざまな畳み込み層で抽出される特徴の種類を視覚化する。 アクティベーションのヒートマップを可視化することは、CNNが画像内の異なるオブジェクトを分類し、ローカライズする方法を理解するのに役立ちます。
  論文  参考訳（メタデータ） (2020-07-15T05:01:27Z)
• An Information-theoretic Visual Analysis Framework for Convolutional Neural Networks [11.15523311079383]
  CNNモデルから抽出可能なデータを整理するデータモデルを提案する。 次に、異なる状況下でエントロピーを計算する2つの方法を提案する。 我々は,モデル内の情報変化量をインタラクティブに探索する視覚解析システムCNNSlicerを開発した。
  論文  参考訳（メタデータ） (2020-05-02T21:36:50Z)
• Curriculum By Smoothing [52.08553521577014]
  畳み込みニューラルネットワーク(CNN)は、画像分類、検出、セグメンテーションなどのコンピュータビジョンタスクにおいて顕著な性能を示している。 アンチエイリアスフィルタやローパスフィルタを用いてCNNの機能埋め込みを円滑化するエレガントなカリキュラムベースのスキームを提案する。 トレーニング中に特徴マップ内の情報量が増加するにつれて、ネットワークはデータのより優れた表現を徐々に学習することができる。
  論文  参考訳（メタデータ） (2020-03-03T07:27:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。