論文の概要: ECLAD: Extracting Concepts with Local Aggregated Descriptors
- arxiv url: http://arxiv.org/abs/2206.04531v3
- Date: Fri, 11 Aug 2023 09:11:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-14 18:01:24.520792
- Title: ECLAD: Extracting Concepts with Local Aggregated Descriptors
- Title（参考訳）: ECLAD: ローカル集約記述子による概念抽出
- Authors: Andres Felipe Posada-Moreno, Nikita Surya, Sebastian Trimpe
- Abstract要約: そこで本研究では,CNNアクティベーションマップの画素ワイドアグリゲーションから得られた表現に基づいて,概念の自動抽出とローカライズを行う手法を提案する。
本稿では,主成分の画素単位のアノテーションを用いた合成データセットに基づく概念抽出手法の検証手法を提案する。
- 参考スコア（独自算出の注目度）: 6.470466745237234
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Convolutional neural networks (CNNs) are increasingly being used in critical
systems, where robustness and alignment are crucial. In this context, the field
of explainable artificial intelligence has proposed the generation of
high-level explanations of the prediction process of CNNs through concept
extraction. While these methods can detect whether or not a concept is present
in an image, they are unable to determine its location. What is more, a fair
comparison of such approaches is difficult due to a lack of proper validation
procedures. To address these issues, we propose a novel method for automatic
concept extraction and localization based on representations obtained through
pixel-wise aggregations of CNN activation maps. Further, we introduce a process
for the validation of concept-extraction techniques based on synthetic datasets
with pixel-wise annotations of their main components, reducing the need for
human intervention. Extensive experimentation on both synthetic and real-world
datasets demonstrates that our method outperforms state-of-the-art
alternatives.
- Abstract（参考訳）: 畳み込みニューラルネットワーク(cnns)は、ロバスト性とアライメントが重要となる重要なシステムでますます使われている。
この文脈において、説明可能な人工知能の分野は、概念抽出によるcnnの予測過程の高レベルな説明の生成を提案している。
これらの手法は、画像に概念が存在するかどうかを検出することができるが、その位置を特定できない。
さらに、適切な検証手順が欠如しているため、このようなアプローチを公平に比較することは困難である。
そこで本研究では,CNNアクティベーションマップの画素ワイドアグリゲーションから得られた表現に基づいて,概念の自動抽出とローカライズを行う手法を提案する。
さらに,主成分の画素別アノテーションを用いた合成データセットに基づく概念抽出手法の検証プロセスを導入し,人間の介入の必要性を低減した。
合成と実世界の両方のデータセットに対する大規模な実験は、我々の手法が最先端の代替よりも優れていることを示す。
関連論文リスト
- Discovering Chunks in Neural Embeddings for Interpretability [53.80157905839065]
本稿では, チャンキングの原理を応用して, 人工神経集団活動の解釈を提案する。
まず、この概念を正則性を持つ人工シーケンスを訓練したリカレントニューラルネットワーク(RNN)で実証する。
我々は、これらの状態に対する摂動が関連する概念を活性化または阻害すると共に、入力における概念に対応する同様の繰り返し埋め込み状態を特定する。
論文 参考訳（メタデータ） (2025-02-03T20:30:46Z) - COMIX: Compositional Explanations using Prototypes [46.15031477955461]
本稿では,機械表現を人間の理解と整合させる手法を提案する。
提案手法はCOMIXと呼ばれ,学習概念に基づいて領域に分解することで画像の分類を行う。
提案手法は説明の完全性を提供し,その効率性は他の本質的に解釈可能なアーキテクチャと競合することを示す。
論文 参考訳（メタデータ） (2025-01-10T15:40:31Z) - Leveraging Activations for Superpixel Explanations [2.8792218859042453]
ディープニューラルネットワークの説明ツールキットでは、サリエンシ手法が標準となっている。
本稿では,ディープニューラルネットワーク画像分類器の活性化からセグメンテーションを抽出することで,セグメンタへの依存を避けることを目的とする。
我々のいわゆるNuro-Activated Superpixels(NAS)は、モデルの予測に関連する入力に対する関心領域を分離することができる。
論文 参考訳（メタデータ） (2024-06-07T13:37:45Z) - Manipulating Feature Visualizations with Gradient Slingshots [54.31109240020007]
本稿では,モデルの決定過程に大きな影響を及ぼすことなく,特徴可視化(FV)を操作する新しい手法を提案する。
ニューラルネットワークモデルにおける本手法の有効性を評価し,任意の選択したニューロンの機能を隠蔽する能力を示す。
論文 参考訳（メタデータ） (2024-01-11T18:57:17Z) - Scale-Preserving Automatic Concept Extraction (SPACE) [5.270054840298395]
我々は,CNNの最先端の代替概念抽出手法として,SPACE(Scale-Preserving Automatic Concept extract)アルゴリズムを導入する。
提案手法は,人間の理解可能な概念の形で,モデルの意思決定過程を説明する。
論文 参考訳（メタデータ） (2023-08-11T08:54:45Z) - CNN-based Methods for Object Recognition with High-Resolution Tactile
Sensors [0.0]
ロボットのエンドエフェクターに高解像度の触覚センサーを装着し、接触した物体を識別する。
CNNベースの2つのアプローチが圧力画像の分類に使われている。
論文 参考訳（メタデータ） (2023-05-21T09:54:12Z) - Unsupervised Domain Transfer with Conditional Invertible Neural Networks [83.90291882730925]
条件付き可逆ニューラルネットワーク(cINN)に基づくドメイン転送手法を提案する。
提案手法は本質的に,その可逆的アーキテクチャによるサイクル一貫性を保証し,ネットワークトレーニングを最大限効率的に行うことができる。
提案手法は,2つの下流分類タスクにおいて,現実的なスペクトルデータの生成を可能にし,その性能を向上する。
論文 参考訳（メタデータ） (2023-03-17T18:00:27Z) - Shap-CAM: Visual Explanations for Convolutional Neural Networks based on
Shapley Value [86.69600830581912]
クラスアクティベーションマッピングに基づくShap-CAMと呼ばれる新しい視覚的説明法を開発した。
我々は,Shap-CAMが意思決定プロセスの解釈において,より良い視覚的性能と公平性を実現することを実証した。
論文 参考訳（メタデータ） (2022-08-07T00:59:23Z) - Learning Discriminative Shrinkage Deep Networks for Image Deconvolution [122.79108159874426]
本稿では,これらの用語を暗黙的にモデル化する識別的縮小関数を学習することで,効果的に非盲検デコンボリューション手法を提案する。
実験結果から,提案手法は最先端の手法に対して,効率と精度の点で好適に動作することがわかった。
論文 参考訳（メタデータ） (2021-11-27T12:12:57Z) - Explaining Convolutional Neural Networks through Attribution-Based Input
Sampling and Block-Wise Feature Aggregation [22.688772441351308]
クラスアクティベーションマッピングとランダムな入力サンプリングに基づく手法が広く普及している。
しかし、帰属法は、その説明力を制限した解像度とぼやけた説明地図を提供する。
本研究では、帰属型入力サンプリング技術に基づいて、モデルの複数の層から可視化マップを収集する。
また,CNNモデル全体に適用可能な層選択戦略を提案する。
論文 参考訳（メタデータ） (2020-10-01T20:27:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。