論文の概要: ECLAD: Extracting Concepts with Local Aggregated Descriptors

• arxiv url: http://arxiv.org/abs/2206.04531v1
• Date: Thu, 9 Jun 2022 14:25:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-10 12:41:07.101380
• Title: ECLAD: Extracting Concepts with Local Aggregated Descriptors
• Title（参考訳）: ECLAD: ローカル集約記述子による概念抽出
• Authors: Andres Felipe Posada-Moreno, Nikita Surya, Sebastian Trimpe
• Abstract要約: 本稿では,CNNのアクティベーションマップの画素ワイドアグリゲーションから得られた表現に基づいて,概念の自動抽出とローカライズを行う手法を提案する。 合成データセットと実世界のデータセットの両方で広範な実験を行うことで、最先端の代替手法と比較して性能が向上する。
• 参考スコア（独自算出の注目度）: 6.470466745237234
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Convolutional neural networks are being increasingly used in critical systems, where ensuring their robustness and alignment is crucial. In this context, the field of explainable artificial intelligence has proposed the generation of high-level explanations through concept extraction. These methods detect whether a concept is present in an image, but are incapable of locating where. What is more, a fair comparison of approaches is difficult, as proper validation procedures are missing. To fill these gaps, we propose a novel method for automatic concept extraction and localization based on representations obtained through the pixel-wise aggregations of activation maps of CNNs. Further, we introduce a process for the validation of concept-extraction techniques based on synthetic datasets with pixel-wise annotations of their main components, reducing human intervention. Through extensive experimentation on both synthetic and real-world datasets, our method achieves better performance in comparison to state-of-the-art alternatives.
• Abstract（参考訳）: 畳み込みニューラルネットワークは、その堅牢性とアライメントが重要である重要なシステムで、ますます使われています。 この文脈において、説明可能な人工知能の分野は、概念抽出によるハイレベルな説明の生成を提案している。 これらの手法は画像に概念が存在するかどうかを検知するが、位置を特定できない。 さらに、適切な検証手順が欠落しているため、アプローチの公平な比較は難しい。 これらのギャップを埋めるために,CNNのアクティベーションマップの画素ワイドアグリゲーションから得られた表現に基づいて,自動概念抽出とローカライズを行う手法を提案する。 さらに,主成分の画素別アノテーションを用いた合成データセットに基づく概念抽出手法の検証プロセスを導入し,人間の介入を減らす。 合成データセットと実世界のデータセットの両方で広範な実験を行うことで、最先端の代替手法と比較して性能が向上する。

関連論文リスト

• Discovering Chunks in Neural Embeddings for Interpretability [53.80157905839065]
  本稿では, チャンキングの原理を応用して, 人工神経集団活動の解釈を提案する。 まず、この概念を正則性を持つ人工シーケンスを訓練したリカレントニューラルネットワーク(RNN)で実証する。 我々は、これらの状態に対する摂動が関連する概念を活性化または阻害すると共に、入力における概念に対応する同様の繰り返し埋め込み状態を特定する。
  論文  参考訳（メタデータ） (2025-02-03T20:30:46Z)
• COMIX: Compositional Explanations using Prototypes [46.15031477955461]
  本稿では,機械表現を人間の理解と整合させる手法を提案する。 提案手法はCOMIXと呼ばれ,学習概念に基づいて領域に分解することで画像の分類を行う。 提案手法は説明の完全性を提供し,その効率性は他の本質的に解釈可能なアーキテクチャと競合することを示す。
  論文  参考訳（メタデータ） (2025-01-10T15:40:31Z)
• Leveraging Activations for Superpixel Explanations [2.8792218859042453]
  ディープニューラルネットワークの説明ツールキットでは、サリエンシ手法が標準となっている。 本稿では,ディープニューラルネットワーク画像分類器の活性化からセグメンテーションを抽出することで,セグメンタへの依存を避けることを目的とする。 我々のいわゆるNuro-Activated Superpixels(NAS)は、モデルの予測に関連する入力に対する関心領域を分離することができる。
  論文  参考訳（メタデータ） (2024-06-07T13:37:45Z)
• Manipulating Feature Visualizations with Gradient Slingshots [54.31109240020007]
  本稿では,モデルの決定過程に大きな影響を及ぼすことなく,特徴可視化(FV)を操作する新しい手法を提案する。 ニューラルネットワークモデルにおける本手法の有効性を評価し,任意の選択したニューロンの機能を隠蔽する能力を示す。
  論文  参考訳（メタデータ） (2024-01-11T18:57:17Z)
• Scale-Preserving Automatic Concept Extraction (SPACE) [5.270054840298395]
  我々は,CNNの最先端の代替概念抽出手法として,SPACE(Scale-Preserving Automatic Concept extract)アルゴリズムを導入する。 提案手法は,人間の理解可能な概念の形で,モデルの意思決定過程を説明する。
  論文  参考訳（メタデータ） (2023-08-11T08:54:45Z)
• CNN-based Methods for Object Recognition with High-Resolution Tactile Sensors [0.0]
  ロボットのエンドエフェクターに高解像度の触覚センサーを装着し、接触した物体を識別する。 CNNベースの2つのアプローチが圧力画像の分類に使われている。
  論文  参考訳（メタデータ） (2023-05-21T09:54:12Z)
• Unsupervised Domain Transfer with Conditional Invertible Neural Networks [83.90291882730925]
  条件付き可逆ニューラルネットワーク(cINN)に基づくドメイン転送手法を提案する。 提案手法は本質的に,その可逆的アーキテクチャによるサイクル一貫性を保証し,ネットワークトレーニングを最大限効率的に行うことができる。 提案手法は,2つの下流分類タスクにおいて,現実的なスペクトルデータの生成を可能にし,その性能を向上する。
  論文  参考訳（メタデータ） (2023-03-17T18:00:27Z)
• Shap-CAM: Visual Explanations for Convolutional Neural Networks based on Shapley Value [86.69600830581912]
  クラスアクティベーションマッピングに基づくShap-CAMと呼ばれる新しい視覚的説明法を開発した。 我々は,Shap-CAMが意思決定プロセスの解釈において,より良い視覚的性能と公平性を実現することを実証した。
  論文  参考訳（メタデータ） (2022-08-07T00:59:23Z)
• Learning Discriminative Shrinkage Deep Networks for Image Deconvolution [122.79108159874426]
  本稿では,これらの用語を暗黙的にモデル化する識別的縮小関数を学習することで,効果的に非盲検デコンボリューション手法を提案する。 実験結果から,提案手法は最先端の手法に対して,効率と精度の点で好適に動作することがわかった。
  論文  参考訳（メタデータ） (2021-11-27T12:12:57Z)
• Explaining Convolutional Neural Networks through Attribution-Based Input Sampling and Block-Wise Feature Aggregation [22.688772441351308]
  クラスアクティベーションマッピングとランダムな入力サンプリングに基づく手法が広く普及している。 しかし、帰属法は、その説明力を制限した解像度とぼやけた説明地図を提供する。 本研究では、帰属型入力サンプリング技術に基づいて、モデルの複数の層から可視化マップを収集する。 また,CNNモデル全体に適用可能な層選択戦略を提案する。
  論文  参考訳（メタデータ） (2020-10-01T20:27:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。