論文の概要: ECLAD: Extracting Concepts with Local Aggregated Descriptors
- arxiv url: http://arxiv.org/abs/2206.04531v1
- Date: Thu, 9 Jun 2022 14:25:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-10 12:41:07.101380
- Title: ECLAD: Extracting Concepts with Local Aggregated Descriptors
- Title(参考訳): ECLAD: ローカル集約記述子による概念抽出
- Authors: Andres Felipe Posada-Moreno, Nikita Surya, Sebastian Trimpe
- Abstract要約: 本稿では,CNNのアクティベーションマップの画素ワイドアグリゲーションから得られた表現に基づいて,概念の自動抽出とローカライズを行う手法を提案する。
合成データセットと実世界のデータセットの両方で広範な実験を行うことで、最先端の代替手法と比較して性能が向上する。
- 参考スコア(独自算出の注目度): 6.470466745237234
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Convolutional neural networks are being increasingly used in critical
systems, where ensuring their robustness and alignment is crucial. In this
context, the field of explainable artificial intelligence has proposed the
generation of high-level explanations through concept extraction. These methods
detect whether a concept is present in an image, but are incapable of locating
where. What is more, a fair comparison of approaches is difficult, as proper
validation procedures are missing. To fill these gaps, we propose a novel
method for automatic concept extraction and localization based on
representations obtained through the pixel-wise aggregations of activation maps
of CNNs. Further, we introduce a process for the validation of
concept-extraction techniques based on synthetic datasets with pixel-wise
annotations of their main components, reducing human intervention. Through
extensive experimentation on both synthetic and real-world datasets, our method
achieves better performance in comparison to state-of-the-art alternatives.
- Abstract(参考訳): 畳み込みニューラルネットワークは、その堅牢性とアライメントが重要である重要なシステムで、ますます使われています。
この文脈において、説明可能な人工知能の分野は、概念抽出によるハイレベルな説明の生成を提案している。
これらの手法は画像に概念が存在するかどうかを検知するが、位置を特定できない。
さらに、適切な検証手順が欠落しているため、アプローチの公平な比較は難しい。
これらのギャップを埋めるために,CNNのアクティベーションマップの画素ワイドアグリゲーションから得られた表現に基づいて,自動概念抽出とローカライズを行う手法を提案する。
さらに,主成分の画素別アノテーションを用いた合成データセットに基づく概念抽出手法の検証プロセスを導入し,人間の介入を減らす。
合成データセットと実世界のデータセットの両方で広範な実験を行うことで、最先端の代替手法と比較して性能が向上する。
関連論文リスト
- Leveraging Activations for Superpixel Explanations [2.8792218859042453]
ディープニューラルネットワークの説明ツールキットでは、サリエンシ手法が標準となっている。
本稿では,ディープニューラルネットワーク画像分類器の活性化からセグメンテーションを抽出することで,セグメンタへの依存を避けることを目的とする。
我々のいわゆるNuro-Activated Superpixels(NAS)は、モデルの予測に関連する入力に対する関心領域を分離することができる。
論文 参考訳(メタデータ) (2024-06-07T13:37:45Z) - Manipulating Feature Visualizations with Gradient Slingshots [54.31109240020007]
本稿では,モデルの決定過程に大きな影響を及ぼすことなく,特徴可視化(FV)を操作する新しい手法を提案する。
ニューラルネットワークモデルにおける本手法の有効性を評価し,任意の選択したニューロンの機能を隠蔽する能力を示す。
論文 参考訳(メタデータ) (2024-01-11T18:57:17Z) - Scale-Preserving Automatic Concept Extraction (SPACE) [5.270054840298395]
我々は,CNNの最先端の代替概念抽出手法として,SPACE(Scale-Preserving Automatic Concept extract)アルゴリズムを導入する。
提案手法は,人間の理解可能な概念の形で,モデルの意思決定過程を説明する。
論文 参考訳(メタデータ) (2023-08-11T08:54:45Z) - CNN-based Methods for Object Recognition with High-Resolution Tactile
Sensors [0.0]
ロボットのエンドエフェクターに高解像度の触覚センサーを装着し、接触した物体を識別する。
CNNベースの2つのアプローチが圧力画像の分類に使われている。
論文 参考訳(メタデータ) (2023-05-21T09:54:12Z) - Unsupervised Domain Transfer with Conditional Invertible Neural Networks [83.90291882730925]
条件付き可逆ニューラルネットワーク(cINN)に基づくドメイン転送手法を提案する。
提案手法は本質的に,その可逆的アーキテクチャによるサイクル一貫性を保証し,ネットワークトレーニングを最大限効率的に行うことができる。
提案手法は,2つの下流分類タスクにおいて,現実的なスペクトルデータの生成を可能にし,その性能を向上する。
論文 参考訳(メタデータ) (2023-03-17T18:00:27Z) - Shap-CAM: Visual Explanations for Convolutional Neural Networks based on
Shapley Value [86.69600830581912]
クラスアクティベーションマッピングに基づくShap-CAMと呼ばれる新しい視覚的説明法を開発した。
我々は,Shap-CAMが意思決定プロセスの解釈において,より良い視覚的性能と公平性を実現することを実証した。
論文 参考訳(メタデータ) (2022-08-07T00:59:23Z) - A Novel Hand Gesture Detection and Recognition system based on
ensemble-based Convolutional Neural Network [3.5665681694253903]
コンピュータビジョンとパターン認識コミュニティでは,手の部分検出が課題となっている。
畳み込みニューラルネットワーク(CNN)アーキテクチャのようなディープラーニングアルゴリズムは、分類タスクにおいて非常に一般的な選択肢となっている。
本稿では,CNNに基づくアプローチのアンサンブルを用いて,予測時の高分散や過度な問題,予測誤差などの問題を克服する。
論文 参考訳(メタデータ) (2022-02-25T06:46:58Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - Learning Discriminative Shrinkage Deep Networks for Image Deconvolution [122.79108159874426]
本稿では,これらの用語を暗黙的にモデル化する識別的縮小関数を学習することで,効果的に非盲検デコンボリューション手法を提案する。
実験結果から,提案手法は最先端の手法に対して,効率と精度の点で好適に動作することがわかった。
論文 参考訳(メタデータ) (2021-11-27T12:12:57Z) - Multi-Branch Deep Radial Basis Function Networks for Facial Emotion
Recognition [80.35852245488043]
放射状基底関数(RBF)ユニットによって形成された複数の分岐で拡張されたCNNベースのアーキテクチャを提案する。
RBFユニットは、中間表現を用いて類似のインスタンスで共有される局所パターンをキャプチャする。
提案手法は,提案手法の競争力を高めるためのローカル情報の導入であることを示す。
論文 参考訳(メタデータ) (2021-09-07T21:05:56Z) - Explaining Convolutional Neural Networks through Attribution-Based Input
Sampling and Block-Wise Feature Aggregation [22.688772441351308]
クラスアクティベーションマッピングとランダムな入力サンプリングに基づく手法が広く普及している。
しかし、帰属法は、その説明力を制限した解像度とぼやけた説明地図を提供する。
本研究では、帰属型入力サンプリング技術に基づいて、モデルの複数の層から可視化マップを収集する。
また,CNNモデル全体に適用可能な層選択戦略を提案する。
論文 参考訳(メタデータ) (2020-10-01T20:27:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。