論文の概要: MDM:Visual Explanations for Neural Networks via Multiple Dynamic Mask
- arxiv url: http://arxiv.org/abs/2207.08046v1
- Date: Sun, 17 Jul 2022 00:25:16 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-19 16:37:49.034583
- Title: MDM:Visual Explanations for Neural Networks via Multiple Dynamic Mask
- Title（参考訳）: MDM:マルチダイナミックマスクによるニューラルネットワークの視覚的説明
- Authors: Yitao Peng, Longzhen Yang, Yihang Liu, Lianghua He
- Abstract要約: 本稿では,推論プロセスの解釈可能性を備えた汎用のサリエンシグラフクエリ手法であるMultiple Dynamic Mask(MDM)を提案する。
MDMサリエンシマップ探索アルゴリズムでは、様々なサリエンシマップ探索法の性能指標と、トレーニングされたニューラルネットワークとしてResNetとDenseNetを用いてMDMの性能指標を実験的に比較した。
- 参考スコア（独自算出の注目度）: 5.333582981327497
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The active region lookup of a neural network tells us which regions the
neural network focuses on when making a decision, which gives us a basis for
interpretability when the neural network makes a classification decision. We
propose an algorithm Multiple Dynamic Mask(MDM), which is a general saliency
graph query method with interpretability of the inference process. Its proposal
is based on an assumption: when a picture is input to a neural network that has
been trained, the activation features related to classification will affect the
classification results of the neural network, and the features unrelated to
classification will hardly affect the classification results of the network.
MDM: A learning-based end-to-end algorithm for finding regions of interest for
neural network classification. It has the following advantages: 1. It has the
interpretability of the reasoning process. 2. It is universal, it can be used
for any neural network and does not depend on the internal structure of the
neural network. 3. The search performance is better. Because the algorithm is
based on learning to generate masks and has the ability to adapt to different
data and networks, the performance is better than the method proposed in the
previous paper. For the MDM saliency map search algorithm, we experimentally
compared the performance indicators of various saliency map search methods and
the MDM with ResNet and DenseNet as the trained neural networks. The search
effect performance of the MDM reached the state of the art. We applied the MDM
to the interpretable neural network ProtoPNet and XProtoNet, which improved the
interpretability of the model and the prototype search performance. We
visualize the performance of convolutional neural architecture and Transformer
architecture on saliency map search.
- Abstract（参考訳）: ニューラルネットワークのアクティブな領域検索は、ニューラルネットワークが決定を行うときにどの領域に焦点を当てているかを教え、ニューラルネットワークが分類決定を行うときの解釈可能性の基礎を与える。
提案手法は,推定過程を解釈可能な一般的なグラフ問合せ法であるアルゴリズム多重動的マスク(mdm)を提案する。
その提案は、トレーニングされたニューラルネットワークに画像が入力されると、分類に関連する活性化特徴がニューラルネットワークの分類結果に影響を与え、分類に関係のない特徴がネットワークの分類結果にほとんど影響しないという仮定に基づいている。
MDM: ニューラルネットワークの分類に関心のある領域を見つけるための学習ベースのエンドツーエンドアルゴリズム。
次のような利点がある。
1.推論プロセスの解釈可能性を有する。
2. 普遍的であり、任意のニューラルネットワークに使用することができ、ニューラルネットワークの内部構造に依存しない。
3.検索性能は良い。
このアルゴリズムは、マスクを生成する学習に基づいており、異なるデータやネットワークに適応する能力を持っているため、前回の論文で提案した手法よりも性能が優れている。
MDMサリエンシマップ探索アルゴリズムでは、様々なサリエンシマップ探索法の性能指標と、トレーニングニューラルネットワークとしてResNetとDenseNetを用いてMDMの性能指標を実験的に比較した。
mdmの探索効果性能は最先端に到達した。
我々は,解釈可能なニューラルネットワークProtoPNetとXProtoNetにMDMを適用し,モデルの解釈可能性と探索性能を改善した。
畳み込み型ニューラルアーキテクチャとトランスフォーマーアーキテクチャのサリエンシマップ検索における性能を可視化する。
関連論文リスト
- Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳（メタデータ） (2024-03-18T18:01:01Z) - Sparse Multitask Learning for Efficient Neural Representation of Motor
Imagery and Execution [30.186917337606477]
運動画像(MI)と運動実行(ME)タスクのためのスパースマルチタスク学習フレームワークを提案する。
MI-ME分類のためのデュアルタスクCNNモデルが与えられた場合、過渡的な接続に対して、サリエンシに基づくスペーシフィケーションアプローチを適用する。
以上の結果から, この調整された疎水性は, 過度に適合する問題を緩和し, 少ないデータ量でテスト性能を向上させることが示唆された。
論文 参考訳（メタデータ） (2023-12-10T09:06:16Z) - SA-CNN: Application to text categorization issues using simulated
annealing-based convolutional neural network optimization [0.0]
畳み込みニューラルネットワーク(CNN)は、ディープラーニングアルゴリズムの代表クラスである。
テキストCNNニューラルネットワークに基づくテキスト分類タスクのためのSA-CNNニューラルネットワークを提案する。
論文 参考訳（メタデータ） (2023-03-13T14:27:34Z) - DProtoNet: Decoupling the inference module and the explanation module
enables neural networks to have better accuracy and interpretability [5.333582981327497]
従来の方法では、ニューラルネットワークのアーキテクチャを変更することで、ネットワークは人間の推論プロセスをシミュレートする。
本稿では,DProtoNet(Decoupling Prototypeal Network)を提案する。
解釈モジュールからニューラルネットワーク推論モジュールを分離し、解釈可能なネットワークの特定のアーキテクチャ上の制限を取り除く。
論文 参考訳（メタデータ） (2022-10-15T17:05:55Z) - Increasing the Accuracy of a Neural Network Using Frequency Selective
Mesh-to-Grid Resampling [4.211128681972148]
ニューラルネットワークの入力データの処理にFSMR(Keypoint frequency selective mesh-to-grid resampling)を提案する。
ネットワークアーキテクチャや分類タスクによって、トレーニング中のFSMRの適用は学習プロセスに役立ちます。
ResNet50とOxflower17データセットの分類精度は最大4.31ポイント向上できる。
論文 参考訳（メタデータ） (2022-09-28T21:34:47Z) - Adaptive Convolutional Dictionary Network for CT Metal Artifact
Reduction [62.691996239590125]
本稿では,金属人工物削減のための適応畳み込み辞書ネットワーク(ACDNet)を提案する。
我々のACDNetは、トレーニングデータを介して、アーティファクトフリーCT画像の事前を自動で学習し、入力されたCT画像ごとに表現カーネルを適応的に調整することができる。
本手法は,モデルに基づく手法の明確な解釈可能性を継承し,学習に基づく手法の強力な表現能力を維持する。
論文 参考訳（メタデータ） (2022-05-16T06:49:36Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳（メタデータ） (2022-02-01T17:11:13Z) - Neural networks with linear threshold activations: structure and
algorithms [1.795561427808824]
クラス内で表現可能な関数を表現するのに、2つの隠れたレイヤが必要であることを示す。
また、クラス内の任意の関数を表すのに必要なニューラルネットワークのサイズについて、正確な境界を与える。
我々は,線形しきい値ネットワークと呼ばれるニューラルネットワークの新たなクラスを提案する。
論文 参考訳（メタデータ） (2021-11-15T22:33:52Z) - Why Lottery Ticket Wins? A Theoretical Perspective of Sample Complexity
on Pruned Neural Networks [79.74580058178594]
目的関数の幾何学的構造を解析することにより、刈り取られたニューラルネットワークを訓練する性能を解析する。
本稿では,ニューラルネットワークモデルがプルーニングされるにつれて,一般化が保証された望ましいモデル近傍の凸領域が大きくなることを示す。
論文 参考訳（メタデータ） (2021-10-12T01:11:07Z) - Learning Structures for Deep Neural Networks [99.8331363309895]
我々は,情報理論に根ざし,計算神経科学に発達した効率的な符号化原理を採用することを提案する。
スパース符号化は出力信号のエントロピーを効果的に最大化できることを示す。
公開画像分類データセットを用いた実験により,提案アルゴリズムでスクラッチから学習した構造を用いて,最も優れた専門家設計構造に匹敵する分類精度が得られることを示した。
論文 参考訳（メタデータ） (2021-05-27T12:27:24Z) - Joint Learning of Neural Transfer and Architecture Adaptation for Image
Recognition [77.95361323613147]
現在の最先端の視覚認識システムは、大規模データセット上でニューラルネットワークを事前トレーニングし、より小さなデータセットでネットワーク重みを微調整することに依存している。
本稿では,各ドメインタスクに適応したネットワークアーキテクチャの動的適応と,効率と効率の両面で重みの微調整の利点を実証する。
本手法は,ソースドメインタスクでスーパーネットトレーニングを自己教師付き学習に置き換え,下流タスクで線形評価を行うことにより,教師なしパラダイムに容易に一般化することができる。
論文 参考訳（メタデータ） (2021-03-31T08:15:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。