論文の概要: Neural Response Interpretation through the Lens of Critical Pathways

• arxiv url: http://arxiv.org/abs/2103.16886v1
• Date: Wed, 31 Mar 2021 08:08:41 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-01 14:44:51.333917
• Title: Neural Response Interpretation through the Lens of Critical Pathways
• Title（参考訳）: 臨界経路のレンズによる神経反応の解釈
• Authors: Ashkan Khakzar, Soroosh Baselizadeh, Saurabh Khanduja, Christian Rupprecht, Seong Tae Kim, Nassir Navab
• Abstract要約: 本稿では,重要な経路を同定する問題を議論し,入力に対するネットワークの応答の解釈に活用する。 プルーニング由来のスパース経路は、必ずしも重要な入力情報をエンコードするとは限らない。 入力情報の重要な断片を含むスパース経路を確保するため,ニューロンの応答への寄与による経路選択を提案する。
• 参考スコア（独自算出の注目度）: 52.41018985255681
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Is critical input information encoded in specific sparse pathways within the neural network? In this work, we discuss the problem of identifying these critical pathways and subsequently leverage them for interpreting the network's response to an input. The pruning objective -- selecting the smallest group of neurons for which the response remains equivalent to the original network -- has been previously proposed for identifying critical pathways. We demonstrate that sparse pathways derived from pruning do not necessarily encode critical input information. To ensure sparse pathways include critical fragments of the encoded input information, we propose pathway selection via neurons' contribution to the response. We proceed to explain how critical pathways can reveal critical input features. We prove that pathways selected via neuron contribution are locally linear (in an L2-ball), a property that we use for proposing a feature attribution method: "pathway gradient". We validate our interpretation method using mainstream evaluation experiments. The validation of pathway gradient interpretation method further confirms that selected pathways using neuron contributions correspond to critical input features. The code is publicly available.
• Abstract（参考訳）: 重要な入力情報はニューラルネットワーク内の特定のスパース経路にエンコードされているか? 本研究では,これらの重要な経路を同定し,ネットワークの入力に対する応答の解釈に利用することについて議論する。 プルーニングの目的 -- 応答が元のネットワークと同等の最小のニューロン群を選択する -- は、以前は重要な経路を特定するために提案されてきた。 プルーニング由来のスパース経路は、必ずしも重要な入力情報をエンコードするとは限らない。 入力情報の重要な断片を含むスパース経路を確保するため,ニューロンの応答への寄与による経路選択を提案する。 クリティカルパスが重要な入力機能を明らかにする方法について説明する。 ニューロンの寄与によって選択される経路は局所的に線形であること(l2-ball において)を証明し、特徴帰属法(pathway gradient)を提案する。 本手法を主観評価実験を用いて検証する。 さらに、経路勾配解釈法の検証により、ニューロンコントリビューションを用いた選択経路が臨界入力特徴に対応していることを確認する。 コードは公開されている。

関連論文リスト

• Understanding the Role of Pathways in a Deep Neural Network [4.456675543894722]
  分類タスクで訓練された畳み込みニューラルネットワーク(CNN)を分析し,個々の画素の拡散経路を抽出するアルゴリズムを提案する。 画像からの個々のピクセルの最も大きな経路は、分類に重要な各層の特徴マップを横断する傾向にある。
  論文  参考訳（メタデータ） (2024-02-28T07:53:19Z)
• DISCOVER: Making Vision Networks Interpretable via Competition and Dissection [11.028520416752325]
  この研究は、ポストホック解釈可能性、特にネットワーク分割に寄与する。 私たちのゴールは、視覚タスクで訓練されたネットワークにおいて、各ニューロンの個々の機能を容易に発見できるフレームワークを提供することです。
  論文  参考訳（メタデータ） (2023-10-07T21:57:23Z)
• Fine-Grained Neural Network Explanation by Identifying Input Features with Predictive Information [53.28701922632817]
  入力領域における予測情報を用いて特徴を識別する手法を提案する。 我々の手法の中核となる考え方は、予測潜在機能に関連する入力機能のみを通過させる入力のボトルネックを活用することである。
  論文  参考訳（メタデータ） (2021-10-04T14:13:42Z)
• Adaptive conversion of real-valued input into spike trains [91.3755431537592]
  本稿では,実数値入力をスパイクトレインに変換し,スパイクニューラルネットワークで処理する方法を提案する。 提案手法は網膜神経節細胞の適応的挙動を模倣し,入力ニューロンが入力の統計の変化に応答することを可能にする。
  論文  参考訳（メタデータ） (2021-04-12T12:33:52Z)
• And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
  ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。 そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。 MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-15T08:19:05Z)
• Where's the Question? A Multi-channel Deep Convolutional Neural Network for Question Identification in Textual Data [83.89578557287658]
  本稿では,実際の質問を分離する目的で,新しい多チャンネル深層畳み込みニューラルネットワークアーキテクチャであるQuest-CNNを提案する。 提案するニューラルネットワークと他のディープニューラルネットワークの総合的な性能比較分析を行った。 提案したQuest-CNNは、透析ケア設定におけるデータエントリレビュー対話のデータセットと一般的なドメインデータセットの両方において、最高のF1スコアを達成した。
  論文  参考訳（メタデータ） (2020-10-15T15:11:22Z)
• Neural Anisotropy Directions [63.627760598441796]
  我々は、アーキテクチャの方向性誘導バイアスをカプセル化するベクトルとして、神経異方性方向(NAD)を定義する。 CIFAR-10データセットでは、NADはCNNが異なるクラス間で識別するために使用する特徴を特徴付ける。
  論文  参考訳（メタデータ） (2020-06-17T08:36:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。