論文の概要: Generalization on the Enhancement of Layerwise Relevance Interpretability of Deep Neural Network

• arxiv url: http://arxiv.org/abs/2009.02516v2
• Date: Sun, 18 Oct 2020 10:01:52 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-21 20:34:08.310593
• Title: Generalization on the Enhancement of Layerwise Relevance Interpretability of Deep Neural Network
• Title（参考訳）: ディープニューラルネットワークの層別関連解釈性向上に関する一般化
• Authors: Erico Tjoa, Guan Cuntai
• Abstract要約: 熱マップは人工知能(AI)による意思決定の説明を提供する 熱マップの品質向上のために, 層幅振幅フィルタリング法が導入された。 本稿では,特定のニューラルネットワークの信号振幅の傾向に起因した,解釈可能性信号の修正のためのフィルタリング手法を提案する。
• 参考スコア（独自算出の注目度）: 3.42658286826597
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The practical application of deep neural networks are still limited by their lack of transparency. One of the efforts to provide explanation for decisions made by artificial intelligence (AI) is the use of saliency or heat maps highlighting relevant regions that contribute significantly to its prediction. A layer-wise amplitude filtering method was previously introduced to improve the quality of heatmaps, performing error corrections by noise-spike suppression. In this study, we generalize the layerwise error correction by considering any identifiable error and assuming there exists a groundtruth interpretable information. The forms of errors propagated through layerwise relevance methods are studied and we propose a filtering technique for interpretability signal rectification taylored to the trend of signal amplitude of the particular neural network used. Finally, we put forth arguments for the use of groundtruth interpretable information.
• Abstract（参考訳）: ディープニューラルネットワークの実用的応用は、透明性の欠如によってはまだ制限されている。 人工知能(AI)による意思決定の説明を提供する取り組みの1つは、その予測に大きく貢献する関連領域を強調した、正当性や熱マップの使用である。 ノイズスパイク抑制による誤差補正を行い, ヒートマップの品質向上を図るため, 層幅振幅フィルタリング法が導入された。 本研究では,任意の識別可能な誤りを考慮し,基礎的解釈可能な情報が存在することを仮定して,階層的誤り訂正を一般化する。 本研究では,階層的関連づけによって伝播する誤りの形式について検討し,特定のニューラルネットワークの信号振幅の傾向に対応した可読性信号整流のためのフィルタリング手法を提案する。 最後に,基礎的解釈可能な情報の利用について論じる。

関連論文リスト

• QGait: Toward Accurate Quantization for Gait Recognition with Binarized Input [17.017127559393398]
  バックプロパゲーション時の円関数の勾配をよりよくシミュレートする,微分可能なソフト量子化器を提案する。 これにより、ネットワークは微妙な入力摂動から学習することができる。 量子化エラーをシミュレートしながら収束を確保するためのトレーニング戦略をさらに洗練する。
  論文  参考訳（メタデータ） (2024-05-22T17:34:18Z)
• Optimization dependent generalization bound for ReLU networks based on sensitivity in the tangent bundle [0.0]
  本稿では,フィードフォワードReLUネットワークの一般化誤差に基づいたPAC型を提案する。 得られた境界はネットワークの深さに明示的に依存しない。
  論文  参考訳（メタデータ） (2023-10-26T13:14:13Z)
• GIT: Detecting Uncertainty, Out-Of-Distribution and Adversarial Samples using Gradients and Invariance Transformations [77.34726150561087]
  本稿では,ディープニューラルネットワークにおける一般化誤差検出のための総合的アプローチを提案する。 GITは勾配情報と不変変換の利用を組み合わせる。 本実験は,各種ネットワークアーキテクチャの最先端技術と比較して,GITの優れた性能を示すものである。
  論文  参考訳（メタデータ） (2023-07-05T22:04:38Z)
• Per-Example Gradient Regularization Improves Learning Signals from Noisy Data [25.646054298195434]
  実験的な証拠は、勾配正則化技術は、ノイズの多い摂動に対するディープラーニングモデルの堅牢性を著しく向上させることができることを示唆している。 本稿では,騒音摂動に対する試験誤差とロバスト性の両方を改善することの有効性を理論的に示す。 解析の結果,PEGRはパターン学習の分散をペナルティ化し,学習データからの雑音の記憶を効果的に抑制することがわかった。
  論文  参考訳（メタデータ） (2023-03-31T10:08:23Z)
• Gradient Mask: Lateral Inhibition Mechanism Improves Performance in Artificial Neural Networks [5.591477512580285]
  バックプロパゲーションにおける雑音勾配を効果的にフィルタするグラディエントマスクを提案する。 これにより、学習した特徴情報をネットワークにより集中的に格納できる。 ニューラルネットワークにおける横方向の抑制が、伝播勾配の品質をいかに改善するかを解析的に示す。
  論文  参考訳（メタデータ） (2022-08-14T20:55:50Z)
• On the Robustness and Generalization of Deep Learning Driven Full Waveform Inversion [2.5382095320488665]
  フルウェーブフォーム・インバージョン(FWI)は画像から画像への変換タスクとして一般的にエピトマイズされる。 合成データでトレーニングされているにもかかわらず、ディープラーニング駆動のFWIは、十分な実世界のデータで評価すると、良好に動作することが期待されている。 これらのディープニューラルネットワークはどの程度堅牢で、どのように一般化されているのか?
  論文  参考訳（メタデータ） (2021-11-28T19:27:59Z)
• Backward Gradient Normalization in Deep Neural Networks [68.8204255655161]
  ニューラルネットワークトレーニングにおける勾配正規化のための新しい手法を提案する。 勾配は、ネットワークアーキテクチャ内の特定の点で導入された正規化レイヤを使用して、後方通過中に再スケールされる。 非常に深いニューラルネットワークを用いたテストの結果、新しい手法が勾配ノルムを効果的に制御できることが示されている。
  論文  参考訳（メタデータ） (2021-06-17T13:24:43Z)
• SignalNet: A Low Resolution Sinusoid Decomposition and Estimation Network [79.04274563889548]
  本稿では,正弦波数を検出するニューラルネットワークアーキテクチャであるSignalNetを提案する。 基礎となるデータ分布と比較して,ネットワークの結果を比較するための最悪の学習しきい値を導入する。 シミュレーションでは、我々のアルゴリズムは常に3ビットデータのしきい値を超えることができるが、しばしば1ビットデータのしきい値を超えることはできない。
  論文  参考訳（メタデータ） (2021-06-10T04:21:20Z)
• Topological obstructions in neural networks learning [67.8848058842671]
  損失勾配関数フローのグローバル特性について検討する。 損失関数とそのモースコンプレックスの位相データ解析を用いて,損失面の大域的特性と勾配軌道に沿った局所的挙動を関連付ける。
  論文  参考訳（メタデータ） (2020-12-31T18:53:25Z)
• Understanding and Diagnosing Vulnerability under Adversarial Attacks [62.661498155101654]
  ディープニューラルネットワーク(DNN)は敵の攻撃に弱いことが知られている。 本稿では,潜在変数の分類に使用される特徴を説明するために,新しい解釈可能性手法であるInterpretGANを提案する。 また、各層がもたらす脆弱性を定量化する最初の診断方法も設計する。
  論文  参考訳（メタデータ） (2020-07-17T01:56:28Z)
• Beyond Dropout: Feature Map Distortion to Regularize Deep Neural Networks [107.77595511218429]
  本稿では,ディープニューラルネットワークの中間層に関連する実験的なRademacher複雑性について検討する。 上記の問題に対処するための特徴歪み法(Disout)を提案する。 より高い試験性能を有するディープニューラルネットワークを作製するための特徴写像歪みの優位性を解析し、実証した。
  論文  参考訳（メタデータ） (2020-02-23T13:59:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。