Fugu-MT 論文翻訳(概要): Perturbation on Feature Coalition: Towards Interpretable Deep Neural Networks

論文の概要: Perturbation on Feature Coalition: Towards Interpretable Deep Neural Networks

arxiv url: http://arxiv.org/abs/2408.13397v1
Date: Fri, 23 Aug 2024 22:44:21 GMT
ステータス: 処理完了
システム内更新日: 2024-08-27 19:39:20.451143
Title: Perturbation on Feature Coalition: Towards Interpretable Deep Neural Networks
Title（参考訳）: 特徴結合の摂動:解釈可能なディープニューラルネットワークを目指して
Authors: Xuran Hu, Mingzhe Zhu, Zhenpeng Feng, Miloš Daković, Ljubiša Stanković,
Abstract要約: ディープニューラルネットワーク(DNN)の“ブラックボックス”という性質は、透明性と信頼性を損なう。本稿では,ネットワークの深い情報を利用して相関した特徴を抽出する,特徴連立による摂動に基づく解釈を提案する。
参考スコア（独自算出の注目度）: 0.1398098625978622
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The inherent "black box" nature of deep neural networks (DNNs) compromises their transparency and reliability. Recently, explainable AI (XAI) has garnered increasing attention from researchers. Several perturbation-based interpretations have emerged. However, these methods often fail to adequately consider feature dependencies. To solve this problem, we introduce a perturbation-based interpretation guided by feature coalitions, which leverages deep information of network to extract correlated features. Then, we proposed a carefully-designed consistency loss to guide network interpretation. Both quantitative and qualitative experiments are conducted to validate the effectiveness of our proposed method. Code is available at github.com/Teriri1999/Perturebation-on-Feature-Coalition.
Abstract（参考訳）: ディープニューラルネットワーク(DNN)の固有の“ブラックボックス”の性質は、その透明性と信頼性を損なう。近年、説明可能なAI(XAI)が研究者の注目を集めている。いくつかの摂動に基づく解釈が出現している。しかしながら、これらのメソッドは、しばしば機能の依存関係を適切に考慮しない。この問題を解決するために,ネットワークの深い情報を利用して相関した特徴を抽出する,特徴連立による摂動に基づく解釈を導入する。そこで我々は,ネットワーク解釈のガイドとして,慎重に設計した一貫性損失を提案する。本手法の有効性を検証するために,定量的および定性的な実験を行った。コードはgithub.com/Teriri 1999/Perturebation-on-Feature-Coalitionで入手できる。

関連論文リスト

Negative Flux Aggregation to Estimate Feature Attributions [15.411534490483495]
セキュリティや透明性の懸念が高まる中で、ディープニューラルネットワーク(DNN)の動作を理解する必要性が高まっている。 DNNの説明可能性を高めるために,分岐とフラックスを用いた予測課題に対する入力特徴の属性を推定する。ベクトル解析における発散定理に着想を得て,新しい負フラックス凝集法(NeFLAG)の定式化と,帰属写像を推定するための効率的な近似アルゴリズムを開発した。
論文参考訳（メタデータ） (2023-01-17T16:19:41Z)
Information Removal at the bottleneck in Deep Neural Networks [3.1473798197405944]
我々は,ディープニューラルネットワークのボトルネックにおいて情報除去を実現する手法であるIRENEを提案する。合成データセットとCelebAの実験により,提案手法の有効性が検証された。
論文参考訳（メタデータ） (2022-09-30T14:20:21Z)
A neural anisotropic view of underspecification in deep learning [60.119023683371736]
ニューラルネットが問題の未特定化を扱う方法が,データ表現に大きく依存していることを示す。深層学習におけるアーキテクチャ的インダクティブバイアスの理解は,これらのシステムの公平性,堅牢性,一般化に対処する上で基本的であることを強調した。
論文参考訳（メタデータ） (2021-04-29T14:31:09Z)
Multivariate Deep Evidential Regression [77.34726150561087]
不確実性を認識するニューラルネットワークによる新しいアプローチは、従来の決定論的手法よりも有望である。本稿では,レグレッションベースニューラルネットワークからアレータ性およびてんかん性不確かさを抽出する手法を提案する。
論文参考訳（メタデータ） (2021-04-13T12:20:18Z)
Ada-SISE: Adaptive Semantic Input Sampling for Efficient Explanation of Convolutional Neural Networks [26.434705114982584]
畳み込みニューラルネットワークの効率的な解釈手法を提案する。実験の結果,提案手法は実行時間を最大30%削減できることがわかった。
論文参考訳（メタデータ） (2021-02-15T19:10:00Z)
Making Neural Networks Interpretable with Attribution: Application to Implicit Signals Prediction [11.427019313283997]
本稿では,属性処理のための解釈可能なディープニューラルネットワークの新たな定式化を提案する。マスク付きの重量を使って隠れた特徴を深く評価し、いくつかの入力制限されたサブネットワークに分割し、専門家の強化された混合として訓練する。
論文参考訳（メタデータ） (2020-08-26T06:46:49Z)
How Much Can I Trust You? -- Quantifying Uncertainties in Explaining Neural Networks [19.648814035399013]
説明可能なAI(XAI)は、ディープニューラルネットワークなどの学習マシンが生成した予測の解釈を提供することを目的としている。ニューラルネットワークの任意の説明法をベイズニューラルネットワークの説明法に変換するための新しいフレームワークを提案する。様々な実験において,本手法の有効性と有用性を示す。
論文参考訳（メタデータ） (2020-06-16T08:54:42Z)
Binary Neural Networks: A Survey [126.67799882857656]
バイナリニューラルネットワークは、リソース制限されたデバイスにディープモデルをデプロイするための有望なテクニックとして機能する。バイナライゼーションは必然的に深刻な情報損失を引き起こし、さらに悪いことに、その不連続性はディープネットワークの最適化に困難をもたらす。本稿では,2項化を直接実施するネイティブソリューションと,量子化誤差の最小化,ネットワーク損失関数の改善,勾配誤差の低減といった手法を用いて,これらのアルゴリズムを探索する。
論文参考訳（メタデータ） (2020-03-31T16:47:20Z)
Forgetting Outside the Box: Scrubbing Deep Networks of Information Accessible from Input-Output Observations [143.3053365553897]
本稿では、訓練された深層ネットワークからトレーニングデータのコホートへの依存を取り除く手順について述べる。忘れられたコホートについて,クエリ毎にどれだけの情報を取り出すことができるか,という新たな境界を導入する。我々は,ニューラルタンジェントカーネルにインスパイアされたDNNのアクティベーションとウェイトダイナミクスの接続を利用して,アクティベーションの情報を計算する。
論文参考訳（メタデータ） (2020-03-05T23:17:35Z)
Beyond Dropout: Feature Map Distortion to Regularize Deep Neural Networks [107.77595511218429]
本稿では,ディープニューラルネットワークの中間層に関連する実験的なRademacher複雑性について検討する。上記の問題に対処するための特徴歪み法(Disout)を提案する。より高い試験性能を有するディープニューラルネットワークを作製するための特徴写像歪みの優位性を解析し、実証した。
論文参考訳（メタデータ） (2020-02-23T13:59:13Z)
Hold me tight! Influence of discriminative features on deep network boundaries [63.627760598441796]
本稿では,データセットの特徴と,サンプルから決定境界までの距離を関連付ける新しい視点を提案する。これにより、トレーニングサンプルの位置を慎重に調整し、大規模ビジョンデータセットでトレーニングされたCNNの境界における誘発された変化を測定することができる。
論文参考訳（メタデータ） (2020-02-15T09:29:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。