論文の概要: Fine-Grained Neural Network Explanation by Identifying Input Features with Predictive Information

• arxiv url: http://arxiv.org/abs/2110.01471v1
• Date: Mon, 4 Oct 2021 14:13:42 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-05 15:46:26.453766
• Title: Fine-Grained Neural Network Explanation by Identifying Input Features with Predictive Information
• Title（参考訳）: 予測情報を用いた入力特徴の同定によるきめ細かいニューラルネットワーク説明
• Authors: Yang Zhang, Ashkan Khakzar, Yawei Li, Azade Farshad, Seong Tae Kim, Nassir Navab
• Abstract要約: 入力領域における予測情報を用いて特徴を識別する手法を提案する。 我々の手法の中核となる考え方は、予測潜在機能に関連する入力機能のみを通過させる入力のボトルネックを活用することである。
• 参考スコア（独自算出の注目度）: 53.28701922632817
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: One principal approach for illuminating a black-box neural network is feature attribution, i.e. identifying the importance of input features for the network's prediction. The predictive information of features is recently proposed as a proxy for the measure of their importance. So far, the predictive information is only identified for latent features by placing an information bottleneck within the network. We propose a method to identify features with predictive information in the input domain. The method results in fine-grained identification of input features' information and is agnostic to network architecture. The core idea of our method is leveraging a bottleneck on the input that only lets input features associated with predictive latent features pass through. We compare our method with several feature attribution methods using mainstream feature attribution evaluation experiments. The code is publicly available.
• Abstract（参考訳）: ブラックボックスニューラルネットワークを照らす主要なアプローチの1つは、特徴属性、すなわち、ネットワークの予測に対する入力特徴の重要性を特定することである。 特徴の予測情報は近年,その重要性の指標として提案されている。 これまでのところ、予測情報は、ネットワーク内に情報ボトルネックを置くことで、潜在機能に対してのみ識別される。 入力領域における予測情報を用いて特徴を識別する手法を提案する。 本手法は入力特徴情報のきめ細かな識別を行い,ネットワークアーキテクチャに依存しない。 提案手法の核となる考え方は入力のボトルネックを生かして,予測潜在機能に関連する入力機能のみを通過させることである。 本手法は, 主観的特徴帰属評価実験を用いて, いくつかの特徴帰属法と比較した。 コードは公開されている。

関連論文リスト

• A Rate-Distortion View of Uncertainty Quantification [36.85921945174863]
  教師付き学習では、入力がトレーニングデータに近接していることを理解することは、モデルが信頼できる予測に達する十分な証拠を持っているかどうかを判断するのに役立つ。 本稿では,この特性でディープニューラルネットワークを強化するための新しい手法であるDistance Aware Bottleneck (DAB)を紹介する。
  論文  参考訳（メタデータ） (2024-06-16T01:33:22Z)
• Automatic Input Feature Relevance via Spectral Neural Networks [0.9236074230806581]
  本稿では,ディープニューラルネットワークにおける入力成分の相対的重要性を推定する新しい手法を提案する。 これは最適化プロセスのスペクトル再パラメータ化を活用することで達成される。 この手法は、合成データと実データの両方に対してうまく挑戦されている。
  論文  参考訳（メタデータ） (2024-06-03T10:39:12Z)
• Tractable Function-Space Variational Inference in Bayesian Neural Networks [72.97620734290139]
  ニューラルネットワークの予測不確かさを推定するための一般的なアプローチは、ネットワークパラメータに対する事前分布を定義することである。 本稿では,事前情報を組み込むスケーラブルな関数空間変動推論手法を提案する。 提案手法は,様々な予測タスクにおいて,最先端の不確実性評価と予測性能をもたらすことを示す。
  論文  参考訳（メタデータ） (2023-12-28T18:33:26Z)
• Provable Data Subset Selection For Efficient Neural Network Training [73.34254513162898]
  本稿では,任意の放射基底関数ネットワーク上での入力データの損失を近似する,emphRBFNNのコアセットを構成するアルゴリズムについて紹介する。 次に、一般的なネットワークアーキテクチャやデータセット上で、関数近似とデータセットサブセットの選択に関する経験的評価を行う。
  論文  参考訳（メタデータ） (2023-03-09T10:08:34Z)
• Representation Learning for Sequence Data with Deep Autoencoding Predictive Components [96.42805872177067]
  本稿では,シーケンスデータの有用な表現が潜在空間における単純な構造を示すべきという直感に基づく,シーケンスデータの自己教師型表現学習法を提案する。 我々は,過去と将来のウィンドウ間の相互情報である潜在特徴系列の予測情報を最大化することにより,この潜時構造を奨励する。 提案手法は,ノイズの多い動的システムの潜時空間を復元し,タスク予測のための予測特徴を抽出し,エンコーダを大量の未ラベルデータで事前訓練する場合に音声認識を改善する。
  論文  参考訳（メタデータ） (2020-10-07T03:34:01Z)
• From Handcrafted to Deep Features for Pedestrian Detection: A Survey [148.35460817092908]
  歩行者検出はコンピュータビジョンにおいて重要であるが難しい問題である。 過去10年間で、手作りの機能と深い機能によって、大幅な改善が見られた。 単スペクトル歩行者検出に加えて,多スペクトル歩行者検出も検討した。
  論文  参考訳（メタデータ） (2020-10-01T14:51:10Z)
• Counterfactual Explanation Based on Gradual Construction for Deep Networks [17.79934085808291]
  深層ネットワークがトレーニングデータセットから学んだパターンは、様々なクラスの特徴の変化を観察して把握することができる。 現在のアプローチでは、ディープネットワークの内部特性に関係なく、ターゲットクラスの分類確率を高めるために、特徴修正を行う。 本稿では,トレーニングデータセットから得られた統計情報を利用した実例説明手法を提案する。
  論文  参考訳（メタデータ） (2020-08-05T01:18:31Z)
• Detecting unusual input to neural networks [0.48733623015338234]
  本研究では,学習パラメータと比較して情報内容を評価することによって,入力の特異性を判定する手法を提案する。 この手法は、ある入力を処理するのにネットワークが適しているかどうかを判断し、予期せぬ振る舞いが先延ばしになるような赤い旗を掲げるために使用することができる。
  論文  参考訳（メタデータ） (2020-06-15T10:48:43Z)
• Learning to Ask Medical Questions using Reinforcement Learning [9.376814468000955]
  強化学習エージェントは、アンマストすべき特定の特徴を反復的に選択し、十分な自信のある結果を予測する。 提案手法の重要な構成要素は、選択した特徴から得られる結果を予測し、報酬関数をパラメータ化するように訓練された推測ネットワークである。 本手法を全国調査データセットに適用することにより,少数の入力特徴に基づいて予測を行う必要のある場合,高いベースラインを達成できるだけでなく,解釈性も高いことを示す。
  論文  参考訳（メタデータ） (2020-03-31T18:21:46Z)
• Forgetting Outside the Box: Scrubbing Deep Networks of Information Accessible from Input-Output Observations [143.3053365553897]
  本稿では、訓練された深層ネットワークからトレーニングデータのコホートへの依存を取り除く手順について述べる。 忘れられたコホートについて,クエリ毎にどれだけの情報を取り出すことができるか,という新たな境界を導入する。 我々は,ニューラルタンジェントカーネルにインスパイアされたDNNのアクティベーションとウェイトダイナミクスの接続を利用して,アクティベーションの情報を計算する。
  論文  参考訳（メタデータ） (2020-03-05T23:17:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。