論文の概要: Challenging the Black Box: A Comprehensive Evaluation of Attribution Maps of CNN Applications in Agriculture and Forestry

• arxiv url: http://arxiv.org/abs/2402.11670v1
• Date: Sun, 18 Feb 2024 18:16:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-20 19:44:45.198007
• Title: Challenging the Black Box: A Comprehensive Evaluation of Attribution Maps of CNN Applications in Agriculture and Forestry
• Title（参考訳）: ブラックボックスへの挑戦:農業と林業におけるcnn応用の帰属マップの包括的評価
• Authors: Lars Nieradzik, Henrike Stephani, J\"ordis Sieburg-Rockel, Stephanie Helmling, Andrea Olbrich, Janis Keuper
• Abstract要約: 本研究では,農業・林業におけるニューラルネットワークの説明可能性,特に肥料処理の分類と木材の識別について検討する。 これらのモデルの不透明な性質は、しばしば「ブラックボックス」と見なされ、最先端の属性マップ(AM)の広範囲な評価によって解決される。 調査の結果、AMは重要な機能を一貫して強調しておらず、ドメインの専門家が重要とみなす機能と誤解することが多いことが判明した。
• 参考スコア（独自算出の注目度）: 6.10969099552658
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this study, we explore the explainability of neural networks in agriculture and forestry, specifically in fertilizer treatment classification and wood identification. The opaque nature of these models, often considered 'black boxes', is addressed through an extensive evaluation of state-of-the-art Attribution Maps (AMs), also known as class activation maps (CAMs) or saliency maps. Our comprehensive qualitative and quantitative analysis of these AMs uncovers critical practical limitations. Findings reveal that AMs frequently fail to consistently highlight crucial features and often misalign with the features considered important by domain experts. These discrepancies raise substantial questions about the utility of AMs in understanding the decision-making process of neural networks. Our study provides critical insights into the trustworthiness and practicality of AMs within the agriculture and forestry sectors, thus facilitating a better understanding of neural networks in these application areas.
• Abstract（参考訳）: 本研究では,農業・林業におけるニューラルネットワークの説明可能性,特に肥料処理の分類と木材識別について検討する。 しばしば「ブラックボックス」と見なされるこれらのモデルの不透明な性質は、クラスアクティベーションマップ(cams)またはサリエンシーマップ(saliency maps)として知られる最先端のアトリビューションマップ(ams)の広範な評価を通じて解決される。 これらのAMの包括的質的および定量的分析により、重要な実用的限界が明らかになった。 発見によると、AMは重要な機能を一貫して強調しておらず、ドメインの専門家が重要とみなす機能と誤認することが多い。 これらの相違は、ニューラルネットワークの意思決定プロセスを理解する上でのAMの有用性に関する重大な疑問を引き起こす。 本研究は,農業・林業分野におけるamsの信頼性と実用性に関する重要な知見を提供し,これらの応用分野におけるニューラルネットワークの理解を深める。

関連論文リスト

• Explaining Deep Neural Networks by Leveraging Intrinsic Methods [0.9790236766474201]
  この論文はeXplainable AIの分野に貢献し、ディープニューラルネットワークの解釈可能性の向上に重点を置いている。 中心となる貢献は、これらのネットワークをより解釈しやすくすることを目的とした新しい技術の導入である。 第2に、この研究は、訓練された深層ニューラルネットワーク内のニューロンに関する新しい研究を掘り下げ、その活性化値に関連する見過ごされた現象に光を当てた。
  論文  参考訳（メタデータ） (2024-07-17T01:20:17Z)
• Assessing biomedical knowledge robustness in large language models by query-efficient sampling attacks [0.6282171844772422]
  大規模言語モデル(LLM)におけるパラメトリックドメイン知識の深化は、現実世界のアプリケーションへの迅速な展開を加速させている。 近年、自然言語処理タスクの逆例として命名されたエンティティが発見され、事前訓練されたLLMの知識の堅牢性に対するそれらの潜在的な影響に関する疑問が提起されている。 バイオメディカル知識のロバスト性を評価するために,パワースケール距離重み付きサンプリングに基づく埋め込み空間攻撃を開発した。
  論文  参考訳（メタデータ） (2024-02-16T09:29:38Z)
• Polar-Net: A Clinical-Friendly Model for Alzheimer's Disease Detection in OCTA Images [53.235117594102675]
  オプティカルコヒーレンス・トモグラフィーは、網膜微小血管の画像化によってアルツハイマー病(AD)を検出するための有望なツールである。 我々はPolar-Netと呼ばれる新しいディープラーニングフレームワークを提案し、解釈可能な結果を提供し、臨床上の事前知識を活用する。 Polar-Netは既存の最先端の手法よりも優れており,網膜血管変化とADとの関連性について,より貴重な病理学的証拠を提供する。
  論文  参考訳（メタデータ） (2023-11-10T11:49:49Z)
• A Survey on Transferability of Adversarial Examples across Deep Neural Networks [53.04734042366312]
  逆の例では、機械学習モデルを操作して誤った予測を行うことができます。 敵の例の転送可能性により、ターゲットモデルの詳細な知識を回避できるブラックボックス攻撃が可能となる。 本研究は, 対角移動可能性の展望を考察した。
  論文  参考訳（メタデータ） (2023-10-26T17:45:26Z)
• DARE: Towards Robust Text Explanations in Biomedical and Healthcare Applications [54.93807822347193]
  帰属ロバスト性評価手法を与えられたドメインに適応させ、ドメイン固有の妥当性を考慮する方法を示す。 次に,DAREが特徴とする脆さを軽減するために,対人訓練とFAR訓練の2つの方法を提案する。 最後に,確立した3つのバイオメディカル・ベンチマークを用いて実験を行い,本手法を実証的に検証した。
  論文  参考訳（メタデータ） (2023-07-05T08:11:40Z)
• EvalAttAI: A Holistic Approach to Evaluating Attribution Maps in Robust and Non-Robust Models [0.3425341633647624]
  本稿では、ロバストニューラルネットワークがより説明しやすいかどうかを調べるために、属性マッピングの評価方法に焦点を当てる。 従来の指標の限界に対処する新しい説明可能性忠実度指標(EvalAttAI)を提案する。
  論文  参考訳（メタデータ） (2023-03-15T18:33:22Z)
• A Comprehensive Survey on Community Detection with Deep Learning [93.40332347374712]
  コミュニティは、ネットワーク内の他のコミュニティと異なるメンバーの特徴と接続を明らかにする。 この調査は、最先端の手法の様々なカテゴリをカバーする新しい分類法を考案し、提案する。 ディープニューラルネットワーク(Deep Neural Network)は、畳み込みネットワーク(convolutional network)、グラフアテンションネットワーク( graph attention network)、生成的敵ネットワーク(generative adversarial network)、オートエンコーダ(autoencoder)に分けられる。
  論文  参考訳（メタデータ） (2021-05-26T14:37:07Z)
• Deep Reinforced Attention Learning for Quality-Aware Visual Recognition [73.15276998621582]
  我々は,任意の畳み込みニューラルネットワークにおける中間注意マップの弱教師付き生成機構を構築した。 メタ批評家ネットワークを導入し、メインネットワークにおける注目マップの質を評価する。
  論文  参考訳（メタデータ） (2020-07-13T02:44:38Z)
• Hold me tight! Influence of discriminative features on deep network boundaries [63.627760598441796]
  本稿では,データセットの特徴と,サンプルから決定境界までの距離を関連付ける新しい視点を提案する。 これにより、トレーニングサンプルの位置を慎重に調整し、大規模ビジョンデータセットでトレーニングされたCNNの境界における誘発された変化を測定することができる。
  論文  参考訳（メタデータ） (2020-02-15T09:29:36Z)
• Feature Importance Estimation with Self-Attention Networks [0.0]
  ブラックボックスニューラルネットワークモデルは、産業や科学で広く使われているが、理解と解釈が難しい。 近年,ニューラルネットワークモデルの内部動作に関する洞察を提供するアテンションメカニズムが導入されている。 本稿では、命題(タブラル)データから得られたモデルを説明する手段として、注目に基づくニューラルネットワーク機構を用いて特徴重要度を推定する。
  論文  参考訳（メタデータ） (2020-02-11T15:15:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。