論文の概要: Neural Network Attribution Methods for Problems in Geoscience: A Novel Synthetic Benchmark Dataset

• arxiv url: http://arxiv.org/abs/2103.10005v1
• Date: Thu, 18 Mar 2021 03:39:17 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-20 04:08:50.621905
• Title: Neural Network Attribution Methods for Problems in Geoscience: A Novel Synthetic Benchmark Dataset
• Title（参考訳）: ジオサイエンス問題に対するニューラルネットワークの帰属法--新しい合成ベンチマークデータセット
• Authors: Antonios Mamalakis, Imme Ebert-Uphoff and Elizabeth A. Barnes
• Abstract要約: 我々は、地質科学における回帰問題に対するアトリビューションベンチマークデータセットを生成するフレームワークを提供する。 シミュレーションの基盤となる機能を学ぶために、完全に接続されたネットワークを訓練する。 異なるXAI手法から得られた推定帰属ヒートマップと基底真理を比較して,特定のXAI手法が良好に機能する事例を同定する。
• 参考スコア（独自算出の注目度）: 0.05156484100374058
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite the increasingly successful application of neural networks to many problems in the geosciences, their complex and nonlinear structure makes the interpretation of their predictions difficult, which limits model trust and does not allow scientists to gain physical insights about the problem at hand. Many different methods have been introduced in the emerging field of eXplainable Artificial Intelligence (XAI), which aim at attributing the network's prediction to specific features in the input domain. XAI methods are usually assessed by using benchmark datasets (like MNIST or ImageNet for image classification), or through deletion/insertion techniques. In either case, however, an objective, theoretically-derived ground truth for the attribution is lacking, making the assessment of XAI in many cases subjective. Also, benchmark datasets for problems in geosciences are rare. Here, we provide a framework, based on the use of additively separable functions, to generate attribution benchmark datasets for regression problems for which the ground truth of the attribution is known a priori. We generate a long benchmark dataset and train a fully-connected network to learn the underlying function that was used for simulation. We then compare estimated attribution heatmaps from different XAI methods to the ground truth in order to identify examples where specific XAI methods perform well or poorly. We believe that attribution benchmarks as the ones introduced herein are of great importance for further application of neural networks in the geosciences, and for accurate implementation of XAI methods, which will increase model trust and assist in discovering new science.
• Abstract（参考訳）: ニューラルネットワークの地球科学における多くの問題への応用がますます成功したにもかかわらず、その複雑で非線形な構造は、彼らの予測の解釈を困難にしている。 ネットワークの予測を入力領域の特定の特徴に関連付けることを目的とした、説明可能な人工知能(xai)の新興分野において、多くの異なる手法が導入されている。 XAIメソッドは通常、ベンチマークデータセット(画像分類のMNISTやImageNetなど)や削除/挿入技術によって評価される。 しかしいずれの場合も、帰属に対する客観的、理論的に派生した根拠真理は欠落しており、多くの場合、XAIの評価は主観的である。 また、地理科学における問題のためのベンチマークデータセットもまれである。 本稿では,帰納的帰属問題に対する帰属ベンチマークデータセットを生成するために,帰属的分別関数を用いた枠組みを提案する。 長いベンチマークデータセットを生成し、完全に接続されたネットワークをトレーニングし、シミュレーションに使用された基礎関数を学習します。 次に,異なるXAI手法から得られた推定帰属ヒートマップと基底真理を比較して,特定のXAI手法が良好に機能する事例を同定する。 ここで紹介される属性ベンチマークは、地学におけるニューラルネットワークのさらなる応用や、モデルの信頼性を高め、新しい科学の発見を支援するXAI手法の正確な実装において非常に重要であると信じている。

関連論文リスト

• Explainable AI for Comparative Analysis of Intrusion Detection Models [20.683181384051395]
  本研究は,ネットワークトラフィックから侵入検出を行うために,各種機械学習モデルを二分分類および多クラス分類のタスクに解析する。 すべてのモデルをUNSW-NB15データセットで90%の精度でトレーニングしました。 また、Random Forestは正確さ、時間効率、堅牢性という点で最高のパフォーマンスを提供します。
  論文  参考訳（メタデータ） (2024-06-14T03:11:01Z)
• On Discprecncies between Perturbation Evaluations of Graph Neural Network Attributions [49.8110352174327]
  我々は、グラフ領域で以前に検討されていない視点から帰属法を評価する:再学習。 中心となる考え方は、属性によって識別される重要な(あるいは重要でない)関係でネットワークを再訓練することである。 我々は4つの最先端GNN属性法と5つの合成および実世界のグラフ分類データセットについて分析を行った。
  論文  参考訳（メタデータ） (2024-01-01T02:03:35Z)
• Finding the right XAI method -- A Guide for the Evaluation and Ranking of Explainable AI Methods in Climate Science [2.8877394238963214]
  気候の文脈でXAI評価を導入し、異なる所望の説明特性について論じる。 XAI法では, 階層的関係伝播, 入力時間勾配が, 強靭性, 忠実性, 複雑度を示すことがわかった。 XAI手法のロバスト性,複雑性,ローカライゼーションスキルに関して,アーキテクチャに依存した性能差がみられた。
  論文  参考訳（メタデータ） (2023-03-01T16:54:48Z)
• Revisit the Algorithm Selection Problem for TSP with Spatial Information Enhanced Graph Neural Networks [4.084365114504618]
  本稿では,ユークリッド旅行セールスマン問題(TSP)のアルゴリズム選択問題を再検討する。 我々はGINESと呼ばれる新しいグラフニューラルネットワーク(GNN)を提案する。 GINESは都市の座標と都市間の距離を入力として取ります。 これは、1つのデータセットにおける従来の手作りの機能ベースのアプローチよりも優れている。
  論文  参考訳（メタデータ） (2023-02-08T13:14:20Z)
• Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
  我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。 GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
  論文  参考訳（メタデータ） (2023-02-06T16:38:43Z)
• Carefully choose the baseline: Lessons learned from applying XAI attribution methods for regression tasks in geoscience [0.02578242050187029]
  eXplainable Artificial Intelligence (XAI) の手法は、ニューラルネットワーク(NN)の意思決定戦略に関する洞察を得るために、地球科学的応用に用いられている。 そこで本研究では,入力に対する予測に起因するタスクには,単一解が存在しないことについて論じる。 本研究は,異なる理科の質問に対する回答に対応するため,異なる基礎性を考えると,属性が著しく異なることを示す。
  論文  参考訳（メタデータ） (2022-08-19T17:54:24Z)
• Inducing Gaussian Process Networks [80.40892394020797]
  本稿では,特徴空間と誘導点を同時に学習するシンプルなフレームワークであるGaussian Process Network (IGN)を提案する。 特に誘導点は特徴空間で直接学習され、複雑な構造化領域のシームレスな表現を可能にする。 実世界のデータセットに対する実験結果から,IGNは最先端の手法よりも大幅に進歩していることを示す。
  論文  参考訳（メタデータ） (2022-04-21T05:27:09Z)
• Distributionally Robust Semi-Supervised Learning Over Graphs [68.29280230284712]
  グラフ構造化データに対する半教師付き学習(SSL)は、多くのネットワークサイエンスアプリケーションに現れる。 グラフ上の学習を効率的に管理するために,近年,グラフニューラルネットワーク(GNN)の変種が開発されている。 実際に成功したにも拘わらず、既存の手法のほとんどは、不確実な結節属性を持つグラフを扱うことができない。 ノイズ測定によって得られたデータに関連する分布の不確実性によっても問題が発生する。 分散ロバストな学習フレームワークを開発し,摂動に対する定量的ロバスト性を示すモデルを訓練する。
  論文  参考訳（メタデータ） (2021-10-20T14:23:54Z)
• Model-Based Deep Learning [155.063817656602]
  信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。 ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。 私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
  論文  参考訳（メタデータ） (2020-12-15T16:29:49Z)
• Fast Learning of Graph Neural Networks with Guaranteed Generalizability: One-hidden-layer Case [93.37576644429578]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データから実際に学習する上で、近年大きな進歩を遂げている。 回帰問題と二項分類問題の両方に隠れ層を持つGNNの理論的に基底的な一般化可能性解析を行う。
  論文  参考訳（メタデータ） (2020-06-25T00:45:52Z)
• Ground Truth Evaluation of Neural Network Explanations with CLEVR-XAI [12.680653816836541]
  我々は,CLEVR視覚質問応答タスクに基づくXAI手法の基盤的真理に基づく評価フレームワークを提案する。 本フレームワークは,(1)選択的,(2)制御,(3)リアルなテストベッドをニューラルネットワークの説明評価のために提供する。
  論文  参考訳（メタデータ） (2020-03-16T14:43:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。