論文の概要: Trainable Noise Model as an XAI evaluation method: application on Sobol
for remote sensing image segmentation
- arxiv url: http://arxiv.org/abs/2310.01828v2
- Date: Sat, 25 Nov 2023 13:35:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-30 14:27:34.023537
- Title: Trainable Noise Model as an XAI evaluation method: application on Sobol
for remote sensing image segmentation
- Title（参考訳）: xai評価手法としてのトレーサブルノイズモデル:リモートセンシング画像セグメンテーションにおけるsobolの適用
- Authors: Hossein Shreim, Abdul Karim Gizzini and Ali J. Ghandour
- Abstract要約: 本稿では,セマンティックセグメンテーションのためのグラデーションフリーなSobol XAI法を適用する。
3つのXAI手法の性能評価と比較のためにベンチマーク分析を行った。
- 参考スコア（独自算出の注目度）: 0.5735035463793009
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: eXplainable Artificial Intelligence (XAI) has emerged as an essential
requirement when dealing with mission-critical applications, ensuring
transparency and interpretability of the employed black box AI models. The
significance of XAI spans various domains, from healthcare to finance, where
understanding the decision-making process of deep learning algorithms is
essential. Most AI-based computer vision models are often black boxes; hence,
providing explainability of deep neural networks in image processing is crucial
for their wide adoption and deployment in medical image analysis, autonomous
driving, and remote sensing applications. Recently, several XAI methods for
image classification tasks have been introduced. On the contrary, image
segmentation has received comparatively less attention in the context of
explainability, although it is a fundamental task in computer vision
applications, especially in remote sensing. Only some research proposes
gradient-based XAI algorithms for image segmentation. This paper adapts the
recent gradient-free Sobol XAI method for semantic segmentation. To measure the
performance of the Sobol method for segmentation, we propose a quantitative XAI
evaluation method based on a learnable noise model. The main objective of this
model is to induce noise on the explanation maps, where higher induced noise
signifies low accuracy and vice versa. A benchmark analysis is conducted to
evaluate and compare performance of three XAI methods, including Seg-Grad-CAM,
Seg-Grad-CAM++ and Seg-Sobol using the proposed noise-based evaluation
technique. This constitutes the first attempt to run and evaluate XAI methods
using high-resolution satellite images.
- Abstract（参考訳）: eXplainable Artificial Intelligence(XAI)は、ミッションクリティカルなアプリケーションを扱う上で必須の要件として現れ、採用されているブラックボックスAIモデルの透明性と解釈性を保証する。
XAIの重要性は、医療から金融まで様々な分野に及び、ディープラーニングアルゴリズムの意思決定プロセスを理解することが不可欠である。
ほとんどのAIベースのコンピュータビジョンモデルはブラックボックスであることが多いため、画像処理におけるディープニューラルネットワークの説明可能性を提供することは、医療画像分析、自律運転、リモートセンシングアプリケーションにおいて広く採用および展開するために重要である。
近年,画像分類タスクのためのXAI手法がいくつか紹介されている。
対照的に、画像分割は説明可能性の文脈では比較的注目されていないが、コンピュータビジョンアプリケーション、特にリモートセンシングでは基本的なタスクである。
画像セグメンテーションのための勾配に基づくXAIアルゴリズムを提案する研究はほとんどない。
本稿では,最近のソボルXAI法をセマンティックセグメンテーションに適用する。
セグメンテーションのためのSobol法の性能を測定するために,学習可能な雑音モデルに基づく定量的XAI評価法を提案する。
このモデルの主な目的は、高次誘導雑音が低精度かつその逆を意味する説明地図上でノイズを誘導することである。
提案手法を用いて,Seg-Grad-CAM,Seg-Grad-CAM++,Seg-Sobolの3つのXAI手法の性能評価と評価を行う。
これは、高解像度衛星画像を用いてXAI法を実行・評価する最初の試みである。
関連論文リスト
- Underwater SONAR Image Classification and Analysis using LIME-based Explainable Artificial Intelligence [0.0]
本稿では,水中画像分類結果の解釈に,eXplainable Artificial Intelligence (XAI)ツールの適用について検討する。
ベンチマーク畳み込みニューラルネットワーク(CNN)アーキテクチャを用いた画像分類のための転写学習手法の広範な解析を行う。
XAIのテクニックは、結果の解釈可能性をより人間に準拠した方法で強調することで、信頼性と信頼性を高めます。
論文 参考訳（メタデータ） (2024-08-23T04:54:18Z) - Explainable AI for Enhancing Efficiency of DL-based Channel Estimation [1.0136215038345013]
人工知能に基づく意思決定のサポートは、将来の6Gネットワークの重要な要素である。
このようなアプリケーションでは、ブラックボックスモデルとしてAIを使用するのは危険で難しい。
本稿では,無線通信におけるチャネル推定を目的とした新しいXAI-CHESTフレームワークを提案する。
論文 参考訳（メタデータ） (2024-07-09T16:24:21Z) - RIGID: A Training-free and Model-Agnostic Framework for Robust AI-Generated Image Detection [60.960988614701414]
RIGIDは、堅牢なAI生成画像検出のためのトレーニング不要でモデルに依存しない方法である。
RIGIDは、既存のトレーニングベースおよびトレーニング不要な検出器を著しく上回っている。
論文 参考訳（メタデータ） (2024-05-30T14:49:54Z) - DSEG-LIME: Improving Image Explanation by Hierarchical Data-Driven Segmentation [2.355460994057843]
LIME(Local Interpretable Model-Agnostic Explanations)は画像解析のためのXAIフレームワークとしてよく知られている。
DSEG-LIME(Data-Driven LIME)を導入し,人間の認識機能生成のためのデータ駆動セグメンテーションを特徴とする。
我々は,事前学習したモデルのDSEG-LIMEをImageNetデータセットの画像でベンチマークする。
論文 参考訳（メタデータ） (2024-03-12T15:13:12Z) - Extending CAM-based XAI methods for Remote Sensing Imagery Segmentation [7.735470452949379]
我々は,モデルの不確実性を測定するために,「エントロピー」に基づく新しいXAI評価手法とメトリクスを導入する。
本研究では,Entropyを用いて,対象クラス内の画素のセグメンテーションにおけるモデル不確実性を監視することがより適切であることを示す。
論文 参考訳（メタデータ） (2023-10-03T07:01:23Z) - Improving Human-Object Interaction Detection via Virtual Image Learning [68.56682347374422]
人間-物体相互作用(Human-Object Interaction、HOI)は、人間と物体の相互作用を理解することを目的としている。
本稿では,仮想画像学習(Virtual Image Leaning, VIL)による不均衡分布の影響を軽減することを提案する。
ラベルからイメージへの新たなアプローチであるMultiple Steps Image Creation (MUSIC)が提案され、実際の画像と一貫した分布を持つ高品質なデータセットを作成する。
論文 参考訳（メタデータ） (2023-08-04T10:28:48Z) - Two Approaches to Supervised Image Segmentation [55.616364225463066]
本研究は、深層学習とマルチセットニューロンのアプローチの比較実験を開発する。
ディープラーニングアプローチは、画像セグメンテーションの実行の可能性を確認した。
代替のマルチセット手法では、計算資源をほとんど必要とせずに精度を向上することができた。
論文 参考訳（メタデータ） (2023-07-19T16:42:52Z) - Optimizing Explanations by Network Canonization and Hyperparameter
Search [74.76732413972005]
ルールベースで修正されたバックプロパゲーションXAIアプローチは、モダンなモデルアーキテクチャに適用される場合、しばしば課題に直面します。
モデルカノン化は、基礎となる機能を変更することなく問題のあるコンポーネントを無視してモデルを再構成するプロセスである。
本研究では、一般的なディープニューラルネットワークアーキテクチャに適用可能な、現在関連するモデルブロックのカノン化を提案する。
論文 参考訳（メタデータ） (2022-11-30T17:17:55Z) - Adaptive Convolutional Dictionary Network for CT Metal Artifact
Reduction [62.691996239590125]
本稿では,金属人工物削減のための適応畳み込み辞書ネットワーク(ACDNet)を提案する。
我々のACDNetは、トレーニングデータを介して、アーティファクトフリーCT画像の事前を自動で学習し、入力されたCT画像ごとに表現カーネルを適応的に調整することができる。
本手法は,モデルに基づく手法の明確な解釈可能性を継承し,学習に基づく手法の強力な表現能力を維持する。
論文 参考訳（メタデータ） (2022-05-16T06:49:36Z) - Rethinking of the Image Salient Object Detection: Object-level Semantic
Saliency Re-ranking First, Pixel-wise Saliency Refinement Latter [62.26677215668959]
本稿では,意味的に有意な領域を粗い位置で特定する,軽量で教師付きの深層ネットワークを提案する。
次に,これらセマンティック・サリエント領域の深層モデルを画素ワイド・サリエンシ改善として融合する。
提案手法は単純だが有効であり,本手法は主眼をオブジェクトレベルのセマンティック・リグレード問題とみなすための最初の試みである。
論文 参考訳（メタデータ） (2020-08-10T07:12:43Z) - Ground Truth Evaluation of Neural Network Explanations with CLEVR-XAI [12.680653816836541]
我々は,CLEVR視覚質問応答タスクに基づくXAI手法の基盤的真理に基づく評価フレームワークを提案する。
本フレームワークは,(1)選択的,(2)制御,(3)リアルなテストベッドをニューラルネットワークの説明評価のために提供する。
論文 参考訳（メタデータ） (2020-03-16T14:43:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。