論文の概要: Providing Error Detection for Deep Learning Image Classifiers Using
Self-Explainability
- arxiv url: http://arxiv.org/abs/2210.08210v1
- Date: Sat, 15 Oct 2022 06:50:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 17:13:36.322709
- Title: Providing Error Detection for Deep Learning Image Classifiers Using
Self-Explainability
- Title(参考訳): 自己説明可能性を用いた深層学習画像分類器の誤り検出
- Authors: Mohammad Mahdi Karimi, Azin Heidarshenas, William W. Edmonson
- Abstract要約: 本稿では,自己誤り検出を行う画像分類問題に対する自己説明可能なディープラーニングシステムを提案する。
SE-DLシステムは、クラス予測と、その予測に関する説明の両方を出力する。
提案するSE-DLシステムの説明を利用して,システムの潜在的なクラス予測誤差を検出する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: This paper proposes a self-explainable Deep Learning (SE-DL) system for an
image classification problem that performs self-error detection. The self-error
detection is key to improving the DL system's safe operation, especially in
safety-critical applications such as automotive systems. A SE-DL system outputs
both the class prediction and an explanation for that prediction, which
provides insight into how the system makes its predictions for humans.
Additionally, we leverage the explanation of the proposed SE-DL system to
detect potential class prediction errors of the system. The proposed SE-DL
system uses a set of concepts to generate the explanation. The concepts are
human-understandable lower-level image features in each input image relevant to
the higher-level class of that image. We present a concept selection
methodology for scoring all concepts and selecting a subset of them based on
their contribution to the error detection performance of the proposed SE-DL
system. Finally, we present different error detection schemes using the
proposed SE-DL system to compare them against an error detection scheme without
any SE-DL system.
- Abstract(参考訳): 本稿では,自己誤り検出を行う画像分類問題に対する自己記述型ディープラーニング(SE-DL)システムを提案する。
自己エラー検出は、特に自動車システムのような安全クリティカルなアプリケーションにおいて、DLシステムの安全な操作を改善する鍵となる。
SE-DLシステムは、クラス予測と、その予測に関する説明の両方を出力する。
さらに,提案するSE-DLシステムの説明を利用して,システムの潜在的なクラス予測誤差を検出する。
提案するSE-DLシステムは,一連の概念を用いて説明を生成する。
これらの概念は、その画像の上位レベルクラスに関連する各入力画像における人間理解可能な低レベル画像の特徴である。
提案するSE-DLシステムの誤り検出性能に対する寄与に基づいて,すべての概念を評価し,そのサブセットを選択するための概念選択手法を提案する。
最後に,提案したSE-DLシステムを用いて,SE-DLシステムを使用しない誤り検出方式と比較する。
関連論文リスト
- Analyzing and Explaining Image Classifiers via Diffusion Guidance [39.85203645176423]
ディープラーニングは、ImageNetのような複雑な画像分類タスク、予期せぬ障害モード、例えばスプリアス機能などに大きな進歩をもたらした。
本稿では、ガイド画像生成のためのフレームワークを用いて、分類器由来の目的を最適化した画像を生成することにより、これらの問題に対処する。
視覚的対実的説明(VCE)による画像分類器の動作と決定、分類器が最大に一致しない画像の解析による系統的誤りの検出、潜在的な刺激的特徴の検証のためのニューロンの可視化について分析する。
論文 参考訳(メタデータ) (2023-11-29T17:35:29Z) - Representing Timed Automata and Timing Anomalies of Cyber-Physical
Production Systems in Knowledge Graphs [51.98400002538092]
本稿では,学習されたタイムドオートマトンとシステムに関する公式知識グラフを組み合わせることで,CPPSのモデルベース異常検出を改善することを目的とする。
モデルと検出された異常の両方を知識グラフに記述し、モデルと検出された異常をより容易に解釈できるようにする。
論文 参考訳(メタデータ) (2023-08-25T15:25:57Z) - Learning Common Rationale to Improve Self-Supervised Representation for
Fine-Grained Visual Recognition Problems [61.11799513362704]
我々は、インスタンスやクラスでよく見られる差別的手がかりを識別するための、追加のスクリーニングメカニズムの学習を提案する。
SSL目標から誘導されるGradCAMを単純に利用することで、共通な有理性検出器が学習可能であることを示す。
論文 参考訳(メタデータ) (2023-03-03T02:07:40Z) - Just Noticeable Difference Modeling for Face Recognition System [69.28990314553076]
本研究は,自動顔認証システムにおける特徴的差分(JND)について検討する試みである。
FRシステムのJND画像を直接推測する新しいJND予測モデルを開発した。
実験により,提案モデルによりJNDマップの精度が向上することが確認された。
論文 参考訳(メタデータ) (2022-09-13T10:06:36Z) - Large-Scale Sequential Learning for Recommender and Engineering Systems [91.3755431537592]
本稿では,現在の状況に適応してパーソナライズされたランキングを提供する自動アルゴリズムの設計に焦点を当てる。
前者はSAROSと呼ばれる新しいアルゴリズムを提案し,インタラクションの順序を学習するためのフィードバックの種類を考慮に入れている。
提案手法は, 電力網の故障検出に対する初期アプローチと比較して, 統計的に有意な結果を示す。
論文 参考訳(メタデータ) (2022-05-13T21:09:41Z) - Improving Prediction Confidence in Learning-Enabled Autonomous Systems [2.66512000865131]
予測の信頼性を向上させるために,分類に使用される学習可能なコンポーネントと自律システムのセンサとのフィードバックループを利用する。
本稿では,三重項ネットワークアーキテクチャに基づく帰納的等角予測(ICP)を用いた分類器を設計し,テスト例とトレーニング例の類似性を定量化するための表現を学習する。
センサに新しい入力を問い合わせるフィードバックループを使用して、予測をさらに洗練し、分類精度を高める。
論文 参考訳(メタデータ) (2021-10-07T00:40:34Z) - Supervised DKRC with Images for Offline System Identification [77.34726150561087]
現代の力学系はますます非線形で複雑なものになりつつある。
予測と制御のためのコンパクトで包括的な表現でこれらのシステムをモデル化するフレームワークが必要である。
本手法は,教師付き学習手法を用いてこれらの基礎関数を学習する。
論文 参考訳(メタデータ) (2021-09-06T04:39:06Z) - Online Dictionary Learning Based Fault and Cyber Attack Detection for
Power Systems [4.657875410615595]
本稿では,ストリームデータマイニング分類器を活用することで,イベント検出と侵入検出の問題に対処する。
まず、ラベルのないデータから高レベルな特徴を学習して辞書を構築する。
そして、ラベル付きデータは、学習した辞書原子の疎線形結合として表現される。
我々は、これらの余分なコードを利用して、オンライン分類器と効率的な変更検出器を訓練する。
論文 参考訳(メタデータ) (2021-08-24T23:17:58Z) - Self-supervised Detransformation Autoencoder for Representation Learning
in Open Set Recognition [0.0]
オープンセット認識問題に対する自己超越手法であるDetransformation Autoencoder (DTAE)を提案する。
提案手法は,未知のクラスを検出し,未知のクラスを分類する上で,大きな利益をもたらす。
論文 参考訳(メタデータ) (2021-05-28T02:45:57Z) - This is not the Texture you are looking for! Introducing Novel
Counterfactual Explanations for Non-Experts using Generative Adversarial
Learning [59.17685450892182]
反実用説明システムは、入力画像を変更して反実用推論を可能にする。
本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。
その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
論文 参考訳(メタデータ) (2020-12-22T10:08:05Z) - More Than Accuracy: Towards Trustworthy Machine Learning Interfaces for
Object Recognition [0.0]
本稿では,画像中の物体を認識する機械学習(ML)システムのユーザエクスペリエンスについて検討する。
MLの背景を持つユーザを,異なるレベルの精度で3つのシステムの3つのビジュアライゼーションに公開しました。
インタビューでは,ユーザが使用するシステムの精度を評価する上で,可視化がいかに役立ったか,システムの可視化と精度が信頼と信頼にどのように影響するかを調べた。
論文 参考訳(メタデータ) (2020-08-05T07:56:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。