論文の概要: Providing Error Detection for Deep Learning Image Classifiers Using Self-Explainability

• arxiv url: http://arxiv.org/abs/2210.08210v1
• Date: Sat, 15 Oct 2022 06:50:57 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-18 17:13:36.322709
• Title: Providing Error Detection for Deep Learning Image Classifiers Using Self-Explainability
• Title（参考訳）: 自己説明可能性を用いた深層学習画像分類器の誤り検出
• Authors: Mohammad Mahdi Karimi, Azin Heidarshenas, William W. Edmonson
• Abstract要約: 本稿では,自己誤り検出を行う画像分類問題に対する自己説明可能なディープラーニングシステムを提案する。 SE-DLシステムは、クラス予測と、その予測に関する説明の両方を出力する。 提案するSE-DLシステムの説明を利用して,システムの潜在的なクラス予測誤差を検出する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: This paper proposes a self-explainable Deep Learning (SE-DL) system for an image classification problem that performs self-error detection. The self-error detection is key to improving the DL system's safe operation, especially in safety-critical applications such as automotive systems. A SE-DL system outputs both the class prediction and an explanation for that prediction, which provides insight into how the system makes its predictions for humans. Additionally, we leverage the explanation of the proposed SE-DL system to detect potential class prediction errors of the system. The proposed SE-DL system uses a set of concepts to generate the explanation. The concepts are human-understandable lower-level image features in each input image relevant to the higher-level class of that image. We present a concept selection methodology for scoring all concepts and selecting a subset of them based on their contribution to the error detection performance of the proposed SE-DL system. Finally, we present different error detection schemes using the proposed SE-DL system to compare them against an error detection scheme without any SE-DL system.
• Abstract（参考訳）: 本稿では,自己誤り検出を行う画像分類問題に対する自己記述型ディープラーニング(SE-DL)システムを提案する。 自己エラー検出は、特に自動車システムのような安全クリティカルなアプリケーションにおいて、DLシステムの安全な操作を改善する鍵となる。 SE-DLシステムは、クラス予測と、その予測に関する説明の両方を出力する。 さらに,提案するSE-DLシステムの説明を利用して,システムの潜在的なクラス予測誤差を検出する。 提案するSE-DLシステムは,一連の概念を用いて説明を生成する。 これらの概念は、その画像の上位レベルクラスに関連する各入力画像における人間理解可能な低レベル画像の特徴である。 提案するSE-DLシステムの誤り検出性能に対する寄与に基づいて,すべての概念を評価し,そのサブセットを選択するための概念選択手法を提案する。 最後に,提案したSE-DLシステムを用いて,SE-DLシステムを使用しない誤り検出方式と比較する。

関連論文リスト

• Enhancing Large Vision Language Models with Self-Training on Image Comprehension [131.14381425260706]
  本稿では、画像理解に特化して自己学習アプローチを強調する自己学習 on Image (STIC)を紹介する。 まず、ラベルのない画像を用いて、画像記述の好みを自己構築する。 抽出した視覚情報に対する推論をさらに自己改善するため,既存の命令調整データのごく一部をモデルに再利用する。
  論文  参考訳（メタデータ） (2024-05-30T05:53:49Z)
• DiG-IN: Diffusion Guidance for Investigating Networks -- Uncovering Classifier Differences Neuron Visualisations and Visual Counterfactual Explanations [35.458709912618176]
  ディープラーニングは、ImageNetのような複雑な画像分類タスク、予期せぬ障害モード、例えばスプリアス機能などに大きな進歩をもたらした。 安全クリティカルなタスクでは、その決定のブラックボックスの性質は問題であり、説明や少なくとも意思決定を行う方法が緊急に必要である。 本稿では,これらの問題に対して,ガイド画像生成のためのフレームワークを用いて分類器由来の目的を最適化した画像を生成する。
  論文  参考訳（メタデータ） (2023-11-29T17:35:29Z)
• Representing Timed Automata and Timing Anomalies of Cyber-Physical Production Systems in Knowledge Graphs [51.98400002538092]
  本稿では,学習されたタイムドオートマトンとシステムに関する公式知識グラフを組み合わせることで,CPPSのモデルベース異常検出を改善することを目的とする。 モデルと検出された異常の両方を知識グラフに記述し、モデルと検出された異常をより容易に解釈できるようにする。
  論文  参考訳（メタデータ） (2023-08-25T15:25:57Z)
• Just Noticeable Difference Modeling for Face Recognition System [69.28990314553076]
  本研究は,自動顔認証システムにおける特徴的差分(JND)について検討する試みである。 FRシステムのJND画像を直接推測する新しいJND予測モデルを開発した。 実験により,提案モデルによりJNDマップの精度が向上することが確認された。
  論文  参考訳（メタデータ） (2022-09-13T10:06:36Z)
• Large-Scale Sequential Learning for Recommender and Engineering Systems [91.3755431537592]
  本稿では,現在の状況に適応してパーソナライズされたランキングを提供する自動アルゴリズムの設計に焦点を当てる。 前者はSAROSと呼ばれる新しいアルゴリズムを提案し,インタラクションの順序を学習するためのフィードバックの種類を考慮に入れている。 提案手法は, 電力網の故障検出に対する初期アプローチと比較して, 統計的に有意な結果を示す。
  論文  参考訳（メタデータ） (2022-05-13T21:09:41Z)
• Improving Prediction Confidence in Learning-Enabled Autonomous Systems [2.66512000865131]
  予測の信頼性を向上させるために,分類に使用される学習可能なコンポーネントと自律システムのセンサとのフィードバックループを利用する。 本稿では,三重項ネットワークアーキテクチャに基づく帰納的等角予測(ICP)を用いた分類器を設計し,テスト例とトレーニング例の類似性を定量化するための表現を学習する。 センサに新しい入力を問い合わせるフィードバックループを使用して、予測をさらに洗練し、分類精度を高める。
  論文  参考訳（メタデータ） (2021-10-07T00:40:34Z)
• Supervised DKRC with Images for Offline System Identification [77.34726150561087]
  現代の力学系はますます非線形で複雑なものになりつつある。 予測と制御のためのコンパクトで包括的な表現でこれらのシステムをモデル化するフレームワークが必要である。 本手法は,教師付き学習手法を用いてこれらの基礎関数を学習する。
  論文  参考訳（メタデータ） (2021-09-06T04:39:06Z)
• Online Dictionary Learning Based Fault and Cyber Attack Detection for Power Systems [4.657875410615595]
  本稿では,ストリームデータマイニング分類器を活用することで,イベント検出と侵入検出の問題に対処する。 まず、ラベルのないデータから高レベルな特徴を学習して辞書を構築する。 そして、ラベル付きデータは、学習した辞書原子の疎線形結合として表現される。 我々は、これらの余分なコードを利用して、オンライン分類器と効率的な変更検出器を訓練する。
  論文  参考訳（メタデータ） (2021-08-24T23:17:58Z)
• Self-supervised Detransformation Autoencoder for Representation Learning in Open Set Recognition [0.0]
  オープンセット認識問題に対する自己超越手法であるDetransformation Autoencoder (DTAE)を提案する。 提案手法は,未知のクラスを検出し,未知のクラスを分類する上で,大きな利益をもたらす。
  論文  参考訳（メタデータ） (2021-05-28T02:45:57Z)
• This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
  反実用説明システムは、入力画像を変更して反実用推論を可能にする。 本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。 その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
  論文  参考訳（メタデータ） (2020-12-22T10:08:05Z)
• More Than Accuracy: Towards Trustworthy Machine Learning Interfaces for Object Recognition [0.0]
  本稿では,画像中の物体を認識する機械学習(ML)システムのユーザエクスペリエンスについて検討する。 MLの背景を持つユーザを,異なるレベルの精度で3つのシステムの3つのビジュアライゼーションに公開しました。 インタビューでは,ユーザが使用するシステムの精度を評価する上で,可視化がいかに役立ったか,システムの可視化と精度が信頼と信頼にどのように影響するかを調べた。
  論文  参考訳（メタデータ） (2020-08-05T07:56:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。