論文の概要: On the Black-box Explainability of Object Detection Models for Safe and Trustworthy Industrial Applications
- arxiv url: http://arxiv.org/abs/2411.00818v2
- Date: Thu, 28 Nov 2024 08:09:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-02 15:17:31.523041
- Title: On the Black-box Explainability of Object Detection Models for Safe and Trustworthy Industrial Applications
- Title（参考訳）: 安全で信頼性の高い産業用物体検出モデルのブラックボックス説明可能性について
- Authors: Alain Andres, Aitor Martinez-Seras, Ibai Laña, Javier Del Ser,
- Abstract要約: 本稿では,物体検出モデルに対するモデルに依存しない説明可能性手法に着目し,形態的フラクタル摂動ピラミッド(P)法の拡張としてD-Pを提案する。
これらの手法を実世界の産業用・ロボット用データセット上で評価し,マスク数,モデルサイズ,画像解像度などのパラメータが説明の質に及ぼす影響について検討した。
- 参考スコア（独自算出の注目度）: 7.848637922112521
- License:
- Abstract: In the realm of human-machine interaction, artificial intelligence has become a powerful tool for accelerating data modeling tasks. Object detection methods have achieved outstanding results and are widely used in critical domains like autonomous driving and video surveillance. However, their adoption in high-risk applications, where errors may cause severe consequences, remains limited. Explainable Artificial Intelligence methods aim to address this issue, but many existing techniques are model-specific and designed for classification tasks, making them less effective for object detection and difficult for non-specialists to interpret. In this work we focus on model-agnostic explainability methods for object detection models and propose D-MFPP, an extension of the Morphological Fragmental Perturbation Pyramid (MFPP) technique based on segmentation-based masks to generate explanations. Additionally, we introduce D-Deletion, a novel metric combining faithfulness and localization, adapted specifically to meet the unique demands of object detectors. We evaluate these methods on real-world industrial and robotic datasets, examining the influence of parameters such as the number of masks, model size, and image resolution on the quality of explanations. Our experiments use single-stage object detection models applied to two safety-critical robotic environments: i) a shared human-robot workspace where safety is of paramount importance, and ii) an assembly area of battery kits, where safety is critical due to the potential for damage among high-risk components. Our findings evince that D-Deletion effectively gauges the performance of explanations when multiple elements of the same class appear in a scene, while D-MFPP provides a promising alternative to D-RISE when fewer masks are used.
- Abstract（参考訳）: 人間と機械の相互作用の分野では、人工知能はデータモデリングタスクを加速するための強力なツールになっている。
物体検出法は優れた成果を上げており、自律運転やビデオ監視といった重要な領域で広く利用されている。
しかし、エラーが深刻な結果をもたらす可能性のあるハイリスクなアプリケーションでの採用は、依然として限られている。
説明可能な人工知能手法はこの問題に対処することを目的としているが、既存の多くの技術はモデル固有であり、分類タスク用に設計されているため、オブジェクト検出には効果が低く、非専門家が解釈するのが困難である。
本研究では,物体検出モデルに対するモデルに依存しない説明可能性手法に焦点をあて,分割型マスクに基づく形態的フラクタル摂動ピラミッド(MFPP)法の拡張としてD-MFPPを提案する。
さらに, 物体検出器のユニークな要求を満たすために, 忠実度と局所性を組み合わせた新しい計量D-Deletionを導入する。
これらの手法を実世界の産業用・ロボット用データセット上で評価し,マスク数,モデルサイズ,画像解像度などのパラメータが説明の質に及ぼす影響について検討した。
実験では,2つの安全クリティカルなロボット環境に適用した単段物体検出モデルを用いた。
一 安全が最重要事項である共有人間ロボット作業場
二 高リスク部品の損傷の可能性により安全が重要となるバッテリキットの組立面積
D-MFPPはマスクが少ない場合にD-RISEに代わる有望な代替手段を提供するのに対し、D-Deletionはシーン内で同じクラスの複数の要素が現れるときの説明性能を効果的に評価する。
関連論文リスト
- On the Inherent Robustness of One-Stage Object Detection against Out-of-Distribution Data [6.267143531261792]
画像データ中の未知物体を検出する新しい検出アルゴリズムを提案する。
モデルによって抽出された特徴に対する次元の呪いの影響を軽減するために、教師付き次元削減技術を利用する。
これは高解像度の特徴マップを用いて、教師なしの方法で潜在的に未知の物体を識別する。
論文 参考訳（メタデータ） (2024-11-07T10:15:25Z) - Unsupervised Model Diagnosis [49.36194740479798]
本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。
提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
論文 参考訳（メタデータ） (2024-10-08T17:59:03Z) - Integrity Monitoring of 3D Object Detection in Automated Driving Systems using Raw Activation Patterns and Spatial Filtering [12.384452095533396]
ディープニューラルネットワーク(DNN)モデルは、自動運転システム(ADS)における物体検出に広く利用されている。
しかし、そのようなモデルは、重大な安全性に影響を及ぼす可能性のあるエラーを起こしやすい。
このようなエラーを検知することを目的とした検査・自己評価モデルは、ADSの安全な配置において最重要となる。
論文 参考訳（メタデータ） (2024-05-13T10:03:03Z) - Open World Object Detection in the Era of Foundation Models [53.683963161370585]
5つの実世界のアプリケーション駆動データセットを含む新しいベンチマークを導入する。
本稿では,オープンワールドのための新しいオブジェクト検出モデル(FOMO)を提案する。
論文 参考訳（メタデータ） (2023-12-10T03:56:06Z) - Innovative Horizons in Aerial Imagery: LSKNet Meets DiffusionDet for
Advanced Object Detection [55.2480439325792]
本稿では,LSKNetのバックボーンをDiffusionDetヘッドに統合したオブジェクト検出モデルの詳細な評価を行う。
提案手法は平均精度(MAP)を約45.7%向上させる。
この進歩は、提案された修正の有効性を強調し、航空画像解析の新しいベンチマークを設定する。
論文 参考訳（メタデータ） (2023-11-21T19:49:13Z) - Transferring Foundation Models for Generalizable Robotic Manipulation [82.12754319808197]
インターネット規模の基盤モデルによって生成された言語推論セグメンテーションマスクを効果的に活用する新しいパラダイムを提案する。
提案手法は,オブジェクトのポーズを効果的かつ堅牢に知覚し,サンプル効率のよい一般化学習を可能にする。
デモは提出されたビデオで見ることができ、より包括的なデモはlink1またはlink2で見ることができます。
論文 参考訳（メタデータ） (2023-06-09T07:22:12Z) - Unleashing Mask: Explore the Intrinsic Out-of-Distribution Detection
Capability [70.72426887518517]
Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイする際に、セキュアAIの必須の側面である。
本稿では,IDデータを用いた学習モデルのOOD識別能力を復元する新しい手法であるUnleashing Maskを提案する。
本手法では, マスクを用いて記憶した非定型サンプルを抽出し, モデルを微調整するか, 導入したマスクでプルーする。
論文 参考訳（メタデータ） (2023-06-06T14:23:34Z) - Distributional Instance Segmentation: Modeling Uncertainty and High
Confidence Predictions with Latent-MaskRCNN [77.0623472106488]
本稿では,潜在符号を用いた分散インスタンス分割モデルのクラスについて検討する。
ロボットピッキングへの応用として,高い精度を実現するための信頼性マスク手法を提案する。
本手法は,新たにリリースした曖昧なシーンのデータセットを含め,ロボットシステムにおける致命的なエラーを著しく低減できることを示す。
論文 参考訳（メタデータ） (2023-05-03T05:57:29Z) - Model-agnostic explainable artificial intelligence for object detection in image data [8.042562891309414]
マスキングによるブラックボックスオブジェクト検出記述法(BODEM)
粗いマスクを低レベルに使用して画像内の有意な領域を見つける階層的ランダムマスキングフレームワークを提案する。
様々な物体検出データセットとモデルの実験により、BODEMは物体検出器の挙動を効果的に説明できることが示された。
論文 参考訳（メタデータ） (2023-03-30T09:29:03Z) - Understanding Object Detection Through An Adversarial Lens [14.976840260248913]
本稿では, 対向レンズ下での深部物体検出装置の脆弱性を分析し評価するための枠組みを提案する。
提案手法は, リアルタイムオブジェクト検出システムにおいて, 対向行動やリスクを解析するための方法論的ベンチマークとして機能することが実証された。
我々は、このフレームワークが、現実世界のアプリケーションにデプロイされるディープオブジェクト検出器のセキュリティリスクと敵の堅牢性を評価するツールとしても役立つと推測する。
論文 参考訳（メタデータ） (2020-07-11T18:41:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。