論文の概要: Unifying Model Explainability and Robustness via Machine-Checkable Concepts

• arxiv url: http://arxiv.org/abs/2007.00251v2
• Date: Thu, 2 Jul 2020 07:33:15 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-14 22:36:37.142292
• Title: Unifying Model Explainability and Robustness via Machine-Checkable Concepts
• Title（参考訳）: マシンチェッカブル概念によるモデル説明可能性とロバスト性の統合
• Authors: Vedant Nanda, Till Speicher, John P. Dickerson, Krishna P. Gummadi, Muhammad Bilal Zafar
• Abstract要約: 本稿では,機械チェック可能な概念を用いた頑健性評価フレームワークを提案する。 本フレームワークは, 予測堅牢性を評価するために, 説明をベースとした多種多様な概念を定義し, テスト時の説明整合性チェックを実施している。 実世界のデータセットと人間のサーベイの実験は、我々のフレームワークが予測の堅牢性を大幅に向上できることを示している。
• 参考スコア（独自算出の注目度）: 33.88198813484126
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As deep neural networks (DNNs) get adopted in an ever-increasing number of applications, explainability has emerged as a crucial desideratum for these models. In many real-world tasks, one of the principal reasons for requiring explainability is to in turn assess prediction robustness, where predictions (i.e., class labels) that do not conform to their respective explanations (e.g., presence or absence of a concept in the input) are deemed to be unreliable. However, most, if not all, prior methods for checking explanation-conformity (e.g., LIME, TCAV, saliency maps) require significant manual intervention, which hinders their large-scale deployability. In this paper, we propose a robustness-assessment framework, at the core of which is the idea of using machine-checkable concepts. Our framework defines a large number of concepts that the DNN explanations could be based on and performs the explanation-conformity check at test time to assess prediction robustness. Both steps are executed in an automated manner without requiring any human intervention and are easily scaled to datasets with a very large number of classes. Experiments on real-world datasets and human surveys show that our framework is able to enhance prediction robustness significantly: the predictions marked to be robust by our framework have significantly higher accuracy and are more robust to adversarial perturbations.
• Abstract（参考訳）: 深層ニューラルネットワーク(DNN)がますます増加するアプリケーションに採用されるにつれて、これらのモデルにとって説明可能性は重要なデシプラタムとして現れてきた。 多くの実世界のタスクにおいて、説明可能性を必要とする主な理由の1つは、それぞれの説明(例えば、入力における概念の有無)に従わない予測(クラスラベル)が信頼できないと判断されるような、予測堅牢性を評価することである。 しかし、すべてではないにしても、説明整合性(例えば、LIME, TCAV, saliency map)をチェックするための事前の手法は、大規模なデプロイを妨げている。 本稿では,機械チェック可能な概念を用いたロバスト性評価フレームワークを提案する。 我々のフレームワークは、DNNの説明をベースとした多数の概念を定義し、テスト時に説明整合性チェックを行い、予測の堅牢性を評価する。 両方のステップは、人間の介入なしに自動化された方法で実行され、非常に多くのクラスを持つデータセットに簡単にスケールできます。 実世界のデータセットと人的調査による実験により、我々のフレームワークは予測のロバスト性を大幅に向上させることができることが分かりました。

関連論文リスト

• Rigorous Probabilistic Guarantees for Robust Counterfactual Explanations [80.86128012438834]
  モデルシフトに対する反ファクトの堅牢性を計算することはNP完全であることを示す。 本稿では,頑健性の厳密な推定を高い保証で実現する新しい確率論的手法を提案する。
  論文  参考訳（メタデータ） (2024-07-10T09:13:11Z)
• Explaining Deep Neural Networks for Bearing Fault Detection with Vibration Concepts [23.027545485830032]
  本稿では,振動信号に基づいて学習した深部ニューラルネットワークを用いた断層検出の文脈における概念に基づく説明手法の活用方法について検討する。 振動概念の観点で不透明なモデルを説明することは、人間の理解しやすく直感的な内部動作の洞察を可能にすることを示す。
  論文  参考訳（メタデータ） (2023-10-17T17:58:19Z)
• Human Trajectory Forecasting with Explainable Behavioral Uncertainty [63.62824628085961]
  人間の軌道予測は人間の行動を理解し予測し、社会ロボットから自動運転車への応用を可能にする。 モデルフリー手法は予測精度が優れているが説明可能性に欠ける一方、モデルベース手法は説明可能性を提供するが、よく予測できない。 BNSP-SFMは,11種類の最先端手法と比較して,予測精度を最大50%向上することを示す。
  論文  参考訳（メタデータ） (2023-07-04T16:45:21Z)
• Generating robust counterfactual explanations [60.32214822437734]
  カウンターファクトの質は、現実主義、行動可能性、妥当性、堅牢性など、いくつかの基準に依存する。 本稿では, 対実的入力変化に対するロバスト性に着目し, 対実的入力変化に対するロバスト性に着目した。 我々は,このトレードオフを効果的に管理し,ユーザに対して最小限の堅牢性を保証するとともに,ロバストなデファクトを生成する新しいフレームワークであるCROCOを提案する。
  論文  参考訳（メタデータ） (2023-04-24T09:00:31Z)
• Interpretable Self-Aware Neural Networks for Robust Trajectory Prediction [50.79827516897913]
  本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。 実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-11-16T06:28:20Z)
• Autoregressive Uncertainty Modeling for 3D Bounding Box Prediction [63.3021778885906]
  3Dバウンディングボックスは、多くのコンピュータビジョンアプリケーションで広く使われている中間表現である。 本稿では,自己回帰モデルを利用して高い信頼度予測と意味のある不確実性対策を行う手法を提案する。 我々はシミュレーションデータセットであるCOB-3Dをリリースし、現実世界のロボティクスアプリケーションで発生する新しいタイプのあいまいさを強調します。
  論文  参考訳（メタデータ） (2022-10-13T23:57:40Z)
• VisFIS: Visual Feature Importance Supervision with Right-for-the-Right-Reason Objectives [84.48039784446166]
  モデルFI監督は、VQAモデルの精度と、Right-to-the-Right-Reasonメトリクスの性能を有意義に向上させることができることを示す。 我々の最高のパフォーマンス手法であるVisual Feature Importance Supervision (VisFIS)は、ベンチマークVQAデータセットで強いベースラインを上回ります。 説明が妥当で忠実な場合には予測がより正確になる。
  論文  参考訳（メタデータ） (2022-06-22T17:02:01Z)
• Reachable Sets of Classifiers and Regression Models: (Non-)Robustness Analysis and Robust Training [1.0878040851638]
  分類器と回帰モデルの両方の頑健性特性を解析・拡張する。 具体的には、(非)難易度を検証し、堅牢なトレーニング手順を提案し、我々のアプローチが敵攻撃よりも優れていることを示す。 第2に、ラベル付けされていない入力に対する信頼できない予測と信頼できない予測を区別し、各特徴が予測に与える影響を定量化し、特徴ランキングを計算する技術を提供する。
  論文  参考訳（メタデータ） (2020-07-28T10:58:06Z)
• How Much Can I Trust You? -- Quantifying Uncertainties in Explaining Neural Networks [19.648814035399013]
  説明可能なAI(XAI)は、ディープニューラルネットワークなどの学習マシンが生成した予測の解釈を提供することを目的としている。 ニューラルネットワークの任意の説明法をベイズニューラルネットワークの説明法に変換するための新しいフレームワークを提案する。 様々な実験において,本手法の有効性と有用性を示す。
  論文  参考訳（メタデータ） (2020-06-16T08:54:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。