論文の概要: A Set Membership Approach to Discovering Feature Relevance and Explaining Neural Classifier Decisions

• arxiv url: http://arxiv.org/abs/2204.02241v1
• Date: Tue, 5 Apr 2022 14:25:11 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-06 13:03:35.931500
• Title: A Set Membership Approach to Discovering Feature Relevance and Explaining Neural Classifier Decisions
• Title（参考訳）: 特徴の関連性を明らかにするためのセットメンバーシップアプローチとニューラルクラシファイア決定の解説
• Authors: Stavros P. Adam, Aristidis C. Likas
• Abstract要約: 本稿では,訓練されたニューラル分類器がどの特徴を関連づけているかを明らかにする新しい手法を提案する。 しかし,本稿では,非線形パラメータ推定の観点から,特徴関連性は機械学習の文献で注目されている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural classifiers are non linear systems providing decisions on the classes of patterns, for a given problem they have learned. The output computed by a classifier for each pattern constitutes an approximation of the output of some unknown function, mapping pattern data to their respective classes. The lack of knowledge of such a function along with the complexity of neural classifiers, especially when these are deep learning architectures, do not permit to obtain information on how specific predictions have been made. Hence, these powerful learning systems are considered as black boxes and in critical applications their use tends to be considered inappropriate. Gaining insight on such a black box operation constitutes a one way approach in interpreting operation of neural classifiers and assessing the validity of their decisions. In this paper we tackle this problem introducing a novel methodology for discovering which features are considered relevant by a trained neural classifier and how they affect the classifier's output, thus obtaining an explanation on its decision. Although, feature relevance has received much attention in the machine learning literature here we reconsider it in terms of nonlinear parameter estimation targeted by a set membership approach which is based on interval analysis. Hence, the proposed methodology builds on sound mathematical approaches and the results obtained constitute a reliable estimation of the classifier's decision premises.
• Abstract（参考訳）: ニューラル分類器は、学習した特定の問題に対して、パターンのクラスを決定する非線形システムである。 各パターンの分類器によって計算された出力は、未知の関数の出力の近似を構成し、パターンデータをそれぞれのクラスにマッピングする。 このような関数の知識の欠如と神経分類器の複雑さ、特にこれらがディープラーニングアーキテクチャである場合、特定の予測が行われたかに関する情報を得ることができない。 したがって、これらの強力な学習システムはブラックボックスと見なされ、重要なアプリケーションではそれらの使用は不適切と見なされる傾向がある。 このようなブラックボックス操作についての洞察を得ることは、神経分類器の操作を解釈し、その決定の妥当性を評価するための一つのアプローチとなる。 本稿では,訓練されたニューラル分類器がどの特徴を関連づけているか,どの特徴が分類器の出力にどう影響するか,という新たな手法を導入し,その決定について説明する。 機械学習の文献では特徴的関連性が注目されているが,本論文では,区間分析に基づく集合メンバシップアプローチを対象とする非線形パラメータ推定について再考する。 そこで,提案手法は健全な数学的アプローチに基づいて構築され,その結果は分類者の決定前提の信頼性を推定する。

関連論文リスト

• CLIMAX: An exploration of Classifier-Based Contrastive Explanations [5.381004207943597]
  我々は,ブラックボックスの分類を正当化する対照的な説明を提供する,ポストホックモデルXAI手法を提案する。 CLIMAXと呼ばれる手法は,局所的な分類法に基づく。 LIME, BayLIME, SLIMEなどのベースラインと比較して, 一貫性が向上することを示す。
  論文  参考訳（メタデータ） (2023-07-02T22:52:58Z)
• Anomaly Detection using Ensemble Classification and Evidence Theory [62.997667081978825]
  本稿では,アンサンブル分類とエビデンス理論を用いた新しい検出手法を提案する。 固体アンサンブル分類器を構築するためのプール選択戦略が提示される。 我々は異常検出手法の不確実性を利用する。
  論文  参考訳（メタデータ） (2022-12-23T00:50:41Z)
• Supervised Feature Compression based on Counterfactual Analysis [3.2458225810390284]
  本研究は,事前学習したブラックボックスモデルの重要な決定境界を検出するために,非現実的説明を活用することを目的としている。 離散化されたデータセットを使用して、ブラックボックスモデルに似た最適な決定木をトレーニングすることができるが、解釈可能でコンパクトである。
  論文  参考訳（メタデータ） (2022-11-17T21:16:14Z)
• The Familiarity Hypothesis: Explaining the Behavior of Deep Open Set Methods [86.39044549664189]
  特徴ベクトルデータに対する異常検出アルゴリズムは異常を外れ値として識別するが、外れ値検出はディープラーニングではうまく機能しない。 本論文は, 新規性の有無ではなく, 慣れ親しんだ特徴の欠如を検知しているため, これらの手法が成功するというFamiliarity仮説を提案する。 本論文は,親しみやすさの検出が表現学習の必然的な結果であるかどうかを論じる。
  論文  参考訳（メタデータ） (2022-03-04T18:32:58Z)
• Learning Debiased and Disentangled Representations for Semantic Segmentation [52.35766945827972]
  セマンティックセグメンテーションのためのモデルに依存しない訓練手法を提案する。 各トレーニングイテレーションで特定のクラス情報をランダムに除去することにより、クラス間の機能依存を効果的に削減する。 提案手法で訓練したモデルは,複数のセマンティックセグメンテーションベンチマークにおいて強い結果を示す。
  論文  参考訳（メタデータ） (2021-10-31T16:15:09Z)
• Discriminative Attribution from Counterfactuals [64.94009515033984]
  本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。 本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-28T00:53:34Z)
• Neural Networks as Functional Classifiers [0.0]
  我々は、分類問題のために、注目すべき深層学習手法を機能データ領域に拡張する。 本手法の有効性を,分光データの分類などの多くの分類応用において強調する。
  論文  参考訳（メタデータ） (2020-10-09T00:11:01Z)
• Linear Classifier Combination via Multiple Potential Functions [0.6091702876917279]
  決定境界からクラスセントロイドまでの距離との距離に基づいてスコアリング関数を計算する新しい概念を提案する。 重要な性質は、提案されたスコア関数がすべての線形基底分類器に対して同じ性質を持つことである。
  論文  参考訳（メタデータ） (2020-10-02T08:11:51Z)
• Open Set Recognition with Conditional Probabilistic Generative Models [51.40872765917125]
  オープンセット認識のための条件付き確率生成モデル(CPGM)を提案する。 CPGMは未知のサンプルを検出できるが、異なる潜在特徴を条件付きガウス分布に近似させることで、既知のクラスを分類できる。 複数のベンチマークデータセットの実験結果から,提案手法がベースラインを著しく上回ることがわかった。
  論文  参考訳（メタデータ） (2020-08-12T06:23:49Z)
• Explaining Black Box Predictions and Unveiling Data Artifacts through Influence Functions [55.660255727031725]
  影響関数は、影響力のあるトレーニング例を特定することによって、モデルの判断を説明する。 本稿では,代表課題における影響関数と共通単語順応法の比較を行う。 我々は,学習データ中の成果物を明らかにすることができる影響関数に基づく新しい尺度を開発した。
  論文  参考訳（メタデータ） (2020-05-14T00:45:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。