Fugu-MT 論文翻訳(概要): Model-agnostic interpretation by visualization of feature perturbations

論文の概要: Model-agnostic interpretation by visualization of feature perturbations

arxiv url: http://arxiv.org/abs/2101.10502v1
Date: Tue, 26 Jan 2021 00:53:29 GMT
ステータス: 処理完了
システム内更新日: 2021-03-13 19:49:27.360304
Title: Model-agnostic interpretation by visualization of feature perturbations
Title（参考訳）: 特徴摂動の可視化によるモデル非依存解釈
Authors: Wilson E. Marc\'ilio-Jr, Danilo M. Eler, Fabr\'icio Breve
Abstract要約: 粒子群最適化アルゴリズムによって誘導される特徴の摂動を可視化し,モデルに依存しない解釈手法を提案する。我々は,公開データセットに対して質的かつ定量的にアプローチを検証する。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Interpretation of machine learning models has become one of the most important topics of research due to the necessity of maintaining control and avoid bias in these algorithms. Since many machine learning algorithms are published every day, there is a need for novel model-agnostic interpretation approaches that could be used to interpret a great variety of algorithms. One particularly useful way to interpret machine learning models is to feed different input data to understand the changes in the prediction. Using such an approach, practitioners can define relations among patterns of data and a model's decision. In this work, we propose a model-agnostic interpretation approach that uses visualization of feature perturbations induced by the particle swarm optimization algorithm. We validate our approach both qualitatively and quantitatively on publicly available datasets, showing the capability to enhance the interpretation of different classifiers while yielding very stable results if compared with the state of the art algorithms.
Abstract（参考訳）: 機械学習モデルの解釈は、これらのアルゴリズムにおける制御の維持とバイアス回避の必要性から、研究の最も重要なトピックの1つとなっている。多くの機械学習アルゴリズムが毎日発行されているので、様々なアルゴリズムを解釈するのに使える新しいモデルに依存しない解釈アプローチが必要である。機械学習モデルを解釈するのに特に有用な方法は、予測の変化を理解するために異なる入力データをフィードすることである。このようなアプローチを使って、実践者はデータのパターンとモデルの決定との関係を定義することができる。本研究では,粒子群最適化アルゴリズムによって引き起こされる特徴摂動を可視化するモデル非依存解釈手法を提案する。本手法は,公開データセット上で定性的かつ定量的に検証し,アートアルゴリズムの状態と比較して非常に安定した結果が得られると同時に,異なる分類器の解釈を強化する能力を示す。