Fugu-MT 論文翻訳(概要): Comparing Feature Importance and Rule Extraction for Interpretability on Text Data

論文の概要: Comparing Feature Importance and Rule Extraction for Interpretability on Text Data

arxiv url: http://arxiv.org/abs/2207.01420v1
Date: Mon, 4 Jul 2022 13:54:55 GMT
ステータス: 処理完了
システム内更新日: 2022-07-05 12:03:46.956182
Title: Comparing Feature Importance and Rule Extraction for Interpretability on Text Data
Title（参考訳）: テキストデータの解釈性における特徴量と規則抽出の比較
Authors: Gianluigi Lopardo and Damien Garreau
Abstract要約: 異なる手法を用いることで、予想外の異なる説明がもたらされることが示される。この効果を定量化するために,異なる手法による説明を比較するための新しい手法を提案する。
参考スコア（独自算出の注目度）: 7.893831644671976
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Complex machine learning algorithms are used more and more often in critical tasks involving text data, leading to the development of interpretability methods. Among local methods, two families have emerged: those computing importance scores for each feature and those extracting simple logical rules. In this paper we show that using different methods can lead to unexpectedly different explanations, even when applied to simple models for which we would expect qualitative coincidence. To quantify this effect, we propose a new approach to compare explanations produced by different methods.
Abstract（参考訳）: 複雑な機械学習アルゴリズムは、テキストデータを含む重要なタスクで多用され、解釈可能性法の開発に繋がる。ローカルメソッドでは、各機能に対する計算の重要性スコアと、単純な論理ルールを抽出する2つのファミリーが出現した。本稿では, 質的一致を期待する単純なモデルに適用しても, 異なる方法を用いることが予期せぬ異なる説明につながることを示す。この効果を定量化するために,異なる手法による説明を比較する新しい手法を提案する。

関連論文リスト

An AI Architecture with the Capability to Explain Recognition Results [0.0]
本研究は、説明可能性に対するメトリクスの重要性に焦点をあて、性能向上をもたらす2つの方法に貢献する。第1の方法は説明不能なフローと説明不能なフローの組み合わせを導入し、意思決定の説明容易性を特徴づける指標を提案する。第2の方法は、システム内のニューラルネットワークの有効性を推定するための古典的なメトリクスを比較し、新しいメトリックをリードパフォーマーとして振る舞う。
論文参考訳（メタデータ） (2024-06-13T02:00:13Z)
Relation-aware Ensemble Learning for Knowledge Graph Embedding [68.94900786314666]
我々は,既存の手法を関係性に配慮した方法で活用し,アンサンブルを学習することを提案する。関係認識アンサンブルを用いてこれらのセマンティクスを探索すると、一般的なアンサンブル法よりもはるかに大きな検索空間が得られる。本稿では,リレーショナルなアンサンブル重みを独立に検索する分割探索合成アルゴリズムRelEns-DSCを提案する。
論文参考訳（メタデータ） (2023-10-13T07:40:12Z)
Invariant Causal Mechanisms through Distribution Matching [86.07327840293894]
本研究では、因果的視点と不変表現を学習するための新しいアルゴリズムを提供する。実験により,このアルゴリズムは様々なタスク群でうまく動作し,特にドメインの一般化における最先端のパフォーマンスを観察する。
論文参考訳（メタデータ） (2022-06-23T12:06:54Z)
A survey on improving NLP models with human explanations [10.14196008734383]
人間の説明にアクセス可能なモデルをトレーニングすることで、ドメイン内および外部データ上でのデータ効率とモデルパフォーマンスを向上させることができる。人間の学習のプロセスと類似することで、説明から学ぶことは、実りある人間と機械の相互作用を確立するための有望な方法となる。
論文参考訳（メタデータ） (2022-04-19T13:43:31Z)
Discriminative Attribution from Counterfactuals [64.94009515033984]
本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
論文参考訳（メタデータ） (2021-09-28T00:53:34Z)
On Sample Based Explanation Methods for NLP:Efficiency, Faithfulness, and Semantic Evaluation [23.72825603188359]
我々は、任意のテキストシーケンスを説明単位として許容することにより、説明の解釈可能性を向上させることができる。本研究では,人間による説明の判断に適合する意味に基づく評価指標を提案する。
論文参考訳（メタデータ） (2021-06-09T00:49:56Z)
Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
論文参考訳（メタデータ） (2020-11-13T10:53:27Z)
Learning explanations that are hard to vary [75.30552491694066]
例を越えた平均化は、異なる戦略を縫合する記憶とパッチワークのソリューションに有利であることを示す。そこで我々は論理ANDに基づく単純な代替アルゴリズムを提案し,実験的に検証する。
論文参考訳（メタデータ） (2020-09-01T10:17:48Z)
Few-shot Visual Reasoning with Meta-analogical Contrastive Learning [141.2562447971]
本稿では,類似推論に頼って,数ショット(または低ショット)の視覚推論問題を解くことを提案する。両領域の要素間の構造的関係を抽出し、類似学習と可能な限り類似するように強制する。 RAVENデータセット上での本手法の有効性を検証し, トレーニングデータが少ない場合, 最先端の手法より優れることを示す。
論文参考訳（メタデータ） (2020-07-23T14:00:34Z)
Ontology-based Interpretable Machine Learning for Textual Data [35.01650633374998]
本稿では,予測モデルを説明するためのサンプリング手法に基づいて,解釈可能なモデルを学習する新しい解釈フレームワークを提案する。説明のために探索空間を狭めるために,学習可能なアンカーアルゴリズムを設計する。さらに、学習された解釈可能な表現とアンカーを組み合わせることで、理解可能な説明を生成する一連の規則が導入された。
論文参考訳（メタデータ） (2020-04-01T02:51:57Z)
Inverse Feature Learning: Feature learning based on Representation Learning of Error [12.777440204911022]
本稿では,新しい教師付き特徴学習手法としての逆特徴学習を提案し,誤り表現アプローチに基づく分類のための高レベル特徴セットを学習する。提案手法は,いくつかの一般的なデータセットに対する最先端の分類手法と比較して,性能が著しく向上する。
論文参考訳（メタデータ） (2020-03-08T00:22:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。