Fugu-MT 論文翻訳(概要): Sound Explanation for Trustworthy Machine Learning

論文の概要: Sound Explanation for Trustworthy Machine Learning

arxiv url: http://arxiv.org/abs/2306.06134v1
Date: Thu, 8 Jun 2023 19:58:30 GMT
ステータス: 処理完了
システム内更新日: 2023-06-13 20:58:11.808477
Title: Sound Explanation for Trustworthy Machine Learning
Title（参考訳）: 信頼できる機械学習のための音響説明
Authors: Kai Jia, Pasapol Saowakon, Limor Appelbaum, Martin Rinard
Abstract要約: 我々は、入力成分にスコアを割り当てることでブラックボックスモデルを解釈する実践に反対する。次に,先行研究で非公式に採用された音声説明の概念を定式化する。本稿では,がん予測モデルにおける特徴選択を音響的説明として応用し,臨床医間の信頼を育む。
参考スコア（独自算出の注目度）: 11.779125616468194
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We take a formal approach to the explainability problem of machine learning systems. We argue against the practice of interpreting black-box models via attributing scores to input components due to inherently conflicting goals of attribution-based interpretation. We prove that no attribution algorithm satisfies specificity, additivity, completeness, and baseline invariance. We then formalize the concept, sound explanation, that has been informally adopted in prior work. A sound explanation entails providing sufficient information to causally explain the predictions made by a system. Finally, we present the application of feature selection as a sound explanation for cancer prediction models to cultivate trust among clinicians.
Abstract（参考訳）: 我々は,機械学習システムの説明可能性問題に対して形式的アプローチをとる。我々は、帰属に基づく解釈という本質的に矛盾する目標のために、帰属のスコアを入力成分に当てはめることによってブラックボックスモデルを解釈する実践に反対する。帰属アルゴリズムは特異性、加法性、完全性、ベースライン不変性を満たすものではない。次に、先行研究で非公式に採用された概念である音説明を定式化する。音響説明は、システムによってなされる予測を因果的に説明するための十分な情報を提供する。最後に, 臨床医の信頼を育むために, 癌予測モデルの音響的説明としての特徴選択の適用について述べる。

関連論文リスト

Selective Explanations [14.312717332216073]
機械学習モデルは、1つの推論だけで特徴属性スコアを予測するために訓練される。その効率にもかかわらず、償却された説明者は不正確な予測や誤解を招く説明を生み出すことができる。そこで本稿では,低品質な説明文を生成する際の特徴帰属手法である選択的説明文を提案する。
論文参考訳（メタデータ） (2024-05-29T23:08:31Z)
Estimation of Concept Explanations Should be Uncertainty Aware [39.598213804572396]
概念説明(Concept Explanations)と呼ばれる特定の概念について研究し、人間の理解可能な概念を用いてモデルを解釈することを目的としている。簡単な解釈で人気があるが、概念的な説明は騒々しいことが知られている。本稿では,これらの問題に対処する不確実性を考慮したベイズ推定手法を提案する。
論文参考訳（メタデータ） (2023-12-13T11:17:27Z)
Explaining Hate Speech Classification with Model Agnostic Methods [0.9990687944474738]
本研究の目的は、ヘイトスピーチ予測と、その決定を支援するためにシステムによって生成された説明とのギャップを埋めることである。これは、まずテキストの分類を予測し、その後、ポストホック、モデル非依存、代理的解釈可能性アプローチを提供することによって達成されている。
論文参考訳（メタデータ） (2023-05-30T19:52:56Z)
Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。これは、説明に表される論理述語に基づいて、反実仮説を生成する。そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
論文参考訳（メタデータ） (2022-05-25T03:40:59Z)
A Human-Centered Interpretability Framework Based on Weight of Evidence [26.94750208505883]
人間中心のアプローチで機械学習を解釈します。人間にとって意味のある機械生成説明のための設計原則のリストを提案します。本手法は高次元のマルチクラス設定に適応可能であることを示す。
論文参考訳（メタデータ） (2021-04-27T16:13:35Z)
Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文参考訳（メタデータ） (2021-03-18T12:57:34Z)
Contrastive Explanations for Model Interpretability [77.92370750072831]
分類モデルの対照的説明を生成する手法を提案する。本手法は潜在空間へのモデル表現の投影に基づいている。本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
論文参考訳（メタデータ） (2021-03-02T00:36:45Z)
This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
反実用説明システムは、入力画像を変更して反実用推論を可能にする。本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
論文参考訳（メタデータ） (2020-12-22T10:08:05Z)
The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal Sufficient Subsets [61.66584140190247]
機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
論文参考訳（メタデータ） (2020-09-23T09:45:23Z)
Explaining predictive models with mixed features using Shapley values and conditional inference trees [1.8065361710947976]
シェープな値は、あらゆる種類の機械学習モデルからの予測を説明するためのサウンドメソッドとして際立っている。本研究では,条件付き推論木を用いた特徴の依存構造をモデル化し,混合依存的特徴を説明する手法を提案する。
論文参考訳（メタデータ） (2020-07-02T11:25:45Z)
Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
分析による特徴に基づく説明の新たな評価基準を確立する。我々は、緩やかに必要であり、予測に十分である新しい説明を得る。我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
論文参考訳（メタデータ） (2020-05-31T05:52:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。