論文の概要: Statistics without Interpretation: A Sober Look at Explainable Machine Learning

• arxiv url: http://arxiv.org/abs/2402.02870v1
• Date: Mon, 5 Feb 2024 10:36:48 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-06 17:00:51.872416
• Title: Statistics without Interpretation: A Sober Look at Explainable Machine Learning
• Title（参考訳）: 解釈のない統計: 説明可能な機械学習について
• Authors: Sebastian Bordt, Ulrike von Luxburg
• Abstract要約: 説明アルゴリズムはしばしば数学的に複雑であるが、明確な解釈は認めない。 説明アルゴリズムの論文は、アルゴリズムの出力がどの程度正確に解釈されるべきかを明確にする必要がある。
• 参考スコア（独自算出の注目度）: 11.993040038930896
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the rapidly growing literature on explanation algorithms, it often remains unclear what precisely these algorithms are for and how they should be used. We argue that this is because explanation algorithms are often mathematically complex but don't admit a clear interpretation. Unfortunately, complex statistical methods that don't have a clear interpretation are bound to lead to errors in interpretation, a fact that has become increasingly apparent in the literature. In order to move forward, papers on explanation algorithms should make clear how precisely the output of the algorithms should be interpreted. They should also clarify what questions about the function can and cannot be answered given the explanations. Our argument is based on the distinction between statistics and their interpretation. It also relies on parallels between explainable machine learning and applied statistics.
• Abstract（参考訳）: 説明アルゴリズムに関する急速に成長している文献では、これらのアルゴリズムが何のために、どのように使われるべきかはよく分かっていない。 これは、説明アルゴリズムはしばしば数学的に複雑であるが明確な解釈は認めていないためであると主張する。 あいにく、明確な解釈を持たない複雑な統計的手法は解釈の誤りに結びつくことになり、この事実は文学においてますます明らかになっている。 前進するために、説明アルゴリズムに関する論文は、アルゴリズムの出力がどの程度正確に解釈されるべきかを明確にするべきである。 また、これらの説明により、機能に関する質問に何ができるのか、答えられないのかを明確にする必要がある。 我々の議論は統計学と解釈の区別に基づいている。 また、説明可能な機械学習と応用統計の並列性にも依存している。

関連論文リスト

• Disagreement amongst counterfactual explanations: How transparency can be deceptive [0.0]
  偽物の説明は、説明可能な人工知能技術としてますます使われている。 すべてのアルゴリズムが同じインスタンスに対して一様説明を生成するわけではない。 悪意のあるエージェントがこの多様性を使って不公平な機械学習モデルに見合うと、倫理的な問題が生じる。
  論文  参考訳（メタデータ） (2023-04-25T09:15:37Z)
• Eliminating The Impossible, Whatever Remains Must Be True [46.39428193548396]
  より簡潔な「なぜ」形式的な説明をするために背景知識を適用する方法を示す。 また,既存のルール誘導手法を用いて,データセットから背景情報を効率的に抽出する方法を示す。
  論文  参考訳（メタデータ） (2022-06-20T03:18:14Z)
• Don't Explain Noise: Robust Counterfactuals for Randomized Ensembles [50.81061839052459]
  我々は確率論的問題として、堅牢な対実的説明の生成を定式化する。 アンサンブルモデルのロバスト性とベース学習者のロバスト性との関係を示す。 本手法は, 反実的説明から初期観測までの距離をわずかに増加させるだけで, 高いロバスト性を実現する。
  論文  参考訳（メタデータ） (2022-05-27T17:28:54Z)
• Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
  テキストデータ上でのサリエンシに基づく説明について検討する。 人はしばしば説明を誤って解釈する。 本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-27T15:20:32Z)
• Counterfactual Instances Explain Little [7.655239948659383]
  機械学習システムの意思決定を説明することは重要である。 益々人気が高まっているアプローチは、実例の説明を提供することである。 本論では, 十分な説明は, 因果方程式と反実例の両方から成り立たなければならないと論じる。
  論文  参考訳（メタデータ） (2021-09-20T19:40:25Z)
• Learning outside the Black-Box: The pursuit of interpretable models [78.32475359554395]
  本稿では,任意の連続ブラックボックス関数の連続的大域的解釈を生成するアルゴリズムを提案する。 我々の解釈は、その芸術の以前の状態から飛躍的な進歩を表している。
  論文  参考訳（メタデータ） (2020-11-17T12:39:44Z)
• Are Interpretations Fairly Evaluated? A Definition Driven Pipeline for Post-Hoc Interpretability [54.85658598523915]
  我々は,解釈の忠実性を評価する前に,解釈を明確に定義することを提案する。 解釈手法は,ある評価基準の下で異なる性能を示すが,その差は解釈の品質や忠実さから生じるものではない。
  論文  参考訳（メタデータ） (2020-09-16T06:38:03Z)
• SCOUT: Self-aware Discriminant Counterfactual Explanations [78.79534272979305]
  対物的視覚的説明の問題点を考察する。 新しい差別的な説明の族が紹介される。 結果として生じる反実的な説明は、最適化が自由で、従って以前の方法よりもはるかに高速である。
  論文  参考訳（メタデータ） (2020-04-16T17:05:49Z)
• Random thoughts about Complexity, Data and Models [0.0]
  データサイエンスと機械学習は、過去10年間強く成長してきた。 我々は「データとモデル」の微妙な関係について検討する。 アルゴリズム複雑性とアルゴリズム学習の関係性を評価する上での鍵となる課題は、圧縮性、決定性、予測可能性の概念である。
  論文  参考訳（メタデータ） (2020-04-16T14:27:22Z)
• Adequate and fair explanations [12.33259114006129]
  我々は厳密な論理的基礎を持つ第2の正確な説明に焦点をあてる。 反事実的説明では、完全な説明を提供するために必要な仮定の多くは暗黙的に残されている。 局所的な部分的な説明から完全な局所的な説明へと、そしてグローバルな説明へと移行する方法を探求する。
  論文  参考訳（メタデータ） (2020-01-21T14:42:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。