論文の概要: Looking Deeper into Tabular LIME

• arxiv url: http://arxiv.org/abs/2008.11092v3
• Date: Mon, 18 Jul 2022 16:36:20 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-25 02:48:31.103214
• Title: Looking Deeper into Tabular LIME
• Title（参考訳）: タブラルリームにもっと深く目を向ける
• Authors: Damien Garreau, Ulrike von Luxburg
• Abstract要約: 表データの場合, LIME のデフォルト実装に関する理論的解析を行う。 線形関数に対して、LIMEは、説明すべき関数の係数に比例する説明を提供するのに望ましい性質を持つことを示す。 分割型回帰器の場合、LIMEは望ましくない人工物を生成し、誤解を招くような説明を提供する。
• 参考スコア（独自算出の注目度）: 23.988618287393837
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we present a thorough theoretical analysis of the default implementation of LIME in the case of tabular data. We prove that in the large sample limit, the interpretable coefficients provided by Tabular LIME can be computed in an explicit way as a function of the algorithm parameters and some expectation computations related to the black-box model. When the function to explain has some nice algebraic structure (linear, multiplicative, or sparsely depending on a subset of the coordinates), our analysis provides interesting insights into the explanations provided by LIME. These can be applied to a range of machine learning models including Gaussian kernels or CART random forests. As an example, for linear functions we show that LIME has the desirable property to provide explanations that are proportional to the coefficients of the function to explain and to ignore coordinates that are not used by the function to explain. For partition-based regressors, on the other side, we show that LIME produces undesired artifacts that may provide misleading explanations.
• Abstract（参考訳）: 本稿では,表データの場合の LIME の既定実装に関する詳細な理論的解析を行う。 大規模なサンプル限界では,アルゴリズムパラメータの関数やブラックボックスモデルに関連する予測計算として,タブラルLIMEが提供する解釈係数を明示的な方法で計算できることを証明した。 説明する関数が(座標の部分集合によっては線形、乗法的、あるいはスパース的に)良い代数構造を持つとき、我々の分析は LIME が提供する説明について興味深い洞察を与える。 これらは、ガウスカーネルやCARTランダムフォレストなど、さまざまな機械学習モデルに適用できる。 例えば、線型関数に対して、limeは、説明対象関数の係数に比例する説明を提供し、説明対象関数で使用されていない座標を無視するための望ましい性質を持っていることを示す。 一方、分割型回帰器では、LIMEは望ましくない人工物を生成し、誤解を招くような説明を提供する。

関連論文リスト

• An operator learning perspective on parameter-to-observable maps [0.716879432974126]
  本稿では,有限次元ベクトル入力や出力に対応可能なフーリエニューラルマッピングフレームワークを提案する。 自然な疑問は、パラメータ・トゥ・オブザーバブル(PtO)マップをエンドツーエンドに学習するか、あるいは最初に解演算子を学習し、次にフルフィールドの解からオブザーバブルを計算するかである。
  論文  参考訳（メタデータ） (2024-02-08T20:07:47Z)
• NPEFF: Non-Negative Per-Example Fisher Factorization [52.44573961263344]
  エンド・ツー・エンドの微分可能モデルに容易に適用可能な,NPEFFと呼ばれる新しい解釈可能性手法を提案する。 我々はNPEFFが言語モデルと視覚モデルの実験を通して解釈可能なチューニングを持つことを実証した。
  論文  参考訳（メタデータ） (2023-10-07T02:02:45Z)
• Efficient Computation of Counterfactual Bounds [44.4263314637532]
  我々は,構造因果モデルのサブクラスにおけるクレダルネットのアルゴリズムを用いて,正確な反ファクト境界を計算する。 近似の精度を信頼性のある間隔で評価する。
  論文  参考訳（メタデータ） (2023-07-17T07:59:47Z)
• A Mechanistic Interpretation of Arithmetic Reasoning in Language Models using Causal Mediation Analysis [128.0532113800092]
  算数問題に対するトランスフォーマーに基づくLMの機械的解釈を提案する。 これにより、算術に関連する情報がLMによってどのように処理されるかについての洞察が得られる。
  論文  参考訳（メタデータ） (2023-05-24T11:43:47Z)
• Feature Necessity & Relevancy in ML Classifier Explanations [5.232306238197686]
  機械学習(ML)モデルと予測が与えられた場合、説明は予測に十分な機能のセットとして定義することができる。 また、ある説明においてセンシティブな特徴が生じるのか、またはすべての説明において興味のない特徴が生じる必要があるのかを理解することも重要である。
  論文  参考訳（メタデータ） (2022-10-27T12:12:45Z)
• Reinforcement Learning from Partial Observation: Linear Function Approximation with Provable Sample Efficiency [111.83670279016599]
  部分観察決定過程(POMDP)の無限観測および状態空間を用いた強化学習について検討した。 線形構造をもつPOMDPのクラスに対する部分可観測性と関数近似の最初の試みを行う。
  論文  参考訳（メタデータ） (2022-04-20T21:15:38Z)
• Partial Counterfactual Identification from Observational and Experimental Data [83.798237968683]
  観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。 我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
  論文  参考訳（メタデータ） (2021-10-12T02:21:30Z)
• Locally Interpretable Model Agnostic Explanations using Gaussian Processes [2.9189409618561966]
  LIME(Local Interpretable Model-Agnostic Explanations)は、単一インスタンスの予測を説明する一般的なテクニックである。 局所的解釈可能なモデルのガウス過程(GP)に基づくバリエーションを提案する。 提案手法は,LIMEに比べてはるかに少ないサンプルを用いて忠実な説明を生成可能であることを示す。
  論文  参考訳（メタデータ） (2021-08-16T05:49:01Z)
• FLAMBE: Structural Complexity and Representation Learning of Low Rank MDPs [53.710405006523274]
  この研究は、表現学習の問題に焦点を当てている。 基礎となる(未知の)力学が低階遷移行列に対応するという仮定の下で、表現学習問題と特定の非線形行列分解問題との関連性を示す。 低階遷移モデルにおけるRLの探索と表現学習を行うFLAMBEを開発した。
  論文  参考訳（メタデータ） (2020-06-18T19:11:18Z)
• Approximate MMAP by Marginal Search [78.50747042819503]
  本稿では,グラフィカルモデルにおける最小値MAPクエリの戦略を提案する。 提案した信頼度尺度は,アルゴリズムが正確であるインスタンスを適切に検出するものである。 十分に高い信頼度を得るために、アルゴリズムは正確な解を与えるか、正確な解からハミング距離が小さい近似を与える。
  論文  参考訳（メタデータ） (2020-02-12T07:41:13Z)
• Explaining the Explainer: A First Theoretical Analysis of LIME [23.988618287393837]
  LIME (Local Interpretable Model-Agnostic Explanation)。 説明すべき関数が線型であるとき、解釈可能なモデルの係数に対する閉形式式を導出する。 分析の結果、パラメータの選択肢が乏しいため、LIMEは重要な機能を見逃す可能性があることが判明した。
  論文  参考訳（メタデータ） (2020-01-10T13:51:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。