論文の概要: GLIME: General, Stable and Local LIME Explanation

• arxiv url: http://arxiv.org/abs/2311.15722v1
• Date: Mon, 27 Nov 2023 11:17:20 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-28 15:59:56.818104
• Title: GLIME: General, Stable and Local LIME Explanation
• Title（参考訳）: GLIME: 一般,安定,ローカルなLIME説明
• Authors: Zeren Tan, Yang Tian, Jian Li
• Abstract要約: LIME(Local Interpretable Model-Agnostic Explanations)は、モデル行動を理解するために広く用いられる手法である。 GLIMEは、LIMEを拡張し、いくつかの先行メソッドを統合する拡張フレームワークである。 局所的および非バイアスなサンプリング分布を用いることで、GLIMEはLIMEと比較して局所的忠実度の高い説明を生成する。
• 参考スコア（独自算出の注目度）: 11.002828804775392
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As black-box machine learning models grow in complexity and find applications in high-stakes scenarios, it is imperative to provide explanations for their predictions. Although Local Interpretable Model-agnostic Explanations (LIME) [22] is a widely adpoted method for understanding model behaviors, it is unstable with respect to random seeds [35,24,3] and exhibits low local fidelity (i.e., how well the explanation approximates the model's local behaviors) [21,16]. Our study shows that this instability problem stems from small sample weights, leading to the dominance of regularization and slow convergence. Additionally, LIME's sampling neighborhood is non-local and biased towards the reference, resulting in poor local fidelity and sensitivity to reference choice. To tackle these challenges, we introduce GLIME, an enhanced framework extending LIME and unifying several prior methods. Within the GLIME framework, we derive an equivalent formulation of LIME that achieves significantly faster convergence and improved stability. By employing a local and unbiased sampling distribution, GLIME generates explanations with higher local fidelity compared to LIME. GLIME explanations are independent of reference choice. Moreover, GLIME offers users the flexibility to choose a sampling distribution based on their specific scenarios.
• Abstract（参考訳）: ブラックボックス機械学習モデルは複雑さが増し、高リスクシナリオでアプリケーションを見つけるため、その予測を説明することが不可欠である。 局所解釈可能なモデル非依存説明法(LIME) [22] はモデル行動を理解するための広く提案された手法であるが, ランダムな種子 [35,24,3] に対して不安定であり, 局所的忠実度が低い(モデルの局所的挙動をどの程度よく近似するか) [21,16] である。 本研究は, この不安定性問題は小標本重みに起因することを示し, 正規化と緩やかな収束の優位に導く。 加えて、LIMEのサンプリング地区は非局所的であり、参照に偏りがあるため、局所的な忠実度が低く、参照選択に敏感である。 これらの課題に対処するために,LIMEを拡張する拡張フレームワークであるGLIMEを導入し,いくつかの先行メソッドを統合する。 GLIMEフレームワーク内ではLIMEの等価な定式化が導出され,より高速な収束と安定性の向上を実現している。 局所的および非バイアスなサンプリング分布を用いることで、GLIMEはLIMEと比較して局所的忠実度の高い説明を生成する。 GLIMEの説明は参照の選択とは無関係である。 さらに、GLIMEは、特定のシナリオに基づいてサンプリングディストリビューションを選択する柔軟性を提供する。

関連論文リスト

• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)
• Guarantee Regions for Local Explanations [29.429229877959663]
  局所的な説明が正しいと保証される領域を同定するアンカーベースアルゴリズムを提案する。 提案手法は,局所代理モデルの予測が予測モデルと一致するように保証される,解釈可能な特徴整合ボックスを生成する。
  論文  参考訳（メタデータ） (2024-02-20T06:04:44Z)
• Invariant Anomaly Detection under Distribution Shifts: A Causal Perspective [6.845698872290768]
  異常検出(AD、Anomaly Detection)は、異常なサンプルを識別する機械学習タスクである。 分散シフトの制約の下では、トレーニングサンプルとテストサンプルが同じ分布から引き出されるという仮定が崩壊する。 我々は,異常検出モデルのレジリエンスを,異なる種類の分布シフトに高めようとしている。
  論文  参考訳（メタデータ） (2023-12-21T23:20:47Z)
• Optimal Multi-Distribution Learning [88.3008613028333]
  マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。 本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-12-08T16:06:29Z)
• Numerically assisted determination of local models in network scenarios [55.2480439325792]
  統計的振る舞いを再現する明示的な局所モデルを見つけるための数値ツールを開発する。 グリーンベルガー・ホルン・ザイリンガー(GHZ)およびW分布の臨界振動性に関する予想を提供する。 開発されたコードとドキュメントは、281.com/mariofilho/localmodelsで公開されている。
  論文  参考訳（メタデータ） (2023-03-17T13:24:04Z)
• Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
  3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。 パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
  論文  参考訳（メタデータ） (2022-04-13T12:43:12Z)
• Locally Invariant Explanations: Towards Stable and Unidirectional Explanations through Local Invariant Learning [15.886405745163234]
  不変リスク最小化原理に着想を得たモデル非依存的局所説明法を提案する。 我々のアルゴリズムは、訓練が簡単で効率的であり、サイド情報にアクセスすることなく、ブラックボックスの局所的な決定のための安定した入力機能を確認することができる。
  論文  参考訳（メタデータ） (2022-01-28T14:29:25Z)
• Locally Interpretable Model Agnostic Explanations using Gaussian Processes [2.9189409618561966]
  LIME(Local Interpretable Model-Agnostic Explanations)は、単一インスタンスの予測を説明する一般的なテクニックである。 局所的解釈可能なモデルのガウス過程(GP)に基づくバリエーションを提案する。 提案手法は,LIMEに比べてはるかに少ないサンプルを用いて忠実な説明を生成可能であることを示す。
  論文  参考訳（メタデータ） (2021-08-16T05:49:01Z)
• Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation [109.73983088432364]
  半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。 共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-10-09T15:42:35Z)
• GANs with Variational Entropy Regularizers: Applications in Mitigating the Mode-Collapse Issue [95.23775347605923]
  深層学習の成功に基づいて、GAN(Generative Adversarial Networks)は、観測されたサンプルから確率分布を学習するための現代的なアプローチを提供する。 GANはしばしば、ジェネレータが入力分布の既存のすべてのモードをキャプチャできないモード崩壊問題に悩まされる。 情報理論のアプローチを採り、生成したサンプルのエントロピーの変動的下限を最大化し、それらの多様性を増大させる。
  論文  参考訳（メタデータ） (2020-09-24T19:34:37Z)
• A Modified Perturbed Sampling Method for Local Interpretable Model-agnostic Explanation [35.281127405430674]
  LIME(Local Interpretable Model-Agnostic Explanation)は、任意の分類器の予測を忠実に説明する手法である。 本稿では,LIME (MPS-LIME) のための改良型摂動サンプリング操作を提案する。 画像分類において、MPS-LIMEはスーパーピクセル画像を非方向グラフに変換する。
  論文  参考訳（メタデータ） (2020-02-18T09:03:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。