論文の概要: Green LIME: Improving AI Explainability through Design of Experiments

• arxiv url: http://arxiv.org/abs/2502.12753v1
• Date: Tue, 18 Feb 2025 11:15:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-19 14:07:45.374683
• Title: Green LIME: Improving AI Explainability through Design of Experiments
• Title（参考訳）: Green LIME: 実験設計によるAI説明可能性の向上
• Authors: Alexandra Stadler, Werner G. Müller, Radoslav Harman,
• Abstract要約: Local Interpretable Model-Agnostic Explanations (LIME)は、興味のあるインスタンスの近くで新しいデータポイントを生成し、それらをモデルに渡すことによって、説明を提供する。 LIMEは非常に多用途であり、幅広いモデルやデータセットに適用できる。 実験の手法を最適に設計することにより、複素モデルの関数評価の回数を減らすことができる。
• 参考スコア（独自算出の注目度）: 44.99833362998488
• License:
• Abstract: In artificial intelligence (AI), the complexity of many models and processes often surpasses human interpretability, making it challenging to understand why a specific prediction is made. This lack of transparency is particularly problematic in critical fields like healthcare, where trust in a model's predictions is paramount. As a result, the explainability of machine learning (ML) and other complex models has become a key area of focus. Efforts to improve model interpretability often involve experimenting with AI systems and approximating their behavior through simpler mechanisms. However, these procedures can be resource-intensive. Optimal design of experiments, which seeks to maximize the information obtained from a limited number of observations, offers promising methods for improving the efficiency of these explainability techniques. To demonstrate this potential, we explore Local Interpretable Model-agnostic Explanations (LIME), a widely used method introduced by Ribeiro, Singh, and Guestrin, 2016. LIME provides explanations by generating new data points near the instance of interest and passing them through the model. While effective, this process can be computationally expensive, especially when predictions are costly or require many samples. LIME is highly versatile and can be applied to a wide range of models and datasets. In this work, we focus on models involving tabular data, regression tasks, and linear models as interpretable local approximations. By utilizing optimal design of experiments' techniques, we reduce the number of function evaluations of the complex model, thereby reducing the computational effort of LIME by a significant amount. We consider this modified version of LIME to be energy-efficient or "green".
• Abstract（参考訳）: 人工知能(AI)では、多くのモデルやプロセスの複雑さが人間の解釈可能性を上回ることが多いため、特定の予測を行う理由を理解するのは難しい。 この透明性の欠如は、モデルの予測に対する信頼が最重要である医療のような重要な分野において特に問題となる。 その結果、機械学習(ML)や他の複雑なモデルの説明可能性の重要性は、焦点の焦点となっている。 モデル解釈可能性を改善する努力は、AIシステムを試行し、より単純なメカニズムを通じてその振る舞いを近似することを伴うことが多い。 しかし、これらの手順は資源集約的である。 限られた数の観測結果から得られる情報を最大化することを目的とした実験の最適設計は、これらの説明可能性技術の効率を向上させるための有望な方法を提供する。 この可能性を実証するため、リベイロ、シン、ゲストリンが2016年に導入したLIME(Local Interpretable Model-Agnostic Explanations)について検討する。 LIMEは、興味のあるインスタンスの近くに新しいデータポイントを生成し、それらをモデルに渡すことで、説明を提供する。 効率的ではあるが、特に予測にコストがかかる場合や多くのサンプルを必要とする場合、このプロセスは計算コストがかかる可能性がある。 LIMEは非常に多用途であり、幅広いモデルやデータセットに適用できる。 本研究では,解析可能な局所近似として表型データ,回帰タスク,線形モデルを含むモデルに焦点をあてる。 実験手法の最適設計を利用して、複素モデルの関数評価数を削減し、LIMEの計算労力を大幅に削減する。 LIMEのこの修正版はエネルギー効率や「グリーン」とみなす。

関連論文リスト

• Achieving interpretable machine learning by functional decomposition of black-box models into explainable predictor effects [4.3500439062103435]
  ブラックボックス予測の関数分解のための新しい手法を提案する。 加法回帰モデルと同様に,本手法は主特徴量の方向と強度に関する洞察を与える。
  論文  参考訳（メタデータ） (2024-07-26T10:37:29Z)
• SynthTree: Co-supervised Local Model Synthesis for Explainable Prediction [15.832975722301011]
  本稿では,最小限の精度で説明可能性を向上させる手法を提案する。 我々は,AI技術を利用してノードを推定する新しい手法を開発した。 我々の研究は、統計的方法論が説明可能なAIを前進させる上で重要な役割を担っている。
  論文  参考訳（メタデータ） (2024-06-16T14:43:01Z)
• Towards Learning Stochastic Population Models by Gradient Descent [0.0]
  パラメータと構造を同時に推定することで,最適化手法に大きな課題が生じることを示す。 モデルの正確な推定を実証するが、擬似的、解釈可能なモデルの推論を強制することは、難易度を劇的に高める。
  論文  参考訳（メタデータ） (2024-04-10T14:38:58Z)
• On Least Square Estimation in Softmax Gating Mixture of Experts [78.3687645289918]
  決定論的MoEモデルに基づく最小二乗推定器(LSE)の性能について検討する。 我々は,多種多様な専門家関数の収束挙動を特徴付けるために,強い識別可能性という条件を確立する。 本研究は,専門家の選択に重要な意味を持つ。
  論文  参考訳（メタデータ） (2024-02-05T12:31:18Z)
• A prediction and behavioural analysis of machine learning methods for modelling travel mode choice [0.26249027950824505]
  我々は、モデル選択に影響を及ぼす可能性のある重要な要因の観点から、複数のモデリング問題に対して異なるモデリングアプローチを体系的に比較する。 その結果,非凝集性予測性能が最も高いモデルでは,行動指標やアグリゲーションモードのシェアが低下することが示唆された。 MNLモデルは様々な状況において堅牢に機能するが、ML手法はWillingness to Payのような行動指標の推定を改善することができる。
  論文  参考訳（メタデータ） (2023-01-11T11:10:32Z)
• HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
  カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。 既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
  論文  参考訳（メタデータ） (2022-06-15T19:10:35Z)
• MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation [132.77005365032468]
  MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。 MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。 公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
  論文  参考訳（メタデータ） (2022-05-31T04:57:06Z)
• Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
  説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。 本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。 実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
  論文  参考訳（メタデータ） (2022-03-15T15:44:28Z)
• Locally Interpretable Model Agnostic Explanations using Gaussian Processes [2.9189409618561966]
  LIME(Local Interpretable Model-Agnostic Explanations)は、単一インスタンスの予測を説明する一般的なテクニックである。 局所的解釈可能なモデルのガウス過程(GP)に基づくバリエーションを提案する。 提案手法は,LIMEに比べてはるかに少ないサンプルを用いて忠実な説明を生成可能であることを示す。
  論文  参考訳（メタデータ） (2021-08-16T05:49:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。