論文の概要: Provably Robust Model-Centric Explanations for Critical Decision-Making
- arxiv url: http://arxiv.org/abs/2110.13937v1
- Date: Tue, 26 Oct 2021 18:05:49 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-31 12:54:57.447039
- Title: Provably Robust Model-Centric Explanations for Critical Decision-Making
- Title(参考訳): 臨界決定過程の確率的ロバストモデル中心説明法
- Authors: Cecilia G. Morales, Nicholas Gisolfi, Robert Edman, James K. Miller,
Artur Dubrawski
- Abstract要約: データ中心の手法は、限られた実用性についての脆い説明をもたらす可能性がある。
しかし、モデル中心のフレームワークは、実際にAIモデルを使用するリスクに関する実用的な洞察を提供することができる。
- 参考スコア(独自算出の注目度): 14.367217955827002
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We recommend using a model-centric, Boolean Satisfiability (SAT) formalism to
obtain useful explanations of trained model behavior, different and
complementary to what can be gleaned from LIME and SHAP, popular data-centric
explanation tools in Artificial Intelligence (AI). We compare and contrast
these methods, and show that data-centric methods may yield brittle
explanations of limited practical utility. The model-centric framework,
however, can offer actionable insights into risks of using AI models in
practice. For critical applications of AI, split-second decision making is best
informed by robust explanations that are invariant to properties of data, the
capability offered by model-centric frameworks.
- Abstract(参考訳): 人工知能(AI)における一般的なデータ中心の説明ツールであるLIMEやSHAPとの違いと相補的なモデル行動の有用な説明を得るために、モデル中心のSAT(Boolean Satisfiability)形式を使うことを推奨する。
これらの手法を比較して比較し,データ中心の手法が実用性に乏しい説明をもたらすことを示す。
しかし、モデル中心のフレームワークは、実際にAIモデルを使用するリスクに関する実用的な洞察を提供することができる。
aiの重要なアプリケーションでは、分割2次意思決定は、モデル中心のフレームワークが提供する能力であるデータの性質に不変なロバストな説明によって最もよくわかる。
関連論文リスト
- Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。
驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。
以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
論文 参考訳(メタデータ) (2023-12-10T23:13:23Z) - QualEval: Qualitative Evaluation for Model Improvement [86.29905469151566]
モデル改善のための手段として,自動定性評価による定量的スカラー指標を付加するQualEvalを提案する。
QualEvalは強力なLCM推論器と新しいフレキシブルリニアプログラミングソルバを使用して、人間の読みやすい洞察を生成する。
例えば、その洞察を活用することで、Llama 2モデルの絶対性能が最大15%向上することを示す。
論文 参考訳(メタデータ) (2023-11-06T00:21:44Z) - SLEM: Machine Learning for Path Modeling and Causal Inference with Super
Learner Equation Modeling [3.988614978933934]
因果推論は科学の重要な目標であり、研究者は観測データを使って意味のある結論に達することができる。
経路モデル、構造方程式モデル(SEM)および指向非巡回グラフ(DAG)は、現象の根底にある因果構造に関する仮定を明確に特定する手段を提供する。
本稿では,機械学習のスーパーラーナーアンサンブルを統合したパスモデリング手法であるSuper Learner Equation Modelingを提案する。
論文 参考訳(メタデータ) (2023-08-08T16:04:42Z) - Incorporating Domain Knowledge in Deep Neural Networks for Discrete
Choice Models [0.5801044612920815]
本稿では,DCMにおけるデータ駆動型アプローチの可能性を拡張するフレームワークを提案する。
これには、必要な関係を表す擬似データサンプルと、その実現度を測定する損失関数が含まれる。
ケーススタディは、このフレームワークの個別選択分析の可能性を示している。
論文 参考訳(メタデータ) (2023-05-30T12:53:55Z) - Commentary on explainable artificial intelligence methods: SHAP and LIME [7.104895625811305]
本稿では、広く使われている2つのXAI手法の説明可能性指標について論じる。
本稿では,その弱点と強みを浮き彫りにして,その成果を解釈するための枠組みを提案する。
論文 参考訳(メタデータ) (2023-05-03T10:04:46Z) - MACE: An Efficient Model-Agnostic Framework for Counterfactual
Explanation [132.77005365032468]
MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。
MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。
公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
論文 参考訳(メタデータ) (2022-05-31T04:57:06Z) - Beyond Explaining: Opportunities and Challenges of XAI-Based Model
Improvement [75.00655434905417]
説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。
本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。
実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
論文 参考訳(メタデータ) (2022-03-15T15:44:28Z) - Using Shape Metrics to Describe 2D Data Points [0.0]
本稿では,2次元データを記述するために形状計測を用いて,解析をより説明しやすく解釈可能にすることを提案する。
これは、説明可能性の権利が不可欠である医療コミュニティにおける応用において特に重要である。
論文 参考訳(メタデータ) (2022-01-27T23:28:42Z) - Beyond Trivial Counterfactual Explanations with Diverse Valuable
Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。
本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。
このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文 参考訳(メタデータ) (2021-03-18T12:57:34Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。