論文の概要: Explainable AI Enabled Inspection of Business Process Prediction Models

• arxiv url: http://arxiv.org/abs/2107.09767v1
• Date: Fri, 16 Jul 2021 06:51:18 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-25 12:00:06.453768
• Title: Explainable AI Enabled Inspection of Business Process Prediction Models
• Title（参考訳）: ビジネスプロセス予測モデルの検査を可能にする説明可能なAI
• Authors: Chun Ouyang, Renuka Sindhgatta, Catarina Moreira
• Abstract要約: 本稿では,モデル説明を用いて,機械学習の予測によって適用された推論を解析する手法を提案する。 本手法の新たな貢献は,解釈可能な機械学習機構によって生成された説明と,過去のプロセス実行を記録するイベントログから抽出された文脈的,あるいはドメイン的知識の両方を活用するモデル検査の提案である。
• 参考スコア（独自算出の注目度）: 2.5229940062544496
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Modern data analytics underpinned by machine learning techniques has become a key enabler to the automation of data-led decision making. As an important branch of state-of-the-art data analytics, business process predictions are also faced with a challenge in regard to the lack of explanation to the reasoning and decision by the underlying `black-box' prediction models. With the development of interpretable machine learning techniques, explanations can be generated for a black-box model, making it possible for (human) users to access the reasoning behind machine learned predictions. In this paper, we aim to present an approach that allows us to use model explanations to investigate certain reasoning applied by machine learned predictions and detect potential issues with the underlying methods thus enhancing trust in business process prediction models. A novel contribution of our approach is the proposal of model inspection that leverages both the explanations generated by interpretable machine learning mechanisms and the contextual or domain knowledge extracted from event logs that record historical process execution. Findings drawn from this work are expected to serve as a key input to developing model reliability metrics and evaluation in the context of business process predictions.
• Abstract（参考訳）: 機械学習技術に根ざした現代のデータ分析は、データ主導意思決定の自動化の鍵となる。 最先端のデータ分析の重要な分野として、ビジネスプロセス予測は、基盤となる「ブラックボックス」予測モデルによる推論と決定に対する説明の欠如に関しても課題に直面している。 解釈可能な機械学習技術の開発により、ブラックボックスモデルに対する説明が生成され、(人間)ユーザーが機械学習の予測の背後にある推論にアクセスできるようになる。 本稿では、機械学習による予測に適用される推論をモデル説明を用いて検証し、基礎となる手法の潜在的な問題を検出し、ビジネスプロセス予測モデルの信頼度を高める手法を提案する。 本手法の新たな貢献は,解釈可能な機械学習機構によって生成された説明と,過去のプロセス実行を記録するイベントログから抽出された文脈的,あるいはドメイン的知識の両方を活用するモデル検査の提案である。 この研究から得られた知見は、ビジネスプロセス予測の文脈でモデル信頼性のメトリクスや評価を開発するための重要なインプットとなることが期待されます。

関連論文リスト

• Attention Please: What Transformer Models Really Learn for Process Prediction [0.0]
  本稿では, 変圧器をベースとした次活動予測モデルの注意点が, 意思決定の根拠となるかどうかを考察する。 我々は,次の活動予測モデルにおける注意点が説明役として機能し,この事実を2つのグラフに基づく説明手法で活用できることを見出した。
  論文  参考訳（メタデータ） (2024-08-12T08:20:38Z)
• Generating Feasible and Plausible Counterfactual Explanations for Outcome Prediction of Business Processes [45.502284864662585]
  データ駆動型アプローチであるREVISEDplusを導入し、妥当な対実的説明を生成する。 まず, プロセスデータの高密度領域内に存在する反ファクトデータを生成するために, 反ファクトアルゴリズムを限定する。 また、プロセスケースにおけるアクティビティ間のシーケンシャルなパターンを学習することで、妥当性を保証します。
  論文  参考訳（メタデータ） (2024-03-14T09:56:35Z)
• Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
  本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。 本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
  論文  参考訳（メタデータ） (2022-03-30T05:59:50Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)
• Building Interpretable Models for Business Process Prediction using Shared and Specialised Attention Mechanisms [5.607831842909669]
  我々は、解釈可能なモデルを構築することにより、予測プロセス分析における「ブラックボックス」問題に対処する。 本稿では,特定のプロセスイベントが予測に与える影響を捉えるイベントアテンションと,その予測に影響を及ぼすイベントの属性を明らかにする属性アテンションの2つのタイプを提案する。
  論文  参考訳（メタデータ） (2021-09-03T10:17:05Z)
• Hessian-based toolbox for reliable and interpretable machine learning in physics [58.720142291102135]
  本稿では,モデルアーキテクチャの解釈可能性と信頼性,外挿を行うためのツールボックスを提案する。 与えられたテストポイントでの予測に対する入力データの影響、モデル予測の不確実性の推定、およびモデル予測の不可知スコアを提供する。 我々の研究は、物理学やより一般的には科学に適用されたMLにおける解釈可能性と信頼性の方法の体系的利用への道を開く。
  論文  参考訳（メタデータ） (2021-08-04T16:32:59Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Evaluating Explainable Methods for Predictive Process Analytics: A Functionally-Grounded Approach [2.2448567386846916]
  予測プロセス分析は、ビジネスプロセスの実行インスタンスの将来の状態を予測することに焦点を当てる。 現在のLIMEやSHAPのような説明可能な機械学習手法は、ブラックボックスモデルの解釈に利用できる。 XGBoost上に構築されたプロセス予測モデルの解釈におけるLIMEとSHAPの性能評価に,提案手法を適用した。
  論文  参考訳（メタデータ） (2020-12-08T05:05:19Z)
• Forethought and Hindsight in Credit Assignment [62.05690959741223]
  我々は、前向きモデルや後向きモデルによる後向き操作による予測として使われる計画の利益と特異性を理解するために活動する。 本稿では,予測を(再)評価すべき状態の選択に主眼を置いて,計画におけるモデルの利用について検討する。
  論文  参考訳（メタデータ） (2020-10-26T16:00:47Z)
• Local Post-Hoc Explanations for Predictive Process Monitoring in Manufacturing [0.0]
  本研究では,製造におけるデータ駆動型意思決定を容易にするための,革新的な予測品質分析ソリューションを提案する。 プロセスマイニング、機械学習、説明可能な人工知能(XAI)メソッドを組み合わせる。
  論文  参考訳（メタデータ） (2020-09-22T13:07:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。