論文の概要: Assessing reliability of explanations in unbalanced datasets: a use-case on the occurrence of frost events

• arxiv url: http://arxiv.org/abs/2507.09545v1
• Date: Sun, 13 Jul 2025 09:12:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-15 18:48:23.466476
• Title: Assessing reliability of explanations in unbalanced datasets: a use-case on the occurrence of frost events
• Title（参考訳）: 不均衡データセットにおける説明の信頼性評価--凍害発生事例の事例として
• Authors: Ilaria Vascotto, Valentina Blasone, Alex Rodriguez, Alessandro Bonaita, Luca Bortolussi,
• Abstract要約: 本研究では,不均衡データセットの特定の場合における説明の信頼性を評価するための予備的な知見を提供する。 本稿では, 近隣住民の1次元生成, 説明集約, 説明整合性テストのための指標を活用するマイノリティクラスに着目した簡易な評価法を提案する。
• 参考スコア（独自算出の注目度）: 39.981755859250505
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The usage of eXplainable Artificial Intelligence (XAI) methods has become essential in practical applications, given the increasing deployment of Artificial Intelligence (AI) models and the legislative requirements put forward in the latest years. A fundamental but often underestimated aspect of the explanations is their robustness, a key property that should be satisfied in order to trust the explanations. In this study, we provide some preliminary insights on evaluating the reliability of explanations in the specific case of unbalanced datasets, which are very frequent in high-risk use-cases, but at the same time considerably challenging for both AI models and XAI methods. We propose a simple evaluation focused on the minority class (i.e. the less frequent one) that leverages on-manifold generation of neighbours, explanation aggregation and a metric to test explanation consistency. We present a use-case based on a tabular dataset with numerical features focusing on the occurrence of frost events.
• Abstract（参考訳）: eXplainable Artificial Intelligence(XAI)メソッドの使用は、人工知能(AI)モデルの展開の増加と、近年進行中の立法要件が考慮され、実践的な応用に欠かせないものとなっている。 説明の基本的な部分であるが、しばしば過小評価される側面は、その堅牢性であり、説明を信頼するために満足すべき重要な性質である。 本研究では、リスクの高いユースケースで頻繁に発生する不均衡データセットの特定のケースにおける説明の信頼性を評価するための予備的な洞察を提供するが、同時にAIモデルとXAI手法の両方においてかなり難しい。 本報告では, 近隣住民の1次元生成, 説明集約, 説明整合性テストのための指標を活用するマイノリティクラス(低頻度クラス)に着目した簡易な評価法を提案する。 本稿では,凍害の発生に着目した表層データセットに基づくユースケースを提案する。

関連論文リスト

• XForecast: Evaluating Natural Language Explanations for Time Series Forecasting [72.57427992446698]
  時系列予測は、特に正確な予測に依存するステークホルダーにとって、意思決定を支援する。 伝統的に説明可能なAI(XAI)メソッドは、機能や時間的重要性を基盤とするものであり、専門家の知識を必要とすることが多い。 時系列データにおける複雑な因果関係のため,予測NLEの評価は困難である。
  論文  参考訳（メタデータ） (2024-10-18T05:16:39Z)
• When Can You Trust Your Explanations? A Robustness Analysis on Feature Importances [42.36530107262305]
  説明の堅牢性は、システムと提供された説明の両方を信頼する上で、中心的な役割を果たす。 本稿では,非対向摂動に対するニューラルネットワーク説明の頑健さを解析するための新しいアプローチを提案する。 さらに,様々な説明を集約するアンサンブル手法を提案し,モデルの決定を理解し,頑健さを評価することによって,説明の融合がいかに有用かを示す。
  論文  参考訳（メタデータ） (2024-06-20T14:17:57Z)
• Unified Explanations in Machine Learning Models: A Perturbation Approach [0.0]
  XAIとモデリング技術の不整合は、これらの説明可能性アプローチの有効性に疑念を投げかけるという望ましくない効果をもたらす可能性がある。 我々はXAI, SHapley Additive exPlanations (Shap) において, 一般的なモデルに依存しない手法に対する系統的摂動解析を提案する。 我々は、一般的な機械学習とディープラーニングの手法のスイートと、静的ケースホールドで生成された説明の正確さを定量化するためのメトリクスの中で、動的推論の設定において、相対的な特徴重要度を生成するアルゴリズムを考案した。
  論文  参考訳（メタデータ） (2024-05-30T16:04:35Z)
• Robust Survival Analysis with Adversarial Regularization [6.001304967469112]
  生存分析(SA)は、ある事象が起こるまでの時間をモデル化する。 最近の研究によると、ニューラルネットワーク(NN)はSAの複雑な関係を捉えることができる。 我々は、NN検証の進歩を活用して、堅牢で完全なパラメトリックサバイバルモデルのためのアルゴリズムを作成する。
  論文  参考訳（メタデータ） (2023-12-26T12:18:31Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Causality-Aware Local Interpretable Model-Agnostic Explanations [7.412445894287709]
  本稿では,インスタンスを取り巻くデータ内の明確な因果関係をエンコードする,広く使われている局所的およびモデルに依存しない説明器の拡張を提案する。 提案手法は,ブラックボックスモデルのメカニズムと生成した説明の一貫性と信頼性を忠実に再現する上で,元の手法を克服する。
  論文  参考訳（メタデータ） (2022-12-10T10:12:27Z)
• HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
  カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。 既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
  論文  参考訳（メタデータ） (2022-06-15T19:10:35Z)
• Principled Knowledge Extrapolation with GANs [92.62635018136476]
  我々は,知識外挿の新たな視点から,対実合成を研究する。 本稿では, 知識外挿問題に対処するために, クローズド形式判別器を用いた対角ゲームが利用可能であることを示す。 提案手法は,多くのシナリオにおいて,エレガントな理論的保証と優れた性能の両方を享受する。
  論文  参考訳（メタデータ） (2022-05-21T08:39:42Z)
• Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
  本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。 本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
  論文  参考訳（メタデータ） (2022-03-30T05:59:50Z)
• Logic Constraints to Feature Importances [17.234442722611803]
  AIモデルの"ブラックボックス"の性質は、診断技術や自律的ガイドなど、高度な分野における信頼性の高い応用の限界であることが多い。 近年の研究では、適切な解釈可能性のレベルが、モデル信頼性というより一般的な概念を強制できることが示されている。 本論文の基本的な考え方は,特定のタスクにおける特徴の重要性に関する人間の事前知識を利用して,モデルの適合のフェーズを整合的に支援することである。
  論文  参考訳（メタデータ） (2021-10-13T09:28:38Z)
• When Stability meets Sufficiency: Informative Explanations that do not Overwhelm [15.897648942908747]
  入力の分類を正当化するためには、何が最小限に必要かを強調する特徴に基づく属性法を考える。 最小限の充足性は理解性に類似した魅力的な性質であるが、結果として生じる説明は、人間がモデルの局所的な振る舞いを理解して評価するには不十分であることが多い。 本稿では,与えられた入力に対して,安定かつ十分な説明のシーケンスを出力するPSEM(Path-Sufficient Explanations Method)を提案する。
  論文  参考訳（メタデータ） (2021-09-13T16:06:10Z)
• Rational Shapley Values [0.0]
  ポストホックな説明可能な人工知能(XAI)の一般的なツールは、文脈に敏感であるか、要約が難しい。 非互換なアプローチを合成し拡張する新しいXAI手法である、エミュレーション型シェープリー値を導入する。 私は、意思決定理論や因果モデリングのツールを活用して、XAIにおける多くの既知の課題を解決する実用的なアプローチを定式化し、実装します。
  論文  参考訳（メタデータ） (2021-06-18T15:45:21Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。