論文の概要: Class-Dependent Perturbation Effects in Evaluating Time Series Attributions

• arxiv url: http://arxiv.org/abs/2502.17022v1
• Date: Mon, 24 Feb 2025 10:22:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-25 15:59:31.206580
• Title: Class-Dependent Perturbation Effects in Evaluating Time Series Attributions
• Title（参考訳）: 時系列属性評価におけるクラス依存摂動効果
• Authors: Gregor Baer, Isel Grau, Chao Zhang, Pieter Van Gorp,
• Abstract要約: 機械学習モデルの摂動に基づく評価のクラス依存効果について検討する。 解析の結果,摂動に基づく評価は,本質的な属性品質よりも,特定のモデル行動を反映する可能性が示唆された。 特徴属性評価におけるこれらの効果の評価と評価を支援するために,クラス認識型ペナルティ項を用いた評価フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 5.136283512042341
• License:
• Abstract: As machine learning models become increasingly prevalent in time series applications, Explainable Artificial Intelligence (XAI) methods are essential for understanding their predictions. Within XAI, feature attribution methods aim to identify which input features contributed the most to a model's prediction, with their evaluation typically relying on perturbation-based metrics. Through empirical analysis across multiple datasets, model architectures, and perturbation strategies, we identify important class-dependent effects in these metrics: they show varying effectiveness across classes, achieving strong results for some while remaining less sensitive to others. In particular, we find that the most effective perturbation strategies often demonstrate the most pronounced class differences. Our analysis suggests that these effects arise from the learned biases of classifiers, indicating that perturbation-based evaluation may reflect specific model behaviors rather than intrinsic attribution quality. We propose an evaluation framework with a class-aware penalty term to help assess and account for these effects in evaluating feature attributions. Although our analysis focuses on time series classification, these class-dependent effects likely extend to other structured data domains where perturbation-based evaluation is common.
• Abstract（参考訳）: 機械学習モデルが時系列アプリケーションでますます普及するにつれて、説明可能な人工知能(XAI)の手法は予測を理解するのに不可欠である。 XAIでは、特徴属性法はモデルの予測に最も寄与した入力特徴を特定することを目的としており、その評価は通常摂動に基づくメトリクスに依存する。 複数のデータセット、モデルアーキテクチャ、摂動戦略にまたがる経験的分析を通じて、これらの指標において重要なクラス依存効果を識別する。 特に、最も効果的な摂動戦略は、しばしば最も顕著なクラス差を示す。 分析の結果,これらの影響は分類器の学習バイアスによるものであることが示唆され,摂動に基づく評価は本質的な属性品質よりも特定のモデルの振る舞いを反映している可能性が示唆された。 特徴属性評価におけるこれらの効果の評価と評価を支援するために,クラス認識型ペナルティ項を用いた評価フレームワークを提案する。 分析は時系列分類に焦点をあてるが、これらのクラス依存効果は摂動に基づく評価が一般的である他の構造化データ領域にまで拡張される可能性が高い。

関連論文リスト

• On the importance of structural identifiability for machine learning with partially observed dynamical systems [0.7864304771129751]
  我々は、構造的識別可能性分析を用いて、同一のシステム出力に関連付けられたパラメータ構成を明示的に関連づける。 本研究は,機械学習コミュニティから比較的注目されているトピックである,構造的識別可能性の説明の重要性を実証するものである。
  論文  参考訳（メタデータ） (2025-02-06T15:06:52Z)
• CausalConceptTS: Causal Attributions for Time Series Classification using High Fidelity Diffusion Models [1.068128849363198]
  特定の分類結果に対する概念の因果効果を評価するための新しい枠組みを提案する。 我々は、現状の拡散に基づく生成モデルを利用して、反現実的な結果を推定する。 我々のアプローチは、これらの因果属性と、理論的にも経験的にも、密接に関連する関連属性を比較する。
  論文  参考訳（メタデータ） (2024-05-24T18:33:18Z)
• Robustness and Generalization Performance of Deep Learning Models on Cyber-Physical Systems: A Comparative Study [71.84852429039881]
  調査は、センサーの故障やノイズなど、様々な摂動を扱うモデルの能力に焦点を当てている。 我々は,これらのモデルの一般化と伝達学習能力を,アウト・オブ・ディストリビューション(OOD)サンプルに公開することによって検証する。
  論文  参考訳（メタデータ） (2023-06-13T12:43:59Z)
• Data-Driven Estimation of Heterogeneous Treatment Effects [15.140272661540655]
  異種治療効果推定(ヘテロジニアス・エフェクト・アセスメント・アセスメント・アセスメント・アセスメント・アセスメント・アセスメント)は、経験科学において重要な問題である。 機械学習を用いた不均一な処理効果推定のための最先端データ駆動手法について調査する。
  論文  参考訳（メタデータ） (2023-01-16T21:36:49Z)
• Systematic Evaluation of Predictive Fairness [60.0947291284978]
  バイアス付きデータセットのトレーニングにおけるバイアスの緩和は、重要なオープンな問題である。 複数のタスクにまたがる様々なデバイアス化手法の性能について検討する。 データ条件が相対モデルの性能に強い影響を与えることがわかった。
  論文  参考訳（メタデータ） (2022-10-17T05:40:13Z)
• An evaluation framework for comparing causal inference models [3.1372269816123994]
  提案手法を用いて、いくつかの最先端因果効果推定モデルを比較した。 このアプローチの背後にある主な動機は、少数のインスタンスやシミュレーションがベンチマークプロセスに与える影響を取り除くことである。
  論文  参考訳（メタデータ） (2022-08-31T21:04:20Z)
• Selecting the suitable resampling strategy for imbalanced data classification regarding dataset properties [62.997667081978825]
  医学、情報検索、サイバーセキュリティ、ソーシャルメディアなどの多くのアプリケーションドメインでは、分類モデルの導入に使用されるデータセットは、各クラスのインスタンスの不平等な分布を持つことが多い。 この状況は不均衡データ分類と呼ばれ、少数民族の例では予測性能が低い。 オーバーサンプリングとアンダーサンプリングの技術は、各クラスの例の数とバランスをとることでこの問題に対処する、よく知られた戦略である。
  論文  参考訳（メタデータ） (2021-12-15T18:56:39Z)
• Stateful Offline Contextual Policy Evaluation and Learning [88.9134799076718]
  我々は、シーケンシャルデータから、政治以外の評価と学習について研究する。 動的パーソナライズされた価格設定などの問題の因果構造を形式化する。 本報告では,本クラスにおけるアウト・オブ・サンプル・ポリシーの性能改善について述べる。
  論文  参考訳（メタデータ） (2021-10-19T16:15:56Z)
• Through the Data Management Lens: Experimental Analysis and Evaluation of Fair Classification [75.49600684537117]
  データ管理研究は、データとアルゴリズムの公平性に関連するトピックに対する存在感と関心が高まっている。 我々は,その正しさ,公平性,効率性,スケーラビリティ,安定性よりも,13の公正な分類アプローチと追加の変種を幅広く分析している。 我々の分析は、異なるメトリクスとハイレベルなアプローチ特性がパフォーマンスの異なる側面に与える影響に関する新しい洞察を強調します。
  論文  参考訳（メタデータ） (2021-01-18T22:55:40Z)
• Influence Functions in Deep Learning Are Fragile [52.31375893260445]
  影響関数は、テスト時間予測におけるサンプルの効果を近似する。 影響評価は浅いネットワークでは かなり正確です ヘッセン正則化は、高品質な影響推定を得るために重要である。
  論文  参考訳（メタデータ） (2020-06-25T18:25:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。