論文の概要: On the Consistency and Robustness of Saliency Explanations for Time Series Classification

• arxiv url: http://arxiv.org/abs/2309.01457v1
• Date: Mon, 4 Sep 2023 09:08:22 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-06 19:13:27.665731
• Title: On the Consistency and Robustness of Saliency Explanations for Time Series Classification
• Title（参考訳）: 時系列分類における相性説明の一貫性とロバスト性について
• Authors: Chiara Balestra, Bin Li, Emmanuel M\"uller
• Abstract要約: 時系列ウィンドウを画像として解釈するために、サリエンシマップが適用されている。 本稿では,時系列の特徴と時間的属性に対するサリエンシマップの一貫性とロバスト性について広く分析する。
• 参考スコア（独自算出の注目度）: 4.062872727927056
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Interpretable machine learning and explainable artificial intelligence have become essential in many applications. The trade-off between interpretability and model performance is the traitor to developing intrinsic and model-agnostic interpretation methods. Although model explanation approaches have achieved significant success in vision and natural language domains, explaining time series remains challenging. The complex pattern in the feature domain, coupled with the additional temporal dimension, hinders efficient interpretation. Saliency maps have been applied to interpret time series windows as images. However, they are not naturally designed for sequential data, thus suffering various issues. This paper extensively analyzes the consistency and robustness of saliency maps for time series features and temporal attribution. Specifically, we examine saliency explanations from both perturbation-based and gradient-based explanation models in a time series classification task. Our experimental results on five real-world datasets show that they all lack consistent and robust performances to some extent. By drawing attention to the flawed saliency explanation models, we motivate to develop consistent and robust explanations for time series classification.
• Abstract（参考訳）: 解釈可能な機械学習と説明可能な人工知能は多くの応用において不可欠である。 解釈可能性とモデル性能のトレードオフは、内在的かつモデル非依存な解釈方法を開発するための特性である。 モデル説明アプローチは視覚領域と自然言語領域で大きな成功を収めているが、時系列の説明は依然として困難である。 特徴領域の複雑なパターンは、追加の時間次元と相まって、効率的な解釈を妨げる。 時系列ウィンドウを画像として解釈するために、サリエンシーマップが適用されている。 しかし、それらは逐次データのために自然に設計されたものではなく、様々な問題に苦しむ。 本稿では,時系列の特徴と時間的属性に対するサリエンシマップの一貫性とロバスト性を広く分析する。 具体的には,時系列分類タスクにおける摂動モデルと勾配モデルの両方からの塩分説明について検討する。 5つの実世界のデータセットに関する実験結果は、いずれもある程度の一貫性と堅牢性に欠けることを示している。 欠点のある塩分説明モデルに注意を向けることで,時系列分類の一貫性とロバストな説明を開発する動機付けを行う。

関連論文リスト

• TimeGraphs: Graph-based Temporal Reasoning [64.18083371645956]
  TimeGraphsは階層的時間グラフとして動的相互作用を特徴付ける新しいアプローチである。 提案手法は,コンパクトなグラフベース表現を用いて相互作用をモデル化し,多種多様な時間スケールでの適応推論を可能にする。 我々は,サッカーシミュレータ,抵抗ゲーム,MOMA人間活動データセットなど,複雑でダイナミックなエージェントインタラクションを持つ複数のデータセット上でTimeGraphsを評価する。
  論文  参考訳（メタデータ） (2024-01-06T06:26:49Z)
• Encoding Time-Series Explanations through Self-Supervised Model Behavior Consistency [26.99599329431296]
  トレーニング説明書の時系列一貫性モデルであるTimeXを提案する。 TimeXは、事前訓練された時系列モデルの振る舞いを模倣するために解釈可能なサロゲートを訓練する。 我々は8つの合成および実世界のデータセット上でTimeXを評価し、その性能を最先端の解釈可能性手法と比較した。
  論文  参考訳（メタデータ） (2023-06-03T13:25:26Z)
• ChiroDiff: Modelling chirographic data with Diffusion Models [132.5223191478268]
  チャーログラフィーデータのための強力なモデルクラスである「拡散確率モデル(Denoising Diffusion Probabilistic Models)」やDDPMを導入している。 我々のモデルは「ChiroDiff」と呼ばれ、非自己回帰的であり、全体論的概念を捉えることを学び、したがって高い時間的サンプリングレートに回復する。
  論文  参考訳（メタデータ） (2023-04-07T15:17:48Z)
• TempSAL -- Uncovering Temporal Information for Deep Saliency Prediction [64.63645677568384]
  本稿では,逐次時間間隔でサリエンシマップを出力する新たなサリエンシ予測モデルを提案する。 提案手法は,学習した時間マップを組み合わせることで,サリエンシ予測を局所的に調整する。 私たちのコードはGitHubで公開されます。
  論文  参考訳（メタデータ） (2023-01-05T22:10:16Z)
• Ripple: Concept-Based Interpretation for Raw Time Series Models in Education [5.374524134699487]
  時系列は、教育予測タスクにおいて最も一般的な入力データである。 本稿では,グラフニューラルネットワークを用いた不規則な多変量時系列モデリングを用いて,同等あるいはより良い精度を実現する手法を提案する。 教育領域におけるこれらの進歩を分析し,早期学生のパフォーマンス予測の課題に対処する。
  論文  参考訳（メタデータ） (2022-12-02T12:26:00Z)
• DyTed: Disentangled Representation Learning for Discrete-time Dynamic Graph [59.583555454424]
  離散時間動的グラフ、すなわちDyTedのための新しいディペンタングル表現学習フレームワークを提案する。 本研究では,時間不変の表現と時間変動の表現を効果的に識別する構造的コントラスト学習とともに,時間的クリップのコントラスト学習タスクを特別に設計する。
  論文  参考訳（メタデータ） (2022-10-19T14:34:12Z)
• Learning to Reconstruct Missing Data from Spatiotemporal Graphs with Sparse Observations [11.486068333583216]
  本稿では、欠落したデータポイントを再構築するための効果的なモデル学習の課題に取り組む。 我々は,高度にスパースな観測値の集合を与えられた注意に基づくアーキテクチャのクラスを提案し,時間と空間における点の表現を学習する。 技術状況と比較して、我々のモデルは予測エラーを伝播したり、前方および後方の時間依存性をエンコードするために双方向モデルを必要とすることなくスパースデータを処理します。
  論文  参考訳（メタデータ） (2022-05-26T16:40:48Z)
• Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs [65.18780403244178]
  動的グラフニューラル正規微分方程式(MTGODE)を用いた多変量時系列予測連続モデルを提案する。 具体的には、まず、時間進化するノードの特徴と未知のグラフ構造を持つ動的グラフに多変量時系列を抽象化する。 そして、欠落したグラフトポロジを補完し、空間的および時間的メッセージパッシングを統一するために、ニューラルODEを設計、解決する。
  論文  参考訳（メタデータ） (2022-02-17T02:17:31Z)
• Interpretable Time-series Representation Learning With Multi-Level Disentanglement [56.38489708031278]
  Disentangle Time Series (DTS)は、シーケンシャルデータのための新しいDisentanglement Enhanceingフレームワークである。 DTSは時系列の解釈可能な表現として階層的意味概念を生成する。 DTSは、セマンティック概念の解釈性が高く、下流アプリケーションで優れたパフォーマンスを実現します。
  論文  参考訳（メタデータ） (2021-05-17T22:02:24Z)
• TimeSHAP: Explaining Recurrent Models through Sequence Perturbations [3.1498833540989413]
  リカレントニューラルネットワークは、多くの機械学習ドメインで標準的なビルディングブロックである。 これらのモデルにおける複雑な意思決定はブラックボックスと見なされ、正確性と解釈可能性の間の緊張を生み出す。 本研究では,モデルに依存しないリカレント説明器であるTimeSHAPを提示することにより,これらのギャップを埋めることに寄与する。
  論文  参考訳（メタデータ） (2020-11-30T19:48:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。