論文の概要: Concept Extraction for Time Series with ECLAD-ts

• arxiv url: http://arxiv.org/abs/2504.05024v1
• Date: Mon, 07 Apr 2025 12:49:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-08 14:10:18.359642
• Title: Concept Extraction for Time Series with ECLAD-ts
• Title（参考訳）: ECLAD-tを用いた時系列の概念抽出
• Authors: Antonia Holzapfel, Andres Felipe Posada-Moreno, Sebastian Trimpe,
• Abstract要約: 時系列分類(TSC)のためのCNNは、品質予測から医学的診断に至るまで、ますます使われてきている。 CNNはショートカットやバイアスを学ぶ傾向があり、その頑丈さと人間の期待との整合性を損なう。 このようなメカニズムが使われているかどうかと関連するリスクを評価するためには、モデルの内部動作を反映したモデル説明を提供することが不可欠である。
• 参考スコア（独自算出の注目度）: 5.467140383171385
• License:
• Abstract: Convolutional neural networks (CNNs) for time series classification (TSC) are being increasingly used in applications ranging from quality prediction to medical diagnosis. The black box nature of these models makes understanding their prediction process difficult. This issue is crucial because CNNs are prone to learning shortcuts and biases, compromising their robustness and alignment with human expectations. To assess whether such mechanisms are being used and the associated risk, it is essential to provide model explanations that reflect the inner workings of the model. Concept Extraction (CE) methods offer such explanations, but have mostly been developed for the image domain so far, leaving a gap in the time series domain. In this work, we present a CE and localization method tailored to the time series domain, based on the ideas of CE methods for images. We propose the novel method ECLAD-ts, which provides post-hoc global explanations based on how the models encode subsets of the input at different levels of abstraction. For this, concepts are produced by clustering timestep-wise aggregations of CNN activation maps, and their importance is computed based on their impact on the prediction process. We evaluate our method on synthetic and natural datasets. Furthermore, we assess the advantages and limitations of CE in time series through empirical results. Our results show that ECLAD-ts effectively explains models by leveraging their internal representations, providing useful insights about their prediction process.
• Abstract（参考訳）: 時系列分類(TSC)のための畳み込みニューラルネットワーク(CNN)は、品質予測から医学的診断まで、アプリケーションでますます利用されている。 これらのモデルのブラックボックスの性質は、予測プロセスの理解を困難にしている。 CNNはショートカットやバイアスを学習しやすく、その堅牢性と人間の期待との整合性を損なうため、この問題は極めて重要である。 このようなメカニズムが使用されているかどうかと関連するリスクを評価するためには、モデルの内部動作を反映したモデル説明を提供することが不可欠である。 概念抽出(CE)法はそのような説明を提供するが、ほとんどの場合、画像領域のために開発され、時系列領域の差を残している。 本研究では,画像のCE手法の考え方に基づいて,時系列領域に適したCEおよびローカライズ手法を提案する。 本稿では,モデルが入力のサブセットを異なる抽象化レベルでエンコードする方法に基づいて,ポストホックなグローバルな説明を提供するECLAD-tsを提案する。 このため、CNNアクティベーションマップのタイムステップワイドアグリゲーションのクラスタリングによって概念が生成され、その重要性は予測プロセスへの影響に基づいて計算される。 本手法は, 合成および自然データセット上で評価する。 さらに,実験結果から,時系列におけるCEの利点と限界を評価する。 この結果から,ECLAD-tsは内部表現を有効活用し,予測過程に関する有用な知見を提供する。

関連論文リスト

• ECATS: Explainable-by-design concept-based anomaly detection for time series [0.5956301166481089]
  本稿では,概念をSTL(Signal Temporal Logic)公式として表現する概念に基づくニューロシンボリックアーキテクチャであるECATSを提案する。 我々は,局所的な解釈可能性を確保しつつ,優れた分類性能が得られることを示す。
  論文  参考訳（メタデータ） (2024-05-17T08:12:53Z)
• TempSAL -- Uncovering Temporal Information for Deep Saliency Prediction [64.63645677568384]
  本稿では,逐次時間間隔でサリエンシマップを出力する新たなサリエンシ予測モデルを提案する。 提案手法は,学習した時間マップを組み合わせることで,サリエンシ予測を局所的に調整する。 私たちのコードはGitHubで公開されます。
  論文  参考訳（メタデータ） (2023-01-05T22:10:16Z)
• ECLAD: Extracting Concepts with Local Aggregated Descriptors [6.470466745237234]
  そこで本研究では,CNNアクティベーションマップの画素ワイドアグリゲーションから得られた表現に基づいて,概念の自動抽出とローカライズを行う手法を提案する。 本稿では,主成分の画素単位のアノテーションを用いた合成データセットに基づく概念抽出手法の検証手法を提案する。
  論文  参考訳（メタデータ） (2022-06-09T14:25:23Z)
• Temporal Relevance Analysis for Video Action Models [70.39411261685963]
  まず,CNNに基づく行動モデルにより捉えたフレーム間の時間的関係を定量化する手法を提案する。 次に、時間的モデリングがどのように影響を受けるかをよりよく理解するために、包括的な実験と詳細な分析を行います。
  論文  参考訳（メタデータ） (2022-04-25T19:06:48Z)
• Multi-Branch Deep Radial Basis Function Networks for Facial Emotion Recognition [80.35852245488043]
  放射状基底関数(RBF)ユニットによって形成された複数の分岐で拡張されたCNNベースのアーキテクチャを提案する。 RBFユニットは、中間表現を用いて類似のインスタンスで共有される局所パターンをキャプチャする。 提案手法は,提案手法の競争力を高めるためのローカル情報の導入であることを示す。
  論文  参考訳（メタデータ） (2021-09-07T21:05:56Z)
• On the Post-hoc Explainability of Deep Echo State Networks for Time Series Forecasting, Image and Video Classification [63.716247731036745]
  エコー状態ネットワークは、主に学習アルゴリズムの単純さと計算効率のために、時間を通じて多くのスターを惹きつけてきた。 本研究では,時間系列,画像,映像データを用いた学習タスクに適用した場合のエコー状態ネットワークの説明可能性について検討した。 本研究では,これらの反復モデルが把握した知識に関する理解可能な情報を抽出する3つの手法を提案する。
  論文  参考訳（メタデータ） (2021-02-17T08:56:33Z)
• Deep Co-Attention Network for Multi-View Subspace Learning [73.3450258002607]
  マルチビューサブスペース学習のための深層コアテンションネットワークを提案する。 共通情報と相補情報の両方を敵意で抽出することを目的としている。 特に、新しいクロス再構成損失を使用し、ラベル情報を利用して潜在表現の構築を誘導する。
  論文  参考訳（メタデータ） (2021-02-15T18:46:44Z)
• Concept-based model explanations for Electronic Health Records [1.6837409766909865]
  概念活性化ベクトル(TCAV)を用いたテストは、人間に理解可能な説明を提供する手段として最近導入された。 本手法を時系列データに拡張し,TCAVの適用をEHRの逐次予測に適用する。
  論文  参考訳（メタデータ） (2020-12-03T22:18:24Z)
• TimeSHAP: Explaining Recurrent Models through Sequence Perturbations [3.1498833540989413]
  リカレントニューラルネットワークは、多くの機械学習ドメインで標準的なビルディングブロックである。 これらのモデルにおける複雑な意思決定はブラックボックスと見なされ、正確性と解釈可能性の間の緊張を生み出す。 本研究では,モデルに依存しないリカレント説明器であるTimeSHAPを提示することにより,これらのギャップを埋めることに寄与する。
  論文  参考訳（メタデータ） (2020-11-30T19:48:57Z)
• Explanation-Guided Training for Cross-Domain Few-Shot Classification [96.12873073444091]
  クロスドメイン・ショット分類タスク(CD-FSC)は、データセットで表されるドメインをまたいで一般化する要件と、少数ショット分類を組み合わせたものである。 既存のFSCモデルに対する新しいトレーニング手法を提案する。 説明誘導学習はモデル一般化を効果的に改善することを示す。
  論文  参考訳（メタデータ） (2020-07-17T07:28:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。