論文の概要: TSAE: Structured Sparse Autoencoders for Interpreting Time-Series Forecasting Models
- arxiv url: http://arxiv.org/abs/2610.04925v1
- Date: Sun, 04 Oct 2026 04:09:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 07:52:51.676473
- Title: TSAE: Structured Sparse Autoencoders for Interpreting Time-Series Forecasting Models
- Title(参考訳): TSAE:時系列予測モデルの解釈のための構造化スパースオートエンコーダ
- Abstract要約: 時系列予測は、エネルギー供給、産業活動、環境モニタリングにおいて決定的な決定を下す。
本稿では,隠れた状態を個別に検査可能な特徴に分解する表現予測のための構造化スパースオートエンコーダTSAEを紹介する。
- 参考スコア(独自算出の注目度): 2.5765240193836427
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time-series forecasting informs critical decisions in energy dispatch, industrial operations, and environmental monitoring; understanding the patterns models rely on is essential for assessing reliability and identifying failures. Input attribution identifies important variables and time segments but offers limited insight into internal features, while standard sparse autoencoder (SAE) objectives do not directly constrain cross-variable structure or temporal continuity. We introduce TSAE, a structured sparse autoencoder for forecasting representations that decomposes hidden states into individually inspectable features. TSAE organizes cross-variable structure through shared and variable-routed private dictionaries, separates feature detection from magnitude estimation with gated encoding, and constrains neighboring sparse-code changes according to raw-segment similarity. These mechanisms support analysis of variable context, activation strength, and temporal evolution. Forecast-consistency fine-tuning further improves preservation of the frozen forecaster's outputs. The accompanying TSEVAL protocol separately audits fidelity, feature coherence, and physical calibration to ground feature interpretation. In three-seed experiments with frozen PatchTST on ETTh1, ETTh2, and ETTm1, TSAE achieves the lowest hidden-state reconstruction error, normalized forecast-reconstruction error (NFRE), and feature transition rate among five SAEs at comparable per-token activity. NFRE decreases by 4.3-26.4% relative to the next-best mean. Dataset-dependent tradeoffs in selectivity, physical correlation, and calibration show that fidelity and temporal-stability gains require independent semantic validation to support feature interpretation.
- Abstract(参考訳): 時系列予測は、エネルギーディスパッチ、産業運用、環境モニタリングにおいて重要な決定を通知する; モデルが依存するパターンを理解することは、信頼性を評価し、失敗を特定するのに不可欠である。
入力属性は重要な変数と時間セグメントを識別するが、内部機能に対する限られた洞察を提供する。
本稿では,隠れた状態を個別に検査可能な特徴に分解する表現予測のための構造化スパースオートエンコーダTSAEを紹介する。
TSAEは,共有辞書と可変辞書を通じて異種構造を整理し,ゲートエンコーディングによる大きさ推定から特徴検出を分離し,生セグメントの類似性に応じて隣接するスパースコードの変更を制約する。
これらのメカニズムは、変数コンテキスト、アクティベーション強度、時間進化の分析をサポートする。
予測整合性微調整は、凍結予測器の出力の保存をさらに改善する。
付随するTSEVALプロトコルは、フィデリティ、特徴コヒーレンス、地上特徴解釈のための物理キャリブレーションを別々に監査する。
ETTh1, ETTh2, ETTm1上のPatchTST凍結実験では, TSAEは最小の隠れ状態復元誤差, 正規化予測再構成誤差(NFRE), および5つのSAEの相似活動における特徴遷移率を達成している。
NFREは次の平均値に比べて4.3-26.4%減少する。
選択性、物理的相関、キャリブレーションにおけるデータセットに依存したトレードオフは、忠実度と時間安定性の向上が特徴解釈をサポートするために独立した意味的検証を必要とすることを示している。
関連論文リスト
- On the Adversarial Robustness of Remote Sensing Semantic Change Detection [19.4097466391406]
意味的変化検出(SCD)は、変化領域とその変化前後の意味状態を共同で識別するバイテンポラル密度予測タスクである。
本稿では,入力側時間摂動アクセスから出力側攻撃目標を分離するタスク固有評価フレームワークを提案する。
実験により、二分的変化の局所化が比較的安定である場合でも、最終的な意味変化予測が著しく悪化することが示された。
論文 参考訳(メタデータ) (2026-08-15T15:02:42Z) - Behaviour-Conditioned Neural Processes for Adaptive Residential Short-Term Load Forecasting [1.1240669509034296]
本研究では、ニューラルネットワークに基づく確率論的モデルに、推論された行動構造を組み込むことができるかどうかを検討する。
本稿では,各負荷プロファイルを予測タスクとして扱う動作条件付注意ニューラルネットワークフレームワークを提案する。
Smart Gridの実験では、Smart Cityデータセットでは、ユーザ不一致のトレイン/バリデーション/テストスプリット、変数コンテキスト長、マルチステップ予測地平線が使用されている。
論文 参考訳(メタデータ) (2026-07-17T17:48:22Z) - AnchorMoE: Interpretable Time Series Classification via Anchor-Routed MoE [51.994752158953084]
AnchorMoEは、解釈可能な構成別分類フレームワークである。
ローカルパッチのマルチビュー表現をエンコードし、専門の専門家にルーティングする。
実世界のベンチマークと合成ベンチマークの実験は、AnchorMoEが非常に競争力のある分類性能を達成することを示した。
論文 参考訳(メタデータ) (2026-06-02T13:30:54Z) - Factorize to Generalize: Retrieval-Guided Invariant-Dynamic Decomposition for Time Series Forecasting [64.2640656619583]
時系列基礎モデル (TSFM) は, 大規模事前学習と検索強化予測により, ゼロショット予測性能が向上した。
本稿では時系列予測のための検索誘導不変動的分解フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-24T07:31:55Z) - Temporal Structure Matters for Efficient Test-Time Adaptation in Wearable Human Activity Recognition [0.20391237204597365]
テスト時間適応(TTA)は、実世界のクロスユーザー分散シフト下での性能低下を緩和する。
既存の手法は主に視覚タスクから仮定を継承し、WHARストリームに固有のウィンドウ間時間構造を過小評価する。
本稿では,WHARのための軽量かつバックプロパゲーションフリーなTTAフレームワークであるSIGHTを提案する。
論文 参考訳(メタデータ) (2026-05-06T08:06:27Z) - FACTOR: Counterfactual Training-Free Test-Time Adaptation for Open-Vocabulary Object Detection [63.91351553178842]
FACTORはオープン語彙オブジェクト検出のためのトレーニング不要なテスト時間適応である。
属性依存性の予測を選択的に抑制するために、属性の感度、意味的関連性、予測のバリエーションを定量化する。
PASCAL-C, COCO-C, FoggyCityscapes の実験では、FACTOR が従来の TTA 法より一貫して優れていたことが示されている。
論文 参考訳(メタデータ) (2026-05-05T02:31:18Z) - Keep the Lights On, Keep the Lengths in Check: Plug-In Adversarial Detection for Time-Series LLMs in Energy Forecasting [35.31487571405278]
本稿では,TS-LLMの可変長入力機能を利用したプラグイン検出フレームワークを提案する。
我々は3つのエネルギーデータセットにまたがる3つの代表的なTS-LLMに対するアプローチを評価した。
論文 参考訳(メタデータ) (2025-12-13T03:24:36Z) - ERIS: An Energy-Guided Feature Disentanglement Framework for Out-of-Distribution Time Series Classification [51.07970070817353]
理想的な時系列分類(TSC)は不変表現をキャプチャできるべきである。
現在の手法は、真に普遍的な特徴を分離するために必要な意味的な方向性を欠いている。
本稿では,シフト・ロバストネス・フレームワークのためのエンドツーエンドのエネルギー規則化情報を提案する。
論文 参考訳(メタデータ) (2025-08-19T12:13:41Z) - Spatial-Temporal-Spectral Unified Modeling for Remote Sensing Dense Prediction [20.1863553357121]
リモートセンシングのための現在のディープラーニングアーキテクチャは、基本的に堅固である。
本稿では,統合モデリングのための空間時間スペクトル統一ネットワーク(STSUN)について紹介する。
STSUNは任意の空間サイズ、時間長、スペクトル帯域で入力および出力データに適応することができる。
様々な密集した予測タスクと多様な意味クラス予測を統一する。
論文 参考訳(メタデータ) (2025-05-18T07:39:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。