論文の概要: time2time: Causal Intervention in Hidden States to Simulate Rare Events in Time Series Foundation Models
- arxiv url: http://arxiv.org/abs/2509.05801v1
- Date: Sat, 06 Sep 2025 18:28:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-09 14:07:03.72256
- Title: time2time: Causal Intervention in Hidden States to Simulate Rare Events in Time Series Foundation Models
- Title(参考訳): Time2time: 時系列ファウンデーションモデルにおける希少事象をシミュレートするための隠れ状態における因果干渉
- Authors: Debdeep Sanyal, Aaryan Nagpal, Dhruv Kumar, Murari Mandal, Saurabh Deshpande,
- Abstract要約: 我々は,ある事象の統計モーメントを他の事象に付与することで,隠れた状態を操作する因果的介入である移植活性化を導入する。
モデルが事象重大性の段階的概念を符号化し、潜在ベクトルノルムはシステム的ショックの大きさに直接関連していることがわかった。
本研究は, モデル予測を規定する潜在概念空間の証拠として, ポストホック帰属から直接因果介入への解釈可能性のシフトが示唆された。
- 参考スコア(独自算出の注目度): 7.400285974510125
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While transformer-based foundation models excel at forecasting routine patterns, two questions remain: do they internalize semantic concepts such as market regimes, or merely fit curves? And can their internal representations be leveraged to simulate rare, high-stakes events such as market crashes? To investigate this, we introduce activation transplantation, a causal intervention that manipulates hidden states by imposing the statistical moments of one event (e.g., a historical crash) onto another (e.g., a calm period) during the forward pass. This procedure deterministically steers forecasts: injecting crash semantics induces downturn predictions, while injecting calm semantics suppresses crashes and restores stability. Beyond binary control, we find that models encode a graded notion of event severity, with the latent vector norm directly correlating with the magnitude of systemic shocks. Validated across two architecturally distinct TSFMs, Toto (decoder only) and Chronos (encoder-decoder), our results demonstrate that steerable, semantically grounded representations are a robust property of large time series transformers. Our findings provide evidence for a latent concept space that governs model predictions, shifting interpretability from post-hoc attribution to direct causal intervention, and enabling semantic "what-if" analysis for strategic stress-testing.
- Abstract(参考訳): トランスフォーマーベースのファンデーションモデルは、ルーチンパターンの予測に優れているが、2つの疑問が残る。
そして、彼らの内部表現は、マーケットクラッシュのような稀で高額な出来事をシミュレートするために利用できますか?
そこで本研究では,ある事象(例えば,歴史的なクラッシュ)の統計モーメントを前方通過中の他の事象(例えば,穏やかな期間)に付与することにより,隠れた状態を操作する因果的介入であるアクティベーション移植を導入する。
クラッシュセマンティクスの注入はダウンターン予測を誘導し、穏やかなセマンティクスの注入はクラッシュを抑制し、安定性を回復する。
二項制御以外にも、線形ベクトルノルムはシステム的ショックの大きさと直接関連しているため、次数化された事象重大性の概念を符号化するモデルが見つかる。
アーキテクチャ的に異なる2つのTSFM、Toto(デコーダのみ)とChronos(エンコーダ-デコーダ)にまたがって検証を行った結果、制御可能な意味的基底表現が大規模時系列変換器の堅牢性を示す。
本研究は, モデル予測の管理, ポストホック帰属から直接因果介入への移行, 戦略的ストレステストのセマンティック"What-if"分析を可能にする潜在概念空間の証拠を提供する。
関連論文リスト
- Adaptive Conformal Prediction Intervals Over Trajectory Ensembles [50.31074512684758]
将来の軌道は、自律運転、ハリケーン予測、疫病モデルといった領域で重要な役割を果たしている。
本稿では,サンプル軌道を理論的カバレッジ保証付き校正された予測区間に変換する共形予測に基づく統一的なフレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-18T21:14:07Z) - SurvSurf: a partially monotonic neural network for first-hitting time prediction of intermittently observed discrete and continuous sequential events [7.861592120016206]
本稿では,ニューラルネットワークに基づくサバイバルモデル(SurvSurf)を提案する。
理論上、SurvSurfは逐次事象の累積入射関数の間の単調な関係に決して違反しないことを保証し、予測子からの非線形な影響を許容する。
論文 参考訳(メタデータ) (2025-04-07T12:24:59Z) - Lightweight Channel-wise Dynamic Fusion Model: Non-stationary Time Series Forecasting via Entropy Analysis [25.291749176117662]
我々は、分散が時系列の非定常性に対する有効かつ解釈可能なプロキシであることを示す。
軽量なtextitChannel-wise textitDynamic textitFusion textitModel(textitCDFM)を提案する。
7つの時系列データセットに関する総合的な実験は、CDFMの優位性と一般化能力を示している。
論文 参考訳(メタデータ) (2025-03-04T13:29:42Z) - Spatiotemporal Prediction of Secondary Crashes by Rebalancing Dynamic and Static Data with Generative Adversarial Networks [6.571659350175123]
二次衝突は交通渋滞を著しく悪化させ、事故の深刻さを増す。
既存のメソッドは、トラフィッククラッシュデータの複雑さ、特に動的および静的な機能の共存に完全に対処できない。
本研究では,二次衝突データ生成の忠実度向上を目的としたハイブリッドモデルであるVarFusiGAN-Transformerを提案する。
論文 参考訳(メタデータ) (2025-01-17T08:56:49Z) - TrajGPT: Controlled Synthetic Trajectory Generation Using a Multitask Transformer-Based Spatiotemporal Model [5.5481213807584995]
本稿では,これらの問題に対処するために,トランスフォーマーベースのマルチタスク共同生成モデルであるTrajGPTを紹介する。
大規模言語モデルからインスピレーションを得て、TrajGPTは自然言語でテキストを埋め込むような制御された軌跡生成の問題を提起する。
公開およびプライベートデータセットを用いた実験により、TrajGPTは、制御された合成訪問生成に優れるだけでなく、次の位置予測タスクにおいて競合するモデルよりも優れていることが示された。
論文 参考訳(メタデータ) (2024-11-07T02:47:50Z) - When Does Confidence-Based Cascade Deferral Suffice? [69.28314307469381]
カスケードは、推論コストをサンプル毎に適応的に変化させる古典的な戦略である。
deferralルールは、シーケンス内の次の分類子を呼び出すか、または予測を終了するかを決定する。
カスケードの構造に執着しているにもかかわらず、信頼に基づく推論は実際は極めてうまく機能することが多い。
論文 参考訳(メタデータ) (2023-07-06T04:13:57Z) - Self-Interpretable Time Series Prediction with Counterfactual
Explanations [4.658166900129066]
解釈可能な時系列予測は、医療や自動運転といった安全上重要な分野において重要である。
既存の手法の多くは、重要なスコアを時系列のセグメントに割り当てることで予測を解釈することに集中している。
我々は,時系列予測のための非現実的かつ実用的な説明を生成する,CounTS(Counfactual Time Series)と呼ばれる自己解釈可能なモデルを開発した。
論文 参考訳(メタデータ) (2023-06-09T16:42:52Z) - Uncovering the Missing Pattern: Unified Framework Towards Trajectory
Imputation and Prediction [60.60223171143206]
軌道予測は、観測されたシーケンスから実体運動や人間の行動を理解する上で重要な作業である。
現在の方法では、観測されたシーケンスが完了したと仮定し、欠落した値の可能性を無視する。
本稿では,グラフに基づく条件変動リカレントニューラルネットワーク (GC-VRNN) の統一フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-28T14:27:27Z) - Tracking the risk of a deployed model and detecting harmful distribution
shifts [105.27463615756733]
実際には、デプロイされたモデルのパフォーマンスが大幅に低下しないという、良心的なシフトを無視することは理にかなっている。
我々は,警告を発射する有効な方法は,(a)良性な警告を無視しながら有害なシフトを検知し,(b)誤報率を増大させることなく,モデル性能の連続的なモニタリングを可能にすることを論じる。
論文 参考訳(メタデータ) (2021-10-12T17:21:41Z) - Stochastically forced ensemble dynamic mode decomposition for
forecasting and analysis of near-periodic systems [65.44033635330604]
本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。
固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。
電力グリッドからの負荷データを用いたテストケースの結果が提示される。
論文 参考訳(メタデータ) (2020-10-08T20:25:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。