論文の概要: Evaluating Language Model Features for Zero-Shot Time-Series Anomaly Detection Under Isolation Assumption
- arxiv url: http://arxiv.org/abs/2611.07720v1
- Date: Thu, 05 Nov 2026 09:37:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.639109
- Title: Evaluating Language Model Features for Zero-Shot Time-Series Anomaly Detection Under Isolation Assumption
- Title(参考訳): 孤立推定下におけるゼロショット時間系列異常検出のための言語モデル特徴の評価
- Abstract要約: 時系列異常検出(TSAD)は基本的に難しい課題である。
教師なしで、高度の局所精度を必要とし、ラベル付きデータに悩まされている。
最近の研究は、大言語モデル(LLM)をクロスモーダル転送を介して時系列に適応させることについて検討している。
- 参考スコア(独自算出の注目度): 15.306867582514686
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time-Series Anomaly Detection (TSAD) is a fundamentally challenging task: it is unsupervised, requires high local precision capabilities, and suffers from limited labelled data. Recent work has explored adapting Large Language Models (LLMs) to time-series via cross-modal transfer. However, existing approaches are poorly suited to Multivariate TSAD (MTSAD), as tokenisation often obscures fine-grained temporal and variables structures, and most methods optimise auxiliary objectives such as forecasting or reconstruction. We posit that these surrogate objectives become unreliable as model capacity increases. Highly expressive models risk reconstructing or forecasting anomalies, undermining the foundations of both strategies. Instead, we propose to use LLMs purely as feature extractors and directly analyse their induced feature spaces. In this work, investigate the ability of LLMs to provide useful representations for MTSADs in a zero-shot setting through classification. To this end, we study the separability of the extracted features, under the assumption that anomalous features should be isolated from normal ones. We analyse their temporal and contextual discriminative ability using simple step-wise tokenisation schemes, with one time-step per token, which preserve fine-grained local information. Their usability for MTSAD is assessed using an unsupervised Isolation Forest, enabling a direct evaluation of the resulting representation quality. We further investigate whether the observed performance can be attributed to the language-related pre-training of the LLMs or arises independently of it. Our results provide empirical insight into the ability of LLMs to represent multivariate time-series for anomaly detection and highlight broader applications of cross-modal foundation models.
- Abstract(参考訳): TSAD(Time-Series Anomaly Detection)は、教師なし、高精度で、ラベル付きデータに悩まされているため、基本的には困難なタスクである。
最近の研究は、大言語モデル(LLM)をクロスモーダル転送を介して時系列に適応させることについて検討している。
しかし、トークン化はしばしば微細な時間構造や変数構造を曖昧にし、ほとんどの手法は予測や再構成などの補助的目的を最適化するため、既存のアプローチは多変量TSAD (MTSAD) には適していない。
モデルキャパシティが増大するにつれて、これらのサロゲートの目的が信頼できなくなると仮定する。
表現力の高いモデルは異常の再構築や予測をし、両方の戦略の基礎を損なう。
代わりに,LLMを純粋に特徴抽出器として使用し,それらの特徴空間を直接解析することを提案する。
本研究では,MLSADの分類によるゼロショット設定において,LSMがMSSADに有用な表現を提供する能力について検討する。
そこで本研究では, 異常特徴を通常の特徴から分離すべきという前提のもと, 抽出した特徴の分離性について検討する。
我々は、簡単なステップ単位のトークン化方式を用いて、その時間的・文脈的識別能力を分析し、粒度の細かいローカル情報を保存する。
MTSADのユーザビリティは、教師なしの隔離林を用いて評価され、その結果の表現品質を直接評価することができる。
さらに、観測された性能が、LLMの言語関連事前学習によるものなのか、それとは独立して発生するのかについても検討する。
本研究は,多変量時系列の異常検出能力に関する実証的な知見を提供するとともに,多変量時系列を多変量時系列で表現し,クロスモーダル基礎モデルのより広範な応用を明らかにするものである。
関連論文リスト
- Tracking the Truth: Object-Centric Spatio-Temporal Monitoring for Video Large Language Models [154.39583176906893]
大規模言語モデル(ML)は高度な理解を持ち、シーンにおける幻覚の傾向が高い。
これは、時間的モニタリングの失敗、オブジェクトの動的アイデンティティ、状態、そして時間とともに関係を永続的に追跡する能力に起因している、と我々は主張する。
既存のベンチマークでは、局所的な視覚的手がかりや統計的先行によってしばしば解決される1つの最終回答クエリに頼って、この欠陥を曖昧にしている。
論文 参考訳(メタデータ) (2026-05-09T14:32:36Z) - Enhancing Zero-Shot Time Series Forecasting in Off-the-Shelf LLMs via Noise Injection [18.267727687739853]
大言語モデル(LLM)はゼロショット時系列(TS)予測器として有効であることを示した。
鍵となる課題は、TSデータを LLM の事前訓練された知識と一致したテキスト表現にトークン化することである。
LLMの事前学習スコープを利用した2つの新しいTSデータセットを導入し、改良された性能を継続的に観察する。
論文 参考訳(メタデータ) (2025-12-23T08:02:33Z) - Quantization Meets dLLMs: A Systematic Study of Post-training Quantization for Diffusion LLMs [78.09559830840595]
本稿では拡散に基づく言語モデルの定量化に関する最初の体系的研究について述べる。
異常に大きなアクティベーション値によって特徴付けられるアクティベーションアウトリーチの存在を同定する。
我々は最先端のPTQ手法を実装し、包括的な評価を行う。
論文 参考訳(メタデータ) (2025-08-20T17:59:51Z) - Semantic-Enhanced Time-Series Forecasting via Large Language Models [20.383296465541758]
時系列予測は、金融、エネルギー、気象学、IoTアプリケーションにおいて重要な役割を果たす。
近年,大規模言語モデル(LLM)の一般化機能を活用して時系列予測に適応し,有望な性能を実現している。
本稿では,時系列の固有周期性と異常特性を探索し,意味空間に埋め込むセマンティック拡張LDM(SE-LLM)を提案する。
論文 参考訳(メタデータ) (2025-08-11T07:19:21Z) - Efficient Model Selection for Time Series Forecasting via LLMs [52.31535714387368]
本稿では,Large Language Models (LLM) をモデル選択の軽量な代替手段として活用することを提案する。
提案手法は, LLMの固有知識と推論能力を活用することで, 明示的な性能行列の必要性を解消する。
論文 参考訳(メタデータ) (2025-04-02T20:33:27Z) - Unconditional Truthfulness: Learning Unconditional Uncertainty of Large Language Models [104.55763564037831]
我々は、注意マップ、現在の生成ステップにおける確率、および以前に生成されたトークンから繰り返し計算された不確実性スコアを利用する回帰モデルを訓練する。
評価の結果,提案手法は選択的生成に極めて有効であり,教師なしアプローチと教師なしアプローチに比較して大幅な改善が得られた。
論文 参考訳(メタデータ) (2024-08-20T09:42:26Z) - Large Language Models can Deliver Accurate and Interpretable Time Series Anomaly Detection [34.40206965758026]
時系列異常検出(TSAD)は、標準トレンドから逸脱する非定型パターンを特定することで、様々な産業において重要な役割を果たす。
従来のTSADモデルは、しばしばディープラーニングに依存しており、広範なトレーニングデータを必要とし、ブラックボックスとして動作する。
LLMADは,Large Language Models (LLMs) を用いて,高精度かつ解釈可能なTSAD結果を提供する新しいTSAD手法である。
論文 参考訳(メタデータ) (2024-05-24T09:07:02Z) - ReEval: Automatic Hallucination Evaluation for Retrieval-Augmented Large Language Models via Transferable Adversarial Attacks [91.55895047448249]
本稿では,LLMベースのフレームワークであるReEvalについて述べる。
本稿では、ChatGPTを用いてReEvalを実装し、2つの人気のあるオープンドメインQAデータセットのバリエーションを評価する。
我々の生成したデータは人間可読であり、大きな言語モデルで幻覚を引き起こすのに役立ちます。
論文 参考訳(メタデータ) (2023-10-19T06:37:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。