論文の概要: Time Series Forecasting with LLMs: Understanding and Enhancing Model
Capabilities
- arxiv url: http://arxiv.org/abs/2402.10835v2
- Date: Mon, 19 Feb 2024 02:30:15 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-21 00:14:14.445251
- Title: Time Series Forecasting with LLMs: Understanding and Enhancing Model
Capabilities
- Title(参考訳): LLMによる時系列予測:モデルの能力の理解と向上
- Authors: Mingyu Jin, Hua Tang, Chong Zhang, Qinkai Yu, Chengzhi Liu, Suiyuan
Zhu, Yongfeng Zhang, Mengnan Du
- Abstract要約: 大規模言語モデル(LLM)は近年,急速な発展を遂げた多くの分野に適用されている。
本稿では,LLMがパターンや傾向を明確にした時系列予測に優れるが,周期性に欠けるデータセットでは課題に直面していることを示す。
さらに, 入力戦略について検討し, 外部知識を取り入れ, 自然言語のパラフレーズを取り入れた場合, 時系列におけるLLMの予測性能に肯定的な影響が認められた。
- 参考スコア(独自算出の注目度): 39.874834611685124
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) have been applied in many fields with rapid
development in recent years. As a classic machine learning task, time series
forecasting has recently received a boost from LLMs. However, there is a
research gap in the LLMs' preferences in this field. In this paper, by
comparing LLMs with traditional models, many properties of LLMs in time series
prediction are found. For example, our study shows that LLMs excel in
predicting time series with clear patterns and trends but face challenges with
datasets lacking periodicity. We explain our findings through designing prompts
to require LLMs to tell the period of the datasets. In addition, the input
strategy is investigated, and it is found that incorporating external knowledge
and adopting natural language paraphrases positively affects the predictive
performance of LLMs for time series. Overall, this study contributes to insight
into the advantages and limitations of LLMs in time series forecasting under
different conditions.
- Abstract(参考訳): 大規模言語モデル(llm)は近年急速に発展する多くの分野に適用されている。
古典的な機械学習タスクとして、時系列予測が最近llmsから強化された。
しかし、この分野ではLLMの好みには研究のギャップがある。
本稿では,LLMと従来のモデルを比較し,時系列予測におけるLLMの特性について述べる。
例えば、LLMは明確なパターンと傾向を持つ時系列を予測するのに優れているが、周期性に欠けるデータセットでは課題に直面している。
我々は,データセットの周期をllmに指示するプロンプトの設計を通じて,この知見を説明する。
また,入力戦略を調査し,外部知識を取り入れ,自然言語パラフレーズを取り入れることで,時系列のllmの予測性能に正の影響を与えることを見出した。
本研究は,異なる条件下での時系列予測におけるLLMの利点と限界について考察した。
関連論文リスト
- Taming Pre-trained LLMs for Generalised Time Series Forecasting via
Cross-modal Knowledge Distillation [62.46869075841118]
我々はLLaTAと呼ばれる新しい大規模言語モデルと時系列アライメントフレームワークを提案し、時系列予測課題におけるLLMの可能性を完全に解き放つ。
提案手法は, クロスモーダルな知識蒸留に基づいて, 入力に依存しない静的知識と, 事前学習LLMにおける入力依存動的知識の両方を利用する。
論文 参考訳(メタデータ) (2024-03-12T04:04:38Z) - Large Language Models: A Survey [69.72787936480394]
大規模言語モデル(LLM)は、広範囲の自然言語タスクにおける強力なパフォーマンスのために、多くの注目を集めている。
LLMの汎用言語理解と生成能力は、膨大なテキストデータに基づいて数十億のモデルのパラメータを訓練することで得られる。
論文 参考訳(メタデータ) (2024-02-09T05:37:09Z) - Empowering Time Series Analysis with Large Language Models: A Survey [24.202539098675953]
本稿では,大規模言語モデルを用いた時系列解析手法の体系的概要について述べる。
具体的には、まず、時系列の文脈で言語モデルを適用する際の課題とモチベーションについて述べる。
次に、既存のメソッドを異なるグループ(ダイレクトクエリ、トークン化、プロンプトデザイン、ファインチューン、モデル統合)に分類し、各グループにおける主要なアイデアを強調します。
論文 参考訳(メタデータ) (2024-02-05T16:46:35Z) - AutoTimes: Autoregressive Time Series Forecasters via Large Language
Models [72.77653698874678]
本稿では,大規模言語モデル(LLM)を自動回帰時系列予測器として活用するためにAutoTimesを提案する。
提案手法は, LLM, 追加テキスト, 時系列を命令として利用することにより, 顕著な手法の一般化を実現し, 性能の向上を実現している。
論文 参考訳(メタデータ) (2024-02-04T06:59:21Z) - Supervised Knowledge Makes Large Language Models Better In-context Learners [94.89301696512776]
大規模言語モデル(LLM)は、素早い工学を通して、文脈内学習能力の出現を示す。
自然言語理解と質問応答におけるLLMの一般化性と事実性の向上という課題は、まだ未解決のままである。
本研究では, LLM の信頼性を高める枠組みを提案する。1) 分布外データの一般化,2) 差別モデルによる LLM のメリットの解明,3) 生成タスクにおける幻覚の最小化。
論文 参考訳(メタデータ) (2023-12-26T07:24:46Z) - Are Large Language Models Temporally Grounded? [38.481606493496514]
文章を記述したLarge Language Model (LLM) を提供する。
イベントの構造と持続時間に関する常識的な知識に関して、それらを調査する。
これらの能力を反映した3つの課題に対して,最先端のLCMを評価した。
論文 参考訳(メタデータ) (2023-11-14T18:57:15Z) - MenatQA: A New Dataset for Testing the Temporal Comprehension and
Reasoning Abilities of Large Language Models [17.322480769274062]
大規模言語モデル(LLM)は、多くの自然言語処理(NLP)タスクにおいてほぼ飽和した性能を示している。
本稿では,LLMの時間的理解と推論能力を評価するために,合計2,853個のサンプルを用いた多感性因子時間QA(MenatQA)を構築した。
論文 参考訳(メタデータ) (2023-10-08T13:19:52Z) - Time-LLM: Time Series Forecasting by Reprogramming Large Language Models [110.20279343734548]
時系列予測は多くの実世界の力学系において重要な意味を持つ。
時系列予測のための大規模言語モデルを再利用するための再プログラミングフレームワークであるTime-LLMを提案する。
Time-LLMは、最先端の特殊な予測モデルよりも優れた、強力な時系列学習者である。
論文 参考訳(メタデータ) (2023-10-03T01:31:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。