論文の概要: FPE-LLM: Highly Intelligent Time-Series Forecasting and Language Interaction LLM in Energy Systems

• arxiv url: http://arxiv.org/abs/2411.00852v1
• Date: Wed, 30 Oct 2024 11:22:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-05 21:28:20.634456
• Title: FPE-LLM: Highly Intelligent Time-Series Forecasting and Language Interaction LLM in Energy Systems
• Title（参考訳）: FPE-LLM:エネルギーシステムにおける高インテリジェント時系列予測と言語間相互作用LLM
• Authors: Zihang Qiu, Chaojie Li, Zhongyang Wang, Huadong Mo, Renyou Xie, Guo Chen, Zhaoyang Dong,
• Abstract要約: Fusion PEFT Energy LLM (FPE-LLM) は、エネルギーシステム予測のための大規模言語モデル(LLM)である。 FPE-LLMはエネルギーシステムとLLMフィールドにおける3つの重要な課題に対処する。
• 参考スコア（独自算出の注目度）: 5.218730690088186
• License:
• Abstract: This paper introduces Fusion PEFT Energy LLM (FPE-LLM), a large language model (LLM) fine-tuned for energy system forecasting using a combination of Prefix and Lora Parameter-Efficient Fine-Tuning (PEFT) methods. FPE-LLM addresses three key challenges in the energy system and LLM fields: 1. Enhancing few-shot learning for handling extreme environmental conditions. FPE-LLM can leverage both textual and time-series data to achieve accurate predictions in few-shot contexts. 2. Reducing dependence on expert input to improve efficiency. FPE-LLM can provide guidance and results on related problems, acting like an expert system. Even non-experts can use FPE-LLM to complete all tasks related to forecasting and its associated tasks. 3. Mitigating hallucination risks through standardized fine-tuning. We validated this through multi-task learning and the self-reasoning characteristics of LLMs. Our research opens the door to fully realizing the intelligent potential of FPE-LLM in the energy forecasting field. With the injection of more knowledge and data, FPE-LLM is expected to replace a significant amount of manual work and contribute to the stability and efficiency of energy forecasting.
• Abstract（参考訳）: 本稿では,大言語モデル (LLM) であるFusion PEFT Energy LLM (FPE-LLM) を紹介する。 FPE-LLMはエネルギーシステムとLLM分野における3つの重要な課題に対処する。 1.極度の環境条件に対処するための数発の学習の強化。 FPE-LLMはテキストと時系列のデータを利用して、数ショットのコンテキストで正確な予測を行うことができる。 2. 効率を向上させるため、専門家の入力への依存を減らすこと。 FPE-LLMは、エキスパートシステムのように振る舞う、関連する問題に関するガイダンスと結果を提供することができる。 非専門家でさえ、予測や関連するタスクに関連するすべてのタスクを完了するためにFPE-LLMを使用することができる。 3.標準化された微調整による幻覚リスクの緩和 マルチタスク学習とLLMの自己推論特性を用いてこれを検証した。 我々の研究は、エネルギー予測分野におけるFPE-LLMの知的ポテンシャルを完全に実現するための扉を開く。 より多くの知識とデータを注入することで、FPE-LLMは大量の手作業を置き換えることが期待され、エネルギー予測の安定性と効率に寄与する。

関連論文リスト

• Tackling Data Heterogeneity in Federated Time Series Forecasting [61.021413959988216]
  時系列予測は、エネルギー消費予測、病気の伝染モニタリング、天気予報など、様々な実世界の応用において重要な役割を果たす。 既存のほとんどのメソッドは、分散デバイスから中央クラウドサーバに大量のデータを収集する、集中的なトレーニングパラダイムに依存しています。 本稿では,情報合成データを補助的知識キャリアとして生成することにより,データの均一性に対処する新しいフレームワークであるFed-TRENDを提案する。
  論文  参考訳（メタデータ） (2024-11-24T04:56:45Z)
• Context is Key: A Benchmark for Forecasting with Essential Textual Information [87.3175915185287]
  コンテキスト is Key" (CiK) は、数値データを多種多様なテキストコンテキストと組み合わせた予測ベンチマークである。 我々は,統計モデル,時系列基礎モデル,LLMに基づく予測モデルなど,さまざまなアプローチを評価する。 提案手法は,提案するベンチマークにおいて,他の試験手法よりも優れる簡易かつ効果的なLCMプロンプト法である。
  論文  参考訳（メタデータ） (2024-10-24T17:56:08Z)
• RA-BLIP: Multimodal Adaptive Retrieval-Augmented Bootstrapping Language-Image Pre-training [55.54020926284334]
  近年,MLLM (Multimodal Large Language Models) が注目されている。 検索拡張技術はLLMとMLLMの両方に有効なプラグインであることが証明されている。 本研究では,MLLMの新しい検索支援フレームワークであるRA-BLIP(Retrieval-Augmented Bootstrapping Language-Image Pre-training)を提案する。
  論文  参考訳（メタデータ） (2024-10-18T03:45:19Z)
• STLLM-DF: A Spatial-Temporal Large Language Model with Diffusion for Enhanced Multi-Mode Traffic System Forecasting [32.943673568195315]
  マルチタスク輸送予測を改善するため,時空間大言語モデル(STLLM-DF)を提案する。 DDPMの堅牢なdenoising機能により、ノイズの多い入力から基盤となるデータパターンを復元することができる。 STLLM-DFは既存のモデルより一貫して優れており,MAEでは平均2.40%,RMSEでは4.50%,MAPEでは1.51%の削減を実現している。
  論文  参考訳（メタデータ） (2024-09-08T15:29:27Z)
• The Price of Prompting: Profiling Energy Use in Large Language Models Inference [5.254805405012678]
  本稿では,大規模言語モデル推論プロセスにおいて消費されるエネルギーを監視し,分析するフレームワークであるMELODIを紹介する。 MELODIを使用して生成されたデータセットは、幅広いLLMデプロイメントフレームワーク、複数の言語モデル、広範なプロンプトデータセットを含んでいる。 その結果,エネルギー効率の相違が指摘され,持続可能対策の最適化と導入の十分な範囲が示唆された。
  論文  参考訳（メタデータ） (2024-07-04T12:16:28Z)
• Not All Attention is Needed: Parameter and Computation Efficient Transfer Learning for Multi-modal Large Language Models [73.48675708831328]
  MLLM(Multi-modal Large Language Models)のための新しいパラメータと計算効率のチューニング手法を提案する。 The Efficient Attention Skipping (EAS) method evaluate the attention redundancy and skips the less important MHAs to speed up inference。 実験により、EASは高い性能とパラメータ効率を維持するだけでなく、推論速度を大幅に高速化することが示された。
  論文  参考訳（メタデータ） (2024-03-22T14:20:34Z)
• Towards an end-to-end artificial intelligence driven global weather forecasting system [57.5191940978886]
  我々は,地球規模の気象変動に対するAIに基づくデータ同化モデル,すなわちAdasを提案する。 我々は,アダスが地球観測を同化して高品質な分析を行い,長期にわたって安定して運用できることを実証した。 この手法を現実のシナリオに適用するのは,私たちが初めてです。
  論文  参考訳（メタデータ） (2023-12-18T09:05:28Z)
• Filling the Missing: Exploring Generative AI for Enhanced Federated Learning over Heterogeneous Mobile Edge Devices [72.61177465035031]
  ローカルデータのFIMI(FIlling the MIssing)部分を活用することにより,これらの課題に対処する,AIを活用した創発的なフェデレーション学習を提案する。 実験の結果,FIMIはデバイス側エネルギーの最大50%を節約し,目標とするグローバルテスト精度を達成できることがわかった。
  論文  参考訳（メタデータ） (2023-10-21T12:07:04Z)
• MATNet: Multi-Level Fusion Transformer-Based Model for Day-Ahead PV Generation Forecasting [0.47518865271427785]
  MATNetはPV発電予測のための新しい自己アテンショントランスフォーマーベースのアーキテクチャである。 これは、AIパラダイムとPV発電に関する以前の物理的知識を組み合わせたハイブリッドアプローチで構成されている。 その結果,提案アーキテクチャは現在の最先端手法よりも優れていた。
  論文  参考訳（メタデータ） (2023-06-17T14:03:09Z)
• Self-learning locally-optimal hypertuning using maximum entropy, and comparison of machine learning approaches for estimating fatigue life in composite materials [0.0]
  疲労損傷を予測するための最大エントロピーの原理に基づくML近傍近似アルゴリズムを開発した。 予測は、他のMLアルゴリズムと同様、高いレベルの精度を達成する。
  論文  参考訳（メタデータ） (2022-10-19T12:20:07Z)
• Automated Few-Shot Time Series Forecasting based on Bi-level Programming [5.760976250387322]
  本稿では,バイレベルプログラミングの観点から,数発の学習パイプラインの最適設計を自動化するBiLO-Auto-TSF/MLフレームワークを開発する。 提案したBiLO-Auto-TSF/MLフレームワークの有効性を総合的に検証した。
  論文  参考訳（メタデータ） (2022-03-07T12:15:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。