論文の概要: LLM-Guided Task-Semantic Field Factorization for Industrial Process Forecasting
- arxiv url: http://arxiv.org/abs/2607.06623v1
- Date: Tue, 07 Jul 2026 10:39:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.157868
- Title: LLM-Guided Task-Semantic Field Factorization for Industrial Process Forecasting
- Title(参考訳): 産業プロセス予測のためのLCM誘導タスクセマンティックフィールドファクタライゼーション
- Abstract要約: プロセス産業は、オンライン測定が難しい品質変数を推定するために、時系列予測とソフトセンシングに頼っている。
標準的な時系列バックボーンは通常、入力を匿名の数値列として扱う。
本稿では,大規模言語モデル(LLM)誘導フレームワークであるタスク・セマンティックフィールドファクトリゼーション(TSF)を提案する。
- 参考スコア(独自算出の注目度): 4.11234771229584
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Process industries rely on time-series forecasting and soft sensing to estimate quality variables that are hard to measure online. Labeled data are scarce, operating regimes change frequently, and retraining models or rebuilding alignment pipelines for each scenario is costly. Such settings often provide variable tables and process documents that record variable names, units, physical meanings, and process roles. However, standard time-series backbones usually treat inputs as anonymous numerical columns. Existing text-enhanced methods also rarely make the semantic-logical relations between input variables and the prediction target available to the model within each numerical window. To address this problem, this article proposes Task-Semantic Field Factorization (TSF), a large language model (LLM)-guided framework. TSF builds a task-semantic field from task protocols and variable documents before training and uses the LLM only for offline semantic construction. Online training and inference remain with conventional time-series backbones. During training and inference, the current numerical window activates variable semantics, so semantic information participates in each prediction and supports adaptation to different prediction targets and operating shifts. On multiple complex industrial forecasting and soft-sensing tasks, TSF reduces MAE by 6.4\% on average in improved settings, with the largest reduction reaching 25.5\%. It adds only about 1.8--3.0k parameters, with less than 0.008 ms/step of additional online inference overhead. These results show that TSF turns existing process documents into measurable forecasting gains across backbones and semantic generators while remaining lightweight for deployment.
- Abstract(参考訳): プロセス産業は、オンライン測定が難しい品質変数を推定するために、時系列予測とソフトセンシングに頼っている。
ラベル付きデータは乏しく、運用体制は頻繁に変更され、モデルの再トレーニングや各シナリオのアライメントパイプラインの再構築にはコストがかかる。
このような設定は、変数名、ユニット、物理的意味、プロセスロールを記録する可変テーブルやプロセスドキュメントを提供することが多い。
しかしながら、標準的な時系列バックボーンは通常、入力を匿名の数値列として扱う。
既存のテキスト強調手法は、入力変数と予測対象との意味論的関係を、各数値ウィンドウ内のモデルで利用できることは滅多にない。
本稿では,大規模言語モデル(LLM)誘導フレームワークであるタスク・セマンティックフィールドファクトリゼーション(TSF)を提案する。
TSFは、トレーニング前にタスクプロトコルと可変ドキュメントからタスクセマンティックフィールドを構築し、オフラインセマンティック構成にのみLLMを使用する。
オンライントレーニングと推論は従来型の時系列バックボーンに留まっている。
トレーニングと推論の間、現在の数値ウィンドウは可変セマンティクスを活性化するので、セマンティクス情報は各予測に参加し、異なる予測ターゲットへの適応と動作シフトをサポートする。
複数の複雑な産業予測とソフトセンシングタスクにおいて、TSFは、改善された設定でMAEを平均6.4 %減らし、最大の削減率は25.5 %に達した。
約1.8-3.0kのパラメータしか追加せず、追加のオンライン推論オーバーヘッドの0.008ms/step未満である。
これらの結果は、TSFが既存のプロセス文書をバックボーンやセマンティックジェネレータにまたがって測定可能な予測ゲインに変換する一方で、デプロイの軽量さを保っていることを示している。
関連論文リスト
- Parameter-Efficient Adaptation of Pretrained Language Models for Time-Series Forecasting [2.141079906482723]
我々は,事前訓練したGPT-2バックボーンの埋め込み空間に直接,固定長の時系列パッチを投影する。
我々は, (i) 表現戦略 (連続埋め込みとテキストシリアライゼーション) , (ii) 適応体制 (部分的あるいは完全微調整) および (iv) 入力コンテキスト長の影響を解析した。
論文 参考訳(メタデータ) (2026-09-14T10:30:59Z) - SAGE: Variate-Wise Semantic Augmentation for Vision-Language Time Series Forecasting [6.3330628137530605]
時系列予測モデルは生の数値列で動作し、ドメインの専門家が暗黙的に利用する意味的な知識を欠いている。
本稿では,時間的・相互変数的・テキスト的・視覚的情報を共同でモデル化する,エンドツーエンドのCLIPベースのフレームワークであるSAGEを提案する。
論文 参考訳(メタデータ) (2026-08-27T09:04:45Z) - LLM-based Agents for Forecasting and Prediction: Methods, Training, Evaluation, and Applications [76.41731220830714]
大規模言語モデル(LLM)は、言語ベースの推論と時間的データ、エビデンス検索、外部ツール、反復予測を組み合わせた予測システムをサポートするようになった。
ファイナンス、天気、健康、エネルギー、オペレーションの応用について検討し、評価に使用されるベンチマークとデータセットを要約する。
論文 参考訳(メタデータ) (2026-08-24T10:02:39Z) - LLMs can construct powerful representations and streamline sample-efficient supervised learning [3.5741706722720377]
本稿では,下流タスクのためのマルチモーダルデータモデリングプロセスの合理化を目的としたエージェントパイプラインを提案する。
提案手法は, 従来の数理モデル, ナイーブテキストシリアライゼーションベースライン, 臨床基礎モデルを大きく上回っている。
論文 参考訳(メタデータ) (2026-03-12T08:44:06Z) - Robustness is Important: Limitations of LLMs for Data Fitting [0.0]
大規模言語モデル(LLM)は幅広い設定に適用されている。
データフィッティングにLLMを使うことの重大な脆弱性を特定する。
変数名を変更することで、特定の設定で予測エラーのサイズを最大82%縮小することができる。
論文 参考訳(メタデータ) (2025-08-27T04:46:05Z) - LLM-AutoDiff: Auto-Differentiate Any LLM Workflow [58.56731133392544]
自動プロンプト工学(APE)のための新しいフレームワーク LLM-AutoDiff について紹介する。
LLMs-AutoDiffは、各テキスト入力をトレーニング可能なパラメータとして扱い、フリーズした後方エンジンを使用して、テキスト勾配に対するフィードバック・アキンを生成する。
精度とトレーニングコストの両方において、既存のテキスト勾配ベースラインを一貫して上回ります。
論文 参考訳(メタデータ) (2025-01-28T03:18:48Z) - Reference Trustable Decoding: A Training-Free Augmentation Paradigm for Large Language Models [79.41139393080736]
大規模言語モデル(LLM)は急速に進歩し、印象的な機能を示している。
In-Context Learning (ICL) など。
効率的なファインチューニング(PEFT)は、現在2つの主要な拡張方法である。
下流タスクへのLLM。
我々は、モデルが微調整なしで新しいタスクに迅速に適応できるパラダイムである参照信頼復号(RTD)を提案する。
論文 参考訳(メタデータ) (2024-09-30T10:48:20Z) - SELF-GUIDE: Better Task-Specific Instruction Following via Self-Synthetic Finetuning [70.21358720599821]
大規模言語モデル(LLM)は、適切な自然言語プロンプトを提供する際に、多様なタスクを解決するという約束を持っている。
学生LLMからタスク固有の入出力ペアを合成する多段階メカニズムであるSELF-GUIDEを提案する。
ベンチマークの指標から,分類タスクに約15%,生成タスクに18%の絶対的な改善を報告した。
論文 参考訳(メタデータ) (2024-07-16T04:41:58Z) - CALF: Aligning LLMs for Time Series Forecasting via Cross-modal Fine-Tuning [59.88924847995279]
MTSFのためのクロスモーダルLCMファインチューニング(CALF)フレームワークを提案する。
分散の相違を低減するため,クロスモーダルマッチングモジュールを開発した。
CALFは、長期および短期の予測タスクの最先端のパフォーマンスを確立する。
論文 参考訳(メタデータ) (2024-03-12T04:04:38Z) - Task-Distributionally Robust Data-Free Meta-Learning [99.56612787882334]
Data-Free Meta-Learning (DFML)は、複数の事前学習モデルを活用することで、独自のトレーニングデータを必要とせずに、新しいタスクを効率的に学習することを目的としている。
TDS(Task-Distribution Shift)とTDC(Task-Distribution Corruption)の2つの大きな課題を初めて明らかにした。
論文 参考訳(メタデータ) (2023-11-23T15:46:54Z) - Structural Self-Supervised Objectives for Transformers [3.018656336329545]
この論文は、教師なし生データを用いて自然言語モデルの事前学習を改善することに焦点を当てている。
第一部では,BERT の Masked Language Modeling (MLM) に対する3つの事前学習目標について紹介する。
第2部では、下流アプリケーションと構造的に整合する自己教師付き事前学習タスクを提案する。
論文 参考訳(メタデータ) (2023-09-15T09:30:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。