論文の概要: REATS: LLM Reasoning-based Ensemble Learning for Adaptive Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2608.10149v1
- Date: Mon, 10 Aug 2026 19:04:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:45.791511
- Title: REATS: LLM Reasoning-based Ensemble Learning for Adaptive Time Series Forecasting
- Title(参考訳): REATS:LLM推論に基づく適応時系列予測のためのアンサンブル学習
- Abstract要約: 本稿では,時間的パターン記述と数値特徴を処理し,解釈可能なアンサンブル重みを生成するREATSを提案する。
8つのベンチマークの実験では、REATSは競争力のあるアンサンブルベースラインを上回っている。
- 参考スコア(独自算出の注目度): 33.69887280643071
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to the diversity of real-world time series, no single forecasting model consistently dominates across all samples. Ensemble learning addresses this by combining complementary model strengths, yet existing methods rely on fixed rules or black-box models based solely on numerical inputs, failing to leverage LLM reasoning for interpretable weighting decisions. We propose REATS, which leverages LLM reasoning capabilities as an intelligent ensemble router that jointly processes textual temporal pattern descriptions and numerical features to produce interpretable, sample-adaptive ensemble weights through chain-of-thought reasoning. To enable effective LLM-based ensembling, we study its key design choices and propose: (i) a structured input pipeline that transforms raw time series into hybrid textual--numerical representations with fixed token cost, enabling rule-based chain-of-thought construction without API dependency, augmented with retrieved similar-sample priors; (ii) a diverse multi-row weight supervision scheme coupled with a token-efficient percentage-table format that reduces numerical complexity and mitigates LLM hallucinations; and (iii) a two-stage fine-tuning framework combining SFT with GRPO, where a reciprocal reward mapping transforms the continuous unbounded MSE gap into bounded signals with amplified near-oracle sensitivity, addressing the uniform sensitivity and outlier-dominated advantage compression inherent in naive reward designs for regression-based GRPO. Experiments on eight benchmarks demonstrate that REATS outperforms competitive ensemble baselines while providing natural language explanations and demonstrating strong transfer learning and out-of-domain generalization to unseen candidate models.
- Abstract(参考訳): 実世界の時系列の多様性のため、全てのサンプルに対して単一の予測モデルが常に支配的になることはない。
アンサンブル学習は補足モデルの強みを組み合わせることでこの問題に対処するが、既存の手法は数値入力のみに基づく固定ルールやブラックボックスモデルに依存しており、解釈可能な重み付け決定のためにLLM推論を活用できない。
本稿では,LLM推論機能を,テキストの時間的パターン記述と数値的特徴を共同処理するインテリジェントアンサンブルルータとして活用し,チェーン・オブ・セッティングによる解釈可能なサンプル適応アンサンブル重みを生成するREATSを提案する。
LLMに基づく効果的なアンサンブルを実現するため、重要な設計選択について検討し、次のように提案する。
i) 生の時系列を固定トークンコストでハイブリッドなテキスト-数値表現に変換する構造化された入力パイプラインで、API依存なしにルールベースのチェーン・オブ・シンク構築が可能で、検索された類似サンプルの事前処理で強化される。
(ii) LLM幻覚を緩和するトークン効率の高いパーセンテージテーブル形式と組み合わせた多孔式重量管理方式
3)SFTとGRPOを併用した2段階の微調整フレームワークにおいて、相互報酬写像により、連続的非有界MSEギャップを増幅されたニアオークル感度で有界信号に変換し、レグレッションベースGRPOのナイーブ報酬設計に固有の均一感度およびアウター優先の優位性圧縮に対処する。
8つのベンチマークの実験では、REATSは、自然言語の説明を提供しながら、競合するアンサンブルベースラインよりも優れており、強力な転送学習と、目に見えない候補モデルへのドメイン外一般化を実証している。
関連論文リスト
- PLUME: Latent Reasoning Based Universal Multimodal Embedding [52.35354073629127]
ユニバーサルマルチモーダル埋め込み(UME)は、異種入力を単一のモデルで共有検索空間にマッピングする。
最近のアプローチでは、埋め込みを抽出する前に明確なチェーン・オブ・シント(CoT)論理を生成することにより、UMEを改善している。
PLUMEは,言語化されたCoTを連続的潜伏状態の短時間の自己回帰ロールアウトに置き換えることで,UMEを進化させる潜在的推論フレームワークである。
論文 参考訳(メタデータ) (2026-04-02T14:04:53Z) - Bridging Perception and Reasoning: Token Reweighting for RLVR in Multimodal LLMs [51.60575965819268]
本稿では,この相互依存を明示的にモデル化するToken-Reweighting(ToR)戦略を提案する。
ToRは複数のマルチモーダル推論ベンチマークで一貫したパフォーマンス向上を実現している。
論文 参考訳(メタデータ) (2026-03-26T06:25:27Z) - Reciprocal Co-Training (RCT): Coupling Gradient-Based and Non-Differentiable Models via Reinforcement Learning [3.8126346464908067]
大規模言語モデル(LLM)と古典的な機械学習手法は、予測モデリングに補完的な長所を提供する。
LLMはテキストデータに対する勾配に基づく最適化に依存しているが、Random Forests (RF) のようなモデルは微分不可能な特徴分割を採用している。
本研究では,LLMとRF分類器を併用した相互協調学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-24T20:21:31Z) - Fine-tuning MLLMs Without Forgetting Is Easier Than You Think [72.59321247529975]
分布内および分布外画像およびテキスト入力のモデル性能を評価するための2x2実験フレームワークを設計する。
その結果、トレーニング可能なパラメータの数を制限したり、低学習率を採用するなど、適切な正規化が、アウト・オブ・ディストリビューション・イメージを扱う際の忘れを効果的に防止できることが示唆された。
我々は、このことをタスク固有のオーバーフィッティングとみなし、データハイブリッドトレーニング戦略を導入することでこの問題に対処する。
論文 参考訳(メタデータ) (2026-03-15T17:16:19Z) - ReVEL: Multi-Turn Reflective LLM-Guided Heuristic Evolution via Structured Performance Feedback [0.0]
ReVEL: 構造化性能フィードバックによるマルチTurn反射型LLM-Huristic Evolutionを提案する。
ReVELの中核は、(i)パフォーマンスに目立ったグループ化と(ii)マルチターンフィードバック駆動リフレクションの2つのメカニズムにある。
本結果は,自動設計の原則的パラダイムとして,構造化グループを用いたマルチターン推論に注目した。
論文 参考訳(メタデータ) (2026-03-05T04:52:11Z) - Reasoning Palette: Modulating Reasoning via Latent Contextualization for Controllable Exploration for (V)LMs [49.66344956133349]
推論能力は、大規模な(ビジョン)言語モデルのための推論時間性能と強化学習(RL)トレーニングの両方を形作る。
本稿では,戦略的文脈化のための潜在変数をモデルに付与する新しい潜在変調フレームワークであるReasoning Paletteを提案する。
論文 参考訳(メタデータ) (2025-12-19T03:32:53Z) - Multi-Reward GRPO for Stable and Prosodic Single-Codebook TTS LLMs at Scale [12.626090218930578]
シングルコードブックのテキスト音声モデルは不安定な韻律、話者のドリフト、劣化した自然性を示すことが多い。
単行本TS LLMのトークン生成ポリシーを直接最適化するマルチリワードグループ相対ポリシー最適化フレームワークを提案する。
提案手法は, 単行本TS LLMにおける韻律安定性, 話者類似性, 音声の自然度を連続的に向上することを示す。
論文 参考訳(メタデータ) (2025-11-26T10:50:17Z) - Reinforce-Ada: An Adaptive Sampling Framework for Reinforce-Style LLM Training [47.26632817047513]
大規模言語モデル(LLM)に推論タスクに適用された強化学習は、不安定な勾配推定によってボトルネックとなることが多い。
LLMのオンラインRLポストトレーニングのための適応型サンプリングフレームワークであるReinforce-Adaを提案する。
従来の2段階配置法とは異なり、Reinforce-Adaはオンライン連続除去プロセスにおける推定とサンプリングをインターリーブする。
論文 参考訳(メタデータ) (2025-10-06T16:34:09Z) - Leveraging Importance Sampling to Detach Alignment Modules from Large Language Models [48.15777554876988]
伝統的なアライメント手法では、しばしば大きな事前訓練されたモデルを再訓練する必要がある。
本稿では,アライメント処理を重要サンプリングの一種として形式化する新しいtextitResidual Alignment Model (textitRAM) を提案する。
本稿では,トークンレベルの復号化を反復的に行う再サンプリングアルゴリズムを開発した。
論文 参考訳(メタデータ) (2025-05-26T08:53:02Z) - Combinatorial Optimization via LLM-driven Iterated Fine-tuning [47.66752049943335]
我々は,Large Language Models (LLMs) を利用して,柔軟で文脈に依存しない制約を最適化に統合する新しい方法を提案する。
本フレームワークは, 局所的制約と厳密なグローバル最適化とのバランスを, ベースラインサンプリング法よりも効率的に行う。
論文 参考訳(メタデータ) (2025-03-10T04:58:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。