論文の概要: When Do Foundation Models Pay Off? A Break-Even Analysis of Pretrained Time Series Forecasters

• arxiv url: http://arxiv.org/abs/2607.04919v1
• Date: Mon, 06 Jul 2026 10:48:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:30.12056
• Title: When Do Foundation Models Pay Off? A Break-Even Analysis of Pretrained Time Series Forecasters
• Title（参考訳）: ファンデーションモデルはいつ終わるのか? 事前学習した時系列予測者のブレイク・エヴュー分析
• Abstract要約: ファンデーションモデルは、30のデータセットのうち15のトレーニングの割合で古典的な手法よりも優れています。 n_train 700と季節性が無視できない場合、FMゼロショットを使用し、微調整をスキップする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deploying a time series foundation model requires GPU infrastructure, engineering overhead, and carries no guarantee of improvement over XGBoost. We provide the first systematic break-even analysis answering when this investment pays off. Across 30 benchmark datasets, we compare zero-shot and LoRA fine-tuned foundation models (Chronos, Moirai, Lag-Llama) against classical baselines (Naive, ETS, ARIMA, XGBoost) at six training set sizes from 2% to 100% of available data. Foundation models outperform classical methods at every evaluated training fraction on 15 of 30 datasets - GPU deployment is unconditionally justified on these regardless of data volume. On 6 datasets, classical methods surpass zero-shot foundation models with as little as 2% of training data (21-2,768 samples); on the remaining 9, break-even ranges from 24 to 8,361 samples. One robust deployment rule requires no model training: if n_train < 700 and seasonality is non-negligible, use FM zero-shot and skip fine-tuning - this resolves 10 of 30 deployment decisions immediately. Contrary to common practice, LoRA fine-tuning can actively degrade performance on short series. We operationalise these findings as a two-step decision framework - compute dataset length and seasonality strength, run a brief 5-10% pilot only if needed - enabling practitioners to make the FM-versus-classical decision before committing to full infrastructure. Four dataset features motivate mechanistic hypotheses for the remaining cases, though reliable automated prediction at this benchmark scale remains an open problem. Code, benchmark, and decision tools are available at https://github.com/nicolaisi/fm-breakeven.
• Abstract（参考訳）: 時系列ファウンデーションモデルをデプロイするには、GPUインフラストラクチャ、エンジニアリングオーバーヘッドが必要で、XGBoostよりも改善の保証はない。 この投資が功を奏して初めて、系統的なブレーク・エクイティ分析が回答します。 30のベンチマークデータセットで、ゼロショットとLoRAの微調整された基礎モデル(Chronos、Moirai、Lag-Llama)と古典的なベースライン(Naive、ETS、ARIMA、XGBoost)を、使用可能なデータの2%から100%のトレーニングセットサイズで比較した。 ファンデーションモデルは、30データセット中15データセットで評価されたトレーニングの割合で、古典的なメソッドよりも優れています。 6つのデータセットにおいて、古典的手法はトレーニングデータの2%(21-2768サンプル)しか持たないゼロショット基礎モデルを超える。 n_train < 700と季節性は無視できないならば、FMゼロショットを使用して微調整をスキップする — これにより、30のデプロイメント決定のうち10がすぐに解決される。 一般的なプラクティスとは対照的に、LoRAファインチューニングはショートシリーズのパフォーマンスを積極的に低下させることができる。 これらの発見を2段階の意思決定フレームワークとして運用しています – データセットの長さと季節的な強度を計算し,必要ならば簡単な5～10%のパイロットを実行します。 4つのデータセットが残りのケースに対して機械的仮説を動機付けているが、このベンチマークスケールでの信頼性の高い自動予測は未解決の問題である。 コード、ベンチマーク、意思決定ツールはhttps://github.com/nicolaisi/fm-breakeven.comで公開されている。

関連論文リスト

• Learning to Fine-tune Foundation Models under Resource Limitations [2.7071541526963805]
  本研究では,リソース制限されたデバイスにプリトレーニング済みのファンデーションモデルに対する最適連続微調整の問題について検討する。 我々の目標は、有限計算予算の下でモデルを微調整することを決定する最適なポリシーを学習することである。 広範に使用されているテキスト分類データセット上での事前学習モデルによる実験により,本手法は計算予算で常に微調整手法より優れていることが示された。
  論文  参考訳（メタデータ） (2026-07-12T10:32:32Z)
• ARFBench: Benchmarking Time Series Question Answering Ability for Software Incident Response [33.890280378630884]
  時系列質問回答(TSQA)は、基礎モデルの未調査機能として有望である。 ARFBenchは、142の時系列にわたる750の質問と、Datadogの内部テレメトリからのみ得られる63のプロダクションインシデントから538万のデータポイントで構成されている。 我々は,F1とフロンティアモデルに比較して精度の高い合成データと実データを組み合わせた,新しいTSFM+VLMハイブリッドプロトタイプを開発した。
  論文  参考訳（メタデータ） (2026-04-23T01:45:10Z)
• Pioneer Agent: Continual Improvement of Small Language Models in Production [6.452260317191361]
  小さな言語モデルは、低コスト、高速な推論、特殊化の容易さのために、製品展開にとって魅力的なものだ。 特定のタスクに小さな言語モデルを適用するプロセスを自動化するクローズドループシステムであるPioneer Agentを提案する。
  論文  参考訳（メタデータ） (2026-04-10T18:13:09Z)
• MERGETUNE: Continued fine-tuning of vision-language models [77.8627788911249]
  微調整視覚言語モデル(VLM)は、しばしば事前訓練された知識を破滅的に忘れてしまう。 ゼロショットモデルに適応した後に事前学習した知識を回復するための新しいパラダイムである連続微調整(CFT)を導入する。
  論文  参考訳（メタデータ） (2026-01-15T15:15:53Z)
• Intention-Conditioned Flow Occupancy Models [80.42634994902858]
  大規模な事前学習は、今日の機械学習研究のやり方を根本的に変えた。 同じフレームワークを強化学習に適用することは、RLの中核的な課題に対処するための魅力的な方法を提供するので、魅力的です。 生成AIの最近の進歩は、高度に複雑な分布をモデリングするための新しいツールを提供している。
  論文  参考訳（メタデータ） (2025-06-10T15:27:46Z)
• FRoundation: Are Foundation Models Ready for Face Recognition? [8.045296450065019]
  ファウンデーションモデルが特定の顔認識領域(FR)に適しているかを検討する。 合成データを含むデータ可用性の異なるレベルにまたがって、これらのモデルのFRへの適用を提案、実証する。 この結果から, 汎用性にもかかわらず, 事前学習された基礎モデルは, この課題に特化して訓練された類似アーキテクチャと比較すると, FRにおいて性能が劣る傾向が示唆された。
  論文  参考訳（メタデータ） (2024-10-31T11:21:21Z)
• GIFT-Eval: A Benchmark For General Time Series Forecasting Model Evaluation [90.53485251837235]
  時系列基礎モデルはゼロショット予測に優れ、明示的なトレーニングなしで多様なタスクを処理する。 GIFT-Evalは、多様なデータセットに対する評価を促進するための先駆的なベンチマークである。 GIFT-Evalには、144,000の時系列と17700万のデータポイントの23のデータセットが含まれている。
  論文  参考訳（メタデータ） (2024-10-14T11:29:38Z)
• No "Zero-Shot" Without Exponential Data: Pretraining Concept Frequency Determines Multimodal Model Performance [68.18779562801762]
  マルチモーダルモデルは、下流の"ゼロショット"のパフォーマンスを線形改善するために、指数関数的に多くのデータを必要とする。 本研究は,大規模な訓練パラダイムの下での「ゼロショット」一般化能力の鍵となる訓練データに対する指数関数的要求を明らかにする。
  論文  参考訳（メタデータ） (2024-04-04T17:58:02Z)
• Revisiting Few-Shot Object Detection with Vision-Language Models [49.79495118650838]
  我々は、最近の基礎視覚言語モデル(VLM)の文脈で、少数ショットオブジェクト検出(FSOD)のタスクを再考する。 我々は,任意の外部データ上で事前学習された検出器を評価する新しいベンチマークプロトコルであるFoundational FSODを提案する。 CVPR 2024 Foundational FSOD コンペティションについて論じ,コミュニティからの洞察を共有した。
  論文  参考訳（メタデータ） (2023-12-22T07:42:00Z)
• Generalized Logit Adjustment: Calibrating Fine-tuned Models by Removing Label Bias in Foundation Models [75.9543301303586]
  CLIPのようなファンデーションモデルは、追加のトレーニングデータなしで、さまざまなタスクでゼロショット転送を可能にする。 微調整やアンサンブルも一般的に下流のタスクに合うように採用されている。 しかし、先行研究は基礎モデルに固有のバイアスを見落としていると論じる。
  論文  参考訳（メタデータ） (2023-10-12T08:01:11Z)
• Pushing the Limits of Pre-training for Time Series Forecasting in the CloudOps Domain [54.67888148566323]
  クラウドオペレーションドメインから,大規模時系列予測データセットを3つ導入する。 強力なゼロショットベースラインであり、モデルとデータセットサイズの両方において、さらなるスケーリングの恩恵を受けています。 これらのデータセットと結果を取得することは、古典的および深層学習のベースラインを事前訓練された方法と比較した総合的なベンチマーク結果の集合である。
  論文  参考訳（メタデータ） (2023-10-08T08:09:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。