論文の概要: Fracast-0: Fractal Weight Sharing for a Time Series Foundation Model with Only 85K Parameters

• arxiv url: http://arxiv.org/abs/2609.32209v1
• Date: Sat, 26 Sep 2026 04:11:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 18:56:42.280717
• Title: Fracast-0: Fractal Weight Sharing for a Time Series Foundation Model with Only 85K Parameters
• Title（参考訳）: Fracast-0:85Kパラメータのみを持つ時系列基礎モデルのフラクタル重み共有
• Abstract要約: Fracast-0は時間的自己相似性を利用して1つの演算子をスケールで再利用する時系列基礎モデルである。 データセットごとの微調整のない97のGIFT-Eval構成では、Fracast-0は28のチェックポイントの中で最小である。 TinyCastよりもパラメータが42.0%少なく、MASEとWQLは4.2%、WQLは3.3%低い。
• 参考スコア（独自算出の注目度）: 4.650287501374999
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Time series foundation models must preserve multi-domain breadth, probabilistic output, and multiple temporal scales, but parameter count grows when each scale receives a separate representation. We introduce Fracast-0, a probabilistic forecasting foundation model that exploits temporal self-similarity to reuse one operator across scales. A parameter-free detector extracts significant seasonal structure. The encoder applies a shared local block along a geometric dilation ladder with scale conditioning, while the decoder combines context-gathered states with an explicit seasonal future state and reuses a second block along another ladder before emitting nine quantiles. Pretraining across six corpora preserves multi-domain breadth within 85,001 parameters. On 97 GIFT-Eval configurations without per-dataset fine-tuning, Fracast-0 is the smallest of 28 evaluated checkpoints and remains non-dominated in the aggregate parameter-accuracy plane with MASE 0.808 and WQL 0.564. It uses 42.0% fewer parameters than TinyCast, whose MASE and WQL are 4.2% and 3.3% lower. These results support cross-scale weight reuse as a practical route to further time series foundation model compression.
• Abstract（参考訳）: 時系列基礎モデルは、複数の領域の幅、確率的出力、および複数の時間スケールを保存する必要があるが、各スケールが別々の表現を受けるとパラメータ数は増加する。 本稿では,時間的自己相似性を利用して1つの演算子をスケールで再利用する確率論的予測基盤モデルであるFracast-0を紹介する。 パラメータフリー検出器は、重要な季節構造を抽出する。 エンコーダは、幾何学的拡張はしごに沿って共有ローカルブロックをスケール条件付きで適用し、デコーダは、コンテキスト収集された状態と明確な季節的将来の状態を組み合わせて、他のはしごに沿って第2ブロックを再利用し、9個の量子化を発生させる。 6つのコーパスにまたがる事前訓練は85,001パラメータの範囲内で多領域幅を保存する。 データセットごとの微調整のない97個のGIFT-Eval構成では、Fracast-0は28個の評価されたチェックポイントの中で最小であり、MASE 0.808とWQL 0.564で集約されたパラメータ精度平面では支配されない。 TinyCastよりもパラメータが42.0%少なく、MASEとWQLは4.2%、WQLは3.3%低い。 これらの結果は、時系列基礎モデル圧縮のための実用的な方法として、クロススケールな重量再利用を支援する。

関連論文リスト

• FlowTSFM: Turning Encoder Depth into Quantile Transport [29.781238027602466]
  本稿では,再帰輸送プロセスとして深度を解釈するエンコーダアーキテクチャであるFlowTSFMを紹介する。 わずか388Mのパラメータで、FlowTSFMはGIFT-EvalとTIMEの競合性能を達成している。 また、CosMeanも導入しています。これは、リカレント更新が最終予測に一貫して一致するかどうかを計測するスケールフリー診断です。
  論文  参考訳（メタデータ） (2026-09-12T01:29:17Z)
• TinyCast: Probabilistic Zero-Shot Forecasting with Computed Periodicity [0.0]
  TinyCastは注意のないゼロショット予測器で、146,505パラメータから予測分布を出力する。 パラメータ数が確立可能なGIFT-Evalボード上のすべてのゼロショットエントリよりも小さい。
  論文  参考訳（メタデータ） (2026-08-16T14:40:44Z)
• SparseKAN: Compressing Kolmogorov--Arnold Networks Across Basis Functions, Neurons, and Bits [6.860988566886594]
  基本関数,ニューロン/チャネル,数値精度の3つの相補的軸に沿ってkanを圧縮する統一的アプローチである textbfSparseKAN を提案する。 SparseKANは、基本分岐、非線形基底分岐、および個別基底項に、異なるアクティブコストの目的の下で訓練された階層的な学習可能なゲートを装備する。
  論文  参考訳（メタデータ） (2026-08-01T20:42:41Z)
• Beyond Inference-Only Deployment: Comparing Weight-Based Consolidation Against Cascading Compaction [1.6214121783846343]
  本研究は,1つのコンシューマ上でのLow-Rank Adaptation (LoRA)ファインチューニングにより,インタラクション知識をモデルウェイトに夜間に集約することを評価する。 10つの現実的なソフトウェア開発の会話の中で、カスケードのコンパクト化は36.8 +/-3.0%の知識を保持する。 LoRAは、相互作用知識を合成、合成、Low-Rank Adaptation (LoRA)ファインチューニングを通じてモデルウェイトに集約する。
  論文  参考訳（メタデータ） (2026-05-23T16:57:25Z)
• Timer-S1: A Billion-Scale Time Series Foundation Model with Serial Scaling [51.78972657142583]
  我々は、Timer-S1、強力なMixture-of-Experts(MoE)時系列基礎モデル、合計8.3Bのパラメータ、各トークンの0.75Bのアクティブパラメータ、コンテキスト長11.5Kについて紹介する。 既存のトレーニング済み時系列基盤モデルのスケーラビリティボトルネックを克服するため,シリアルスケーリングを3次元で実施する。
  論文  参考訳（メタデータ） (2026-03-05T04:13:57Z)
• FourCastNet 3: A geometric approach to probabilistic machine-learning weather forecasting at scale [91.84761739154366]
  FourCastNet 3は、確率的アンサンブル予測にスケーラブルで幾何学的な機械学習(ML)アプローチを実装することで、グローバルな気象モデリングを推進している。 FourCastNet 3は、従来のアンサンブルモデルを上回る予測精度を提供し、最良の拡散ベースのメソッドに匹敵する。 その計算効率、中距離確率的スキル、スペクトルの忠実度、およびサブシーズンタイムスケールでのロールアウト安定性は、大規模なアンサンブル予測を通じて気象予知と早期警報システムを改善するための強力な候補となる。
  論文  参考訳（メタデータ） (2025-07-16T11:22:18Z)
• MatFormer: Nested Transformer for Elastic Inference [91.45687988953435]
  MatFormerは、多様なデプロイメント制約にまたがる弾性推論を提供するように設計された、新しいTransformerアーキテクチャである。 MatFormerは、標準的なTransformerモデルにネストフィードフォワードネットワーク(FFN)ブロック構造を組み込むことで、これを実現している。 8億5000万デコーダのみのMatFormer言語モデル(MatLM)により,5億2200万から8億5千万のパラメータにまたがる複数の小さなモデルを抽出できることを示す。
  論文  参考訳（メタデータ） (2023-10-11T17:57:14Z)
• Cluster-and-Conquer: A Framework For Time-Series Forecasting [94.63501563413725]
  本稿では,高次元時系列データを予測するための3段階フレームワークを提案する。 当社のフレームワークは非常に汎用的で,各ステップで時系列予測やクラスタリングが利用可能です。 単純な線形自己回帰モデルでインスタンス化されると、いくつかのベンチマークデータセットで最先端の結果が得られる。
  論文  参考訳（メタデータ） (2021-10-26T20:41:19Z)
• Differentiable Model Compression via Pseudo Quantization Noise [99.89011673907814]
  本稿では,モデルパラメータに独立な擬似量子化雑音を加えて量子化演算子の効果を近似する。 本手法が,画像分類,言語モデリング,音声ソース分離などのベンチマークやアーキテクチャにおいて,最先端の量子化技術を上回ることを実験的に検証した。
  論文  参考訳（メタデータ） (2021-04-20T14:14:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。