論文の概要: Global tree forecasters collapse at the hierarchical aggregate: a five-panel failure characterization
- arxiv url: http://arxiv.org/abs/2609.27912v1
- Date: Fri, 21 Aug 2026 14:59:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:56.010266
- Title: Global tree forecasters collapse at the hierarchical aggregate: a five-panel failure characterization
- Title(参考訳): グローバルツリー予測器は階層的な集合体で崩壊する:5パネルの故障特性
- Abstract要約: 階層上でグローバルツリーをトレーニングし、階層的な集約を要求します。
集約はモデルのトレーニング範囲のはるかに外にあり、予測が崩壊する。
このモデルは、当社の製品展開において合計30~50倍、公開M5再構築において最大496倍を過小評価します。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Global forecasting models pool many series and learn one shared function. Gradient-boosted trees are their most common form. We measure a failure of this design that has not, to our knowledge, been documented. Train a global tree on the individual series of a hierarchy, then ask it for the hierarchical aggregate. The aggregate sits far outside the model's training range, and the forecast collapses. The model under-predicts the total by 30-50x in our production deployment, and by up to 496x in a public M5 reconstruction. The mechanism is known: beyond its training range, a tree predicts a constant. It surfaces at the aggregate because the total dwarfs every training series. The cure is not new. Per-series scaling, the preprocessing step that Montero-Manso and Hyndman (2021) recommend, prevents the collapse. So do a weighted aggregate-level training row and seasonal differencing. Our contribution is the characterization. The collapse reproduces on five panels: a production business-to-business marketplace, a synthetic hierarchy, M5, Australian Tourism, and a public business-buyer panel. It holds on three tree libraries, is invariant across training seeds, and is statistically significant. Its onset is immediate and tracks a simple support bound: a scale gap of only 1.15x already costs a third of the total. No standard configuration change prevents it: pooling every hierarchy level into training fails at scale, and the one knob that fits linear models in the leaves softens it without curing it. Rolling the forecasts forward recursively separates the cures: the aggregate-row cure re-collapses, per-series scaling degrades but stays low, and only seasonal differencing keeps its one-step accuracy unchanged. We close with a three-step procedure for diagnosing and preventing the failure in deployed systems.
- Abstract(参考訳): グローバル予測モデルは、多くのシリーズをプールし、1つの共有関数を学ぶ。
優占樹は最も一般的な形態である。
私たちは、私たちの知る限りでは文書化されていないこの設計の失敗を計測します。
階層の個々の一連のグローバルツリーを訓練し、階層的な集合を問う。
集約はモデルのトレーニング範囲のはるかに外にあり、予測が崩壊する。
このモデルは、当社の製品展開において合計30~50倍、公開M5再構築において最大496倍を過小評価します。
このメカニズムは知られており、トレーニング範囲を超えて、木は定数を予測する。
合計は訓練級数ごとに小さめとなるため、集合体に面する。
治療法は新しいものではない。
シリーズごとのスケーリングは、Monterro-MansoとHyndman(2021年)が推奨する前処理ステップであり、崩壊を防ぐ。
そのため、重み付けされたアグリゲートレベルのトレーニング行と季節的な違いがあります。
私たちの貢献はキャラクタリゼーションです。
崩壊は5つのパネルで再現され、生産とビジネスの市場、合成階層、M5、オーストラリア観光、公共事業の買い手パネルである。
3つの木のライブラリーを持ち、訓練種子間で不変であり、統計的に有意である。
その開始は即時であり、単純なサポートバウンドを追跡する。スケールギャップは1.15倍に過ぎず、既に全体の3分の1のコストがかかる。
すべての階層レベルをトレーニングにプーリングすることは、大規模に失敗し、葉の線形モデルに適合する1つのノブは、それを硬化することなく、それを軟化します。
予測を前方に回すことで、アグリゲート・ロウの治癒が再崩壊し、シリーズごとのスケールが低下するが、低いままであり、季節差だけが1段階の精度を維持している。
我々は、デプロイされたシステムの障害を診断し、予防するための3段階の手順を閉じる。
関連論文リスト
- A Hierarchy-Aware Video-Language Model Evaluation and Hyperbolic Baseline for Surgery [56.13393194231687]
SurgHiBenchは外科的ビデオ理解のための最初の階層認識評価スイートである。
同じ精度の2つのモデルは、非常に異なるエラー重大度を予測することができる。
論文 参考訳(メタデータ) (2026-09-22T22:58:46Z) - A Fragility Spectrum for Recursive Language-Model Training [9.563027159959587]
異なるモデルが同じプロセスで非常に異なる振る舞いをすることを示す。
5世代後のユニークな4グラムの結果は、チェックポイント毎に0.187から0.940まで様々である。
共有プールの構成を変更したり、人文で混合したりすることで、スピアマンの順序の相関は0.91--0.97に保たれる。
論文 参考訳(メタデータ) (2026-09-10T06:56:22Z) - The Oligarch Barely Steers Model Collapse in Multi-Model Ecosystems [9.563027159959587]
より少ない、より均一なソースは崩壊を早くし、後のモデルはオリガルトの出力に向かって引きずられるかもしれない。
13のオープンな1--4Bモデルは、3から13人のプレーヤーの自然なエコシステムを形成します。
テスト範囲内では、濃度は目的地も崩壊のペースも設定しない。
論文 参考訳(メタデータ) (2026-09-10T06:48:46Z) - A Later Test Set Is Not a New Domain: Pretraining Familiarity Survives a Contamination-Free Hold-Out [0.0]
時系列ファウンデーションモデルは、その前の公開アーカイブにのみ評価されるので、事前トレーニング中にテストセットを見たことから、強力なスコアを分離することはできない。
5つのドメインから引き出された7つのグループ上に、13の予測器(4つの古典的、3つの訓練されたデータセット、6つの事前訓練済み)を構築します。
このプロトコルの下で、事前訓練されたモデルは7つのグループのうち5つを獲得し、セタベースラインに1つを失う。
論文 参考訳(メタデータ) (2026-09-09T15:52:55Z) - The Good, the Bad, and the Ugly of Markov Boundary for Tabular Prediction [8.05418282793167]
我々はマルコフ境界が3450タスクの合成SCMベンチマークであるSCM3Kの予測に本当に有用かどうかを問う。
回帰器をオラクル境界に制限することは、しばしば予測を大幅に改善し、特徴空間が大きくなるにつれて改善が増加する。
既存の推定者は、境界が最も助ける体制に達する前に計算予算を浪費する。
論文 参考訳(メタデータ) (2026-05-28T06:01:04Z) - Train Separately, Merge Together: Modular Post-Training with Mixture-of-Experts [76.12264847243816]
本稿では、独立したドメインエキスパートを訓練するBARについて、それぞれ独自の中級訓練、教師付き微調整、強化学習パイプラインを用いて、軽量ルータトレーニングを備えたMixture-of-Expertsアーキテクチャを用いて構成する。
7Bスケールでは、数学、コード、ツールの使用、安全性の専門家がおり、総合スコアは49.1である。
各ドメインを分離することで、後期のRLが早期のトレーニング段階から機能を低下させたときに発生する破滅的な忘れを回避し、ドメインの更新や追加のコストと複雑さを著しく低減する。
論文 参考訳(メタデータ) (2026-04-20T16:24:41Z) - Scaling Collapse Reveals Universal Dynamics in Compute-Optimally Trained Neural Networks [59.552873049024775]
計算最適化モデルでは, 極めて高精度な普遍性を示すことを示す。
学習速度が減衰すると、崩壊は非常に厳しくなり、モデル間の正規化曲線の差はノイズフロアより下になる。
これらの現象は、典型的なニューラルスケーリング法則において、崩壊とパワー・ロー構造を結びつけることによって説明される。
論文 参考訳(メタデータ) (2025-07-02T20:03:34Z) - Improved Convergence Guarantees for Shallow Neural Networks [91.3755431537592]
勾配降下法により訓練された深度2ニューラルネットの収束度を世界最小とする。
我々のモデルには、二次損失関数による回帰、完全連結フィードフォワードアーキテクチャ、RelUアクティベーション、ガウスデータインスタンス、逆ラベルといった特徴がある。
彼らは、少なくとも我々のモデルでは、収束現象がNTK体制をはるかに超越していることを強く示唆している」。
論文 参考訳(メタデータ) (2022-12-05T14:47:52Z) - Predicting the Stability of Hierarchical Triple Systems with
Convolutional Neural Networks [68.8204255655161]
本稿では,階層型三重項の安定性を予測する畳み込みニューラルネットワークモデルを提案する。
すべてのトレーニングされたモデルは公開されており、純粋な$N$-bodyメソッドよりも200ドルの速さで階層的な3重システムの安定性を予測することができる。
論文 参考訳(メタデータ) (2022-06-24T17:58:13Z) - Unifying Language Learning Paradigms [96.35981503087567]
データセットやセットアップ全体にわたって普遍的に有効である事前学習モデルのための統一的なフレームワークを提案する。
本研究では, 事前学習対象を相互に配置し, 異なる対象間の補間を効果的に行う方法を示す。
また,テキスト内学習において,ゼロショットSuperGLUEで175B GPT-3,ワンショット要約でT5-XXLの性能を3倍に向上させた。
論文 参考訳(メタデータ) (2022-05-10T19:32:20Z) - Large Scale Prediction with Decision Trees [9.917147243076645]
本稿では,分類・回帰木(CART)とC4.5手法を用いて構築した決定木が,回帰・分類タスクに一貫性があることを示す。
この分析における重要なステップは、不平等の確立であり、不特定モデルの適合性と複雑性のトレードオフを正確に評価することができる。
論文 参考訳(メタデータ) (2021-04-28T16:59:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。