論文の概要: One Patch, Three Roles: What Is Actually Coupled in Autoregressive Time-Series Forecasting?
- arxiv url: http://arxiv.org/abs/2609.23686v1
- Date: Sun, 20 Sep 2026 14:54:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:00.926596
- Title: One Patch, Three Roles: What Is Actually Coupled in Autoregressive Time-Series Forecasting?
- Title(参考訳): 1つのパッチ、3つの役割: 自動回帰的時系列予測で実際に結合されるものは何か?
- Abstract要約: 凍結した親の軌道は, 軽量な平行出口で観測される未来よりも適合しやすいことを示す。
また、列車選択した周期的歴史方向に沿って補正可能な残射も見出す。
Tangentはこの修正を、ニューラルパラメータやTransformerコールを追加せずに適用する。
- 参考スコア(独自算出の注目度): 49.84472730204669
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Patch-based autoregressive time-series forecasting often ties input representation, learned transitions, and recursive execution to one patch length. We ask which of these roles can be adjusted separately. A supporting atomic-encoding study finds greater sensitivity to model width than to atom grouping on the evaluated grid. Our main finding is that a frozen parent's recursive trajectory is easier to fit than the observed future with lightweight parallel exits. Autoregressive Trajectory Distillation (ATD) turns this into selectable ATD-1/2/4/8 execution, with ATD-1 exactly recovering the parent. On a paired four-data-set comparison, ATD-8 reaches $5.54\times$ end-to-end speedup with stable quality across widths. Fewer calls do not automatically remove the parent's existing forecast error: ATD improves trajectory fidelity in all 21 seed runs but forecast accuracy in only 15 against matched clean-future supervision. We further find a correctable residual projection along a train-selected periodic history direction. Spectrum Tangent applies this correction without adding neural parameters or Transformer calls. At horizon 720, it reduces mean squared error (MSE) and mean absolute error (MAE) by 2.54% and 2.33% over seven data sets and two output widths, while remaining $3.24\times$ faster than recursive inference. Level and shape projections sometimes disagree. Trajectory compressibility, the fidelity-accuracy mismatch, and the correction recur across three public AR parents. Together these results separate representation, transition, and execution as AR design axes. Code is available at https://github.com/RowanFFF/ATD-Spectrum-Tangent.
- Abstract(参考訳): パッチベースの自動回帰時系列予測は、しばしば入力表現、学習された遷移、再帰的な実行を1つのパッチの長さに結びつける。
どちらの役割を個別に調整できるかを問う。
支持原子エンコード研究は、評価グリッド上での原子グループ化よりもモデル幅に対する感度が高い。
我々の主な発見は、凍結した親の再帰軌道は、軽量の平行出口を持つ観測された未来よりも適合しやすいことである。
自己回帰軌道蒸留(ATD)は、これを選択可能なATD-1/2/4/8実行に変換し、ATD-1は親を正確に回復させる。
ペア4データセットの比較では、ATD-8は5.54\times$ end-to-end speedupに到達し、幅をまたいだ安定した品質を実現している。
ATDは21のシードランすべてにおいて軌道の忠実性を改善するが、整合したクリーンフューチャー監視に対して15の精度で予測精度を向上する。
さらに,列車選択履歴方向に沿って補正可能な残射影を求める。
Spectrum Tangentはこの補正を、ニューラルパラメータやTransformerコールを追加せずに適用する。
水平線720では、平均二乗誤差(MSE)と平均絶対誤差(MAE)を7つのデータセットと2つの出力幅で2.54%と2.33%削減する。
レベルとシェイププロジェクションは時々相反する。
軌道圧縮性、忠実度精度のミスマッチ、修正は3人の公的なAR親の間で再帰する。
これらの結果は、AR設計軸として表現、遷移、実行を分離する。
コードはhttps://github.com/RowanFFF/ATD-Spectrum-Tangentで入手できる。
関連論文リスト
- Beyond Average Error through Oracle-Informed Stress Tests for Time-Series Forecasting [34.76483563088126]
平均二乗誤差は、予測性能が低下するのは、未来が予測不可能になるためなのか、あるいは、予測が条件平均から遠く離れているためなのかを明らかにすることができない。
本研究では,各リード時間における2乗誤差の変化を環境リスクと予測軌道距離に分解する機構制御型ストレステストを導入する。
論文 参考訳(メタデータ) (2026-09-19T06:42:49Z) - On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。
トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
論文 参考訳(メタデータ) (2026-08-31T06:35:07Z) - SpikeWorld: Fast-State Adaptation for Frozen Spiking World Models [0.0]
ヘテロジニアスな感覚予測,セマンティクス,画像テキストバインディング,動作条件付きダイナミクスを共同で訓練した1.45MスパーススパイキングモデルであるSpikeWorldを紹介する。
共同最適化により、アクション次世代MSEは17.10%改善され、マルチモーダル予測、セマンティック精度、画像テキスト検索が改善された。
論文 参考訳(メタデータ) (2026-08-07T18:57:06Z) - SMOPD: Selective Token-Entropy Masking for Dirty-History Multi-Turn On-Policy Self-Distillation [0.0]
SMOPD(Selective Masking for On-Policy Distillation)は多ターンOPSDにおける損失のみの安定化手法である。
生成した中ターン応答ごとに、SMOPDは学生エントロピーによってトークンの位置をランク付けし、クリッピングされたジェンセン・シャノン蒸留損失から最低エントロピー20%を除去する。
この設計は、粗い軌道結果よりもトークンレベルの不確実性を目標とし、パラメータを追加せず、推論時のオーバーヘッドもゼロである。
論文 参考訳(メタデータ) (2026-07-30T08:40:30Z) - Dead-Direction Conditioners: Gauge-Equivariant Preconditioning for Deep Networks [0.0]
ディープネットワークの損失はそのパラメータの連続対称性に不変である。
我々は、$G$-不変距離の軌道分解を条件付けるデッド・ディビジョン・コンディショナーであるDDCを構築する。
適合点を越えて訓練された言語モデルでは、DDCAdamはAdamWの過度のトレーニング崩壊に抵抗し、5.88に対して0.67のトレーニング損失ギャップを保持し、65層中32層でデッドダイレクト率を読み取る。
論文 参考訳(メタデータ) (2026-06-28T03:44:59Z) - REVES: REvision and VErification--Augmented Training for Test-Time Scaling [53.197756110943395]
本稿では,オンラインデータ/プロンプト拡張とポリシー最適化を交互に行う2段階反復フレームワークを提案する。
我々は、RLベースライン上の+6.5点と、標準マルチターントレーニングにおける+4.0点の利得を観察する。
論文 参考訳(メタデータ) (2026-06-17T10:37:23Z) - INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。
$mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。
大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
論文 参考訳(メタデータ) (2025-11-16T20:14:28Z) - Ensemble Threshold Calibration for Stable Sensitivity Control [0.0]
本稿では,数千万組の幾何対もの幾何に対して,過度に分散した正確なリコールを実現するエンド・ツー・エンドのフレームワークを提案する。
我々のアプローチは、小さなエラーで常にリコールターゲットにヒットし、他のキャリブレーションと比較して冗長な検証を減らし、単一のTPU v3コア上でエンドツーエンドで実行します。
論文 参考訳(メタデータ) (2025-10-02T15:22:28Z) - Simple and Effective Prevention of Mode Collapse in Deep One-Class
Classification [93.2334223970488]
深部SVDDにおける超球崩壊を防止するための2つの正則化器を提案する。
第1の正則化器は、標準のクロスエントロピー損失によるランダムノイズの注入に基づいている。
第2の正規化器は、小さすぎるとミニバッチ分散をペナライズする。
論文 参考訳(メタデータ) (2020-01-24T03:44:47Z) - Reanalysis of Variance Reduced Temporal Difference Learning [57.150444843282]
Korda と La が提案した分散還元型TD (VRTD) アルゴリズムは,マルコフサンプルを用いたオンラインTD学習に直接適用する。
我々は,VRTDが線形収束速度でTDの固定点解の近傍に収束することが保証されていることを示す。
論文 参考訳(メタデータ) (2020-01-07T05:32:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。