論文の概要: RESYNC: Residual Latent-State Synchronization for Deadline-Bound Streaming Inference
- arxiv url: http://arxiv.org/abs/2611.16523v1
- Date: Thu, 12 Nov 2026 09:19:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.412139
- Title: RESYNC: Residual Latent-State Synchronization for Deadline-Bound Streaming Inference
- Title(参考訳): RESYNC: デッドライン境界ストリーミング推論のための残留潜時同期
- Abstract要約: 大きなモデルはより良い予測を提供するかもしれませんが、その期限を逃します。
大規模なモデルは非同期に動作し、高速パスは最新の正確だが静的な潜在状態を更新する。
1ミリ秒の到着によるライブリプレイでは、同期大型モデルは時間通りに予測を行うことができず、RESYNCはインターバル内で少なくとも99.4%の到着を処理している。
- 参考スコア(独自算出の注目度): 9.881320282663816
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Predicting every observation in a high-rate stream requires a model to finish before the next arrival. A large model may offer better predictions but miss that deadline. We propose RESYNC: the large model runs asynchronously, while a fast path updates its latest exact but stale latent state using the observations received since that state was computed and applies its unchanged prediction head. The updater learns from the frozen model's representations without task labels. Across one real and two synthetic streams and five architecture families, RESYNC beats the best compact or distilled alternative with a paired 95% interval above zero in all twelve dataset--architecture pairs with a material teacher advantage at anchor ages of 4--12 observations, and in eleven pairs at older tested ages up to 32. The share of the teacher's gain preserved remains complete on the real stream but is lower and generally declines with anchor age on the synthetic streams. In live replay with 1 ms arrivals, the synchronous large models cannot deliver any predictions on time while RESYNC serves at least 99.4% of arrivals within the interval, with 0.35--0.62 ms median latency on one CPU thread: around the same speed as or faster than the compact model, and 7.9--17.7$\times$ faster than synchronous large-model inference. RESYNC targets settings with background compute available but a strict per-observation response deadline.
- Abstract(参考訳): ハイレートストリームにおけるすべての観測を予測するには、次の到着前にモデルを完成させる必要がある。
大きなモデルはより良い予測を提供するかもしれませんが、その期限を逃します。
高速パスは、その状態が計算され、変化しない予測ヘッドが適用されて以来、受信された観測値を用いて、最新の正確だが静的な潜伏状態を更新する。
更新者は、フリーズモデルの表現からタスクラベルなしで学習する。
1つの実数と2つの合成ストリームと5つのアーキテクチャファミリにまたがって、RESYNCは、12のデータセット-アーキテクチャ対に、12のデータセット-アーキテクチャ対に、12のデータセット-アーキテクチャ対に、アンカー年齢4〜12の観測で、そして、32までの古い試験年齢で、11のペアで、最高のコンパクトまたは蒸留された代替品に勝っている。
教師の利得のシェアは、実際のストリームで完結しているが、一般的には、合成ストリーム上でのアンカー年齢とともに減少する。
1ミリ秒の到着率を持つライブリプレイでは、同期大モデルは時間通りに予測を行うことができないが、RESYNCはインターバル内の到着率の少なくとも99.4%を処理し、一方のCPUスレッドでは0.35-0.62ミリ秒の中央遅延(コンパクトモデルと同等かそれ以上の速度)と7.9-17.7$\times$同期大モデル推論よりも高速である。
RESYNCは、バックグラウンド計算で利用可能な設定をターゲットとしているが、観測単位の応答期限は厳格である。
関連論文リスト
- TimeOmni-Live: Continuous & Live Time Series Understanding with Long-Term Memory [74.2687731073423]
CL-TSU(Continuous and Live Time Series Understanding)について紹介する。
CL-TSUは、オープンなデータストリームに対する永続的でステートフルな理解を維持することに重点を移している。
CL-TS用に設計された初の包括的データスイートであるLiveTS-Suiteを紹介する。
我々は,最初のライブ時系列理解モデルであるTime Omni-Liveを提案する。
論文 参考訳(メタデータ) (2026-11-06T14:22:59Z) - Do Temporal Link Predictors Need Learned Memory? A Smoothed-Count Baseline with a Handful of Parameters [4.032084095153604]
統計的言語モデリングに基づく時間リンク予測器を提案する。
ソース間で遷移と共起数をプールし、ソースが生成したことのないリンクを予測する。
論文 参考訳(メタデータ) (2026-09-28T15:09:02Z) - Beyond a Scalar: Distributional Serving Interfaces for Watch-Time Prediction [9.334948958049315]
視聴時間は短いビデオフィードの主要なエンゲージメント信号であり、その予測はランキングや露出に直接影響を及ぼす。
既存の方法は、時間バイアスを補正したり、よりリッチな分布をモデル化することで、監視時間の予測を改善する。
本稿では、分散プロバイダ、コンパクトで低次元の要約、各タスクに適した軽量な読み出し機能を備えた分散サービングインタフェース(DSI)を提案する。
論文 参考訳(メタデータ) (2026-09-23T16:57:08Z) - Timer-S1: A Billion-Scale Time Series Foundation Model with Serial Scaling [51.78972657142583]
我々は、Timer-S1、強力なMixture-of-Experts(MoE)時系列基礎モデル、合計8.3Bのパラメータ、各トークンの0.75Bのアクティブパラメータ、コンテキスト長11.5Kについて紹介する。
既存のトレーニング済み時系列基盤モデルのスケーラビリティボトルネックを克服するため,シリアルスケーリングを3次元で実施する。
論文 参考訳(メタデータ) (2026-03-05T04:13:57Z) - Output Scaling: YingLong-Delayed Chain of Thought in a Large Pretrained Time Series Forecasting Model [55.25659103706409]
このフレームワークは,設計した基盤モデルであるYingLongの最先端性能を実現する。
YingLongは、マスク付きトークンリカバリによってトレーニングされた非因果的双方向アテンションエンコーダのみのトランスフォーマーである。
我々は、6Mから3Mパラメータの4つの基礎モデルをリリースし、ゼロショットタスクにおいて優れた結果を示す。
論文 参考訳(メタデータ) (2025-05-20T14:31:06Z) - INK: Injecting kNN Knowledge in Nearest Neighbor Machine Translation [57.952478914459164]
kNN-MTは、推論中に隣接する表現に基づいて予測を円滑にするための効果的なパラダイムを提供する。
我々は,kNN近傍の表現を少数の新しいパラメータで調整することで,表現空間を円滑にするための効果的なトレーニングフレームワークINKを提案する。
4つのベンチマークデータセットでの実験では、メソッドは1.99 COMETと1.0 BLEUの平均ゲインを達成し、0.02倍のメモリ空間と1.9倍の推論速度を持つ最先端のkNN-MTシステムより優れていた。
論文 参考訳(メタデータ) (2023-06-10T08:39:16Z) - Deep Learning for Day Forecasts from Sparse Observations [60.041805328514876]
深層ニューラルネットワークは、気象条件をモデル化するための代替パラダイムを提供する。
MetNet-3は、密度とスパースの両方のデータセンサーから学習し、降水、風、温度、露点を最大24時間前に予測する。
MetNet-3は、それぞれ時間分解能と空間分解能が高く、最大2分と1km、運用遅延は低い。
論文 参考訳(メタデータ) (2023-06-06T07:07:54Z) - Non-Autoregressive Semantic Parsing for Compositional Task-Oriented
Dialog [22.442123799917074]
効率的なseq2seqモデルアーキテクチャを用いて意味解析木を予測する非回帰的手法を提案する。
非自己回帰予測と畳み込みニューラルネットワークを組み合わせることで、大きな遅延ゲインとパラメータサイズ削減を実現する。
論文 参考訳(メタデータ) (2021-04-11T05:44:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。