論文の概要: Differential Refresh Policies for Models Trained on Lagging Data Snapshots: From a Single-Age Equivalence Limit to an Optimal Per-Segment Allocation
- arxiv url: http://arxiv.org/abs/2610.09519v1
- Date: Wed, 07 Oct 2026 06:15:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.749334
- Title: Differential Refresh Policies for Models Trained on Lagging Data Snapshots: From a Single-Age Equivalence Limit to an Optimal Per-Segment Allocation
- Title(参考訳): Lagging Data Snapshotsで訓練されたモデルに対する差分リフレッシュポリシー:1段等価限界から最適パーセグメント割当へ
- Abstract要約: 一般的な反応は、固定された再訓練ケイデンスを適応的なトリガーで置き換えることである。
これが間違ったレバーであることを示し、正しいレバーを特定します。
モデルリフレッシュのレバレッジは、より良いスコアではなく、より良いアクションです。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Production machine-learning models are derived artifacts of time-bounded training snapshots: a deployed model is a materialized view over a training cut that ages the instant it is built. A common response is to replace the fixed retraining cadence with an adaptive trigger -- a weighted staleness score that retrains when accumulated source risk crosses a threshold. We show this is the wrong lever, and identify the right one. First, an equivalence limit: any refresh trigger that is a static, strictly monotone function of a single shared global training-data age is operationally equivalent to a calibrated uniform age timer, so a global staleness budget, however elaborately it weights segments, sources, and sensitivities, carries no scheduling information a clock does not. The limit also shows how to escape it: refresh segments differentially, giving each its own age and refresh interval, which is meaningful when refresh cost is separable across segments (incremental training or per-segment models). We solve the resulting budget-allocation problem. In the frequent-refresh regime each segment's optimal refresh rate is proportional to the square root of its risk $w_j λ_j$ (weight times change rate), and the optimal policy never costs more than the uniform timer, beating it by a closed-form Cauchy-Schwarz "price of uniformity" that is zero for homogeneous workloads and grows with heterogeneity. In a discrete-event simulation with real Poisson change events, the optimal policy lowers realized weighted stale exposure by 8-29% relative to the uniform timer at matched refresh budget, winning on 86-100% of seeds; a naive exposure-threshold policy does not, showing the allocation is what helps; and the advantage survives 50% rate-estimation noise. The leverage in model refresh is not a better score but a better action.
- Abstract(参考訳): デプロイされたモデルは、それが構築される時点の年齢のトレーニングカットに関する、物質化されたビューである。
一般的な反応は、固定された再トレーニングのケイデンスを適応的なトリガーに置き換えることである。
これが間違ったレバーであることを示し、正しいレバーを特定します。
まず、1つの共有グローバルトレーニングデータ年齢の静的で厳密な単調な機能であるリフレッシュトリガーは、校正された均一な年齢タイマーとオペレーショナルに等価である。
リフレッシュセグメントを差分して、それぞれに年齢とリフレッシュ間隔を与える。これは、リフレッシュコストがセグメント間で分離可能である場合(インクリメンタルトレーニングまたはセグメント単位のモデル)に意味がある。
結果として生じる予算配分の問題を解決する。
頻繁なリフレッシュ方式では、各セグメントの最適リフレッシュレートはリスクの平方根に比例して$w_j λ_j$(ウェイト・タイム・チェンジ・レート)であり、最適ポリシーは均一なタイマーよりも高くはならない。
実際のポアソン変化イベントを用いた離散イベントシミュレーションにおいて、最適ポリシは、一致したリフレッシュ予算における均一なタイマーと比較して8~29%の重み付きステール露光を実現し、86~100%の種に勝利する。
モデルリフレッシュのレバレッジは、より良いスコアではなく、より良いアクションです。
関連論文リスト
- Task Vector Descent: Learning from Non-IID Batches [73.36333480977952]
モデルをアクティブディストリビューションに適応させることは、アクティブディストリビューションのモデルを改善することができるが、以前トレーニングされたデータのパフォーマンス低下につながる可能性がある。
完全変位(=1$)と部分積分(英語版)を比較し、継続モデルに適用する前にタスクベクトルを$$スケールし、同じ係数で状態をスケールする。
論文 参考訳(メタデータ) (2026-10-04T17:37:49Z) - Data Driven Block Replacement Scheduling [0.0]
我々は、テキストブロック置換ポリシーの下で、$N$独立同一マシンを維持するためのデータ駆動アルゴリズムを開発した。
目標は、寿命分布が不明な場合に運用データからコスト最小化間隔$k*$を学習することである。
補完的なKaplan-Meier更新アルゴリズムは、検閲されたデータから寿命分布を非センセーショナルに推定し、ほぼ確実にポリシーの整合性を達成し、長い地平線で経験的にほぼゼロに近い漸進的後悔を達成する。
論文 参考訳(メタデータ) (2026-07-16T17:31:15Z) - Trust the Batch, On- or Off-Policy: Adaptive Policy Optimization for RL Post-Training [50.86545293331458]
強化学習は、教師付き学習よりも構造的に難しい。
本稿では,固定クリッピングを政策比率の正規化された有効サンプルサイズに置き換える,単純かつ効果的なバッチ適応目的を提案する。
論文 参考訳(メタデータ) (2026-05-12T16:44:47Z) - MARBLE: Multi-Aspect Reward Balance for Diffusion RL [71.6241143519038]
強化学習は、拡散モデルと人間の嗜好を整合させる主要なアプローチとなっている。
既存のプラクティスは、報酬ごとに1つのスペシャリストモデルをトレーニングすることで、複数の報酬を処理します。
我々は,各報酬に対する独立な優位推定器を維持する勾配空間最適化フレームワークMARBLEを提案する。
論文 参考訳(メタデータ) (2026-05-07T16:20:42Z) - Data Deletion Can Help in Adaptive RL [30.873221510403866]
実世界における強化学習ポリシーの展開には、時間的な環境への適応が必要である。
本研究では,環境の族がテスト時に未知の低次元の文脈によってインデックス付けされるような,文脈的マルコフ決定プロセス(cMDP)フレームワークでこの問題を研究する。
各ラウンドの後にトレーニングバッファの断片をランダムに削除することで、推定器を大幅に改善する、単純で直感的なトリックを識別する。
これは、データが徐々に改善されたポリシーを使用して複数のラウンドにまたがって収集されるためであり、古いトラジェクトリは、デプロイメント時に推定器が直面するものとは異なる分布から来る。
論文 参考訳(メタデータ) (2026-04-30T23:58:22Z) - Convergence, design and training of continuous-time dropout as a random batch method [0.0]
ランダムバッチ方式のレンズを用いた連続時間モデルにおけるドロップアウト正規化について検討する。
我々は、長さ$h$の時間間隔でニューロンのバッチをサンプリングすることによって、ドロップアウトを模倣する、偏りのない、よく考えられた推定器を構築した。
次に、単層ニューラルネットワークを専門とし、分類とフローマッチングの理論を検証する。
論文 参考訳(メタデータ) (2025-10-15T04:19:01Z) - Adaptive Deadline and Batch Layered Synchronized Federated Learning [66.93447103966439]
フェデレートラーニング(FL)は、データプライバシを保持しながら、分散エッジデバイス間で協調的なモデルトレーニングを可能にする。
我々は,レイヤワイドアグリゲーションのために,ラウンド単位の期限とユーザ固有のバッチサイズを共同で最適化する新しいフレームワークADEL-FLを提案する。
論文 参考訳(メタデータ) (2025-05-29T19:59:18Z) - Just One Byte (per gradient): A Note on Low-Bandwidth Decentralized
Language Model Finetuning Using Shared Randomness [86.61582747039053]
分散環境での言語モデルトレーニングは、交換の通信コストによって制限される。
分散微調整を低帯域幅で行うために,共有ランダムネスを用いた最近の作業を拡張した。
論文 参考訳(メタデータ) (2023-06-16T17:59:51Z) - AsyncFedED: Asynchronous Federated Learning with Euclidean Distance
based Adaptive Weight Aggregation [17.57059932879715]
非同期学習フレームワークでは、サーバがクライアントから更新を受けると、すべての更新が設定通りに到着するのを待つのではなく、グローバルモデルを更新する。
AsyncFedEDと呼ばれる適応重み付けアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-27T07:18:11Z) - Test-time Batch Statistics Calibration for Covariate Shift [66.7044675981449]
我々は,推論中に深層モデルを新しい環境に適応させることを提案する。
バッチ統計の校正に$alpha$-BNの一般的な定式化を提案する。
また、統合テスト時間適応フレームワークCoreを形成するための新しい損失関数も提示する。
論文 参考訳(メタデータ) (2021-10-06T08:45:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。