論文の概要: Time-Varying Optimization for Streaming Data Via Temporal Weighting
- arxiv url: http://arxiv.org/abs/2510.13052v1
- Date: Wed, 15 Oct 2025 00:18:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-16 20:13:28.452363
- Title: Time-Varying Optimization for Streaming Data Via Temporal Weighting
- Title（参考訳）: 時空間重み付けによるストリーミングデータの時変最適化
- Authors: Muhammad Faraz Ul Abrar, Nicolò Michelusi, Erik G. Larsson,
- Abstract要約: 時間変動最適化レンズを用いてストリーミングデータから学習する問題について検討する。
我々は,(1)全ての試料を等しく扱う一様重みと(2)古いデータの影響を幾何的に減衰させる割引重みの2つの具体的な重み付け戦略に焦点をあてる。
数値シミュレーションにより理論的知見を検証した。
- 参考スコア（独自算出の注目度）: 26.702871313273942
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classical optimization theory deals with fixed, time-invariant objective functions. However, time-varying optimization has emerged as an important subject for decision-making in dynamic environments. In this work, we study the problem of learning from streaming data through a time-varying optimization lens. Unlike prior works that focus on generic formulations, we introduce a structured, \emph{weight-based} formulation that explicitly captures the streaming-data origin of the time-varying objective, where at each time step, an agent aims to minimize a weighted average loss over all the past data samples. We focus on two specific weighting strategies: (1) uniform weights, which treat all samples equally, and (2) discounted weights, which geometrically decay the influence of older data. For both schemes, we derive tight bounds on the ``tracking error'' (TE), defined as the deviation between the model parameter and the time-varying optimum at a given time step, under gradient descent (GD) updates. We show that under uniform weighting, the TE vanishes asymptotically with a $\mathcal{O}(1/t)$ decay rate, whereas discounted weighting incurs a nonzero error floor controlled by the discount factor and the number of gradient updates performed at each time step. Our theoretical findings are validated through numerical simulations.
- Abstract（参考訳）: 古典最適化理論は固定時間不変の目的関数を扱う。
しかし、動的環境における意思決定において、時間変化の最適化が重要な課題として浮上している。
本研究では,時間変化のある最適化レンズを用いて,ストリーミングデータから学習する問題について検討する。
汎用的な定式化に焦点をあてた従来の研究とは違って、構造化された \emph{weight-based} の定式化を導入し、時間変化対象のストリーミングデータの起源を明示的に把握し、各時間ステップにおいてエージェントは過去のデータサンプルに対する重み付き平均損失を最小化することを目的としている。
我々は,(1)全ての試料を等しく扱う一様重みと(2)古いデータの影響を幾何的に減衰させる割引重みの2つの具体的な重み付け戦略に焦点をあてる。
両方のスキームに対して、勾配降下(GD)更新の下で、モデルパラメータと時間変化の最適値とのずれとして定義される'`追跡エラー' (TE) の厳密な境界を導出する。
均一な重み付けでは、TEは漸近的に$\mathcal{O}(1/t)$崩壊率で消滅するのに対し、割引重み付けは、割引係数によって制御されるゼロでないエラーフロアと、各タイムステップで実行される勾配更新数によって生じる。
数値シミュレーションにより理論的知見を検証した。
関連論文リスト
- Adaptive Deadline and Batch Layered Synchronized Federated Learning [66.93447103966439]
フェデレートラーニング(FL)は、データプライバシを保持しながら、分散エッジデバイス間で協調的なモデルトレーニングを可能にする。
我々は,レイヤワイドアグリゲーションのために,ラウンド単位の期限とユーザ固有のバッチサイズを共同で最適化する新しいフレームワークADEL-FLを提案する。
論文 参考訳（メタデータ） (2025-05-29T19:59:18Z) - Pathwise optimization for bridge-type estimators and its applications [49.1574468325115]
パスワイズ法は、ペナライズされた推定器の完全な経路を効率的に計算することができる。
これらのアルゴリズムを離散時間で観測されたプロセスのペナル化推定に適用する。
論文 参考訳（メタデータ） (2024-12-05T10:38:29Z) - Semi-Discrete Optimal Transport: Nearly Minimax Estimation With Stochastic Gradient Descent and Adaptive Entropic Regularization [38.67914746910537]
我々は,ラゲールセル推定と密度支持推定の類似性を用いて,OTマップに対して$mathcalO(t-1)$の低いバウンダリレートを証明した。
所望の速さをほぼ達成するために,サンプル数に応じて減少するエントロピー正規化スキームを設計する。
論文 参考訳（メタデータ） (2024-05-23T11:46:03Z) - Event-Triggered Time-Varying Bayesian Optimization [47.30677525394649]
本稿では,対象関数の変化を検出してデータセットをリセットするまで,最適化問題を静的に扱うイベントトリガーアルゴリズムET-GP-UCBを提案する。
これにより、アルゴリズムは正確な事前知識を必要とせずに、オンラインで時間変化を実現することができる。
時間的変化を正確に知ることなく、適応的リセットに対する後悔境界を導出し、ET-GP-UCBが合成データと実世界のデータの両方で競合するGP-UCBアルゴリズムより優れていることを示す数値実験を行った。
論文 参考訳（メタデータ） (2022-08-23T07:50:52Z) - Averaging Spatio-temporal Signals using Optimal Transport and Soft
Alignments [110.79706180350507]
Fr'teche は双対性を意味し, 時間的バレシェセンタを定義するために提案した損失が有効であることを示す。
手書き文字と脳画像データによる実験は、我々の理論的発見を裏付けるものである。
論文 参考訳（メタデータ） (2022-03-11T09:46:22Z) - STORM+: Fully Adaptive SGD with Momentum for Nonconvex Optimization [74.1615979057429]
本研究では,スムーズな損失関数に対する期待値である非バッチ最適化問題について検討する。
我々の研究は、学習率と運動量パラメータを適応的に設定する新しいアプローチとともに、STORMアルゴリズムの上に構築されている。
論文 参考訳（メタデータ） (2021-11-01T15:43:36Z) - A Two-Time-Scale Stochastic Optimization Framework with Applications in Control and Reinforcement Learning [13.908826484332282]
最適化問題の解法として,新しい2段階勾配法を提案する。
最初の貢献は、提案した2時間スケール勾配アルゴリズムの有限時間複雑性を特徴づけることである。
我々は、強化学習における勾配に基づく政策評価アルゴリズムに適用する。
論文 参考訳（メタデータ） (2021-09-29T23:15:23Z) - Low-Rank Hankel Tensor Completion for Traffic Speed Estimation [7.346671461427793]
交通状態推定問題に対する純粋にデータ駆動型かつモデルフリーなソリューションを提案する。
このテンソル構造に低ランクな仮定を課すことで、大域的パターンと未知の複素局所力学の両方を近似することができる。
本研究では,合成シミュレーションデータと実世界の高分解能データの両方について数値実験を行い,提案モデルの有効性と優位性を実証した。
論文 参考訳（メタデータ） (2021-05-21T00:08:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。