論文の概要: Dynamic Optimistic Constrained OCO with Memory via Delay Equivalence
- arxiv url: http://arxiv.org/abs/2611.08302v1
- Date: Thu, 05 Nov 2026 17:05:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-07 04:55:13.589177
- Title: Dynamic Optimistic Constrained OCO with Memory via Delay Equivalence
- Title(参考訳): 遅延等価性を考慮した動的最適制約OCO
- Abstract要約: COCO-Mは、ステートフルオンライン学習と予算制約による非確率的制御のダイナミクスをキャプチャするフレームワークである。
本稿では,信頼できない予測を取り入れた楽観的アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 9.387819018679325
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Online Convex Optimization with memory and time-varying constraints (COCO-M) is a recently-introduced framework that captures the dynamics of stateful online learning and non-stochastic control with budget constraints. Despite its expressive power, COCO-M remains largely understudied. In this work, we tackle this problem in its full scale, providing an optimistic algorithm that incorporates untrusted predictions to tame universal dynamic regret and cumulative constraint violation. Our analysis leverages a potent reduction from memory to delay and treats state-dependent gradients as delayed feedback. We establish the first bounds that adapt to both environment non-stationarity (path length $P_T$) and prediction accuracy, while lifting previous restrictive assumptions such as functional separability. En route to these results, we derive findings of independent interest for the memory-to-delay reduction, and for delayed OCO with time-varying constraints. The proposed framework ensures sublinear worst-case guarantees that improve with prediction accuracy, reaching $\mathcal O(1)$ regret under perfect predictions, with cumulative constraint violation (CCV) $\mathcal O(\sqrt{T})$ for unknown $P_T$ and $\mathcal O(\log T)$ for known or online observable $P_T$ , while recovering the optimal COCO rates when memory disappears.
- Abstract(参考訳): メモリと時間制約によるオンライン凸最適化(COCO-M)は、ステートフルオンライン学習と予算制約による非確率的制御のダイナミクスをキャプチャする、最近導入されたフレームワークである。
その表現力にもかかわらず、COCO-Mはほとんど検討されていない。
本研究では, 信頼できない予測を取り入れた楽観的アルゴリズムにより, 普遍的動的後悔と累積的制約違反を緩和する手法を提案する。
我々の分析は、メモリから遅延への強力な削減を生かし、状態依存勾配を遅延フィードバックとして扱う。
本研究では, 環境非定常性(パス長$P_T$)と予測精度の両方に適応する最初の境界を確立するとともに, 関数分離性などの従来の制限的仮定を引き上げる。
これらの結果から, メモリ・ツー・遅延低減, 遅延OCOの時間的制約による独立性の発見が導出された。
提案したフレームワークは,予測精度の向上によるサブ線形最悪のケース保証を保証し,完全な予測の下で,累積制約違反 (CCV) $\mathcal O(\sqrt{T})$ for unknown $P_T$ と $\mathcal O(\log T)$ for known or online observable $P_T$ に到達し,メモリの消失時に最適なCOCOレートを回復する。
関連論文リスト
- Fast and Scalable Caputo Fractional Gradient Descent via Perturbation-Preserving Memory Compression [8.700868089354536]
フラクショナル勾配降下(FGD)は、Caputo型演算子を介して長距離メモリを組み込む。
内在記憶を犠牲にすることなく,Caputoをベースとした計算処理を実現する。
圧縮メモリが最適化力学に与える影響を解析する。
論文 参考訳(メタデータ) (2026-07-16T23:27:12Z) - Capacity-Constrained Online Convex Optimization with Delayed Feedback [58.59385794080679]
容量制約下での遅延オンライン凸最適化(OCO)について検討した。
1次フィードバックの場合、容量$C = (log T)$ sufficesで標準遅延OCOレートを対数係数まで回復できることがわかった。
包帯フィードバックの場合、後悔率は$(1 + _textmax/C)$で変調される。
論文 参考訳(メタデータ) (2026-06-10T06:37:06Z) - Planning-aligned Token Compression for Long-Context Autonomous Driving [95.59023657139208]
条件付きVQ-VA上に構築した計画整合型ワーキングメモリフレームワークを提案する。
圧縮は歴史的軌跡と学習した計画意図の両方で条件付けられている。
歴史的文脈が行動の正確性に最も重要となる高信号動的シナリオについて評価する。
論文 参考訳(メタデータ) (2026-06-05T17:16:21Z) - Bandit Convex Optimization with Gradient Prediction Adaptivity [56.816177049016794]
本研究では, 楽観的な勾配予測が, 最悪の後悔の保証を予測順応的に改善できるかどうかを考察する。
鍵となるアイデアは、分散が勾配ノルムではなく予測誤差でスケールする、新しい分散還元勾配推定器である。
我々は、$(sqrtmathbbE[S_T])$としてスケールする情報理論の下限を確立し、最も達成可能な予測適応的後悔の基本的な特徴を提供する。
論文 参考訳(メタデータ) (2026-05-21T08:57:38Z) - Model Compression with Exact Budget Constraints via Riemannian Manifolds [39.54576236079211]
トータルコスト予算の下で各NグループにKオプションの1つを割り当てることは、効率的なAIにおいて繰り返し発生する問題である。
我々は、ソフトマックス緩和の下で、予算制約がロジット空間における滑らかなリーマン多様体を異常に単純な幾何学で定義することを示す新しいアプローチを示す。
これらの特性に基づいて、接射影、二分探索リトラクション、運動量輸送を標準とするリーマン制約最適化(RCO)を提案する。
論文 参考訳(メタデータ) (2026-05-01T13:30:23Z) - Constrained Online Convex Optimization with Memory and Predictions [9.387819018679325]
制約付きオンライン凸最適化(COCO-M)について検討し、損失と制約は学習者による過去の意思決定の限られた窓に依存している。
この設定は、以前研究された制約のないオンライン最適化をメモリフレームワークで拡張し、制約された動的システムの制御や再構成予算によるスケジューリングといった実践的な問題を捉えている。
論文 参考訳(メタデータ) (2026-03-22T19:27:28Z) - An Optimistic Algorithm for Online Convex Optimization with Adversarial Constraints [55.2480439325792]
逆制約を伴うオンライン凸最適化(OCO)について検討する。
本稿では,損失関数と制約関数の予測にアルゴリズムがアクセス可能な設定に着目する。
以上の結果から,現在のO(sqrtT) $ regret と $ tildeO(sqrtT) $ cumulative constraint violation の改善が期待できることがわかった。
論文 参考訳(メタデータ) (2024-12-11T03:06:42Z) - Non-stationary Delayed Online Convex Optimization: From Full-information to Bandit Setting [71.82716109461967]
遅延勾配が利用できる全情報ケースに対して Mild-OGD というアルゴリズムを提案する。
ミルド-OGDのダイナミックな後悔は、順番の仮定の下で$O(sqrtbardT(P_T+1))$で自動的に束縛されることを示す。
Mild-OGDのバンディット版も開発し,損失値の遅れのみを考慮に入れた,より困難なケースについて検討した。
論文 参考訳(メタデータ) (2023-05-20T07:54:07Z) - Lazy Lagrangians with Predictions for Online Learning [24.18464455081512]
オンライン凸最適化における時間的差分制約による一般的な問題について考察する。
Follow-The-Regularized-Leaderイテレーションと予測適応動的ステップを組み合わせることで、新しい原始双対アルゴリズムを設計する。
我々の研究は、この制約されたOCO設定のためのFTRLフレームワークを拡張し、各最先端のグレディベースのソリューションより優れています。
論文 参考訳(メタデータ) (2022-01-08T21:49:10Z) - Dynamic Regret of Convex and Smooth Functions [93.71361250701075]
非定常環境におけるオンライン凸最適化について検討する。
パフォーマンス指標として動的後悔を選択します。
本研究では, 滑らかさを活かして, 動的後悔をさらに高めることが可能であることを示す。
論文 参考訳(メタデータ) (2020-07-07T14:10:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。