論文の概要: A Simple and Unified Method for Gradient-Variation Regret

• arxiv url: http://arxiv.org/abs/2610.26473v1
• Date: Mon, 19 Oct 2026 14:19:17 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:38:42.751186
• Title: A Simple and Unified Method for Gradient-Variation Regret
• Title（参考訳）: グラディエント変量レグレットの簡易かつ統一的手法
• Abstract要約: 本稿では,決定運動に対する2次的ペナルティを伴う代理損失に基づく簡易かつ統一的な手法を提案する。 非定常オンライン学習では、この手法は楽観的な段階から段階的な偏差を減少させ、Zhaoらによって確立された速度に一致するアルゴリズムの幅広いクラスを可能にする。 普遍オンライン学習では、Yan et al の最適万能後悔境界と一致する単純なアルゴリズムが得られる。
• 参考スコア（独自算出の注目度）: 20.53812517172633
• License:
• Abstract: Gradient-variation online learning has attracted increasing attention for its connections to game theory and optimization. It has been studied in both non-stationary online learning, which aims to minimize dynamic regret against time-varying comparator sequences, and universal online learning, which seeks to adapt to unknown loss curvature. Prior work obtained gradient-variation bounds using different techniques tailored to each setting. We propose a simple and unified method based on surrogate losses with a quadratic penalty on decision movement, yielding gradient-variation bounds in both settings. For non-stationary online learning, the method induces an optimistic-to-gradient-variation reduction, enabling a broad class of algorithms to match the rate established by Zhao et al. (2024). For universal online learning, it yields a simple algorithm that matches the optimal universal regret bounds of Yan et al. (2024) while relaxing the extended smoothness assumption. Finally, we apply our method to online games and improve on existing guarantees.
• Abstract（参考訳）: グラディエント変分オンライン学習はゲーム理論と最適化との結びつきから注目を集めている。 時間変化のあるコンパレータシーケンスに対する動的後悔を最小限に抑えることを目的とした非定常オンライン学習と、未知の損失曲率に適応しようとするユニバーサルオンライン学習の両方で研究されている。 以前の研究は、それぞれの設定に合わせて調整された異なる技術を用いて勾配変化境界を得た。 本稿では,2次的ペナルティを持つ代理損失に基づく簡易かつ統一的な手法を提案する。 非定常オンライン学習では、この手法は楽観的な段階から段階的な偏差を減らし、Zhao et al (2024) の確立した速度に一致するアルゴリズムの幅広いクラスを可能にする。 普遍オンライン学習では、Yan et al (2024) の最適な普遍的後悔境界と一致する単純なアルゴリズムを導出し、拡張された滑らかさの仮定を緩和する。 最後に,オンラインゲームに適用し,既存の保証を改善した。

関連論文リスト

• Online Learning with Gradient-Variation Interval Regret [54.59204826681113]
  そこで本研究では,勾配変動を伴う時間間隔のリフレッシュなスケーリングを実現するオンライン学習アルゴリズムを提案する。 提案手法では, よりシンプルで効率的な2層オンラインアンサンブル構造を用いて, 高い理論的保証を実現する。
  論文  参考訳（メタデータ） (2026-06-02T16:16:45Z)
• Gradient-Variation Online Adaptivity for Accelerated Optimization with Hölder Smoothness [31.293577718154225]
  我々は,スムーズ関数と非スムーズ関数の両方を含む一般クラスであるH"older smooth functionを用いたオンライン学習について検討した。 本研究では,スムーズかつ非スムーズな条件下での最適保証を円滑に補間する,それに対応する勾配変分オンライン学習アルゴリズムを設計する。 オンライン適応性と検出に基づく推測とチェックの手順を統合することでこの問題に対処する。
  論文  参考訳（メタデータ） (2025-11-04T05:27:57Z)
• Gradient-Variation Online Learning under Generalized Smoothness [56.38427425920781]
  勾配変分オンライン学習は、オンライン関数の勾配の変化とともにスケールする後悔の保証を達成することを目的としている。 ニューラルネットワーク最適化における最近の取り組みは、一般化された滑らかさ条件を示唆し、滑らかさは勾配ノルムと相関する。 ゲームにおける高速収束と拡張逆最適化への応用について述べる。
  論文  参考訳（メタデータ） (2024-08-17T02:22:08Z)
• Efficient Methods for Non-stationary Online Learning [63.268670895111654]
  動的後悔と適応的後悔を最適化する効率的な方法を提案する。 提案アルゴリズムでは,各ラウンドで1つの勾配クエリと1つの関数評価しか必要としない。 また、さらに強力な測度、すなわち「内部的動的後悔」を研究し、ラウンド当たりの射影数を$O(log2 T)$から$$$$に減らした。
  論文  参考訳（メタデータ） (2023-09-16T07:30:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。