論文の概要: Prediction with Expert Advice under Heavy-Tailed Losses
- arxiv url: http://arxiv.org/abs/2610.14904v1
- Date: Sat, 10 Oct 2026 13:25:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 11:08:49.552583
- Title: Prediction with Expert Advice under Heavy-Tailed Losses
- Title(参考訳): 重機損失下におけるエキスパートアドバイザの予測
- Abstract要約: 我々は、巨額の損失を受けた専門家のT$ラウンドに対して、専門家のアドバイスで予測を調査する。
我々はミニマックス擬似回帰率を$(T)frac11+(log K)frac1+)$とみなし、自己有界環境においてギャップ依存の下界を確立する。
- 参考スコア(独自算出の注目度): 28.864033618998604
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study prediction with expert advice over $T$ rounds with $K$ experts under heavy-tailed losses whose $(1+ε)$-moment is bounded by $θ>0$ for some $ε\in(0,1]$. In this setting, existing algorithms designed for the case $ε=1$ can be suboptimal when $ε<1$, suffering an additional polynomial dependence on $K$. We characterize the minimax pseudo-regret rate as $Θ((θT)^{\frac{1}{1+ε}}(\log K)^{\fracε{1+ε}})$ and establish gap-dependent lower bounds in a self-bounded environment. To attain this minimax rate without prior knowledge of either $ε$ or $θ$, we propose Adaptive Heavy-Tailed FTRL, which uses robust data-dependent scale adaptation together with truncation. We further develop Adaptive Heavy-Tailed OMD, which likewise requires neither $ε$ nor $θ$ and achieves near-optimal regret guarantees in both adversarial and self-bounded environments. Finally, when $ε$ and $θ$ are known, an FTRL algorithm with Shannon-entropy regularization achieves optimal regret guarantees in both environments.
- Abstract(参考訳): 我々は、(1+ε)$-momentが、ある$ε\in(0,1]$に対して$θ>0$で束縛された重い損失の下で、$K$の専門家による$T$ラウンドに対する専門家のアドバイスで予測を研究する。
この設定では、$ε=1$ の場合のために設計された既存のアルゴリズムは、$ε<1$ が $K$ に余分な多項式依存を負う場合、準最適である。
ミニマックスの擬似回帰速度を $ ((θT)^{\frac{1}{1+ε}}(\log K)^{\fracε{1+ε}})$ と特徴づけ、自己有界環境においてギャップ依存の下界を確立する。
ε$ あるいは$θ$ の事前知識を必要とせず,この最小値を達成するために,頑健なデータ依存型スケール適応とトランケーションを併用した適応重畳型 FTRL を提案する。
また,Adaptive Heavy-Tailed OMD も開発しており,ε$ も$θ$ も必要とせず,敵対的環境と自己拘束的環境の両方において,ほぼ最適に後悔の保証を達成できる。
最後に、$ε$と$θ$が知られているとき、シャノンエントロピー正規化を持つFTRLアルゴリズムは、両方の環境で最適な後悔を保証する。
関連論文リスト
- Reliable Scale-Free Bandits via Empirical Likelihood [2.5361601273217973]
ほぼ確実に後悔の保証は、最終的な学習を記述しているが、パフォーマンスや有限実行時の大きな後悔のリスクを期待していない。
我々は,Cowan と Katehakis の $g-Forcing Policy (2020) の任意の経験的拡張である $textttEL-F$ を紹介する。
実験では、挑戦的なインスタンスに対する$g$-Forcingと比較して、長時間の最適部分割り当ての削減が示されている。
論文 参考訳(メタデータ) (2026-10-13T09:43:54Z) - Constrained Online Learning with Noisy Constraint Values [55.29259818039367]
一般的な実現可能性の下では、我々のLEDGERアルゴリズムは、期待される損失$O(sqrt T)と期待される予算違反$O(sqrtTlog(eT))を達成します。
スレーター条件、フィードバックチャネル間の独立性、絶対的制約値境界は不要である。
論文 参考訳(メタデータ) (2026-09-07T01:38:41Z) - Adversarial Resilience of Poisson-Process Submodular Maximization over Matroids: From Robust Offline Optimization to Full-Bandit Learning [55.29259818039367]
オフラインアルゴリズムに任意の制御値オラクルが与えられるとき, 一般のマトロイドに対する非負のサブモジュラー対象について検討する。
本アルゴリズムは,非単調な目的に対して1/e$,単調な目的に対して1/e$の制限係数を保持する。
結果として、オフラインからオフラインへの還元は、一般的なマトロイド制約のサブモジュラー報酬に対するシングルバンドCMABアルゴリズムをもたらす。
論文 参考訳(メタデータ) (2026-08-12T14:54:15Z) - Parameter-Free Heavy-Tailed Bandits [36.983245230853434]
固定テール指数のモーメント境界$u$に対する適応について研究する。
我々は、全てのアルゴリズムが$u$を知らないこと、あるいはその上限を知らないことは、その分布依存と分布に依存しない後悔の保証の間に急激なトレードオフを従わなければならないことを証明している。
論文 参考訳(メタデータ) (2026-07-31T14:27:28Z) - Online Convex Optimization with Sublinear Noisy Probes [6.998574163422056]
オンライン凸最適化(OCO)を凸集合として$Ksubseteq mathbb Rd$で検討する。
我々は最近の2つの作業の行を一般化する統一された探索モデルを導入する: 専門家設定におけるサブ線形ベストエキスパートクエリと、OCOの各ラウンドで利用できるペアワイズフィードバックである。
本研究の主目的は, サブリニアでノイズの多いプローブ予算であっても, OCO体制の完全なフィードバックにおける最悪の後悔を確実に改善できることである。
論文 参考訳(メタデータ) (2026-06-12T17:05:08Z) - Trade-off Functions for DP-SGD with Subsampling based on Random Shuffling: Tight Upper and Lower Bounds [7.787109481104569]
ランダムシャッフルに基づくサブサンプリングによるDP-SGDのトレードオフ関数の厳密な解析を導出する。
Berry-Esseenの定理によって導かれる我々の具体的な境界は、証明フレームワーク内の定数要素に密着している。
論文 参考訳(メタデータ) (2026-05-07T13:35:43Z) - Nearly Minimax Optimal Regret for Learning Linear Mixture Stochastic
Shortest Path [80.60592344361073]
線形混合遷移カーネルを用いた最短経路(SSP)問題について検討する。
エージェントは繰り返し環境と対話し、累積コストを最小化しながら特定の目標状態に到達する。
既存の作業は、イテレーションコスト関数の厳密な下限や、最適ポリシーに対する期待長の上限を仮定することが多い。
論文 参考訳(メタデータ) (2024-02-14T07:52:00Z) - Private Stochastic Convex Optimization: Optimal Rates in $\ell_1$
Geometry [69.24618367447101]
対数要因まで $(varepsilon,delta)$-differently private の最適過剰人口損失は $sqrtlog(d)/n + sqrtd/varepsilon n.$ です。
損失関数がさらなる滑らかさの仮定を満たすとき、余剰損失は$sqrtlog(d)/n + (log(d)/varepsilon n)2/3で上界(対数因子まで)であることが示される。
論文 参考訳(メタデータ) (2021-03-02T06:53:44Z) - Non-Euclidean Differentially Private Stochastic Convex Optimization [15.302167005107135]
雑音勾配降下法(SGD)アルゴリズムは低次元状態において最適過大なリスクを達成できることを示す。
私たちの作品は、規則性、均一凸性、均一な平滑性の概念など、規範空間の幾何学から概念を導き出します。
論文 参考訳(メタデータ) (2021-03-01T19:48:44Z) - Optimal Robust Linear Regression in Nearly Linear Time [97.11565882347772]
学習者が生成モデル$Y = langle X,w* rangle + epsilon$から$n$のサンプルにアクセスできるような高次元頑健な線形回帰問題について検討する。
i) $X$ is L4-L2 hypercontractive, $mathbbE [XXtop]$ has bounded condition number and $epsilon$ has bounded variance, (ii) $X$ is sub-Gaussian with identity second moment and $epsilon$ is
論文 参考訳(メタデータ) (2020-07-16T06:44:44Z) - Curse of Dimensionality on Randomized Smoothing for Certifiable
Robustness [151.67113334248464]
我々は、他の攻撃モデルに対してスムースな手法を拡張することは困難であることを示す。
我々はCIFARに関する実験結果を示し,その理論を検証した。
論文 参考訳(メタデータ) (2020-02-08T22:02:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。