論文の概要: Omniprediction for All Mixable Proper Losses and Beyond
- arxiv url: http://arxiv.org/abs/2610.41023v1
- Date: Thu, 29 Oct 2026 22:08:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.505027
- Title: Omniprediction for All Mixable Proper Losses and Beyond
- Title(参考訳): あらゆる混合性プロパー損失の予測
- Abstract要約: CV09]による以前の結果は、オンライン学習環境では、$O(log(|mathcalF||mathcalL|))$ regretは有限予測クラス$mathcalF$内のすべての予測子に対して同時に達成可能であることを示している。
最近の進歩[OKK25, FP26] は、$widetildeO(sqrtTlog(|mathcalF||mathcalL|))$ regret が、有限クラスの $mathcal におけるすべての損失に対して同時に達成可能であることを示している。
- 参考スコア(独自算出の注目度): 44.81344039432424
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Omniprediction concerns the task of making predictions that are simultaneously accurate with respect to different losses. Earlier results by [CV09] show that in an online learning setting, $O(\log(|\mathcal{F}||\mathcal{L}|))$ regret is achievable simultaneously against every predictor in a finite predictor class $\mathcal{F}$ and for every loss in a finite class $\mathcal{L}$ of mixable proper losses, while recent advances [OKK25, FP26] show that $\widetilde{O}(\sqrt{T\log(|\mathcal{F}||\mathcal{L}|)})$ regret is achievable simultaneously for every loss in a finite class $\mathcal{L}$ of bounded losses. In this work, we ask whether sublinear regret remains possible when $\mathcal{L}$ is an infinite class of proper losses. Our first result gives a negative answer in general: even when $\mathcal{F}$ contains only two linear predictors, it is impossible to achieve sublinear regret simultaneously for all bounded proper losses. We then show that $\widetilde{O}(T^{1/3}(\log|\mathcal{F}|)^{2/3})$ regret is achievable simultaneously for \textit{all} mixable proper losses and that this bound is optimal up to logarithmic factors. This optimal rate stands in stark contrast to the constant (in $T$) regret achievable for a finite class of mixable proper losses. Finally, we extend our algorithm to obtain a best-of-all-worlds result: in addition to the new regret guarantee for all mixable proper losses, the resulting algorithm simultaneously achieves the existing guarantees for finite loss classes. With appropriate choices of these finite classes, our algorithm simultaneously achieves constant regret for squared loss and log loss, $\widetilde{O}(T^{1/3}(\log|\mathcal{F}|)^{2/3})$ regret for all mixable proper losses, and $\widetilde{O}(\sqrt{T\log|\mathcal{F}|})$ regret for $0$-$1$ loss, all Lipschitz losses, all GLM losses, and other structured families.
- Abstract(参考訳): オムニプレディクション(Omniprediction)とは、異なる損失に対して同時に正確である予測を行うタスクである。
オンライン学習環境では、$O(\log(|\mathcal{F}||\mathcal{L}|)$ regretが有限予測クラス$\mathcal{F}$と有限クラス$\mathcal{L}$のすべての損失に対して同時に達成可能であるのに対し、最近の進歩[OKK25, FP26]は、$\widetilde{O}(\sqrt{T\log(|\mathcal{F}|||\mathcal{L}|)}$ regretが有限クラス$\mathcal{L}$の損失に対して同時に達成可能であることを示している。
この研究において、$\mathcal{L}$ が真の損失の無限類であるとき、部分線型後悔は可能かどうかを問う。
我々の最初の結果は一般に負の答えを与える:$\mathcal{F}$ が2つの線形予測子しか含まないとしても、すべての有界固有損失に対して同時に線形後悔を達成することは不可能である。
次に、$\widetilde{O}(T^{1/3}(\log|\mathcal{F}|)^{2/3})$ regret は \textit{all}mixable proper loss に対して同時に達成可能であることを示し、この境界は対数因子に最適であることを示す。
この最適率は、混合可能な適切な損失の有限クラスに対して達成可能な定数($T$)の後悔とは対照的である。
最後に、我々はアルゴリズムを拡張し、全ての混合可能な適切な損失に対する新しい後悔の保証に加えて、得られたアルゴリズムは、有限損失クラスに対する既存の保証を同時に達成する。
これらの有限クラスの適切な選択により、我々のアルゴリズムは、同時に二乗損失とログ損失に対する絶え間ない後悔($\widetilde{O}(T^{1/3}(\log|\mathcal{F}|)^{2/3})$すべての混合可能な固有損失に対する後悔($\widetilde{O}(\sqrt{T\log|\mathcal{F}|})$0$-$1の損失に対する後悔($0$-$)、すべてのリプシッツ損失、すべてのGLM損失、その他の構造化された族に対する後悔)を達成する。
関連論文リスト
- Fast Rates for Swap-Agnostic Learning of Proper Losses [1.4371100636219536]
スワップに依存しない学習では、コンパレータは学習者の予測のレベルセットごとに異なる仮説を選択することができる。
適切な損失に対して、これらの予測レベルの比較を共同で制御できることが示される。
私たちの主な成果は、任意の適切な損失に対するオフラインスワップ非依存の学習者です。
論文 参考訳(メタデータ) (2026-07-30T21:41:40Z) - Toward Simultaneously Optimal Regret in U-Calibration [41.366442572915496]
既存のU校正アルゴリズムは、すべての有界固有損失に対して、最悪のケースの最適$O(sqrtT)$後悔を達成する。
正方形損失のような滑らかな損失であっても、最適の$O(log T)$後悔の代わりに$(sqrtT)$後悔を引き起こす。
具体的には,有界固有損失毎に$tilde O(sqrtT)$ regretを同時に達成する単一予測アルゴリズムを設計する。
論文 参考訳(メタデータ) (2026-06-16T22:44:37Z) - Improved Guarantees for Constrained Online Convex Optimization via Self-Contraction [7.798233121583888]
我々は、逆選択された制約を伴う制約付きオンライン制約(COCO)について検討する。
強い凸損失に対して、我々のアルゴリズムは、$O(sqrtT)$後悔を維持しながら$mathsfCCV$を$O(sqrtT)$に改善する。
論文 参考訳(メタデータ) (2026-05-20T12:40:27Z) - Near-Optimal Algorithms for Omniprediction [6.874077229518565]
オンライン設定とオフライン設定の両方で、オムニプレディションのためのほぼ最適学習アルゴリズムを提供します。
オンライン学習アルゴリズムは、様々な尺度でほぼ最適な複雑さを実現する。
オフライン学習アルゴリズムは効率的な$(mathcalL_mathrmBV,mathcalH,varepsilon(m)$)を返す
論文 参考訳(メタデータ) (2025-01-28T02:58:37Z) - An Optimistic Algorithm for Online Convex Optimization with Adversarial Constraints [55.2480439325792]
逆制約を伴うオンライン凸最適化(OCO)について検討する。
本稿では,損失関数と制約関数の予測にアルゴリズムがアクセス可能な設定に着目する。
以上の結果から,現在のO(sqrtT) $ regret と $ tildeO(sqrtT) $ cumulative constraint violation の改善が期待できることがわかった。
論文 参考訳(メタデータ) (2024-12-11T03:06:42Z) - Eluder-based Regret for Stochastic Contextual MDPs [43.19667415823089]
文脈マルコフ決定過程(CMDP)における後悔最小化のためのE-UC$3$RLアルゴリズムを提案する。
我々のアルゴリズムは効率的であり(効率的なオフライン回帰オラクルを仮定すると)、$ widetildeO(H3 sqrtT |S| |A|d_mathrmE(mathcalP)$の後悔の保証を享受する。
論文 参考訳(メタデータ) (2022-11-27T20:38:47Z) - Taking a hint: How to leverage loss predictors in contextual bandits? [63.546913998407405]
我々は,損失予測の助けを借りて,文脈的包帯における学習を研究する。
最適な後悔は$mathcalO(minsqrtT, sqrtmathcalETfrac13)$である。
論文 参考訳(メタデータ) (2020-03-04T07:36:38Z) - Supervised Learning: No Loss No Cry [51.07683542418145]
教師付き学習は最小化するために損失関数の仕様を必要とする。
本稿では,Kakade et al. (2011)のSLIsotronアルゴリズムを新しいレンズで再検討する。
損失を学習するための原則的な手順をいかに提供するかを示す。
論文 参考訳(メタデータ) (2020-02-10T05:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。