論文の概要: Spatially Adaptive Online Prediction of Piecewise Regular Functions
- arxiv url: http://arxiv.org/abs/2203.16587v1
- Date: Wed, 30 Mar 2022 18:15:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-02 12:19:06.939910
- Title: Spatially Adaptive Online Prediction of Piecewise Regular Functions
- Title(参考訳): 空間適応型正規関数のオンライン予測
- Authors: Sabyasachi Chatterjee and Subhajit Goswami
- Abstract要約: オンライン環境における部分的正規関数推定の問題点を考察する。
我々は、最近開発された睡眠専門家集約アルゴリズムと呼ばれるオンライン学習アルゴリズムの修正版を提案する。
- 参考スコア(独自算出の注目度): 12.18340575383456
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of estimating piecewise regular functions in an
online setting, i.e., the data arrive sequentially and at any round our task is
to predict the value of the true function at the next revealed point using the
available data from past predictions. We propose a suitably modified version of
a recently developed online learning algorithm called the sleeping experts
aggregation algorithm. We show that this estimator satisfies oracle risk bounds
simultaneously for all local regions of the domain. As concrete instantiations
of the expert aggregation algorithm proposed here, we study an online mean
aggregation and an online linear regression aggregation algorithm where experts
correspond to the set of dyadic subrectangles of the domain. The resulting
algorithms are near linear time computable in the sample size. We specifically
focus on the performance of these online algorithms in the context of
estimating piecewise polynomial and bounded variation function classes in the
fixed design setup. The simultaneous oracle risk bounds we obtain for these
estimators in this context provide new and improved (in certain aspects)
guarantees even in the batch setting and are not available for the state of the
art batch learning estimators.
- Abstract(参考訳): 我々は,オンライン環境での正規関数を区分的に推定する問題,すなわち,過去の予測から得られるデータを用いて,次の明細点における真の関数の値を予測することを課題とする。
本稿では,最近開発したオンライン学習アルゴリズムsleep experts aggregation algorithmの修正版を提案する。
この推定値は,ドメインのすべてのローカルリージョンに対して,oracleのリスクバウンダリを同時に満たしていることを示します。
本稿では,エキスパート集約アルゴリズムの具体的インスタンス化として,オンライン平均集約とオンライン線形回帰集約アルゴリズムについて検討する。
得られたアルゴリズムはサンプルサイズでほぼ線形時間計算可能である。
特に,固定設計設定における分割多項式と有界変分関数クラスを推定する文脈において,オンラインアルゴリズムの性能に注目する。
このコンテキストでこれらの推定子に対して当社が取得したoracleのリスクバウンダリは、バッチ設定においても新たに(ある面で)向上した保証を提供し、art batch learning estimatorsの状況では利用できません。
関連論文リスト
- Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - High-Probability Risk Bounds via Sequential Predictors [20.741036493022442]
一般的なオンライン学習アルゴリズムに適用されたオンラインからバッチへの変換は、後悔の限界を回避できることを示す。
いくつかの古典的統計的推定問題に対して、ほぼ最適な高確率リスク境界を得る。
我々の分析は、多くのオンライン学習アルゴリズムが不適切であるという事実に依存している。
論文 参考訳(メタデータ) (2023-08-15T06:19:31Z) - Online learning in bandits with predicted context [9.280355951055865]
エージェントがコンテキストの騒々しいバージョンにしかアクセスできない場合、コンテキスト的帯域幅の問題を考える。
この設定は、意思決定の真のコンテキストが守られない広範囲のアプリケーションによって動機付けられている。
本研究では,この設定において,軽度条件下でのサブ線形後悔保証を用いた最初のオンラインアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-07-26T02:33:54Z) - Nonparametric Linear Feature Learning in Regression Through
Regularisation [0.0]
本研究では,データの低次元線形部分空間内に存在する情報を教師付き学習シナリオに焦点をあてる。
線形部分空間を同時に推定する非パラメトリック予測を用いた線形特徴学習法を提案する。
当社のアプローチでは,デリバティブに対するペナルティを付加した経験的リスク最小化を採用し,汎用性を確保している。
論文 参考訳(メタデータ) (2023-07-24T12:52:55Z) - A Regression Approach to Learning-Augmented Online Algorithms [17.803569868141647]
本論文では,本手法について紹介し,一般的なオンライン検索フレームワークの文脈で考察する。
この回帰問題におけるサンプルの複雑さにほぼ厳密な境界を示し、その結果を不可知的な設定にまで拡張する。
技術的観点から、回帰問題に対する損失関数の設計にオンライン最適化ベンチマークを組み込むことが重要であることを示す。
論文 参考訳(メタデータ) (2022-05-18T04:29:14Z) - Scalable computation of prediction intervals for neural networks via
matrix sketching [79.44177623781043]
既存の不確実性推定アルゴリズムでは、モデルアーキテクチャとトレーニング手順を変更する必要がある。
本研究では、与えられたトレーニングされたニューラルネットワークに適用し、近似予測間隔を生成できる新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-06T13:18:31Z) - Domain-Adjusted Regression or: ERM May Already Learn Features Sufficient
for Out-of-Distribution Generalization [52.7137956951533]
既存の特徴から予測器を学習するためのよりシンプルな手法を考案することは、将来の研究にとって有望な方向である、と我々は主張する。
本稿では,線形予測器を学習するための凸目標である領域調整回帰(DARE)を紹介する。
自然モデルの下では、DARE解が制限されたテスト分布の集合に対する最小最適予測器であることを証明する。
論文 参考訳(メタデータ) (2022-02-14T16:42:16Z) - Smoothed Online Learning is as Easy as Statistical Learning [77.00766067963195]
この設定では、最初のオラクル効率、非回帰アルゴリズムを提供する。
古典的な設定で関数クラスが学習可能な場合、文脈的包帯に対するオラクル効率のよい非回帰アルゴリズムが存在することを示す。
論文 参考訳(メタデータ) (2022-02-09T19:22:34Z) - Estimating leverage scores via rank revealing methods and randomization [50.591267188664666]
任意のランクの正方形密度あるいはスパース行列の統計レバレッジスコアを推定するアルゴリズムについて検討した。
提案手法は,高密度およびスパースなランダム化次元性還元変換の合成と階調明細化法を組み合わせることに基づく。
論文 参考訳(メタデータ) (2021-05-23T19:21:55Z) - Parallelizing Contextual Linear Bandits [82.65675585004448]
並列な)コンテキスト線形バンディットアルゴリズムの族を提示し、その遺残はそれらの完全シーケンシャルなアルゴリズムとほぼ同一である。
また,これらの並列アルゴリズムについて,材料発見や生物配列設計の問題など,いくつかの領域で実証評価を行った。
論文 参考訳(メタデータ) (2021-05-21T22:22:02Z) - Locally-Adaptive Nonparametric Online Learning [12.018422134251384]
任意のデータシーケンスに適応する効率的なオンラインアルゴリズムを導入する。
木の専門家をベースとした手法を用いて、このような刈り取りと効率的に競合する。
我々の手法は、以前のアプローチで証明されたものよりもはるかに優れた後悔の限界を提供する。
論文 参考訳(メタデータ) (2020-02-05T17:42:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。