論文の概要: Spatially Adaptive Online Prediction of Piecewise Regular Functions
- arxiv url: http://arxiv.org/abs/2203.16587v1
- Date: Wed, 30 Mar 2022 18:15:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-02 12:19:06.939910
- Title: Spatially Adaptive Online Prediction of Piecewise Regular Functions
- Title(参考訳): 空間適応型正規関数のオンライン予測
- Authors: Sabyasachi Chatterjee and Subhajit Goswami
- Abstract要約: オンライン環境における部分的正規関数推定の問題点を考察する。
我々は、最近開発された睡眠専門家集約アルゴリズムと呼ばれるオンライン学習アルゴリズムの修正版を提案する。
- 参考スコア(独自算出の注目度): 12.18340575383456
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of estimating piecewise regular functions in an
online setting, i.e., the data arrive sequentially and at any round our task is
to predict the value of the true function at the next revealed point using the
available data from past predictions. We propose a suitably modified version of
a recently developed online learning algorithm called the sleeping experts
aggregation algorithm. We show that this estimator satisfies oracle risk bounds
simultaneously for all local regions of the domain. As concrete instantiations
of the expert aggregation algorithm proposed here, we study an online mean
aggregation and an online linear regression aggregation algorithm where experts
correspond to the set of dyadic subrectangles of the domain. The resulting
algorithms are near linear time computable in the sample size. We specifically
focus on the performance of these online algorithms in the context of
estimating piecewise polynomial and bounded variation function classes in the
fixed design setup. The simultaneous oracle risk bounds we obtain for these
estimators in this context provide new and improved (in certain aspects)
guarantees even in the batch setting and are not available for the state of the
art batch learning estimators.
- Abstract(参考訳): 我々は,オンライン環境での正規関数を区分的に推定する問題,すなわち,過去の予測から得られるデータを用いて,次の明細点における真の関数の値を予測することを課題とする。
本稿では,最近開発したオンライン学習アルゴリズムsleep experts aggregation algorithmの修正版を提案する。
この推定値は,ドメインのすべてのローカルリージョンに対して,oracleのリスクバウンダリを同時に満たしていることを示します。
本稿では,エキスパート集約アルゴリズムの具体的インスタンス化として,オンライン平均集約とオンライン線形回帰集約アルゴリズムについて検討する。
得られたアルゴリズムはサンプルサイズでほぼ線形時間計算可能である。
特に,固定設計設定における分割多項式と有界変分関数クラスを推定する文脈において,オンラインアルゴリズムの性能に注目する。
このコンテキストでこれらの推定子に対して当社が取得したoracleのリスクバウンダリは、バッチ設定においても新たに(ある面で)向上した保証を提供し、art batch learning estimatorsの状況では利用できません。
関連論文リスト
- A naive aggregation algorithm for improving generalization in a class of learning problems [0.0]
本稿では,エキスパート・アドバイス・セッティングを用いた一般的な学習問題に対するナイーブ・アグリゲーション・アルゴリズムを提案する。
特に,高次元非線形関数をモデル化するための点推定の学習問題について考察する。
論文 参考訳(メタデータ) (2024-09-06T15:34:17Z) - Score-based change point detection via tracking the best of infinitely many experts [5.156484100374059]
逐次スコア関数推定に基づくオンライン変化点検出のための新しいアルゴリズムを提案する。
このアルゴリズムは人工および実世界のデータセットに関する数値実験において有望な性能を示す。
論文 参考訳(メタデータ) (2024-08-26T07:56:17Z) - Structured Prediction in Online Learning [66.36004256710824]
オンライン学習環境における構造化予測のための理論的・アルゴリズム的枠組みについて検討する。
このアルゴリズムは教師付き学習環境からの最適アルゴリズムの一般化であることを示す。
本稿では,非定常データ分布,特に逆データを含む2番目のアルゴリズムについて考察する。
論文 参考訳(メタデータ) (2024-06-18T07:45:02Z) - Online Estimation via Offline Estimation: An Information-Theoretic Framework [75.80823630681323]
オフライン推定アルゴリズムをオンライン推定アルゴリズムに変換することは可能か?
我々はOracle-Efficient Online Estimation (OEOE)という新しいフレームワークを導入し,学習者はストリーム上で動作しているブラックボックスアルゴリズムによって生成されたオフライン推定器のシーケンスを通じて,データストリームと間接的にのみ対話することができる。
論文 参考訳(メタデータ) (2024-04-15T20:19:18Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - High-Probability Risk Bounds via Sequential Predictors [20.741036493022442]
一般的なオンライン学習アルゴリズムに適用されたオンラインからバッチへの変換は、後悔の限界を回避できることを示す。
いくつかの古典的統計的推定問題に対して、ほぼ最適な高確率リスク境界を得る。
我々の分析は、多くのオンライン学習アルゴリズムが不適切であるという事実に依存している。
論文 参考訳(メタデータ) (2023-08-15T06:19:31Z) - A Regression Approach to Learning-Augmented Online Algorithms [17.803569868141647]
本論文では,本手法について紹介し,一般的なオンライン検索フレームワークの文脈で考察する。
この回帰問題におけるサンプルの複雑さにほぼ厳密な境界を示し、その結果を不可知的な設定にまで拡張する。
技術的観点から、回帰問題に対する損失関数の設計にオンライン最適化ベンチマークを組み込むことが重要であることを示す。
論文 参考訳(メタデータ) (2022-05-18T04:29:14Z) - Scalable computation of prediction intervals for neural networks via
matrix sketching [79.44177623781043]
既存の不確実性推定アルゴリズムでは、モデルアーキテクチャとトレーニング手順を変更する必要がある。
本研究では、与えられたトレーニングされたニューラルネットワークに適用し、近似予測間隔を生成できる新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-06T13:18:31Z) - Domain-Adjusted Regression or: ERM May Already Learn Features Sufficient
for Out-of-Distribution Generalization [52.7137956951533]
既存の特徴から予測器を学習するためのよりシンプルな手法を考案することは、将来の研究にとって有望な方向である、と我々は主張する。
本稿では,線形予測器を学習するための凸目標である領域調整回帰(DARE)を紹介する。
自然モデルの下では、DARE解が制限されたテスト分布の集合に対する最小最適予測器であることを証明する。
論文 参考訳(メタデータ) (2022-02-14T16:42:16Z) - Smoothed Online Learning is as Easy as Statistical Learning [77.00766067963195]
この設定では、最初のオラクル効率、非回帰アルゴリズムを提供する。
古典的な設定で関数クラスが学習可能な場合、文脈的包帯に対するオラクル効率のよい非回帰アルゴリズムが存在することを示す。
論文 参考訳(メタデータ) (2022-02-09T19:22:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。