論文の概要: Adaptive Estimation and Learning under Temporal Distribution Shift

• arxiv url: http://arxiv.org/abs/2505.15803v1
• Date: Wed, 21 May 2025 17:56:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-22 15:42:59.820721
• Title: Adaptive Estimation and Learning under Temporal Distribution Shift
• Title（参考訳）: 時間分布シフト下における適応的推定と学習
• Authors: Dheeraj Baby, Yifei Tang, Hieu Duy Nguyen, Yu-Xiang Wang, Rohit Pyati,
• Abstract要約: 本研究では,時間分布シフトによる推定と学習の問題について検討する。 長さ$n$の観測シーケンスを考えてみましょう。 本研究では,ウェーブレットのソフトスレッディング推定器が基底に対して最適推定誤差を与えることを示す。
• 参考スコア（独自算出の注目度）: 17.82448143883071
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this paper, we study the problem of estimation and learning under temporal distribution shift. Consider an observation sequence of length $n$, which is a noisy realization of a time-varying groundtruth sequence. Our focus is to develop methods to estimate the groundtruth at the final time-step while providing sharp point-wise estimation error rates. We show that, without prior knowledge on the level of temporal shift, a wavelet soft-thresholding estimator provides an optimal estimation error bound for the groundtruth. Our proposed estimation method generalizes existing researches Mazzetto and Upfal (2023) by establishing a connection between the sequence's non-stationarity level and the sparsity in the wavelet-transformed domain. Our theoretical findings are validated by numerical experiments. Additionally, we applied the estimator to derive sparsity-aware excess risk bounds for binary classification under distribution shift and to develop computationally efficient training objectives. As a final contribution, we draw parallels between our results and the classical signal processing problem of total-variation denoising (Mammen and van de Geer,1997; Tibshirani, 2014), uncovering novel optimal algorithms for such task.
• Abstract（参考訳）: 本稿では,時間分布シフトによる推定と学習の問題について検討する。 長さ$n$の観測シーケンスを考えてみましょう。 本研究の目的は, 最終段階における基礎構造を推定する手法の開発であり, 鋭い点次推定誤差率を提供することである。 時間的シフトの度合いについて事前の知識がなければ、ウェーブレットのソフトスレッディング推定器は、基底に対して最適な推定誤差を与える。 提案手法は,ウェーブレット変換領域における配列の非定常度レベルと疎度との接続を確立することにより,既存のMazzettoとUpfal(2023)を一般化する。 理論的知見は数値実験によって検証される。 さらに,分散シフト下での二元分類における余剰リスク境界の導出と,計算効率のよい学習目標の導出に,推定器を適用した。 最終的な貢献として、我々は結果と古典的な信号処理問題(Mammen and van de Geer, 1997; Tibshirani, 2014)の類似性を描き、そのようなタスクに最適な新しいアルゴリズムを明らかにした。

関連論文リスト

• In-Context Parametric Inference: Point or Distribution Estimators? [66.22308335324239]
  償却点推定器は一般に後部推論より優れているが、後者は低次元問題では競争力がある。 実験の結果, 償却点推定器は一般に後部推定より優れているが, 後者は低次元問題では競争力があることがわかった。
  論文  参考訳（メタデータ） (2025-02-17T10:00:24Z)
• A Tale of Sampling and Estimation in Discounted Reinforcement Learning [50.43256303670011]
  割引平均推定問題に対して最小値の最小値を求める。 マルコフ過程の割引されたカーネルから直接サンプリングすることで平均を推定すると、説得力のある統計的性質が得られることを示す。
  論文  参考訳（メタデータ） (2023-04-11T09:13:17Z)
• Adapting to Continuous Covariate Shift via Online Density Ratio Estimation [64.8027122329609]
  分散シフトへの対処は、現代の機械学習における中心的な課題の1つだ。 歴史的情報を適切に再利用するオンライン手法を提案する。 我々の密度比推定法は, ダイナミックなリセットバウンドを楽しむことにより, 良好に動作できることが証明された。
  論文  参考訳（メタデータ） (2023-02-06T04:03:33Z)
• Efficient Estimation for Longitudinal Networks via Adaptive Merging [21.62069959992736]
  本稿では, 適応型ネットワークマージ, テンソル分解, 点過程の強みを利用した長手ネットワークの効率的な推定手法を提案する。 近隣のスパースネットワークをマージし、観測されたエッジの数を拡大し、推定分散を低減する。 提案手法は,各イテレーションにおける推定誤差の上限を設定することにより,推定を容易にする。
  論文  参考訳（メタデータ） (2022-11-15T03:17:11Z)
• A Random Matrix Theory Approach to Damping in Deep Learning [0.7614628596146599]
  深層学習における適応的勾配法と非適応的勾配法との違いは推定ノイズの増加に起因すると推測する。 線形縮退推定にインスパイアされた2次オプティマイザのためのランダム行列理論に基づくダンピング学習器を開発した。
  論文  参考訳（メタデータ） (2020-11-15T18:19:42Z)
• Learning Calibrated Uncertainties for Domain Shift: A Distributionally Robust Learning Approach [150.8920602230832]
  ドメインシフトの下で校正された不確実性を学習するためのフレームワークを提案する。 特に、密度比推定は、ターゲット(テスト)サンプルの近さをソース(トレーニング)分布に反映する。 提案手法は下流タスクに有利な校正不確実性を生成する。
  論文  参考訳（メタデータ） (2020-10-08T02:10:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。