論文の概要: Data Reuse in Non-Stationary Learning
- arxiv url: http://arxiv.org/abs/2610.10340v1
- Date: Wed, 07 Oct 2026 16:20:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:23.033427
- Title: Data Reuse in Non-Stationary Learning
- Title(参考訳): 非定常学習におけるデータ再利用
- Abstract要約: オンライン変更検出,互換性テスト,"汚染"制御を組み合わせた, Exposure-Capped Reuse (ECR) と呼ばれる任意のアルゴリズムのクラスを提案する。
本研究では,ECRの後悔が変化の数ではなく,異なる値の数でスケールする仕組みを特徴付け,ECRの最小値に近い最適性を確立する新しい情報理論の下限を導出する。
- 参考スコア(独自算出の注目度): 18.874638937505434
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider online learning in non-stationary environments, where the goal is to track an unknown parameter that switches abruptly between a finite set of recurring values. Recurrence opens the possibility of judiciously reusing past observations to improve algorithm performance. However, the changing nature of the underlying signal and lack of information on these dynamics may limit the ability to "safely" reuse data. In this paper we quantify some of the fundamental tradeoffs in this class of problems, and show that they bear a certain resemblance to the classical bias-variance dilemma. Specifically, we propose a class of anytime algorithms, dubbed Exposure-Capped Reuse (ECR), that combine online change detection, compatibility testing, and "contamination" control. We characterize the regime in which ECR's regret scales with the number of distinct values rather than the number of changes, and derive a novel information-theoretic lower bound that establishes the near-minimax optimality of ECR. This provides rigorous quantification of the statistical "value" of data reuse.
- Abstract(参考訳): 非定常環境におけるオンライン学習について考察し、その目的は、連続する値の有限セット間で突然切り替える未知のパラメータを追跡することである。
再帰は、アルゴリズムのパフォーマンスを改善するために過去の観測を司法的に再利用する可能性を開く。
しかし、基礎となる信号の性質の変化とこれらのダイナミクスに関する情報の欠如は、データを「安全に」再利用する能力を制限する可能性がある。
本稿では,この問題の分類における基本的なトレードオフのいくつかを定量化し,古典的バイアス分散ジレンマとある程度類似していることを示す。
具体的には,Exposure-Capped Reuse (ECR, Exposure-Capped Reuse) と呼ばれる,オンライン変更検出,互換性テスト,"汚染"制御を組み合わせた任意のアルゴリズムのクラスを提案する。
本研究では,ECRの後悔が変化の数ではなく,異なる値の数でスケールする仕組みを特徴付け,ECRの最小値に近い最適性を確立する新しい情報理論の下限を導出する。
これにより、データ再利用の統計的「値」の厳密な定量化が可能になる。
関連論文リスト
- Invariance-Based Dynamic Regret Minimization [8.349786817840858]
我々は、時間とともに、リニアパラメータが報酬とコンテキストを接続する非定常線形帯域を考える。
我々は、報酬モデルが定常成分と非定常成分に分解されると仮定して、変化に適応しつつ、歴史的データを活用することを提案する。
論文 参考訳(メタデータ) (2026-03-04T08:47:02Z) - Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
現実の時系列では欠落値が一般的である。
現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。
このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。
本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
論文 参考訳(メタデータ) (2025-09-27T20:57:48Z) - Dreaming Learning [41.94295877935867]
機械学習システムに新しい情報を導入することは、以前に格納されたデータに干渉する可能性がある。
スチュアート・カウフマンの随伴可能性の概念に着想を得た学習アルゴリズムを提案する。
ニューラルネットワークは、予想と異なる統計特性を持つデータシーケンスを円滑に受け入れ、統合することを前提としている。
論文 参考訳(メタデータ) (2024-10-23T09:17:31Z) - Enhancing Consistency and Mitigating Bias: A Data Replay Approach for Incremental Learning [93.90047628101155]
ディープラーニングシステムは、一連のタスクから学ぶとき、破滅的な忘れがちだ。
これを解決するために、新しいタスク学習中に過去のタスクからのデータを再生する手法を提案する。
しかし、メモリの制約やデータプライバシーの問題により、実際には期待できない。
論文 参考訳(メタデータ) (2024-01-12T12:51:12Z) - Jensen-Shannon Divergence Based Novel Loss Functions for Bayesian Neural Networks [2.4554686192257424]
我々は、一般化されたJensen-Shannon(JS)の発散に新たな修正を加えて、BNNの新たな損失関数を定式化する。
JSの発散に基づく変分推論は難解であり,従ってこれらの損失を定式化するために制約付き最適化フレームワークが用いられている。
複数の回帰および分類データセットに関する理論的解析および実証実験により、提案された損失はKLの発散に基づく損失よりも良く、特にデータセットがノイズや偏りがある場合の方が優れていることが示唆された。
論文 参考訳(メタデータ) (2022-09-23T01:47:09Z) - Few-Shot Class-Incremental Learning via Entropy-Regularized Data-Free
Replay [52.251188477192336]
FSCIL (Few-shot class-incremental Learning) は,データ制限のあるクラスを段階的に学習する深層学習システムを実現するために提案されている。
データリプレイの採用は驚くほど好都合である,という実証的な結果を通じて示します。
本研究では,実データにアクセスすることなく,ジェネレータによるデータ合成が可能なデータフリーリプレイを提案する。
論文 参考訳(メタデータ) (2022-07-22T17:30:51Z) - Bayesian Uncertainty Estimation of Learned Variational MRI
Reconstruction [63.202627467245584]
我々は,モデル不連続な不確かさを定量化するベイズ変分フレームワークを提案する。
提案手法はMRIのアンダーサンプを用いた再建術の術後成績を示す。
論文 参考訳(メタデータ) (2021-02-12T18:08:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。