論文の概要: Characterizing and Correcting Effective Target Shift in Online Learning

• arxiv url: http://arxiv.org/abs/2605.07886v1
• Date: Fri, 08 May 2026 15:34:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 19:43:39.164091
• Title: Characterizing and Correcting Effective Target Shift in Online Learning
• Title（参考訳）: オンライン学習における効果的な目標シフトの特徴と修正
• Authors: Ziyan Li, Naoki Hiratani,
• Abstract要約: カーネル回帰の文脈におけるオンライン学習とオフライン学習の関係について検討する。 オンラインカーネルベースの学習は,この学習信号の効果的なシフトを目標修正によって補うことで,オフラインの学習と同一の予測器を確実に学習できることを示す。
• 参考スコア（独自算出の注目度）: 7.144595192407167
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Online learning from a stream of data is a defining feature of intelligence, yet modern machine learning systems often struggle in this setting, especially under distributional shift. To understand its basic properties, we study the relationship between online and offline learning in the context of kernel regression. We derive a closed-form expression for the function learned by online kernel regression, revealing that online kernel regression is equivalent to offline regression with shifted, inaccurate target outputs. Conversely, we show that by compensating for this effective shift in the teaching signal through target correction, online kernel-based learning can provably learn the same predictor as its offline counterpart. We derive both a closed-form expression for this target correction and an iterative form that can be applied sequentially. Applying this framework to image classification tasks on CIFAR-10 and CORe50, we show that online stochastic gradient descent with iteratively corrected targets outperforms learning with the true targets in continual learning settings. This work therefore provides a basic framework for analyzing and improving online learning in non-stationary environments.
• Abstract（参考訳）: データストリームからのオンライン学習はインテリジェンスの定義的な特徴だが、現代の機械学習システムは、特に分散シフトの下で、この設定で苦労することが多い。 基本特性を理解するため,カーネル回帰の文脈におけるオンライン学習とオフライン学習の関係について検討する。 オンラインカーネルレグレッションによって学習された関数に対するクローズドフォーム式を導出し、オンラインカーネルレグレッションは、シフトした不正確なターゲット出力を持つオフラインレグレッションと等価であることを示した。 逆に,教師信号のこの効果的なシフトを目標修正によって補うことで,オンラインカーネルベースの学習は,オフラインと同一の予測器を確実に学習できることを示す。 この目標修正のための閉形式式と逐次適用可能な反復形式の両方を導出する。 CIFAR-10 と CORe50 上の画像分類タスクにこの枠組みを適用し,反復的に修正した目標を用いたオンライン確率勾配降下は,連続的な学習設定における真の目標による学習よりも優れていることを示す。 この研究は、非定常環境におけるオンライン学習の分析と改善のための基本的なフレームワークを提供する。

関連論文リスト

• Orthogonal Soft Pruning for Efficient Class Unlearning [26.76186024947296]
  そこで本研究では,ミリ秒レベルの応答時間で高速かつ高精度な記憶を実現するための,クラス認識型ソフトプルーニングフレームワークを提案する。 提案手法は,クラス固有のチャネルを効率的に識別しながら,畳み込みフィルタと区切られた特徴表現をデコレーションする。
  論文  参考訳（メタデータ） (2025-06-24T09:52:04Z)
• What Really Matters for Learning-based LiDAR-Camera Calibration [50.2608502974106]
  本稿では,学習に基づくLiDAR-Cameraキャリブレーションの開発を再考する。 我々は、広く使われているデータ生成パイプラインによる回帰ベースの手法の限界を識別する。 また,入力データ形式と前処理操作がネットワーク性能に与える影響についても検討する。
  論文  参考訳（メタデータ） (2025-01-28T14:12:32Z)
• Online-BLS: An Accurate and Efficient Online Broad Learning System for Data Stream Classification [52.251569042852815]
  オンライン更新毎にクローズドフォームソリューションを備えたオンライン広範学習システムフレームワークを導入する。 我々は,効果的な重み推定アルゴリズムと効率的なオンライン更新戦略を設計する。 我々のフレームワークは、コンセプトドリフトを伴うデータストリームシナリオに自然に拡張され、最先端のベースラインを超えます。
  論文  参考訳（メタデータ） (2025-01-28T13:21:59Z)
• Online Feature Updates Improve Online (Generalized) Label Shift Adaptation [51.328801874640675]
  オンライン特徴更新を用いたオンラインラベルシフト適応法(OLS-OFU)は,自己教師付き学習を利用して特徴抽出プロセスを洗練する。 アルゴリズムを慎重に設計することで、OLS-OFUは改善された特徴を考慮しつつ、文献の結果に類似したオンライン後悔の収束を維持している。
  論文  参考訳（メタデータ） (2024-02-05T22:03:25Z)
• Enhancing Robustness in Incremental Learning with Adversarial Training [15.184564265850382]
  本研究では,漸進学習における対人ロバスト性を扱うARCIL(Adversarially Robust Class Incremental Learning)について検討する。 まず,新たな知識の獲得と過去の知識の保持の相反を招き,既存の学習手法と漸進的な学習を統合した一連のベースラインについて検討する。 textbfFLatness-versa textbfAdversarial textbfIncremental Learning for textbfRobustness (textbfFLAIR)。
  論文  参考訳（メタデータ） (2023-12-06T04:38:02Z)
• Robust Task Representations for Offline Meta-Reinforcement Learning via Contrastive Learning [21.59254848913971]
  オフラインメタ強化学習は、オフラインデータから学習して新しいタスクに適応する強化学習パラダイムである。 本稿では,学習・テストにおける行動方針の分布に頑健なタスク表現のための対照的な学習フレームワークを提案する。 様々なオフラインメタ強化学習ベンチマークの実験は,従来の手法よりも提案手法の利点を実証している。
  論文  参考訳（メタデータ） (2022-06-21T14:46:47Z)
• Recursive Least-Squares Estimator-Aided Online Learning for Visual Tracking [58.14267480293575]
  オフライン学習を必要とせず、簡単な効果的なオンライン学習手法を提案する。 これは、モデルが以前見たオブジェクトに関する知識を記憶するための、内蔵されたメモリ保持メカニズムを可能にする。 我々は、RT-MDNetにおける多層パーセプトロンと、DiMPにおける畳み込みニューラルネットワークの追跡のためのオンライン学習ファミリーにおける2つのネットワークに基づくアプローチを評価する。
  論文  参考訳（メタデータ） (2021-12-28T06:51:18Z)
• Online Continual Learning with Natural Distribution Shifts: An Empirical Study with Visual Data [101.6195176510611]
  オンライン」連続学習は、情報保持とオンライン学習の有効性の両方を評価することができる。 オンライン連続学習では、入力される各小さなデータをまずテストに使用し、次にトレーニングセットに追加し、真にオンラインにします。 本稿では,大規模かつ自然な分布変化を示すオンライン連続視覚学習のための新しいベンチマークを提案する。
  論文  参考訳（メタデータ） (2021-08-20T06:17:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。