論文の概要: The Cost of Learning under Multiple Change Points

• arxiv url: http://arxiv.org/abs/2602.11406v1
• Date: Wed, 11 Feb 2026 22:16:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-13 21:07:25.557103
• Title: The Cost of Learning under Multiple Change Points
• Title（参考訳）: 複数の変化点下での学習のコスト
• Authors: Tomer Gafni, Garud Iyengar, Assaf Zeevi,
• Abstract要約: 内因性コンファウンディング(内因性コンファウンディング)とよばれる現象により,古典的手法では破滅的な失敗(高い後悔)が生じる可能性が示唆された。 我々はAnytime Tracking CUSUM(ATC)と呼ばれる新しい学習アルゴリズムを提案する。 これらは地平線のないオンラインアルゴリズムであり、選択的検出原理を実装している。
• 参考スコア（独自算出の注目度）: 18.874638937505434
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We consider an online learning problem in environments with multiple change points. In contrast to the single change point problem that is widely studied using classical "high confidence" detection schemes, the multiple change point environment presents new learning-theoretic and algorithmic challenges. Specifically, we show that classical methods may exhibit catastrophic failure (high regret) due to a phenomenon we refer to as endogenous confounding. To overcome this, we propose a new class of learning algorithms dubbed Anytime Tracking CUSUM (ATC). These are horizon-free online algorithms that implement a selective detection principle, balancing the need to ignore "small" (hard-to-detect) shifts, while reacting "quickly" to significant ones. We prove that the performance of a properly tuned ATC algorithm is nearly minimax-optimal; its regret is guaranteed to closely match a novel information-theoretic lower bound on the achievable performance of any learning algorithm in the multiple change point problem. Experiments on synthetic as well as real-world data validate the aforementioned theoretical findings.
• Abstract（参考訳）: 複数の変化点を持つ環境におけるオンライン学習の問題を考える。 古典的な「高信頼」検出スキームを用いて広く研究されている単一変化点問題とは対照的に、多重変化点環境は新しい学習理論とアルゴリズムの課題を提示している。 具体的には,内因性コンファウンディング(内因性コンファウンディング)と呼ばれる現象により,古典的手法は破滅的な失敗(高い後悔)を示す可能性があることを示す。 そこで我々は,Anytime Tracking CUSUM (ATC) と呼ばれる新しい学習アルゴリズムを提案する。 これらは地平線のないオンラインアルゴリズムで、選択的検出原理を実装し、"小さく"(堅固に)シフトを無視する必要性のバランスをとりながら、重要なものに"素早く"反応する。 複数の変化点問題において、任意の学習アルゴリズムの達成可能な性能に対する新しい情報理論の下限を忠実に一致させることで、適切に調整されたATCアルゴリズムの性能がほぼ最小最適であることを証明した。 合成および実世界のデータに関する実験は、上記の理論的な知見を検証している。

関連論文リスト

• The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
  本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。 FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。 我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
  論文  参考訳（メタデータ） (2023-03-17T02:01:11Z)
• Smoothed Online Learning for Prediction in Piecewise Affine Systems [43.64498536409903]
  本稿では,最近開発されたスムーズなオンライン学習フレームワークに基づく。 これは、断片的なアフィン系における予測とシミュレーションのための最初のアルゴリズムを提供する。
  論文  参考訳（メタデータ） (2023-01-26T15:54:14Z)
• Faster Adaptive Federated Learning [84.38913517122619]
  フェデレートラーニングは分散データの出現に伴って注目を集めている。 本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
  論文  参考訳（メタデータ） (2022-12-02T05:07:50Z)
• Algorithms that Approximate Data Removal: New Results and Limitations [2.6905021039717987]
  本研究では,経験的リスク最小化を用いて学習した機械学習モデルからユーザデータを削除することの問題点について検討する。 計算とメモリ効率を両立させるオンラインアンラーニングアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2022-09-25T17:20:33Z)
• Towards Diverse Evaluation of Class Incremental Learning: A Representation Learning Perspective [67.45111837188685]
  クラスインクリメンタル学習(CIL)アルゴリズムは、インクリメンタルに到着したデータから新しいオブジェクトクラスを継続的に学習することを目的としている。 表現学習における様々な評価プロトコルを用いて,CILアルゴリズムによって訓練されたニューラルネットワークモデルを実験的に解析する。
  論文  参考訳（メタデータ） (2022-06-16T11:44:11Z)
• Simple Stochastic and Online Gradient DescentAlgorithms for Pairwise Learning [65.54757265434465]
  ペアワイズ学習(Pairwise learning)とは、損失関数がペアインスタンスに依存するタスクをいう。 オンライン降下(OGD)は、ペアワイズ学習でストリーミングデータを処理する一般的なアプローチである。 本稿では,ペアワイズ学習のための手法について,シンプルでオンラインな下降を提案する。
  論文  参考訳（メタデータ） (2021-11-23T18:10:48Z)
• Online estimation and control with optimal pathlength regret [52.28457815067461]
  オンライン学習アルゴリズムを設計する際の自然なゴールは、入力シーケンスの時間的変動の観点から、アルゴリズムの後悔を束縛することである。 OCOや盗賊など、さまざまなオンライン学習問題に対して、データ依存の「病的」後悔境界が最近取得されている。
  論文  参考訳（メタデータ） (2021-10-24T22:43:15Z)
• AlterSGD: Finding Flat Minima for Continual Learning by Alternative Training [11.521519687645428]
  本稿では,損失景観における平らな最小値を求めるために,AlterSGDと呼ばれるシンプルで効果的な最適化手法を提案する。 このような戦略は、最適化が平坦なミニマに収束することを促進できることを示す。 セマンティックセグメンテーションのための連続学習ベンチマーク上でAlterSGDを検証し、実験結果から、忘れを著しく軽減できることを示す。
  論文  参考訳（メタデータ） (2021-07-13T01:43:51Z)
• SID: Incremental Learning for Anchor-Free Object Detection via Selective and Inter-Related Distillation [16.281712605385316]
  増分学習は、ストリーミングデータから新しいタスクを継続的に学習するモデルを必要とする。 新しいタスクでよく訓練されたディープニューラルネットワークの従来の微調整は、古いタスクのパフォーマンスを劇的に低下させる。 SID(Selective and Inter-related Distillation)と呼ばれる新しい漸進的学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2020-12-31T04:12:06Z)
• Comparative Analysis of Extreme Verification Latency Learning Algorithms [3.3439097577935213]
  本稿では、EVLアルゴリズムのいくつかの弱点と強みを指摘するための総合的な調査と比較分析を行う。 この研究は、この分野の既存のアルゴリズムのレビューを研究コミュニティに提供するための、非常に最初の取り組みである。
  論文  参考訳（メタデータ） (2020-11-26T16:34:56Z)
• ARCADe: A Rapid Continual Anomaly Detector [25.34227775187408]
  連続異常検出(CAD)の新しい学習問題に対処する。 ニューラルネットをトレーニングするアプローチであるARCADeを提案する。 3つのデータセットを用いた実験の結果、ARCADeは連続学習と異常検出の文献からベースラインを大幅に上回っていることがわかった。
  論文  参考訳（メタデータ） (2020-08-10T11:59:32Z)
• Reparameterized Variational Divergence Minimization for Stable Imitation [57.06909373038396]
  確率的発散の選択における変動が、より高性能なILOアルゴリズムをもたらす可能性について検討する。 本稿では,提案する$f$-divergence最小化フレームワークの課題を軽減するために,逆模倣学習のための再パラメータ化手法を提案する。 経験的に、我々の設計選択は、ベースラインアプローチより優れ、低次元連続制御タスクにおける専門家のパフォーマンスとより密に適合するIOOアルゴリズムを許容することを示した。
  論文  参考訳（メタデータ） (2020-06-18T19:04:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。