論文の概要: SPARCL: Spectral Partitioned Analytic Continual Learning

• arxiv url: http://arxiv.org/abs/2608.21307v1
• Date: Fri, 21 Aug 2026 17:09:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.645485
• Title: SPARCL: Spectral Partitioned Analytic Continual Learning
• Title（参考訳）: SPARCL: スペクトル分割分析連続学習
• Abstract要約: 解析的連続学習は、勾配に基づくクラス増分学習の強力な自由な代替として登場した。 動作中の自己相関を高エネルギーコアと余剰補体に分解するスペクトル分割解析学習器を提案する。 CIFAR-100、CUB-200、ImageNet-R、ImageNet-Aは凍結されたViT-B/16プロトコルの下で、古典的な解析学習者から強力な表現マターへのギャップを埋める。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Analytic continual learning has emerged as a strong exemplar-free alternative to gradient-based class-incremental learning because it replaces iterative optimization with closed-form ridge updates. Yet the usual forgetting narrative, centered on stochastic gradient overwriting, does not explain why analytic methods still drift on old classes despite exact recursive solvers. We identify the culprit as spectral interference: the joint ridge classifier for all tasks shares the inverse autocorrelation operator $(R+λI)^{-1}$, so incoming task samples that load onto old dominant eigendirections dilute the spectrum and perturb old-class logits even when old labels are never revisited. Based on this view, we propose SPARCL, a spectral partitioned analytic continual learner that decomposes the running autocorrelation into a high-energy core and a residual complement, freezes old-class classifier components in the core subspace, and updates only the residual block through recursive least squares with an optional residual random-projection expansion. This yields a simple closed-form update with a provable invariance guarantee for the core contribution of old logits. Across CIFAR-100, CUB-200, ImageNet-R, and ImageNet-A under a frozen ViT-B/16 protocol, SPARCL closes most of the gap from classical analytic learners to strong representation matchers, while remaining complementary to sparse feature-decorrelation approaches such as Fly-CL.
• Abstract（参考訳）: 解析的連続学習は、繰り返し最適化をクローズドフォームのリッジ更新に置き換えるため、勾配に基づくクラスインクリメンタルラーニングの代替として、強力な先例のないものとして登場した。 しかし、確率的勾配上書きを中心にした通常の忘れられる物語は、厳密な再帰的解法にもかかわらず、なぜ解析的手法が古いクラスに漂うのかを説明できない。 すべてのタスクのジョイントリッジ分類器は逆自己相関演算子$(R+λI)^{-1}$を共有するので、古い支配的固有方向にロードされるタスクサンプルは、古いラベルが再検討されない場合でもスペクトルを減らし、古いクラスロジットを摂動させる。 この観点から、高エネルギーコアと余剰補体に自己相関を分解し、コア部分空間内の古いクラス分類器コンポーネントを凍結し、任意に残余な乱射影展開を伴う再帰最小二乗による残余ブロックのみを更新するスペクトル分割解析連続学習器であるSPARCLを提案する。 これにより、古いロジットのコアコントリビューションに対して、証明可能な不変性を保証するシンプルなクローズドフォーム更新が得られる。 CIFAR-100、CUB-200、ImageNet-R、ImageNet-Aが凍結されたViT-B/16プロトコルの下では、SPARCLは古典的な分析学習者から強力な表現マッチング者へのギャップの大部分を埋める一方で、Fly-CLのようなスパースな特徴デコレーションアプローチを補完する。

関連論文リスト

• Spectral-Aware Analytic Class-Incremental Learning for Long-Tailed Distributions [17.58096703161218]
  解析的連続学習は、勾配に基づくアプローチに対する計算的に効率的な代替手段を提供する。 近年のACL法は, 長期分布を特徴とする授業増進学習のシナリオにおいて, 大きく変化している。 本稿では,長期学習をスペクトル正則化問題として扱う理論的基盤の枠組みである幾何スペクトル整流法(GSR)を提案する。
  論文  参考訳（メタデータ） (2026-07-24T22:12:15Z)
• Retrieval-Warmed Energy-Based Reasoning: A Five-Arm Ablation Methodology for Diffusion-as-Inference on Structured Reasoning Tasks [7.954260884574662]
  textbfwarmretrieval-ed energy-based reasoning (RW-EBR) - IREDエネルギーベース拡散モデル。 We study textbfwarmretrieval-ed energy-based reasoning (RW-EBR) -- a IRED energy-based diffusion model。 We study textbfwarmretrieval-ed energy-based reasoning (RW-EBR) -- a IRED energy-based diffusion model。
  論文  参考訳（メタデータ） (2026-06-25T00:28:08Z)
• Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
  モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。 State-of-the-art merging method formulate merging as a layer-wise interference problem。 本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
  論文  参考訳（メタデータ） (2026-06-05T14:00:47Z)
• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• Provable Sparse Inversion and Token Relabel Enhanced One-shot Federated Learning with ViTs [77.42033827176806]
  ワンショットフェデレートラーニング(One-Shot Federated Learning)は、単一のコミュニケーションラウンドでグローバルモデルを学ぶ中央サーバが、有望なパラダイムとして登場したものだ。 本稿では,合成画像の全パッチをフル活用してグローバルモデルをトレーニングする,新しいフェデレーションモデルインバージョンとトークンリラベルフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-11T15:49:08Z)
• Learning to Shuffle: Block Reshuffling and Reversal Schemes for Stochastic Optimization [20.63685754619351]
  大規模言語モデル(LLM)誘導プログラム進化フレームワークを用いて,SGDを置き換えることなく,効率的なシャッフルルールを発見する。 ブロックリシャッフルは, 統一シャッフルにおけるプレフィックス-勾配変動定数を厳格に低減し, 弱条件下でのランダムリシャッフルよりも良好な改善をもたらすことを示す。 また、ペア逆転がエポックマップを対称性付け、先行する順序依存の2次項をキャンセルし、ステップサイズにおいて2次から3次への順序感度を低下させることを示した。
  論文  参考訳（メタデータ） (2026-03-31T21:40:43Z)
• In-Context Symbolic Regression for Robustness-Improved Kolmogorov-Arnold Networks [3.7163623763519733]
  シンボリック回帰は、ブラックボックス予測器を機械学習で検査および検証可能な分析式に置き換えることを目的としている。 Kolmogorov-Arnold Pursuit Networks (KANs) はこの目的に適している。 しかし、実際には記号抽出はボトルネックであり、標準のkan-to-symbolアプローチは各学習エッジ関数に微妙な分離で適合する。
  論文  参考訳（メタデータ） (2026-03-16T13:21:26Z)
• Historical Consensus: Preventing Posterior Collapse via Iterative Selection of Gaussian Mixture Priors [4.284407845277412]
  変分オートエンコーダ(VAE)は、しばしば後部崩壊に悩まされる。 アーキテクチャ上の制約による崩壊を避ける代わりに、完全に崩壊する可能性を排除します。
  論文  参考訳（メタデータ） (2026-03-11T16:19:07Z)
• Towards Continuous-Time Approximations for Stochastic Gradient Descent without Replacement [1.7767466724342065]
  置換のない降下(SGDo)に基づくエポック(epochs)を用いた勾配最適化アルゴリズムは、主に機械学習モデルを実際にトレーニングするために使用される。 我々は「急激なブラウン運動」と呼ばれるプロセスによって駆動されるヤング微分方程式に基づく加法雑音を伴うSGDoの連続時間近似を提案する。 強凸対象に対する連続時間近似のほぼ確実に収束と、(0,1)$で$u_t = frac1(+t)の学習速度スケジュールを証明することによって、その有用性を示す。
  論文  参考訳（メタデータ） (2025-12-04T11:52:20Z)
• ResAD++: Towards Class Agnostic Anomaly Detection via Residual Feature Learning [52.11294707895649]
  本稿では,クラス非依存型異常検出(AD)の問題点について検討する。 目的は、ターゲットデータの再トレーニングや微調整をせずに、異なるドメインから様々な新しいクラスの異常を一般化して検出できる、クラスに依存しないADモデルをトレーニングすることである。 8つの実世界のADデータセットに関する総合的な実験は、ResAD++が新しいクラスで直接使用されると、素晴らしいAD結果が得られることを示した。
  論文  参考訳（メタデータ） (2025-09-28T08:41:05Z)
• Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
  分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。 非滑らかな正規化はしばしば機械学習タスクに組み込まれる。 本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T08:32:25Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)
• Correlation Clustering Reconstruction in Semi-Adversarial Models [70.11015369368272]
  相関クラスタリングは多くのアプリケーションにおいて重要なクラスタリング問題である。 本研究では,ランダムノイズや対向的な修正によって崩壊した潜伏クラスタリングを再構築しようとする,この問題の再構築版について検討する。
  論文  参考訳（メタデータ） (2021-08-10T14:46:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。