論文の概要: Temporal Imbalance of Positive and Negative Supervision in Class-Incremental Learning
- arxiv url: http://arxiv.org/abs/2603.02280v1
- Date: Mon, 02 Mar 2026 01:57:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-04 21:38:10.495348
- Title: Temporal Imbalance of Positive and Negative Supervision in Class-Incremental Learning
- Title(参考訳): 授業増分学習における肯定的・否定的スーパービジョンの時間的不均衡
- Authors: Jinge Ma, Fengqing Zhu,
- Abstract要約: CILは、しばしば新しいクラスに対する予測バイアスとして表される破滅的な忘れ込みという中核的な課題に直面している。
既存の手法は主に、このバイアスをタスク内のクラス不均衡に起因し、分類器ヘッドでの修正に焦点を当てている。
本稿では、時間的減衰カーネルを用いて、監督強度ベクトルを構築し、クロスエントロピー損失における負の監督を動的に強調する時間的調整損失(TAL)を提案する。
- 参考スコア(独自算出の注目度): 10.054396813990481
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the widespread adoption of deep learning in visual tasks, Class-Incremental Learning (CIL) has become an important paradigm for handling dynamically evolving data distributions. However, CIL faces the core challenge of catastrophic forgetting, often manifested as a prediction bias toward new classes. Existing methods mainly attribute this bias to intra-task class imbalance and focus on corrections at the classifier head. In this paper, we highlight an overlooked factor -- temporal imbalance -- as a key cause of this bias. Earlier classes receive stronger negative supervision toward the end of training, leading to asymmetric precision and recall. We establish a temporal supervision model, formally define temporal imbalance, and propose Temporal-Adjusted Loss (TAL), which uses a temporal decay kernel to construct a supervision strength vector and dynamically reweight the negative supervision in cross-entropy loss. Theoretical analysis shows that TAL degenerates to standard cross-entropy under balanced conditions and effectively mitigates prediction bias under imbalance. Extensive experiments demonstrate that TAL significantly reduces forgetting and improves performance on multiple CIL benchmarks, underscoring the importance of temporal modeling for stable long-term learning.
- Abstract(参考訳): 視覚タスクにおけるディープラーニングの普及により、クラスインクリメンタルラーニング(CIL)は、動的に進化するデータ分散を扱う上で重要なパラダイムとなっている。
しかし、CILは、しばしば新しいクラスに対する予測バイアスとして表される破滅的な忘れ込みの中核的な課題に直面している。
既存の手法は主に、このバイアスをタスク内のクラス不均衡に起因し、分類器ヘッドでの修正に焦点を当てている。
本稿では、このバイアスの重要な原因として、見過ごされた要因である時間的不均衡を強調します。
初期のクラスは訓練の終了に向けてより強い否定的な監督を受けており、非対称的な精度とリコールにつながっている。
時間的不均衡を正式に定義し、時間的減衰カーネルを用いて監督強度ベクトルを構築し、クロスエントロピー損失における負の監督を動的に強調する時間的不均衡モデル(TAL)を提案する。
理論的解析により、TALはバランスの取れた条件下で標準のクロスエントロピーに縮退し、非バランス下での予測バイアスを効果的に緩和することが示された。
広範囲な実験により、TALは複数のCILベンチマークの性能を著しく低下させ、安定した長期学習における時間的モデリングの重要性を強調している。
関連論文リスト
- Scaling Reasoning Hop Exposes Weaknesses: Demystifying and Improving Hop Generalization in Large Language Models [66.36240676392502]
CoT(Chain-of- Thought)推論は、LLM(Large Language Models)が複雑な問題を解決するための標準パラダイムとなっている。
近年の研究では、ホップ一般化シナリオの推論性能が急落している。
推論過程におけるEPヘッドを動的に識別・非活性化する軽量な介入法である推論の試験時間補正を提案する。
論文 参考訳(メタデータ) (2026-01-29T03:24:32Z) - Class Confidence Aware Reweighting for Long Tailed Learning [0.8297806372438926]
本稿では,長期学習のためのクラスの設計と信頼性を考慮した再重み付け手法を提案する。
我々は、(p_t,f_c)関数を用いて、予測の信頼性値に基づいて、トレーニングタスクに対するコントリビューションの変調を可能にする。
論文 参考訳(メタデータ) (2026-01-22T12:58:05Z) - Training Instabilities Induce Flatness Bias in Gradient Descent [6.628332915214955]
現代のディープネットワークは、しばしば安定性のしきい値を超える最高のパフォーマンスを達成する。
トレーニングの不安定さはGDに暗黙の偏りを生じさせ,損失景観の平坦な領域にパラメータを誘導することを示した。
また、アダムの不安定性の回復は一般化をさらに改善することを示した。
論文 参考訳(メタデータ) (2025-11-16T11:26:25Z) - Abstain Mask Retain Core: Time Series Prediction by Adaptive Masking Loss with Representation Consistency [4.047219770183742]
時系列予測はエネルギー管理や金融市場といった重要な領域において重要な役割を担っている。
本研究は, 履歴データを適切に切り詰めることによって予測精度を向上させるという, 直感に反する現象を明らかにする。
本稿では,適応的マスキング・ロス(Adaptive Masking Loss)と表現整合性(Representation Consistency)を提案する。
論文 参考訳(メタデータ) (2025-10-22T19:23:53Z) - Characteristic Root Analysis and Regularization for Linear Time Series Forecasting [9.254995889539716]
時系列予測は多くの領域において重要な課題である。
近年の研究では、単純な線形モデルの驚くほどの競争性が強調されている。
本稿では時間力学における特性根の役割に焦点を当てる。
論文 参考訳(メタデータ) (2025-09-28T03:06:30Z) - Counterfactual Reward Model Training for Bias Mitigation in Multimodal Reinforcement Learning [0.5204229323525671]
本稿では,マルチモーダル表現学習による因果推論を導入し,非教師付きバイアス耐性報酬信号を提供する。
我々は, フレーミングバイアス, クラス不均衡, 分散ドリフトを示すマルチモーダルフェイク対真のニュースデータセット上で, フレームワークの評価を行った。
その結果、偽ニュースの検出において89.12%の精度を達成し、ベースライン報酬モデルを上回った。
論文 参考訳(メタデータ) (2025-08-27T04:54:33Z) - On the Surprising Effectiveness of Large Learning Rates under Standard Width Scaling [15.769249369390884]
最適な学習速度は理論的な予測よりも遅く、ネットワークは、非常に広い範囲でも安定した訓練と非自明な特徴学習の両方を示します。
特に, クロスエントロピー (CE) の損失下では, 不安定な状態は, 破滅的な不安定な状態と, より良質な制御された分岐状態の2つのサブレジムから構成されることを示す。
我々の経験的証拠は、幅スケーリングの考慮は、経験的最大学習率指数を予測するのに驚くほど有用であることを示している。
論文 参考訳(メタデータ) (2025-05-28T15:40:48Z) - Selective Learning: Towards Robust Calibration with Dynamic Regularization [79.92633587914659]
ディープラーニングにおけるミススキャリブレーションとは、予測された信頼とパフォーマンスの間には相違がある、という意味である。
トレーニング中に何を学ぶべきかを学ぶことを目的とした動的正規化(DReg)を導入し、信頼度調整のトレードオフを回避する。
論文 参考訳(メタデータ) (2024-02-13T11:25:20Z) - On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。
アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
論文 参考訳(メタデータ) (2023-12-13T02:11:07Z) - Uncertainty-guided Boundary Learning for Imbalanced Social Event
Detection [64.4350027428928]
本研究では,不均衡なイベント検出タスクのための不確実性誘導型クラス不均衡学習フレームワークを提案する。
我々のモデルは、ほとんど全てのクラス、特に不確実なクラスにおいて、社会イベントの表現と分類タスクを大幅に改善する。
論文 参考訳(メタデータ) (2023-10-30T03:32:04Z) - Class-Imbalanced Graph Learning without Class Rebalancing [62.1368829847041]
クラス不均衡は実世界のノード分類タスクでよく見られ、グラフ学習モデルには大きな課題がある。
本研究では、トポロジカルパラダイムからクラス不均衡バイアスの根本原因にアプローチする。
我々は,クラス再バランスを伴わずにクラス不均衡バイアスを軽減するために,軽量なトポロジカル拡張フレームワークであるBATを考案した。
論文 参考訳(メタデータ) (2023-08-27T19:01:29Z) - Predicting and Enhancing the Fairness of DNNs with the Curvature of Perceptual Manifolds [44.79535333220044]
近年の研究では、テールクラスは必ずしも学習が困難ではないことが示されており、サンプルバランスのデータセットではモデルバイアスが観察されている。
本研究ではまず,モデルフェアネスを解析するための幾何学的視点を確立し,次いで,一連の幾何学的測度を体系的に提案する。
論文 参考訳(メタデータ) (2023-03-22T04:49:23Z) - Stochastically forced ensemble dynamic mode decomposition for
forecasting and analysis of near-periodic systems [65.44033635330604]
本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。
固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。
電力グリッドからの負荷データを用いたテストケースの結果が提示される。
論文 参考訳(メタデータ) (2020-10-08T20:25:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。