論文の概要: Continual Learning with Synthetic Boundary Experience Blending

• arxiv url: http://arxiv.org/abs/2507.23534v2
• Date: Mon, 10 Nov 2025 03:21:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-11 19:11:14.247963
• Title: Continual Learning with Synthetic Boundary Experience Blending
• Title（参考訳）: 合成境界経験ブレンディングによる連続学習
• Authors: Chih-Fan Hsu, Ming-Ching Chang, Wei-Chao Chen,
• Abstract要約: 本稿では,経験ブレンディング(EB)を提案する。 EBには,(1)境界データを合成するための潜時空間ノイズ注入,(2)経験とSBDを併用したエンドツーエンドトレーニングの2つの要素がある。
• 参考スコア（独自算出の注目度）: 16.691655609750377
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Continual learning (CL) seeks to mitigate catastrophic forgetting when models are trained with sequential tasks. A common approach, experience replay (ER), stores past exemplars but only sparsely approximates the data distribution, yielding fragile and oversimplified decision boundaries. We address this limitation by introducing synthetic boundary data (SBD), generated via differential privacy: inspired noise into latent features to create boundary-adjacent representations that implicitly regularize decision boundaries. Building on this idea, we propose Experience Blending (EB), a framework that jointly trains on exemplars and SBD through a dual-model aggregation strategy. EB has two components: (1) latent-space noise injection to synthesize boundary data, and (2) end-to-end training that jointly leverages exemplars and SBD. Unlike standard experience replay, SBD enriches the feature space near decision boundaries, leading to more stable and robust continual learning. Extensive experiments on CIFAR-10, CIFAR-100, and Tiny ImageNet demonstrate consistent accuracy improvements of 10%, 6%, and 13%, respectively, over strong baselines.
• Abstract（参考訳）: 連続学習(CL)は、モデルを逐次的なタスクで訓練する際の破滅的な忘れを軽減しようとする。 一般的なアプローチであるエクスペリエンス・リプレイ(ER)では、過去の例を格納するが、データ分布をわずかに近似するだけで、脆弱で単純化された決定境界が得られる。 この制限には、差分プライバシーによって生成される合成境界データ(SBD)を導入することで対処する。 このアイデアに基づいて、経験ブレンディング(EB)を提案する。このフレームワークは、双対モデルアグリゲーション戦略を通じて、模範とSBDを共同で訓練するフレームワークである。 EBには,(1)境界データを合成するための潜時空間ノイズ注入,(2)経験とSBDを併用したエンドツーエンドトレーニングの2つの要素がある。 標準的な経験リプレイとは異なり、SBDは決定境界に近い機能空間を充実させ、より安定的で堅牢な継続的学習をもたらす。 CIFAR-10、CIFAR-100、Tiny ImageNetの大規模な実験では、強いベースライン上でそれぞれ10%、6%、および13%の一貫性のある精度の向上が示されている。

関連論文リスト

• Decoupled Contrastive Learning for Federated Learning [0.0]
  Decoupled Contrastive Learning for Federated Learning (DCFL)を紹介する。 DCFLは、既存の対照的な損失を2つの目的に分離する、新しいフレームワークである。 以上の結果から,DCFLは正試料間の配向が強く,負試料間の一様性が高いことがわかった。
  論文  参考訳（メタデータ） (2025-08-06T01:39:54Z)
• CLAMP-ViT: Contrastive Data-Free Learning for Adaptive Post-Training Quantization of ViTs [6.456189487006878]
  視覚変換器(ViT)のためのデータフリー後学習量子化法であるCLAMP-ViTを提案する。 我々は、近年の手法の限界、特に意味のあるパッチ間の関係を活用できないことを特定する。 CLAMP-ViTは2段階のアプローチを採用し、データ生成とモデル量子化の間に循環的に適応する。
  論文  参考訳（メタデータ） (2024-07-07T05:39:25Z)
• Batch-in-Batch: a new adversarial training framework for initial perturbation and sample selection [9.241737058291823]
  適応学習法は, 単純な一様分布から, 対向サンプルに対する独立な初期摂動を生成する。 モデルを強化するため,Batch-in-Batchと呼ばれるシンプルで効果的なトレーニングフレームワークを提案する。 BBフレームワーク内でトレーニングされたモデルは、様々な対角的設定において、常に高い対角的精度を有することを示す。
  論文  参考訳（メタデータ） (2024-06-06T13:34:43Z)
• CKD: Contrastive Knowledge Distillation from A Sample-wise Perspective [48.99488315273868]
  セマンティックな一貫性を維持しつつ,サンプル単位のロジットアライメントを実現するコントラッシブな知識蒸留フレームワークを提案する。 提案手法は,教師と教師の対照的アライメントを通じて「暗黒知識」をサンプルレベルで伝達する。 CIFAR-100、ImageNet-1K、MS COCOデータセットを含む3つのベンチマークデータセットの総合的な実験を行う。
  論文  参考訳（メタデータ） (2024-04-22T11:52:40Z)
• Certified Machine Unlearning via Noisy Stochastic Gradient Descent [20.546589699647416]
  機械学習は、訓練されたモデルに対する特定のデータポイントの効果を効率的に除去することを目的としている。 本研究では,雑音勾配勾配を非学習に活用し,その最初の近似的非学習保証を確立することを提案する。
  論文  参考訳（メタデータ） (2024-03-25T18:43:58Z)
• Towards Continual Learning Desiderata via HSIC-Bottleneck Orthogonalization and Equiangular Embedding [55.107555305760954]
  本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。 提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
  論文  参考訳（メタデータ） (2024-01-17T09:01:29Z)
• Spanning Training Progress: Temporal Dual-Depth Scoring (TDDS) for Enhanced Dataset Pruning [50.809769498312434]
  我々は、時間的デュアルディープス・スコーリング(TDDS)と呼ばれる新しいデータセット・プルーニング手法を提案する。 本手法は,10%のトレーニングデータで54.51%の精度を達成し,ランダム選択を7.83%以上,他の比較手法を12.69%以上上回る結果を得た。
  論文  参考訳（メタデータ） (2023-11-22T03:45:30Z)
• Towards Sustainable Learning: Coresets for Data-efficient Deep Learning [9.51481812606879]
  CRESTは、データセットに関する厳密な理論的サブセット実験を備えた、最初のスケーラブルなサブセットディープネットワークフレームワークである。 CRESTは、非イメージ関数の最も価値のある例を特定している。
  論文  参考訳（メタデータ） (2023-06-02T02:51:08Z)
• Divide, Conquer, and Combine: Mixture of Semantic-Independent Experts for Zero-Shot Dialogue State Tracking [83.40120598637665]
  対話状態追跡(DST)のためのゼロショット転送学習は、ドメイン内のデータを収集するコストを伴わずに、様々なタスク指向の対話ドメインを扱うのに役立つ。 既存の研究は主に一般化を強化するために、一般的なデータまたはモデルレベルの拡張方法を研究する。 我々は、見られているデータのセマンティクスを明示的に切り離す、単純で効果的な「分割、征服、結合」ソリューションを提案する。
  論文  参考訳（メタデータ） (2023-06-01T08:21:20Z)
• Scale-Equivalent Distillation for Semi-Supervised Object Detection [57.59525453301374]
  近年のSemi-Supervised Object Detection (SS-OD) 法は主に自己学習に基づいており、教師モデルにより、ラベルなしデータを監視信号としてハードな擬似ラベルを生成する。 実験結果から,これらの手法が直面する課題を分析した。 本稿では,大規模オブジェクトサイズの分散とクラス不均衡に頑健な簡易かつ効果的なエンド・ツー・エンド知識蒸留フレームワークであるSED(Scale-Equivalent Distillation)を提案する。
  論文  参考訳（メタデータ） (2022-03-23T07:33:37Z)
• CAFE: Learning to Condense Dataset by Aligning Features [72.99394941348757]
  本稿ではCAFE(Aligning features)によるCondenseデータセットの新しいスキームを提案する。 このアプローチの核心は、さまざまなスケールにわたる実データと合成データから機能を整合させる効果的な戦略です。 提案したCAFEを様々なデータセットで検証し,概ね最先端技術であることを示す。
  論文  参考訳（メタデータ） (2022-03-03T05:58:49Z)
• Jo-SRC: A Contrastive Approach for Combating Noisy Labels [58.867237220886885]
  Jo-SRC (Joint Sample Selection and Model Regularization based on Consistency) というノイズロバスト手法を提案する。 具体的には、対照的な学習方法でネットワークをトレーニングする。 各サンプルの2つの異なるビューからの予測は、クリーンまたは分布不足の「可能性」を推定するために使用されます。
  論文  参考訳（メタデータ） (2021-03-24T07:26:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。