論文の概要: Episodic looking - using reinforcement learning to bias perception enhances few-shot and continual learning with protection from forgetting

• arxiv url: http://arxiv.org/abs/2610.38577v1
• Date: Wed, 28 Oct 2026 10:09:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.391322
• Title: Episodic looking - using reinforcement learning to bias perception enhances few-shot and continual learning with protection from forgetting
• Title（参考訳）: 強調学習をバイアス知覚に利用したエピソード・ルック-は、忘れることを防ぐことで、少数ショットと連続的な学習を促進する
• Abstract要約: 本稿では,STM(Generalization Short-Term Memory)が遅い統計的長期記憶(LTM)に委譲する補完学習システムアーキテクチャ(Complementary Learning System Architecture)に基づく解を提案する。 画像分類タスクにおいて、結果のCLSモデルは、ベースラインのResNet LTMよりもドメインインクリメンタルな学習環境において忘れられやすいことを示し、他の連続的な学習者よりも数ショットでより効果的に一般化する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: There is a fundamental contradiction between the desire for models that can generalize, and models that can continuously adapt to recent input with changing statistics. These conditions, captured in few-shot and continual learning settings, can bias or disrupt learned representations. This harms generalization to a broader context, leaving the model unable to overcome input variance. This paper proposes a solution based on the Complementary Learning System architecture (CLS), in which a Short-Term Memory (STM) delegates generalization to a slow, statistical Long-Term Memory (LTM). Delegation is achieved by working in a space of robust, generalized perceptions produced by the LTM. With this separation, the STM can focus on memorizing recent input and avoiding interference between memories. We show that on an image classification task, the resulting CLS model is more resistant to forgetting in a domain-incremental continual learning setting than a baseline ResNet LTM, and generalizes more effectively in a few-shot setting than other continual learners. In the continual setting, overall accuracy is slightly worse than existing continual learning models, but with a different mix of performance characteristics. Results analysis suggests that the model is limited by the representations and representational plasticity of the LTM. In future work, we will seek to address this by replaying STM memories to the LTM.
• Abstract（参考訳）: 一般化できるモデルへの欲求と、統計の変化とともに最近の入力に継続的に適応できるモデルの間には、根本的な矛盾がある。 これらの条件は、数ショットで連続的な学習設定でキャプチャされ、学習された表現をバイアスまたは妨害することができる。 これにより、より広い文脈での一般化が損なわれ、モデルが入力分散を克服することができない。 本稿では、短期記憶(STM)が一般化を遅く統計的に長期記憶(LTM)に委譲する補足学習システムアーキテクチャ(CLS)に基づく解を提案する。 デリゲーションは、LTMによって生成される堅牢で一般化された知覚の空間で働くことで達成される。 この分離により、STMは最近の入力を記憶することに集中し、記憶間の干渉を避けることができる。 画像分類タスクにおいて、結果のCLSモデルは、ベースラインのResNet LTMよりもドメインインクリメンタルな学習環境において忘れられやすいことを示し、他の連続的な学習者よりも数ショットでより効果的に一般化する。 連続的な設定では、全体的な精度は既存の連続的な学習モデルよりわずかに劣るが、性能特性は異なる。 結果から,LTMの表現と表現の可塑性によってモデルが制限されることが示唆された。 今後の課題として,STM メモリを LTM にリプレイすることで,この問題に対処する。

関連論文リスト

• On the Importance of Gating: Memorization vs. In-Context Learning in State Space Models [50.824624057327725]
  State Space Models (SSM) は Transformers の代替品として登場した。 我々は、このゲーティング機構がSSMにまず、重み付き「記憶」の解を学習させるという理論と実験を通して示している。 一方、ゲーティングは長い列長への一般化を改善するのにしばしば有用である。
  論文  参考訳（メタデータ） (2026-09-15T02:36:13Z)
• Model Inversion with Layer-Specific Modeling and Alignment for Data-Free Continual Learning [19.12792297140574]
  継続的な学習は、以前のタスクのパフォーマンスを維持しながら、一連のタスクでモデルを漸進的にトレーニングすることを目的としています。 データの保存と再生は、プライバシやセキュリティ上の制約によって不可能になることが多い。 単層最適化における高速収束にインスパイアされたPMI(Per-layer Model Inversion)を提案する。
  論文  参考訳（メタデータ） (2025-10-30T09:58:48Z)
• Continual Learning for VLMs: A Survey and Taxonomy Beyond Forgetting [70.83781268763215]
  視覚言語モデル(VLM)は、大規模事前学習を活用することで、多様なマルチモーダルタスクにおいて優れたパフォーマンスを実現している。 VLMは、クロスモーダル機能ドリフト、共有アーキテクチャによるパラメータ干渉、ゼロショット機能侵食など、ユニークな課題に直面している。 本調査は、生涯の視覚言語システムを開発する研究者にとって、包括的かつ診断的な基準となることを目的としている。
  論文  参考訳（メタデータ） (2025-08-06T09:03:10Z)
• PAL: Prompting Analytic Learning with Missing Modality for Multi-Modal Class-Incremental Learning [42.00851701431368]
  マルチモーダルクラスインクリメンタルラーニング(MMCIL)は、音声と視覚、画像とテキストのペアのようなマルチモーダルデータを活用する。 重要な課題は、漸進的な学習フェーズにおけるモダリティの欠如である。 PALは, MMCILに適合した, モダリティの欠如を前提とした, 斬新なフレームワークである。
  論文  参考訳（メタデータ） (2025-01-16T08:04:04Z)
• Learning the Unlearned: Mitigating Feature Suppression in Contrastive Learning [45.25602203155762]
  自己監督型コントラスト学習は、ラベルのないデータから高品質な表現を導き出すのに有効であることが証明されている。 単目的学習とマルチモーダル学習の両方を妨げる大きな課題は、特徴抑制である。 本稿では,新しいモデルに依存しないマルチステージコントラスト学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-02-19T04:13:33Z)
• An Empirical Study of Catastrophic Forgetting in Large Language Models During Continual Fine-tuning [70.48605869773814]
  カタストロフィック・ナッシング(英: Catastrophic forgetting、CF)は、機械学習において、モデルが以前に学習した情報を忘れたときに発生する現象である。 本研究では,大規模言語モデルにおける連続的調律時の忘れ現象を実験的に評価する。
  論文  参考訳（メタデータ） (2023-08-17T02:53:23Z)
• Self-Damaging Contrastive Learning [92.34124578823977]
  ラベルのないデータは一般に不均衡であり、長い尾の分布を示す。 本稿では,クラスを知らずに表現学習を自動的にバランスをとるための,自己学習コントラスト学習という原則的枠組みを提案する。 実験の結果,SDCLRは全体としての精度だけでなく,バランス性も著しく向上することがわかった。
  論文  参考訳（メタデータ） (2021-06-06T00:04:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。