論文の概要: Gated Target Propagation for Compositional Generalization in Continual Learning

• arxiv url: http://arxiv.org/abs/2610.04649v1
• Date: Sat, 03 Oct 2026 16:41:19 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-06 20:54:06.070559
• Title: Gated Target Propagation for Compositional Generalization in Continual Learning
• Title（参考訳）: 連続学習における構成的一般化のためのGated Target Propagation
• Abstract要約: GaTaPは、タスク固有のゲーティング変数をクローズド形式のインナーループ更新を通じて学習し、ネットワークモジュールを選択的に抑制または拡張する連続学習アルゴリズムである。 我々は,事前学習したタスクに強い性能保持を示すとともに,推論における数ショットゲイン適応によって達成される未確認タスクへの構成的一般化を示す。 全体として、GaTaPは破滅的な忘れを共同で改善し、ニューラルネットワークモデルにおけるわずかな合成一般化を可能にする強力なフレームワークを提供する。
• 参考スコア（独自算出の注目度）: 17.616180974159377
• License:
• Abstract: Continual learning is typically framed as acquiring new knowledge without catastrophically forgetting previous tasks. However, a flexible continual learner should also be able to reuse and recombine previously acquired knowledge to rapidly solve novel task compositions. We introduce Gated Target Propagation (GaTaP), a continual learning algorithm in which task-specific gating variables---learned through a closed-form inner loop update---selectively suppress or enhance network modules. Network parameters are learned in a slower timescale outer loop, using the same local difference target propagation error signal as is used for adapting gating variables. We provide tractable experiments on class-incremental learning scenarios for both multilayer perceptron and convolutional network architectures. We show strong performance retention on previously learned tasks, as well as compositional generalization to unseen tasks, achieved through few-shot gain adaptation at inference. We analyze learned gating patterns and find that related tasks exhibit similar gating patterns, suggesting that inferred gates capture meaningful, reusable task structure. Overall, GaTaP provides a powerful framework for jointly ameliorating catastrophic forgetting and enabling few-shot compositional generalization in neural network models.
• Abstract（参考訳）: 継続的な学習は通常、以前のタスクを破滅的に忘れることなく、新しい知識を得るものである。 しかし、フレキシブルな連続学習者は、以前に獲得した知識を再利用し、再結合して、新しいタスク構成を迅速に解けるようにすべきである。 Gated Target Propagation (GaTaP)は、タスク固有のゲーティング変数をクローズド形式のインナーループ更新を通じて学習し、ネットワークモジュールを選択的に抑制または拡張する連続学習アルゴリズムである。 ネットワークパラメータは、ゲーティング変数の適応と同じ局所差動目標伝搬誤差信号を用いて、より遅い時間スケール外ループで学習される。 我々は,多層パーセプトロンと畳み込みネットワークアーキテクチャの両方を対象とした,クラスインクリメンタル学習シナリオの抽出可能な実験を行った。 我々は,事前学習したタスクに強い性能保持を示すとともに,推論における数ショットゲイン適応によって達成される未確認タスクへの構成的一般化を示す。 我々は学習したゲーティングパターンを分析し、関連するタスクが同様のゲーティングパターンを示すことを発見し、推論されたゲートが意味のある再利用可能なタスク構造を捉えることを示唆した。 全体として、GaTaPは破滅的な忘れを共同で改善し、ニューラルネットワークモデルにおけるわずかな合成一般化を可能にする強力なフレームワークを提供する。

関連論文リスト

• Knowledge Reutilization in Meta-Reinforcement Learning [51.07319647819108]
  本稿では,動的に単純化されたエージェント上でタスクレベルの知識を学習し,それを異種エージェントに転送するメタ知識再利用フレームワークを提案する。 我々のフレームワークは、最新の最先端ベースラインと比較して、最終段階のトラッキングエラーを94.75% -- 99.79%削減している。
  論文  参考訳（メタデータ） (2026-06-16T16:32:28Z)
• Evolutionary Algorithm for Reservoir Learning and Yielding [2.3946890980915163]
  EARLY (Evolutionary Algorithm for Reservoir Learning and Yielding) は、Echo State Networks (ESN) のアーキテクチャを進化させるためのフレームワークである。 脳のモジュラー構造にインスパイアされたEARLYは、アーキテクチャをグラフベースのゲノムとしてエンコードし、クロスオーバー、突然変異、選択を適用して効果的な構成を発見する。 その結果、進化したアーキテクチャは、複数のタスクをランダムに探索し、タスクの難易度に応じて構造的な違いを示す。 これらの結果から, 進化的探索は, 広範囲の時間的問題に対して, 再利用可能な貯水池構造を同定するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2026-05-19T11:22:21Z)
• HiCL: Hippocampal-Inspired Continual Learning [14.349317103576558]
  HiCLは、海馬にインスパイアされたデュアルメモリ連続学習アーキテクチャである。 海馬回路にインスパイアされた要素を用いて、破滅的な忘れを緩和する方法を示す。
  論文  参考訳（メタデータ） (2025-08-19T23:40:11Z)
• UniFork: Exploring Modality Alignment for Unified Multimodal Understanding and Generation [39.921363034430875]
  統一された画像理解と生成は、マルチモーダル人工知能において有望なパラダイムとして浮上している。 本研究では,タスク固有の専門家モデルの理解と生成のためのモダリティアライメント行動について検討する。 タスクの干渉を避けるため,タスク固有の分岐を深いレイヤに導入しながら,タスクのタスク表現学習のための浅いレイヤを共有する,新しいY字型アーキテクチャであるUniForkを紹介した。
  論文  参考訳（メタデータ） (2025-06-20T17:52:31Z)
• Generalization emerges from local optimization in a self-organized learning network [0.0]
  我々は,グローバルなエラー関数に頼ることなく,局所最適化ルールのみによって駆動される,教師付き学習ネットワーク構築のための新しいパラダイムを設計・分析する。 我々のネットワークは、ルックアップテーブルの形で、ノードに新しい知識を正確かつ瞬時に保存する。 本稿では,学習例数が十分に大きくなると,アルゴリズムによって生成されたネットワークが完全な一般化状態に体系的に到達する,分類タスクの多くの例を示す。 我々は状態変化のダイナミクスについて報告し、それが突然であり、従来の学習ネットワークですでに観察されている現象である1次相転移の特徴を持つことを示す。
  論文  参考訳（メタデータ） (2024-10-03T15:32:08Z)
• ULTRA-DP: Unifying Graph Pre-training with Multi-task Graph Dual Prompt [67.8934749027315]
  本稿では,タスク識別と位置識別をGNNに注入する,グラフハイブリッド事前学習のための統合フレームワークを提案する。 また,約$k$-nearest隣人のグループに基づいた,新しい事前学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-10-23T12:11:13Z)
• Context selectivity with dynamic availability enables lifelong continual learning [8.828725115733986]
  脳は複雑なスキルを学び、何年も練習を止め、その間に他のスキルを学び、必要なときに元の知識を取り戻すことができる。 本稿では,生涯学習における古典的な研究を基盤とした,生物工学的なメタ塑性制御法を提案する。 ニューロン選択性とニューロン全体の統合は、脳内でCLを可能にするための、シンプルで実行可能なメタ可塑性仮説であることを示す。
  論文  参考訳（メタデータ） (2023-06-02T17:04:36Z)
• ForkMerge: Mitigating Negative Transfer in Auxiliary-Task Learning [59.08197876733052]
  補助タスク学習(ATL)は、関連するタスクから得られる知識を活用することにより、目標タスクの性能を向上させることを目的としている。 複数のタスクを同時に学習すると、ターゲットタスクのみを学習するよりも精度が低下することがある。 ForkMergeは、モデルを定期的に複数のブランチにフォークし、タスクの重みを自動的に検索する新しいアプローチである。
  論文  参考訳（メタデータ） (2023-01-30T02:27:02Z)
• Continual Object Detection via Prototypical Task Correlation Guided Gating Mechanism [120.1998866178014]
  pRotOtypeal taSk corrElaTion guided gaTingAnism (ROSETTA)による連続物体検出のためのフレキシブルなフレームワークを提案する。 具体的には、統一されたフレームワークはすべてのタスクで共有され、タスク対応ゲートは特定のタスクのサブモデルを自動的に選択するために導入されます。 COCO-VOC、KITTI-Kitchen、VOCのクラスインクリメンタル検出、および4つのタスクの逐次学習の実験により、ROSETTAが最先端のパフォーマンスを得ることが示された。
  論文  参考訳（メタデータ） (2022-05-06T07:31:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。