論文の概要: GAP-Prompt: Gated Adaptive Prompting for Efficient Continual Learning
- arxiv url: http://arxiv.org/abs/2608.23782v1
- Date: Mon, 24 Aug 2026 19:25:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.567984
- Title: GAP-Prompt: Gated Adaptive Prompting for Efficient Continual Learning
- Title(参考訳): GAP-Prompt: 効果的な継続的学習のための学習適応型プロンプト
- Abstract要約: Gated Adaptive Prompting (GAP-Prompt) は、インスタンスレベルの適応性をプロンプトプロセスに導入する新しい手法である。
GAP-Promptは、CIFAR-100、ImageNet-R、CUB-200ベンチマークの最先端性能を一貫して達成している。
- 参考スコア(独自算出の注目度): 4.175654562922818
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Continual learning faces the persistent challenge of catastrophic forgetting, where sequential task updates degrade previously acquired knowledge. While prompt-based methods integrated with pre-trained models offer a compelling solution by freezing the backbone, they often rely on static, task-level prompting strategies that overlook fine-grained intra-task diversity. In this paper, we propose Gated Adaptive Prompting (GAP-Prompt), a novel method that introduces instance-level adaptability to the prompting process. GAP-Prompt consists of three synergistic modules: (1) instance-conditioned gating, which dynamically determines optimal prompt injection layers for each individual image; (2) dynamic knowledge fusion, which performs instance-aware aggregation of current and historical prompts, enabling knowledge integration across tasks; and (3) shared prompt distillation, which anchors foundational knowledge in early shared layers to mitigate forgetting. Extensive evaluations on CIFAR-100, ImageNet-R, and CUB-200 benchmarks demonstrate that GAP-Prompt consistently achieves state-of-the-art performance. Notably, on the fine-grained CUB-200 dataset, GAP-Prompt reaches 87.29% accuracy, approaching the joint training upper bound (88.00%) and outperforming existing methods by a significant margin.
- Abstract(参考訳): 継続的な学習は破滅的な忘れ込みという永続的な課題に直面している。
事前訓練されたモデルと統合されたプロンプトベースの手法は、バックボーンを凍結することで魅力的な解決策を提供するが、それらはしばしばタスクレベルの静的なプロンプト戦略に依存している。
本稿では,GAP-Prompt(Gated Adaptive Prompting, GAP-Prompt)を提案する。
GAP-Promptは3つの相乗的モジュールから構成される。(1)個々の画像に対して最適なプロンプト注入層を動的に決定するインスタンス条件ゲーティング、(2)現在のプロンプトと歴史的プロンプトのインスタンス認識アグリゲーションを実行する動的知識融合、(3)共有プロンプト蒸留、(3)初期の共有層における基礎的知識を緩和し、忘れを緩和する。
CIFAR-100、ImageNet-R、CUB-200ベンチマークの大規模な評価は、GAP-Promptが常に最先端のパフォーマンスを達成することを示す。
特に、きめ細かいCUB-200データセットでは、GAP-Promptは87.29%の精度に達し、ジョイントトレーニングの上界(88.00%)に近づき、既存の手法をかなり上回っている。
関連論文リスト
- Teaching Prompts to Coordinate: Hierarchical Layer-Grouped Prompt Tuning for Continual Learning [69.17264556340244]
連続学習のための階層型階層型プロンプトチューニング手法を提案する。
i) 同じグループの層がほぼ同じプロンプトを共有し、位置符号化によって調整される。
単一のタスク固有のルートプロンプトを使用して、各レイヤグループのサブプロンプトを生成する。
論文 参考訳(メタデータ) (2025-11-15T08:15:51Z) - Parameterized Prompt for Incremental Object Detection [40.077943384096805]
既存のプロンプト プールベースのアプローチは、インクリメンタルタスクにまたがる不整合クラスセットを前提とします。
共起シナリオでは、以前のタスクからラベル付けされていないオブジェクトが現在のタスクイメージに表示され、プロンプトプールが混乱する可能性がある。
本稿では,タスク間の適応的な整合性を示すために,破滅的な忘れを抑えるために,制約のある更新を施す必要があることを留意する。
論文 参考訳(メタデータ) (2025-10-31T09:41:49Z) - FDBPL: Faster Distillation-Based Prompt Learning for Region-Aware Vision-Language Models Adaptation [17.51747913191231]
大規模なtextbfFaster large textbfDistillation-large textbfBased large textbfPrompt large textbfLL (textbfFDBPL) を提案する。
複数のトレーニングステージにまたがってソフトな監視コンテキストを共有し、アクセラレーションされたI/Oを実装することで、問題に対処する。11データセットにわたる包括的な評価は、ベース・ツー・ニューな一般化、クロス・データセットの転送、ロバストネステストにおいて優れたパフォーマンスを示し、より高速なトレーニング速度で2.2倍の速さで達成する。
論文 参考訳(メタデータ) (2025-05-23T15:57:16Z) - Prompt-OT: An Optimal Transport Regularization Paradigm for Knowledge Preservation in Vision-Language Model Adaptation [5.296260279593993]
CLIPのような視覚言語モデル(VLM)は、強力なパフォーマンスを示すが、下流タスクに適応する際には苦労する。
本稿では,特徴分布の構造的整合性を保つことにより,忘れを軽減できる最適トランスポート(OT)誘導型プロンプト学習フレームワークを提案する。
提案手法は,視覚とテキスト表現の両面に制約を課し,全体的な特徴の整合性を確保する。
論文 参考訳(メタデータ) (2025-03-11T21:38:34Z) - CAPrompt: Cyclic Prompt Aggregation for Pre-Trained Model Based Class Incremental Learning [12.249938312431993]
本稿では,タスクID予測への依存性を排除するために,新しいCAPromptアグリゲーション法を提案する。
凹凸条件下では、集約プロンプトは単一のタスク固有のプロンプトを選択するよりも低いエラーを達成する。
提案したCAPromptは最先端手法を2%-3%上回る性能を示した。
論文 参考訳(メタデータ) (2024-12-12T04:34:28Z) - LW2G: Learning Whether to Grow for Prompt-based Continual Learning [55.552510632228326]
最近のPromptベースの連続学習は、事前訓練されたモデルで顕著な性能を達成した。
これらのアプローチは、学習中に新しいプロンプトセットを追加してプロンプトプールを拡張し、推論中に正しいセットを選択する。
従来,PCLの性能向上に課題を呈する課題として,タスク指向のプロンプトセットの個別化と選択精度の低さが指摘されてきた。
論文 参考訳(メタデータ) (2024-09-27T15:55:13Z) - PECTP: Parameter-Efficient Cross-Task Prompts for Incremental Vision Transformer [76.39111896665585]
インクリメンタルラーニング(IL)は、シーケンシャルタスクの深いモデルを継続的に学習することを目的としている。
近年の大規模事前訓練モデル (PTM) は, 従来の試料を含まない実用ILにおいて, 即時的手法により優れた性能を発揮している。
論文 参考訳(メタデータ) (2024-07-04T10:37:58Z) - Adaptive Retention & Correction: Test-Time Training for Continual Learning [114.5656325514408]
連続学習における一般的な問題は、最新のタスクに対する分類層のバイアスである。
アダプティブ・リテンション・アンド・コレクション (ARC) のアプローチを例に挙げる。
ARCはCIFAR-100とImagenet-Rのデータセットで平均2.7%と2.6%のパフォーマンス向上を達成した。
論文 参考訳(メタデータ) (2024-05-23T08:43:09Z) - Hierarchical Prompts for Rehearsal-free Continual Learning [67.37739666753008]
継続的な学習は、過去のタスク知識の忘れを軽減しつつ、現在のタスク知識を統合する能力をモデルに装備する。
プロンプトチューニングによってインスパイアされたプロンプトベースのメソッドは、凍結したバックボーンを維持し、わずかに学習可能なプロンプトでトレーニングする。
本稿では,H-Prompts(H-Prompts)と呼ばれる連続学習のための新しいリハーサルフリーパラダイムを提案する。
論文 参考訳(メタデータ) (2024-01-21T16:59:44Z) - Self-regulating Prompts: Foundational Model Adaptation without
Forgetting [112.66832145320434]
本稿では,PromptSRCと呼ばれる自己正規化フレームワークを提案する。
PromptSRCはタスク固有の汎用表現とタスクに依存しない汎用表現の両方に最適化するプロンプトを導く。
論文 参考訳(メタデータ) (2023-07-13T17:59:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。