論文の概要: Vector Quantization Prompting for Continual Learning

• arxiv url: http://arxiv.org/abs/2410.20444v1
• Date: Sun, 27 Oct 2024 13:43:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-29 12:16:17.238887
• Title: Vector Quantization Prompting for Continual Learning
• Title（参考訳）: 連続学習のためのベクトル量子化プロンプト
• Authors: Li Jiao, Qiuxia Lai, Yu Li, Qiang Xu,
• Abstract要約: 連続学習は、1つのモデルを一連のタスクでトレーニングする際に破滅的な忘れを克服する必要がある。 最近のトップパフォーマンスアプローチは、学習可能なパラメータのセットを使ってタスク知識をエンコードするプロンプトベースの手法である。 本稿では,ベクトル量子化を離散的なプロンプトのエンドツーエンドトレーニングに組み込む,プロンプトに基づく連続学習手法であるVQ-Promptを提案する。
• 参考スコア（独自算出の注目度）: 23.26682439914273
• License:
• Abstract: Continual learning requires to overcome catastrophic forgetting when training a single model on a sequence of tasks. Recent top-performing approaches are prompt-based methods that utilize a set of learnable parameters (i.e., prompts) to encode task knowledge, from which appropriate ones are selected to guide the fixed pre-trained model in generating features tailored to a certain task. However, existing methods rely on predicting prompt identities for prompt selection, where the identity prediction process cannot be optimized with task loss. This limitation leads to sub-optimal prompt selection and inadequate adaptation of pre-trained features for a specific task. Previous efforts have tried to address this by directly generating prompts from input queries instead of selecting from a set of candidates. However, these prompts are continuous, which lack sufficient abstraction for task knowledge representation, making them less effective for continual learning. To address these challenges, we propose VQ-Prompt, a prompt-based continual learning method that incorporates Vector Quantization (VQ) into end-to-end training of a set of discrete prompts. In this way, VQ-Prompt can optimize the prompt selection process with task loss and meanwhile achieve effective abstraction of task knowledge for continual learning. Extensive experiments show that VQ-Prompt outperforms state-of-the-art continual learning methods across a variety of benchmarks under the challenging class-incremental setting. The code is available at \href{https://github.com/jiaolifengmi/VQ-Prompt}{this https URL}.
• Abstract（参考訳）: 連続学習は、1つのモデルを一連のタスクでトレーニングする際に破滅的な忘れを克服する必要がある。 最近のトップパフォーマンスアプローチは、学習可能なパラメータ(例えば、プロンプト)のセットを利用してタスク知識をエンコードするプロンプトベースの手法であり、そこでは、特定のタスクに適した機能を生成する際に、固定された事前学習モデルをガイドする適切なパラメータが選択される。 しかし、既存の手法では、タスク損失に最適化できない素早い選択のための素早いアイデンティティの予測に頼っている。 この制限は、特定のタスクに対する事前訓練された特徴のサブ最適選択と不適切な適応をもたらす。 従来の取り組みでは、一連の候補から選択するのではなく、入力クエリから直接プロンプトを生成することで、この問題に対処しようとしていた。 しかし、これらのプロンプトは連続的であり、タスク知識の表現に十分な抽象化が欠けているため、継続的な学習には効果が低い。 これらの課題に対処するために,ベクトル量子化(VQ)を離散的なプロンプトセットのエンドツーエンドトレーニングに組み込むプロンプトベースの連続学習手法であるVQ-Promptを提案する。 このようにして、VQ-Promptはタスク損失を伴う迅速な選択プロセスを最適化でき、一方で連続学習のためのタスク知識の効果的な抽象化を実現することができる。 大規模な実験により、VQ-Promptは、挑戦的なクラスインクリメンタル設定の下で、様々なベンチマークで最先端の継続的学習手法より優れていることが示された。 コードは \href{https://github.com/jiaolifengmi/VQ-Prompt}{this https URL} で公開されている。

関連論文リスト

• PECTP: Parameter-Efficient Cross-Task Prompts for Incremental Vision Transformer [76.39111896665585]
  インクリメンタルラーニング(IL)は、シーケンシャルタスクの深いモデルを継続的に学習することを目的としている。 近年の大規模事前訓練モデル (PTM) は, 従来の試料を含まない実用ILにおいて, 即時的手法により優れた性能を発揮している。
  論文  参考訳（メタデータ） (2024-07-04T10:37:58Z)
• Q-Tuning: Queue-based Prompt Tuning for Lifelong Few-shot Language Learning [21.261637357094035]
  textbfQ-tuningは、トレーニング済みの言語モデルの生涯学習を可能にする。 新しいタスクを学ぶとき、Q-tuningはタスク固有のプロンプトをトレーニングし、古いタスクからのプロンプトからなるプロンプトキューに追加する。
  論文  参考訳（メタデータ） (2024-04-22T22:04:16Z)
• Semantic Prompting with Image-Token for Continual Learning [7.5140668729696145]
  I-Promptはタスク予測を排除するためのタスクに依存しないアプローチである。 提案手法は,4つのベンチマーク上での競合性能を実現する。 様々なシナリオにまたがって,提案手法の優位性を示す。
  論文  参考訳（メタデータ） (2024-03-18T07:43:14Z)
• Consistent Prompting for Rehearsal-Free Continual Learning [5.166083532861163]
  継続的な学習は、古い知識を忘れずに、モデルが絶えず変化する環境やデータストリームに自律的に適応することを可能にする。 既存のプロンプトベースの手法は、トレーニングとテストの間に不整合であり、その効果を制限している。 より整合性のあるトレーニングとテストのための新しいプロンプトベースの手法であるConsistent Prompting(CPrompt)を提案する。
  論文  参考訳（メタデータ） (2024-03-13T14:24:09Z)
• Hierarchical Prompts for Rehearsal-free Continual Learning [67.37739666753008]
  継続的な学習は、過去のタスク知識の忘れを軽減しつつ、現在のタスク知識を統合する能力をモデルに装備する。 プロンプトチューニングによってインスパイアされたプロンプトベースのメソッドは、凍結したバックボーンを維持し、わずかに学習可能なプロンプトでトレーニングする。 本稿では,H-Prompts(H-Prompts)と呼ばれる連続学習のための新しいリハーサルフリーパラダイムを提案する。
  論文  参考訳（メタデータ） (2024-01-21T16:59:44Z)
• Active Instruction Tuning: Improving Cross-Task Generalization by Training on Prompt Sensitive Tasks [101.40633115037983]
  インストラクションチューニング(IT)は,大規模言語モデル(LLM)を命令付き多種多様なタスクで訓練することにより,印象的なゼロショット一般化を実現する。 ITモデルの性能と一般化性を改善するために、新しいタスクをどのように選択するかは、未解決の問題である。 本稿では,情報的タスクを識別する新しいフレームワークである即時不確実性に基づくアクティブな指導チューニングを提案し,選択したタスク上でモデルをアクティブにチューニングする。
  論文  参考訳（メタデータ） (2023-11-01T04:40:05Z)
• Reinforcement Learning with Success Induced Task Prioritization [68.8204255655161]
  本稿では,自動カリキュラム学習のためのフレームワークであるSuccess induced Task Prioritization (SITP)を紹介する。 アルゴリズムはエージェントに最速の学習を提供するタスクの順序を選択する。 我々は,SITPが他のカリキュラム設計手法と一致するか,あるいは上回っていることを実証する。
  論文  参考訳（メタデータ） (2022-12-30T12:32:43Z)
• Instance-wise Prompt Tuning for Pretrained Language Models [72.74916121511662]
  インスタンスワイドのPrompt Tuning(IPT)は、入力データインスタンスからプロンプトに知識を注入する最初のプロンプト学習パラダイムである。 IPTはタスクベースのプロンプト学習法を著しく上回り、調律パラメータのわずか0.5%から1.5%で従来の微調整に匹敵する性能を達成している。
  論文  参考訳（メタデータ） (2022-06-04T10:08:50Z)
• Continual Prompt Tuning for Dialog State Tracking [58.66412648276873]
  望ましいダイアログシステムは、古いスキルを忘れずに継続的に新しいスキルを学ぶことができるべきである。 本稿では,タスク間の知識伝達を可能にするパラメータ効率フレームワークであるContinuous Prompt Tuningを提案する。
  論文  参考訳（メタデータ） (2022-03-13T13:22:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。