論文の概要: Neural Networks Remember More: The Power of Parameter Isolation and Combination

• arxiv url: http://arxiv.org/abs/2502.10966v1
• Date: Sun, 16 Feb 2025 02:58:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-18 14:16:15.504017
• Title: Neural Networks Remember More: The Power of Parameter Isolation and Combination
• Title（参考訳）: ニューラルネットワーク:パラメータ分離と組み合わせの力
• Authors: Biqing Zeng, Zehan Li, Aladdin Ayesh,
• Abstract要約: 破滅的な忘れは、事前訓練された言語モデルにとって広範囲にわたる問題である。 この問題を解決するための鍵は、モデルの可塑性と安定性の間のトレードオフを見つけることである。 モデル安定性と塑性のバランスをとるための新しい手法を提案する。
• 参考スコア（独自算出の注目度）: 3.2430260063115233
• License:
• Abstract: Catastrophic forgetting is a pervasive issue for pre-trained language models (PLMs) during continual learning, where models lose previously acquired knowledge when sequentially trained on a series of tasks. The model's ability to retain old tasks is referred to as stability, while its adaptability to new tasks is called plasticity. Therefore, the key to solving this problem is to find a trade-off between the plasticity and stability of the model. To address this issue, in this paper, we propose a novel method to achieve a balance between model stability and plasticity, thereby mitigating catastrophic forgetting. More specifically, our proposed approach leverages parameter isolation and a subsequent combination strategy. Initially, in the training stage, the model adapts to each downstream task via a parameter isolation method to prevent potential interference among different tasks. We then combine all trained parameters, which contain acquired knowledge, using the task arithmetic method and finally apply them to the backbone model. Empirical evaluations on continual language learning benchmarks substantiate the effectiveness of our approach, revealing a marked enhancement over existing state-of-the-art approaches.
• Abstract（参考訳）: カタストロフィックな忘れは、連続学習における事前学習された言語モデル(PLM)の広範にわたる問題であり、一連のタスクで逐次訓練された場合、モデルが獲得した知識を失う。 モデルが古いタスクを保持する能力は安定性と呼ばれ、新しいタスクへの適応性は可塑性と呼ばれる。 したがって、この問題を解決する鍵は、モデルの可塑性と安定性の間のトレードオフを見つけることである。 そこで本研究では,モデル安定性と塑性のバランスを保ち,破滅的忘れを緩和する新しい手法を提案する。 具体的には,パラメータ分離とその後の組み合わせ戦略を利用する。 トレーニング段階では、モデルはパラメータ分離メソッドを介して各下流タスクに適応し、異なるタスク間の潜在的な干渉を防ぐ。 次に、獲得した知識を含む訓練されたパラメータをすべて組み合わせ、タスク演算法を用いて、最終的にそれらをバックボーンモデルに適用する。 継続言語学習ベンチマークの実証的評価は、我々のアプローチの有効性を裏付けるものであり、既存の最先端アプローチに対する顕著な拡張が示される。

関連論文リスト

• Robust Disentangled Counterfactual Learning for Physical Audiovisual Commonsense Reasoning [24.671771440617288]
  本稿では,身体的視覚的コモンセンス推論のためのロバスト・ディスタングル・カウンタフル・ラーニング(RDCL)手法を提案する。 主な課題は、欠落したモダリティのシナリオの下でも、人間の推論能力を模倣する方法である。 提案手法は,VLMを含む任意のベースラインに組み込むことができるプラグアンドプレイモジュールである。
  論文  参考訳（メタデータ） (2025-02-18T01:49:45Z)
• Merging Models on the Fly Without Retraining: A Sequential Approach to Scalable Continual Model Merging [75.93960998357812]
  ディープモデルマージ(Deep Modelmerging)は、複数の微調整モデルを組み合わせて、さまざまなタスクやドメインにまたがる能力を活用する、新たな研究方向を示すものだ。 現在のモデルマージ技術は、全ての利用可能なモデルを同時にマージすることに集中しており、重量行列に基づく手法が主要なアプローチである。 本稿では,モデルを逐次処理するトレーニングフリーなプロジェクションベース連続マージ手法を提案する。
  論文  参考訳（メタデータ） (2025-01-16T13:17:24Z)
• Temporal-Difference Variational Continual Learning [89.32940051152782]
  現実世界のアプリケーションにおける機械学習モデルの重要な機能は、新しいタスクを継続的に学習する能力である。 継続的な学習設定では、モデルは以前の知識を保持することで新しいタスクの学習のバランスをとるのに苦労することが多い。 複数の先行推定の正則化効果を統合する新たな学習目標を提案する。
  論文  参考訳（メタデータ） (2024-10-10T10:58:41Z)
• SMILE: Zero-Shot Sparse Mixture of Low-Rank Experts Construction From Pre-Trained Foundation Models [85.67096251281191]
  我々は、ゼロショットスパースミクチャー(SMILE)と呼ばれるモデル融合に対する革新的なアプローチを提案する。 SMILEは、余分なデータやさらなるトレーニングなしに、ソースモデルをMoEモデルにアップスケーリングできる。 画像分類やテキスト生成タスクなど,さまざまなシナリオに対して,フル微調整とLoRA微調整を用いて広範な実験を行う。
  論文  参考訳（メタデータ） (2024-08-19T17:32:15Z)
• InfLoRA: Interference-Free Low-Rank Adaptation for Continual Learning [12.004172212239848]
  連続学習では、複数のタスクを逐次学習する必要がある。 本研究では,連続学習のための干渉のない低ランク適応(InfLoRA)と呼ばれる新しいPEFT手法を提案する。
  論文  参考訳（メタデータ） (2024-03-30T03:16:37Z)
• Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization [51.34904967046097]
  継続的な学習は、モデルが以前に学習した情報を忘れてしまう破滅的な忘れ込みの課題を克服しようとする。 本稿では,パラメータ成長の制約を緩和し,破滅的な忘れを減らし,新しい事前手法を提案する。 以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
  論文  参考訳（メタデータ） (2023-09-15T17:10:51Z)
• SRIL: Selective Regularization for Class-Incremental Learning [5.810252620242912]
  クラスインクリメンタルラーニングは、この課題を克服するために、可塑性と安定性のバランスをとる統合モデルを作成することを目的としている。 本稿では,従来の知識を維持しつつ,新たな知識を受け入れる選択正規化手法を提案する。 CIFAR-100, ImageNet-Subset, ImageNet-Full を用いて提案手法の有効性を検証する。
  論文  参考訳（メタデータ） (2023-05-09T05:04:35Z)
• On the Stability-Plasticity Dilemma of Class-Incremental Learning [50.863180812727244]
  クラス増分学習の第一の目的は、安定性と可塑性のバランスをとることである。 本稿では,近年のクラス増分学習アルゴリズムが,安定性と塑性のトレードオフにいかに効果的かを明らかにすることを目的とする。
  論文  参考訳（メタデータ） (2023-04-04T09:34:14Z)
• Online Continual Learning via the Meta-learning Update with Multi-scale Knowledge Distillation and Data Augmentation [4.109784267309124]
  継続的な学習は、一連のタスクから現在のタスクを迅速かつ継続的に学習することを目的としている。 この手法の一般的な制限は、前のタスクと現在のタスクの間のデータ不均衡である。 マルチスケール知識蒸留とデータ拡張によるメタラーニング更新という新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-09-12T10:03:53Z)
• Goal-Aware Prediction: Learning to Model What Matters [105.43098326577434]
  学習した前進力学モデルを使用する際の根本的な課題の1つは、学習したモデルの目的と下流のプランナーやポリシーの目標とのミスマッチである。 本稿では,タスク関連情報への直接的予測を提案し,そのモデルが現在のタスクを認識し,状態空間の関連量のみをモデル化することを奨励する。 提案手法は,目標条件付きシーンの関連部分を効果的にモデル化し,その結果,標準タスク非依存のダイナミックスモデルやモデルレス強化学習より優れていることがわかった。
  論文  参考訳（メタデータ） (2020-07-14T16:42:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。