Fugu-MT 論文翻訳(概要): Continual Learning with Knowledge Transfer for Sentiment Classification

論文の概要: Continual Learning with Knowledge Transfer for Sentiment Classification

arxiv url: http://arxiv.org/abs/2112.10021v1
Date: Sat, 18 Dec 2021 22:58:21 GMT
ステータス: 処理完了
システム内更新日: 2021-12-22 08:00:09.101471
Title: Continual Learning with Knowledge Transfer for Sentiment Classification
Title（参考訳）: 感情分類のための知識伝達を伴う連続学習
Authors: Zixuan Ke, Bing Liu, Hao Wang, Lei Shu
Abstract要約: Kanは、フォワードとバックワードの知識伝達によって、新しいタスクと古いタスクの両方の精度を著しく向上させることができる。カンの有効性は広範な実験によって実証される。
参考スコア（独自算出の注目度）: 20.5365406439092
License: http://creativecommons.org/publicdomain/zero/1.0/
Abstract: This paper studies continual learning (CL) for sentiment classification (SC). In this setting, the CL system learns a sequence of SC tasks incrementally in a neural network, where each task builds a classifier to classify the sentiment of reviews of a particular product category or domain. Two natural questions are: Can the system transfer the knowledge learned in the past from the previous tasks to the new task to help it learn a better model for the new task? And, can old models for previous tasks be improved in the process as well? This paper proposes a novel technique called KAN to achieve these objectives. KAN can markedly improve the SC accuracy of both the new task and the old tasks via forward and backward knowledge transfer. The effectiveness of KAN is demonstrated through extensive experiments.
Abstract（参考訳）: 本稿では,感情分類のための連続学習(CL)について検討する。この設定では、clシステムはニューラルネットワークで段階的にscタスクのシーケンスを学習し、各タスクは特定の製品カテゴリやドメインのレビューの感情を分類する分類器を構築する。システムは過去に学んだ知識を以前のタスクから新しいタスクに移行して、新しいタスクのより良いモデルを学ぶのに役立つだろうか? そして、以前のタスクの古いモデルもプロセスで改善できるだろうか? 本稿では,これらの目的を達成するための新しい手法であるkanを提案する。 Kanは、新しいタスクと古いタスクの両方のSC精度を前方および後方の知識伝達によって著しく向上させることができる。カンの有効性は広範な実験によって実証される。

関連論文リスト

Fine-Grained Knowledge Selection and Restoration for Non-Exemplar Class Incremental Learning [64.14254712331116]
非典型的なクラスインクリメンタル学習は、過去のトレーニングデータにアクセスすることなく、新しいタスクと古いタスクの両方を学ぶことを目的としている。本稿では, きめ細かい知識選択と復元のための新しい枠組みを提案する。
論文参考訳（メタデータ） (2023-12-20T02:34:11Z)
LIBERO: Benchmarking Knowledge Transfer for Lifelong Robot Learning [64.55001982176226]
LIBEROは、ロボット操作のための生涯学習の新しいベンチマークである。宣言的知識、手続き的知識、あるいは両者の混在を効率的に伝達する方法に焦点を当てる。我々は、無限に多くのタスクを生成できる拡張可能な手続き生成パイプラインを開発した。
論文参考訳（メタデータ） (2023-06-05T23:32:26Z)
Dense Network Expansion for Class Incremental Learning [61.00081795200547]
最先端のアプローチでは、ネットワーク拡張(NE)に基づいた動的アーキテクチャを使用し、タスクごとにタスクエキスパートを追加する。精度とモデル複雑性のトレードオフを改善するために,新しい NE 手法である高密度ネットワーク拡張 (DNE) を提案する。従来のSOTA法では、類似またはより小さなモデルスケールで、精度の点で4%のマージンで性能が向上した。
論文参考訳（メタデータ） (2023-03-22T16:42:26Z)
Beyond Not-Forgetting: Continual Learning with Backward Knowledge Transfer [39.99577526417276]
継続学習(CL)では、エージェントは、新しいタスクと古いタスクの両方の学習性能を向上させることができる。既存のCL手法の多くは、古いタスクに対する学習モデルの修正を最小化することによって、ニューラルネットワークの破滅的な忘れに対処することに焦点を当てている。データ再生のない固定容量ニューラルネットワークに対して,バックワードノウルEdge tRansfer (CUBER) を用いた新しいCL法を提案する。
論文参考訳（メタデータ） (2022-11-01T23:55:51Z)
Effects of Auxiliary Knowledge on Continual Learning [16.84113206569365]
連続学習(CL)では、ニューラルネットワークは、時間とともに分布が変化するデータのストリームに基づいて訓練される。既存のCLアプローチのほとんどは、獲得した知識を保存するソリューションを見つけることに重点を置いている。モデルが新しいタスクを継続的に学習する必要があるため、タスク学習の後に改善する可能性のある現在の知識に焦点を合わせることも重要である、と我々は主張する。
論文参考訳（メタデータ） (2022-06-03T14:31:59Z)
ConTinTin: Continual Learning from Task Instructions [101.36836925135091]
本研究は,新たな学習パラダイムであるConTinTinを定義した。私たちの知る限り、NLPでConTinTinを研究するのは今回が初めてです。
論文参考訳（メタデータ） (2022-03-16T10:27:18Z)
Learning Bayesian Sparse Networks with Full Experience Replay for Continual Learning [54.7584721943286]
継続学習(CL)手法は、機械学習モデルが、以前にマスターされたタスクを壊滅的に忘れることなく、新しいタスクを学習できるようにすることを目的としている。既存のCLアプローチは、しばしば、事前に確認されたサンプルのバッファを保持し、知識蒸留を行い、あるいはこの目標に向けて正規化技術を使用する。我々は,現在および過去のタスクを任意の段階で学習するために,スパースニューロンのみを活性化し,選択することを提案する。
論文参考訳（メタデータ） (2022-02-21T13:25:03Z)
Adapting BERT for Continual Learning of a Sequence of Aspect Sentiment Classification Tasks [22.28374603976649]
本稿では、アスペクト感情分類(ASC)タスクの連続的な学習について研究する。一連のASCタスクを漸進的に学習するCLシステムは、以下の2つの問題に対処する必要がある。これらの問題に対処するために、B-CLと呼ばれる新しいカプセルネットワークモデルが提案されている。
論文参考訳（メタデータ） (2021-12-06T02:46:06Z)
CLASSIC: Continual and Contrastive Learning of Aspect Sentiment Classification Tasks [23.515930312505954]
本稿では、ドメインインクリメンタルラーニング(DIL)と呼ばれる特定のCL設定におけるアスペクト感情分類(ASC)タスクの連続的な学習について研究する。 DIL設定は、テスト時にシステムがテストデータが属するタスク/ドメインを知る必要がないため、ASCに特に適している。重要な新規性は、タスク間の知識伝達と、古いタスクから新しいタスクへの知識蒸留の両方を可能にする、対照的な連続的な学習方法である。
論文参考訳（メタデータ） (2021-12-05T23:55:53Z)
Incremental Embedding Learning via Zero-Shot Translation [65.94349068508863]
現在の最先端のインクリメンタル学習手法は、従来の分類ネットワークにおける破滅的な忘れ方問題に取り組む。ゼロショット変換クラス増分法(ZSTCI)と呼ばれる新しい組込みネットワークのクラス増分法を提案する。さらに、ZSTCIを既存の正規化ベースのインクリメンタル学習手法と組み合わせることで、組み込みネットワークの性能をより向上させることができる。
論文参考訳（メタデータ） (2020-12-31T08:21:37Z)
Efficient Architecture Search for Continual Learning [36.998565674813285]
ニューラルネットワークによる継続的な学習は、一連のタスクをうまく学習することを目的としている。 1)悲惨な忘れる問題を克服し、(2)現在のネットワークを新しいタスクに適応させ、(3)モデルの複雑さを制御する、という3つの課題に直面している。本稿では,CLEAS(Continuous Learning with Efficient Architecture Search)という新しい手法を提案する。
論文参考訳（メタデータ） (2020-06-07T02:59:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。