論文の概要: Machine Unlearning for Traditional Models and Large Language Models: A Short Survey

• arxiv url: http://arxiv.org/abs/2404.01206v1
• Date: Mon, 1 Apr 2024 16:08:18 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-03 21:55:47.471614
• Title: Machine Unlearning for Traditional Models and Large Language Models: A Short Survey
• Title（参考訳）: 伝統的なモデルと大規模言語モデルのための機械学習:短い調査
• Authors: Yi Xu,
• Abstract要約: 機械学習は、データを削除し、ユーザーの要求に応じてモデルへの影響を減らすことを目的としている。 本稿では,従来のモデルとLarge Language Models(LLMs)の両方の非学習を分類し,検討する。
• 参考スコア（独自算出の注目度）: 11.539080008361662
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the implementation of personal data privacy regulations, the field of machine learning (ML) faces the challenge of the "right to be forgotten". Machine unlearning has emerged to address this issue, aiming to delete data and reduce its impact on models according to user requests. Despite the widespread interest in machine unlearning, comprehensive surveys on its latest advancements, especially in the field of Large Language Models (LLMs) is lacking. This survey aims to fill this gap by providing an in-depth exploration of machine unlearning, including the definition, classification and evaluation criteria, as well as challenges in different environments and their solutions. Specifically, this paper categorizes and investigates unlearning on both traditional models and LLMs, and proposes methods for evaluating the effectiveness and efficiency of unlearning, and standards for performance measurement. This paper reveals the limitations of current unlearning techniques and emphasizes the importance of a comprehensive unlearning evaluation to avoid arbitrary forgetting. This survey not only summarizes the key concepts of unlearning technology but also points out its prominent issues and feasible directions for future research, providing valuable guidance for scholars in the field.
• Abstract（参考訳）: 個人データプライバシー規則の実装により、機械学習(ML)の分野は「忘れられる権利」という課題に直面している。 マシンアンラーニングは、データを削除し、ユーザー要求に応じてモデルへの影響を減らすことを目的として、この問題に対処する。 機械学習に広く関心が寄せられているにもかかわらず、特にLLM(Large Language Models)分野における最新の進歩に関する総合的な調査は欠落している。 この調査は、定義、分類、評価基準、および異なる環境とそのソリューションにおける課題を含む、機械学習の詳細な調査を提供することによって、このギャップを埋めることを目的としている。 具体的には,従来のモデルとLLMの両方のアンラーニングを分類・検討し,アンラーニングの有効性と効率を評価する手法と性能測定基準を提案する。 本稿では、現在の未学習手法の限界を明らかにするとともに、任意の忘れることを避けるための総合的未学習評価の重要性を強調する。 この調査は、未学習技術の重要概念を要約するだけでなく、今後の研究の目立った課題と実現可能な方向性を指摘し、この分野の学者に貴重なガイダンスを提供する。

関連論文リスト

• A Survey of Small Language Models [104.80308007044634]
  小言語モデル (SLM) は, 計算資源の最小化による言語タスクの効率化と性能の向上により, ますます重要になってきている。 本稿では,SLMのアーキテクチャ,トレーニング技術,モデル圧縮技術に着目した総合的な調査を行う。
  論文  参考訳（メタデータ） (2024-10-25T23:52:28Z)
• Federated Learning driven Large Language Models for Swarm Intelligence: A Survey [2.769238399659845]
  Federated Learning (FL)は、大規模言語モデル(LLM)をトレーニングするための魅力的なフレームワークを提供する 私たちは機械学習に重点を置いています。これは、忘れられる権利のようなプライバシー規則に従う上で重要な側面です。 摂動技術やモデル分解,漸進学習など,効果的なアンラーニングを可能にするさまざまな戦略を探求する。
  論文  参考訳（メタデータ） (2024-06-14T08:40:58Z)
• The Frontier of Data Erasure: Machine Unlearning for Large Language Models [56.26002631481726]
  大規模言語モデル(LLM)はAIの進歩の基礎となっている。 LLMは機密情報、偏見情報、著作権情報を記憶し、広めることによってリスクを生じさせる。 機械学習は、これらの懸念を軽減するための最先端のソリューションとして現れます。
  論文  参考訳（メタデータ） (2024-03-23T09:26:15Z)
• Machine Unlearning: Taxonomy, Metrics, Applications, Challenges, and Prospects [17.502158848870426]
  データユーザには、データを忘れる権利が与えられている。 機械学習(ML)の過程で、忘れられた権利は、ユーザーデータを削除するためにモデルプロバイダを必要とする。 機械学習は、業界と学界の両方からますます注目を集めている。
  論文  参考訳（メタデータ） (2024-03-13T05:11:24Z)
• Machine Unlearning: Solutions and Challenges [21.141664917477257]
  機械学習モデルは、機密性、不正、悪意のあるデータを不注意に記憶し、プライバシ侵害、セキュリティ脆弱性、パフォーマンス劣化のリスクを生じさせる可能性がある。 これらの問題に対処するために、機械学習は訓練されたモデルに対する特定の訓練データポイントの影響を選択的に除去する重要なテクニックとして登場した。 本稿では,機械学習における解の包括的分類と解析について述べる。
  論文  参考訳（メタデータ） (2023-08-14T10:45:51Z)
• Machine Unlearning: A Survey [56.79152190680552]
  プライバシ、ユーザビリティ、および/または忘れられる権利のために、特定のサンプルに関する情報をマシンアンラーニングと呼ばれるモデルから削除する必要がある特別なニーズが生まれている。 この新興技術は、その革新と実用性により、学者と産業の両方から大きな関心を集めている。 この複雑なトピックを分析したり、さまざまなシナリオで既存の未学習ソリューションの実現可能性を比較したりした研究はない。 この調査は、未学習のテクニックに関する卓越した問題と、新しい研究機会のための実現可能な方向性を強調して締めくくった。
  論文  参考訳（メタデータ） (2023-06-06T10:18:36Z)
• Exploring the Landscape of Machine Unlearning: A Comprehensive Survey and Taxonomy [17.535417441295074]
  機械学習(ML)モデルによる予測の削除や修正の必要性から、機械学習(MU)が注目を集めている。 本稿では,現在の最先端技術とアプローチを網羅したMUの包括的調査を行う。 また、攻撃の高度化、標準化、転送可能性、解釈可能性、リソース制約など、対処すべき課題を強調している。
  論文  参考訳（メタデータ） (2023-05-10T12:02:18Z)
• Privacy Adhering Machine Un-learning in NLP [66.17039929803933]
  現実の業界では、機械学習を使ってユーザデータに基づくモデルを構築します。 このような委任事項には、データだけでなく、モデルの再トレーニングにも労力が要る。 データの継続的な削除と モデル再訓練のステップはスケールしません この課題に対処するために、textitMachine Unlearningを提案する。
  論文  参考訳（メタデータ） (2022-12-19T16:06:45Z)
• Learnware: Small Models Do Big [69.88234743773113]
  自然言語処理やコンピュータビジョンの応用で目覚ましい成果を上げてきた、一般的なビッグモデルパラダイムは、これらの問題にまだ対応していないが、炭素排出量の深刻な源となっている。 この記事では、マシンラーニングモデルをスクラッチから構築する必要がないようにするための学習ソフトウェアパラダイムの概要を紹介します。
  論文  参考訳（メタデータ） (2022-10-07T15:55:52Z)
• A Survey of Machine Unlearning [56.017968863854186]
  最近の規制では、要求に応じて、ユーザに関する個人情報をコンピュータシステムから削除する必要がある。 MLモデルは古いデータをよく記憶します。 機械学習に関する最近の研究は、この問題を完全に解決することはできなかった。
  論文  参考訳（メタデータ） (2022-09-06T08:51:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。