論文の概要: A Survey of Machine Unlearning

• arxiv url: http://arxiv.org/abs/2209.02299v6
• Date: Tue, 17 Sep 2024 11:55:58 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-18 23:00:28.838972
• Title: A Survey of Machine Unlearning
• Title（参考訳）: 機械学習に関する調査
• Authors: Thanh Tam Nguyen, Thanh Trung Huynh, Zhao Ren, Phi Le Nguyen, Alan Wee-Chung Liew, Hongzhi Yin, Quoc Viet Hung Nguyen,
• Abstract要約: 最近の規制では、要求に応じて、ユーザに関する個人情報をコンピュータシステムから削除する必要がある。 MLモデルは古いデータをよく記憶します。 機械学習に関する最近の研究は、この問題を完全に解決することはできなかった。
• 参考スコア（独自算出の注目度）: 56.017968863854186
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Today, computer systems hold large amounts of personal data. Yet while such an abundance of data allows breakthroughs in artificial intelligence, and especially machine learning (ML), its existence can be a threat to user privacy, and it can weaken the bonds of trust between humans and AI. Recent regulations now require that, on request, private information about a user must be removed from both computer systems and from ML models, i.e. ``the right to be forgotten''). While removing data from back-end databases should be straightforward, it is not sufficient in the AI context as ML models often `remember' the old data. Contemporary adversarial attacks on trained models have proven that we can learn whether an instance or an attribute belonged to the training data. This phenomenon calls for a new paradigm, namely machine unlearning, to make ML models forget about particular data. It turns out that recent works on machine unlearning have not been able to completely solve the problem due to the lack of common frameworks and resources. Therefore, this paper aspires to present a comprehensive examination of machine unlearning's concepts, scenarios, methods, and applications. Specifically, as a category collection of cutting-edge studies, the intention behind this article is to serve as a comprehensive resource for researchers and practitioners seeking an introduction to machine unlearning and its formulations, design criteria, removal requests, algorithms, and applications. In addition, we aim to highlight the key findings, current trends, and new research areas that have not yet featured the use of machine unlearning but could benefit greatly from it. We hope this survey serves as a valuable resource for ML researchers and those seeking to innovate privacy technologies. Our resources are publicly available at https://github.com/tamlhp/awesome-machine-unlearning.
• Abstract（参考訳）: 現在、コンピュータシステムは大量の個人情報を保有している。 しかし、このような大量のデータが人工知能、特に機械学習(ML)の突破口となる一方で、その存在はユーザーのプライバシーに対する脅威となり、人間とAIの信頼関係を弱める可能性がある。 最近の規制では、要求に応じて、ユーザの個人情報をコンピュータシステムとMLモデルの両方から削除する必要がある。 バックエンドデータベースからデータを削除することは簡単であるべきだが、AIコンテキストでは十分ではない。 訓練されたモデルに対する現代の敵対攻撃は、インスタンスや属性がトレーニングデータに属するかどうかを学習できることを証明している。 この現象は、機械学習モデルを特定のデータを忘れるようにするための新しいパラダイム、すなわち機械学習を求めている。 機械学習に関する最近の研究は、共通のフレームワークやリソースが欠如しているため、この問題を完全に解決できなかったことが判明した。 そこで本研究では,機械学習の概念,シナリオ,手法,応用の総合的な検討をめざす。 具体的には、最先端研究のカテゴリコレクションとして、機械学習とその定式化、設計基準、削除要求、アルゴリズム、アプリケーションの導入を求める研究者や実践者のための総合的なリソースとして機能することを目的としている。 さらに,機械学習をまだ利用していないが,そのメリットを大いに享受できるような,重要な発見や現在の傾向,新たな研究領域の紹介も目指している。 この調査が、ML研究者やプライバシー技術の革新を目指す人々にとって、貴重なリソースになることを願っています。 リソースはhttps://github.com/tamlhp/awesome-machine-unlearning.comで公開されています。

関連論文リスト

• A Review on Machine Unlearning [3.1168315477643245]
  本稿では、機械学習モデルにおけるセキュリティとプライバシに関する詳細をレビューする。 まず、機械学習が日々の生活でユーザーのプライベートデータをどのように活用できるか、そしてこの問題で果たす役割について述べる。 次に,機械学習モデルにおけるセキュリティ脅威を記述することによって,機械学習の概念を導入する。
  論文  参考訳（メタデータ） (2024-11-18T06:18:13Z)
• Verification of Machine Unlearning is Fragile [48.71651033308842]
  両タイプの検証戦略を回避できる2つの新しい非学習プロセスを導入する。 この研究は、機械学習検証の脆弱性と限界を強調し、機械学習の安全性に関するさらなる研究の道を開く。
  論文  参考訳（メタデータ） (2024-08-01T21:37:10Z)
• Machine Unlearning for Document Classification [14.71726430657162]
  機械学習として知られる新しいアプローチが登場し、AIモデルを特定の種類のデータを忘れるようにしている。 この研究は、文書分析アプリケーションにおけるプライバシー問題に対処することを目的とした機械学習手法の開発に向けた先駆的なステップである。
  論文  参考訳（メタデータ） (2024-04-29T18:16:13Z)
• The Frontier of Data Erasure: Machine Unlearning for Large Language Models [56.26002631481726]
  大規模言語モデル(LLM)はAIの進歩の基礎となっている。 LLMは機密情報、偏見情報、著作権情報を記憶し、広めることによってリスクを生じさせる。 機械学習は、これらの懸念を軽減するための最先端のソリューションとして現れます。
  論文  参考訳（メタデータ） (2024-03-23T09:26:15Z)
• Machine Unlearning: Taxonomy, Metrics, Applications, Challenges, and Prospects [17.502158848870426]
  データユーザには、データを忘れる権利が与えられている。 機械学習(ML)の過程で、忘れられた権利は、ユーザーデータを削除するためにモデルプロバイダを必要とする。 機械学習は、業界と学界の両方からますます注目を集めている。
  論文  参考訳（メタデータ） (2024-03-13T05:11:24Z)
• Learn to Unlearn: A Survey on Machine Unlearning [29.077334665555316]
  本稿では,最近の機械学習技術,検証機構,潜在的攻撃について概説する。 新たな課題と今後の研究方向性を強調します。 本稿では、プライバシ、エクイティ、レジリエンスをMLシステムに統合するための貴重なリソースの提供を目的としている。
  論文  参考訳（メタデータ） (2023-05-12T14:28:02Z)
• AI Model Disgorgement: Methods and Choices [127.54319351058167]
  本稿では,現代の機械学習システムに適用可能な分類法を紹介する。 学習モデルにおけるデータ「効果の除去」の意味を,スクラッチからリトレーニングする必要のない方法で検討する。
  論文  参考訳（メタデータ） (2023-04-07T08:50:18Z)
• Privacy Adhering Machine Un-learning in NLP [66.17039929803933]
  現実の業界では、機械学習を使ってユーザデータに基づくモデルを構築します。 このような委任事項には、データだけでなく、モデルの再トレーニングにも労力が要る。 データの継続的な削除と モデル再訓練のステップはスケールしません この課題に対処するために、textitMachine Unlearningを提案する。
  論文  参考訳（メタデータ） (2022-12-19T16:06:45Z)
• Learnware: Small Models Do Big [69.88234743773113]
  自然言語処理やコンピュータビジョンの応用で目覚ましい成果を上げてきた、一般的なビッグモデルパラダイムは、これらの問題にまだ対応していないが、炭素排出量の深刻な源となっている。 この記事では、マシンラーニングモデルをスクラッチから構築する必要がないようにするための学習ソフトウェアパラダイムの概要を紹介します。
  論文  参考訳（メタデータ） (2022-10-07T15:55:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。