論文の概要: Verification of Machine Unlearning is Fragile

• arxiv url: http://arxiv.org/abs/2408.00929v1
• Date: Thu, 1 Aug 2024 21:37:10 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-05 14:56:17.910867
• Title: Verification of Machine Unlearning is Fragile
• Title（参考訳）: 機械学習の検証は誤りである
• Authors: Binchi Zhang, Zihan Chen, Cong Shen, Jundong Li,
• Abstract要約: 両タイプの検証戦略を回避できる2つの新しい非学習プロセスを導入する。 この研究は、機械学習検証の脆弱性と限界を強調し、機械学習の安全性に関するさらなる研究の道を開く。
• 参考スコア（独自算出の注目度）: 48.71651033308842
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As privacy concerns escalate in the realm of machine learning, data owners now have the option to utilize machine unlearning to remove their data from machine learning models, following recent legislation. To enhance transparency in machine unlearning and avoid potential dishonesty by model providers, various verification strategies have been proposed. These strategies enable data owners to ascertain whether their target data has been effectively unlearned from the model. However, our understanding of the safety issues of machine unlearning verification remains nascent. In this paper, we explore the novel research question of whether model providers can circumvent verification strategies while retaining the information of data supposedly unlearned. Our investigation leads to a pessimistic answer: \textit{the verification of machine unlearning is fragile}. Specifically, we categorize the current verification strategies regarding potential dishonesty among model providers into two types. Subsequently, we introduce two novel adversarial unlearning processes capable of circumventing both types. We validate the efficacy of our methods through theoretical analysis and empirical experiments using real-world datasets. This study highlights the vulnerabilities and limitations in machine unlearning verification, paving the way for further research into the safety of machine unlearning.
• Abstract（参考訳）: プライバシーに関する懸念が機械学習の領域でエスカレートする中、データ所有者は機械学習を利用して機械学習モデルからデータを除去するオプションを選択できるようになった。 機械学習における透明性を高め、モデル提供者による潜在的な不正を避けるため、様々な検証戦略が提案されている。 これらの戦略により、データ所有者は、ターゲットデータがモデルから効果的に解放されたかどうかを確認することができる。 しかし、機械学習検証の安全性に関する我々の理解は、いまだに始まったばかりである。 本稿では、モデル提供者が、未学習とされるデータの情報を保持しながら、検証戦略を回避できるかどうかという新たな研究課題を考察する。 我々の調査は悲観的な答えをもたらす: \textit{the validation of machine unlearning is fragile}。 具体的には、モデル提供者間の潜在的な欠点に関する現在の検証戦略を2つのタイプに分類する。 その後、両タイプを回避できる2つの新しい非学習プロセスを紹介した。 実世界のデータセットを用いた理論的解析と実証実験により,本手法の有効性を検証した。 この研究は、機械学習検証の脆弱性と限界を強調し、機械学習の安全性に関するさらなる研究の道を開く。

関連論文リスト

• RESTOR: Knowledge Recovery through Machine Unlearning [71.75834077528305]
  Webスケールコーパスでトレーニングされた大規模な言語モデルは、望ましくないデータポイントを記憶することができる。 訓練されたモデルからこれらのデータポイントを「消去」することを目的とした、多くの機械学習手法が提案されている。 以下に示す次元に基づいて,機械学習のためのRESTORフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-31T20:54:35Z)
• Silver Linings in the Shadows: Harnessing Membership Inference for Machine Unlearning [7.557226714828334]
  ニューラルネットワークから特定のデータサンプルの影響を除去する新しい学習機構を提案する。 この目的を達成するために、我々は、ターゲットモデルの重みやアクティベーション値からプライバシーに敏感な情報を排除するための、新しい損失関数を構築した。 本研究の結果は,未学習の有効性とレイテンシ,および主課題の忠実度の観点から,我々のアプローチの優れた性能を示すものである。
  論文  参考訳（メタデータ） (2024-07-01T00:20:26Z)
• Learn What You Want to Unlearn: Unlearning Inversion Attacks against Machine Unlearning [16.809644622465086]
  我々は、機械学習が未学習データの機密内容を漏洩させる範囲を理解するために、最初の調査を行う。 機械学習・アズ・ア・サービス・セッティングの下で、未学習サンプルの特徴とラベル情報を明らかにするアンラーニング・インバージョン・アタックを提案する。 実験結果から,提案攻撃は未学習データのセンシティブな情報を明らかにすることができることが示された。
  論文  参考訳（メタデータ） (2024-04-04T06:37:46Z)
• The Frontier of Data Erasure: Machine Unlearning for Large Language Models [56.26002631481726]
  大規模言語モデル(LLM)はAIの進歩の基礎となっている。 LLMは機密情報、偏見情報、著作権情報を記憶し、広めることによってリスクを生じさせる。 機械学習は、これらの懸念を軽減するための最先端のソリューションとして現れます。
  論文  参考訳（メタデータ） (2024-03-23T09:26:15Z)
• A Duty to Forget, a Right to be Assured? Exposing Vulnerabilities in Machine Unlearning Services [31.347825826778276]
  機械学習(ML)における未学習サービスによる潜在的な脅威を探究する。 オーバー・アンラーニングを利用してトレードオフバランスに与える影響を計測する2つの戦略を提案する。 その結果,両戦略が未学習シナリオにおけるモデルの有効性を損なう可能性が示唆された。
  論文  参考訳（メタデータ） (2023-09-15T08:00:45Z)
• Machine Unlearning: Solutions and Challenges [21.141664917477257]
  機械学習モデルは、機密性、不正、悪意のあるデータを不注意に記憶し、プライバシ侵害、セキュリティ脆弱性、パフォーマンス劣化のリスクを生じさせる可能性がある。 これらの問題に対処するために、機械学習は訓練されたモデルに対する特定の訓練データポイントの影響を選択的に除去する重要なテクニックとして登場した。 本稿では,機械学習における解の包括的分類と解析について述べる。
  論文  参考訳（メタデータ） (2023-08-14T10:45:51Z)
• Learn to Unlearn: A Survey on Machine Unlearning [29.077334665555316]
  本稿では,最近の機械学習技術,検証機構,潜在的攻撃について概説する。 新たな課題と今後の研究方向性を強調します。 本稿では、プライバシ、エクイティ、レジリエンスをMLシステムに統合するための貴重なリソースの提供を目的としている。
  論文  参考訳（メタデータ） (2023-05-12T14:28:02Z)
• A Survey of Machine Unlearning [56.017968863854186]
  最近の規制では、要求に応じて、ユーザに関する個人情報をコンピュータシステムから削除する必要がある。 MLモデルは古いデータをよく記憶します。 機械学習に関する最近の研究は、この問題を完全に解決することはできなかった。
  論文  参考訳（メタデータ） (2022-09-06T08:51:53Z)
• Machine Unlearning of Features and Labels [72.81914952849334]
  機械学習モデルにおけるアンラーニングとラベルのファーストシナリオを提案する。 提案手法は,影響関数の概念に基づいて,モデルパラメータのクローズドフォーム更新によるアンラーニングを実現する。
  論文  参考訳（メタデータ） (2021-08-26T04:42:24Z)
• Adversarial Attacks on Machine Learning Systems for High-Frequency Trading [55.30403936506338]
  逆機械学習の観点から,アルゴリズム取引のバリュエーションモデルについて検討する。 攻撃コストを最小限に抑えるサイズ制約で、このドメインに特有の新たな攻撃を導入する。 本稿では、金融モデルのロバスト性について研究・評価するための分析ツールとして、これらの攻撃がどのように利用できるかについて論じる。
  論文  参考訳（メタデータ） (2020-02-21T22:04:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。