論文の概要: Machine Unlearning Methodology base on Stochastic Teacher Network

• arxiv url: http://arxiv.org/abs/2308.14322v1
• Date: Mon, 28 Aug 2023 06:05:23 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-29 15:32:41.835086
• Title: Machine Unlearning Methodology base on Stochastic Teacher Network
• Title（参考訳）: 確率的教師ネットワークに基づく機械学習方法論
• Authors: Xulong Zhang, Jianzong Wang, Ning Cheng, Yifu Sun, Chuanyao Zhang, Jing Xiao
• Abstract要約: 「忘れられる権利」は、データ所有者に、モデルトレーニングに使用したデータを積極的に取り出す権利を与える。 既存の機械学習手法は、ディープラーニングモデルから知識を素早く取り除くのに効果がないことが判明した。 本稿では,ネットワークを教師として利用して,忘れられたデータによる影響の軽減を図ることを提案する。
• 参考スコア（独自算出の注目度）: 33.763901254862766
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rise of the phenomenon of the "right to be forgotten" has prompted research on machine unlearning, which grants data owners the right to actively withdraw data that has been used for model training, and requires the elimination of the contribution of that data to the model. A simple method to achieve this is to use the remaining data to retrain the model, but this is not acceptable for other data owners who continue to participate in training. Existing machine unlearning methods have been found to be ineffective in quickly removing knowledge from deep learning models. This paper proposes using a stochastic network as a teacher to expedite the mitigation of the influence caused by forgotten data on the model. We performed experiments on three datasets, and the findings demonstrate that our approach can efficiently mitigate the influence of target data on the model within a single epoch. This allows for one-time erasure and reconstruction of the model, and the reconstruction model achieves the same performance as the retrained model.
• Abstract（参考訳）: 忘れられる権利」という現象が高まり、機械学習の研究が促進され、データ所有者はモデルトレーニングに使われたデータを積極的に取り出す権利を与えられるようになり、モデルへのデータの貢献の排除が求められるようになった。 これを実現するための簡単な方法は、モデルの再トレーニングに残りのデータを使用することだが、トレーニングを継続する他のデータ所有者には受け入れられない。 既存の機械学習手法は、ディープラーニングモデルから知識を素早く取り除くのに効果がないことが判明した。 本稿では,教師としての確率的ネットワークを用いて,忘れられたデータによる影響の軽減を図ることを提案する。 3つのデータセットで実験を行い,提案手法が1時間以内のモデルに対する対象データの影響を効果的に軽減できることを実証した。 これにより、モデルのワンタイム消去と再構築が可能となり、再構成モデルは再訓練されたモデルと同じ性能を達成する。

関連論文リスト

• Attribute-to-Delete: Machine Unlearning via Datamodel Matching [65.13151619119782]
  機械学習 -- 事前訓練された機械学習モデルで、小さな"ターゲットセット"トレーニングデータを効率的に削除する -- は、最近関心を集めている。 最近の研究では、機械学習技術はこのような困難な環境では耐えられないことが示されている。
  論文  参考訳（メタデータ） (2024-10-30T17:20:10Z)
• Why Fine-Tuning Struggles with Forgetting in Machine Unlearning? Theoretical Insights and a Remedial Approach [19.307968983872588]
  ファインチューニング(FT)手法は、未学習を近似するための基本的なアプローチの1つとなっている。 本稿では,線形回帰フレームワーク内での機械学習のためのFT法に関する最初の理論的解析を行う。 本稿では,事前学習モデルにおけるデータ保存の維持を緩和するための理論的アプローチを提案する。
  論文  参考訳（メタデータ） (2024-10-04T18:01:52Z)
• Distilled Datamodel with Reverse Gradient Matching [74.75248610868685]
  オフライントレーニングとオンライン評価段階を含む,データ影響評価のための効率的なフレームワークを提案する。 提案手法は, 直接再学習法と比較して, プロセスの大幅な高速化を図りながら, 同等のモデル行動評価を実現する。
  論文  参考訳（メタデータ） (2024-04-22T09:16:14Z)
• An Information Theoretic Approach to Machine Unlearning [45.600917449314444]
  学びの鍵となる課題は、モデルのパフォーマンスを保ちながら、必要なデータをタイムリーに忘れることである。 この研究では、ゼロショットのアンラーニングシナリオに対処し、未学習のアルゴリズムは、トレーニングされたモデルと忘れられるデータだけが与えられたデータを削除できなければならない。 モデルの幾何に基づいて、単純だが原則化されたゼロショットアンラーニング法を導出する。
  論文  参考訳（メタデータ） (2024-02-02T13:33:30Z)
• Learn to Unlearn for Deep Neural Networks: Minimizing Unlearning Interference with Gradient Projection [56.292071534857946]
  最近のデータプライバシ法は、機械学習への関心を喚起している。 課題は、残りのデータセットに関する知識を変更することなく、忘れたデータに関する情報を捨てることである。 我々は、プロジェクテッド・グラディエント・アンラーニング(PGU)という、プロジェクテッド・グラディエント・ベースの学習手法を採用する。 トレーニングデータセットがもはやアクセスできない場合でも、スクラッチからスクラッチで再トレーニングされたモデルと同じような振る舞いをするモデルを、我々のアンラーニング手法が生成できることを実証するための実証的な証拠を提供する。
  論文  参考訳（メタデータ） (2023-12-07T07:17:24Z)
• Machine Unlearning for Causal Inference [0.6621714555125157]
  モデルが与えられたユーザに関する情報(マシンアンラーニング)の学習/取得の一部を忘れることが重要である。 本稿では、因果推論のための機械学習の概念、特に確率スコアマッチングと治療効果推定について紹介する。 この研究で使用されるデータセットは、ジョブトレーニングプログラムの有効性を評価するために広く使用されているデータセットであるLalondeデータセットである。
  論文  参考訳（メタデータ） (2023-08-24T17:27:01Z)
• Machine Unlearning Method Based On Projection Residual [23.24026891609028]
  本稿ではニュートン法に基づく投射残差法を採用する。 主な目的は、線形回帰モデルとニューラルネットワークモデルという文脈で機械学習タスクを実装することである。 実験により, この手法は, モデル再学習に近いデータ削除において, より徹底的な手法であることが確認された。
  論文  参考訳（メタデータ） (2022-09-30T07:29:55Z)
• Machine Unlearning of Features and Labels [72.81914952849334]
  機械学習モデルにおけるアンラーニングとラベルのファーストシナリオを提案する。 提案手法は,影響関数の概念に基づいて,モデルパラメータのクローズドフォーム更新によるアンラーニングを実現する。
  論文  参考訳（メタデータ） (2021-08-26T04:42:24Z)
• Learning to Reweight with Deep Interactions [104.68509759134878]
  本稿では,教師モデルに内部状態を提供する改良型データ再重み付けアルゴリズムを提案する。 クリーン/ノイズラベルとニューラルマシン翻訳を用いた画像分類実験は、我々のアルゴリズムが従来の手法よりも大幅に改善されていることを実証的に実証した。
  論文  参考訳（メタデータ） (2020-07-09T09:06:31Z)
• Certified Data Removal from Machine Learning Models [79.91502073022602]
  優れたデータスチュワードシップでは、データ所有者の要求でデータを削除する必要がある。 これにより、トレーニングデータに関する情報を暗黙的に格納するトレーニングされた機械学習モデルが、このような削除要求の影響を受けるべきかどうか、という疑問が提起される。 データを削除したモデルと、最初にデータを観測しなかったモデルとを区別できないという非常に強力な理論的保証である。
  論文  参考訳（メタデータ） (2019-11-08T03:57:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。