Fugu-MT 論文翻訳(概要): Toward Efficient Data-Free Unlearning

論文の概要: Toward Efficient Data-Free Unlearning

arxiv url: http://arxiv.org/abs/2412.13790v1
Date: Wed, 18 Dec 2024 12:32:43 GMT
ステータス: 翻訳完了
システム内更新日: 2024-12-19 13:23:38.068728
Title: Toward Efficient Data-Free Unlearning
Title（参考訳）: 効率的なデータフリー・アンラーニングを目指して
Authors: Chenhao Zhang, Shaofei Shen, Weitong Chen, Miao Xu,
Abstract要約: Inhibited Synthetic PostFilter (ISPF) を提案する。実験の結果,提案したISPFは課題に効果的に取り組み,既存の手法より優れていることが示された。
参考スコア（独自算出の注目度）: 11.15289055963655
License:
Abstract: Machine unlearning without access to real data distribution is challenging. The existing method based on data-free distillation achieved unlearning by filtering out synthetic samples containing forgetting information but struggled to distill the retaining-related knowledge efficiently. In this work, we analyze that such a problem is due to over-filtering, which reduces the synthesized retaining-related information. We propose a novel method, Inhibited Synthetic PostFilter (ISPF), to tackle this challenge from two perspectives: First, the Inhibited Synthetic, by reducing the synthesized forgetting information; Second, the PostFilter, by fully utilizing the retaining-related information in synthesized samples. Experimental results demonstrate that the proposed ISPF effectively tackles the challenge and outperforms existing methods.
Abstract（参考訳）: 実際のデータ配信にアクセスせずに機械学習を行うのは難しい。既存の無水蒸留法は, 忘れた情報を含む合成試料をろ過し, 効率よく保存関連知識を蒸留することが困難であった。本研究では,このような問題は過剰なフィルタリングによるものであり,合成された保持関連情報を低減させる。 Inhibited Synthetic PostFilter (ISPF) は,2つの視点からこの問題に対処する方法を提案する。実験の結果,提案したISPFは課題に効果的に取り組み,既存の手法より優れていることが示された。

関連論文リスト

Unveiling the Flaws: Exploring Imperfections in Synthetic Data and Mitigation Strategies for Large Language Models [89.88010750772413]
大規模言語モデル(LLM)の学習における高品質なデータ不足問題に対する解決法として,合成データを提案する。我々の研究は、Q-A(Q-A)ペア、一般的な合成データに関連するこれらの特定の欠陥を掘り下げ、これらの欠陥を軽減するための未学習技術に基づく方法を提案する。我々の研究は、より堅牢で効率的なLLMトレーニングを促進することを目的として、合成データの効果的な利用に関する重要な洞察を得た。
論文参考訳（メタデータ） (2024-06-18T08:38:59Z)
Reimagining Synthetic Tabular Data Generation through Data-Centric AI: A Comprehensive Benchmark [56.8042116967334]
合成データは、機械学習モデルのトレーニングの代替となる。合成データが現実世界データの複雑なニュアンスを反映することを保証することは、難しい作業です。本稿では,データ中心型AI技術の統合による合成データ生成プロセスのガイドの可能性について検討する。
論文参考訳（メタデータ） (2023-10-25T20:32:02Z)
A Discrepancy Aware Framework for Robust Anomaly Detection [51.710249807397695]
本稿では,DAF(Disdisrepancy Aware Framework)を提案する。本手法は,デコーダの欠陥同定に外見に依存しないキューを利用して,その合成外観への依存を緩和する。単純な合成戦略の下では,既存の手法を大きなマージンで上回り,また,最先端のローカライゼーション性能も達成している。
論文参考訳（メタデータ） (2023-10-11T15:21:40Z)
Feature Matching Data Synthesis for Non-IID Federated Learning [7.740333805796447]
フェデレーション学習(FL)は、中央サーバでデータを収集することなく、エッジデバイス上でニューラルネットワークをトレーニングする。本稿では,局所モデル以外の補助データを共有するハード特徴マッチングデータ合成(HFMDS)手法を提案する。プライバシーの保存性を向上するため,本研究では,実際の特徴を決定境界に向けて伝達する機能拡張手法を提案する。
論文参考訳（メタデータ） (2023-08-09T07:49:39Z)
PLASTIC: Improving Input and Label Plasticity for Sample Efficient Reinforcement Learning [54.409634256153154]
強化学習(RL)では, サンプル効率の向上が重要である。原則として、非政治的なRLアルゴリズムは、環境相互作用毎に複数の更新を可能にすることで、サンプル効率を向上させることができる。本研究は, この現象の原因を, 塑性を2つの側面に分けて検討した。
論文参考訳（メタデータ） (2023-06-19T06:14:51Z)
Post-processing Private Synthetic Data for Improving Utility on Selected Measures [7.371282202708775]
本稿では,エンドユーザが選択した尺度に関して,合成データの有用性を向上するポストプロセッシング手法を提案する。我々のアプローチは、複数のベンチマークデータセットと最先端の合成データ生成アルゴリズムにまたがる合成データの有用性を一貫して改善する。
論文参考訳（メタデータ） (2023-05-24T19:49:50Z)
Bridging the Gap: Enhancing the Utility of Synthetic Data via Post-Processing Techniques [7.967995669387532]
生成モデルは、実世界のデータを置き換えたり拡張したりできる合成データセットを生成するための有望なソリューションとして登場した。本稿では,合成データセットの品質と多様性を向上させるために,新しい3つのポストプロセッシング手法を提案する。 Gap Filler(GaFi)は、Fashion-MNIST、CIFAR-10、CIFAR-100データセットにおいて、実精度スコアとのギャップを2.03%、1.78%、および3.99%に効果的に減少させることを示した。
論文参考訳（メタデータ） (2023-05-17T10:50:38Z)
Few-Shot Class-Incremental Learning via Entropy-Regularized Data-Free Replay [52.251188477192336]
FSCIL (Few-shot class-incremental Learning) は,データ制限のあるクラスを段階的に学習する深層学習システムを実現するために提案されている。データリプレイの採用は驚くほど好都合である,という実証的な結果を通じて示します。本研究では,実データにアクセスすることなく,ジェネレータによるデータ合成が可能なデータフリーリプレイを提案する。
論文参考訳（メタデータ） (2022-07-22T17:30:51Z)
Advancing Semi-Supervised Learning for Automatic Post-Editing: Data-Synthesis by Mask-Infilling with Erroneous Terms [5.366354612549173]
高品質な合成データを作成するためのデータ合成手法に着目する。本稿では,結果の合成データが実際のデータにある翻訳誤りを模倣するデータ合成手法を提案する。実験結果から, 提案手法により生成した合成データを用いることで, 既存の合成データよりもAPEの性能が有意に向上することがわかった。
論文参考訳（メタデータ） (2022-04-08T07:48:57Z)
CAFE: Learning to Condense Dataset by Aligning Features [72.99394941348757]
本稿ではCAFE(Aligning features)によるCondenseデータセットの新しいスキームを提案する。このアプローチの核心は、さまざまなスケールにわたる実データと合成データから機能を整合させる効果的な戦略です。提案したCAFEを様々なデータセットで検証し,概ね最先端技術であることを示す。
論文参考訳（メタデータ） (2022-03-03T05:58:49Z)
Synt++: Utilizing Imperfect Synthetic Data to Improve Speech Recognition [18.924716098922683]
合成データによる機械学習は、合成データと実際のデータ分布のギャップのため、簡単ではない。本稿では,分散ギャップに起因する問題を緩和するために,トレーニング中の2つの新しい手法を提案する。これらの手法は,合成データを用いた音声認識モデルの訓練を著しく改善することを示す。
論文参考訳（メタデータ） (2021-10-21T21:11:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。