論文の概要: EvoMU: Evolutionary Machine Unlearning

• arxiv url: http://arxiv.org/abs/2602.02139v1
• Date: Mon, 02 Feb 2026 14:19:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-03 19:28:34.198995
• Title: EvoMU: Evolutionary Machine Unlearning
• Title（参考訳）: EvoMU:進化機械の学習
• Authors: Pawel Batorski, Paul Swoboda,
• Abstract要約: EvoMUは、未学習の損失関数の膨大な空間においてタスク固有の損失を発見する。 この研究は、AIの共同科学者である自動科学的発見の例である。
• 参考スコア（独自算出の注目度）: 13.775690509818753
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine unlearning aims to unlearn specified training data (e.g. sensitive or copyrighted material). A prominent approach is to fine-tune an existing model with an unlearning loss that retains overall utility. The space of suitable unlearning loss functions is vast, making the search for an optimal loss function daunting. Additionally, there might not even exist a universally optimal loss function: differences in the structure and overlap of the forget and retain data can cause a loss to work well in one setting but over-unlearn or under-unlearn in another. Our approach EvoMU tackles these two challenges simultaneously. An evolutionary search procedure automatically finds task-specific losses in the vast space of possible unlearning loss functions. This allows us to find dataset-specific losses that match or outperform existing losses from the literature, without the need for a human-in-the-loop. This work is therefore an instance of automatic scientific discovery, a.k.a. an AI co-scientist. In contrast to previous AI co-scientist works, we do so on a budget: We achieve SotA results using a small 4B parameter model (Qwen3-4B-Thinking), showing the potential of AI co-scientists with limited computational resources. Our experimental evaluation shows that we surpass previous loss-based unlearning formulations on TOFU-5%, TOFU-10%, MUSE and WMDP by synthesizing novel unlearning losses. Our code is available at https://github.com/Batorskq/EvoMU.
• Abstract（参考訳）: 機械学習の目的は、特定のトレーニングデータ(例えば機密性や著作権のある資料)を解放することである。 注目すべきアプローチは、全体的な実用性を維持する未学習の損失を持つ既存のモデルを微調整することである。 適切な未学習損失関数の空間は広大なので、最適損失関数の探索は困難である。 さらに、普遍的に最適な損失関数さえ存在しないかもしれない: 忘れと保持データの構造の相違と重複は、ある設定ではうまく機能するが、別の設定では非学習的あるいは未学習の損失を引き起こす可能性がある。 当社のアプローチであるEvoMUでは,これら2つの課題を同時に解決しています。 進化的探索法は、未学習の損失関数の広大な空間におけるタスク固有の損失を自動的に見つける。 これにより、人間のループを必要とせずに、文献の既存の損失にマッチしたり、上回ったりするデータセット固有の損失を見つけることができます。 この研究は、AIの共同科学者である自動科学的発見の例である。 私たちは、小さな4Bパラメータモデル(Qwen3-4B-Thinking)を使用してSotA結果を達成する。 実験の結果,TOFU-5%,TOFU-10%,MUSE,WMDPの損失ベース未学習定式化は,新規未学習の損失を合成することによって達成できた。 私たちのコードはhttps://github.com/Batorskq/EvoMU.comで公開されています。

関連論文リスト

• BLUR: A Bi-Level Optimization Approach for LLM Unlearning [100.90394814817965]
  未学習問題の階層構造をモデル化することが重要であると論じる。 本稿では,より優れた性能を実現する新しいアルゴリズムであるBi-Level UnleaRning(textttBLUR)を提案する。
  論文  参考訳（メタデータ） (2025-06-09T19:23:05Z)
• What should an AI assessor optimise for? [57.96463917842822]
  AIアセスタ(AI Assessmentor)は、他のAIシステムの指標(損失値など)を予測する、外的、理想的には不適切なシステムである。 ここでは、問題に対処する: 常にターゲットメトリックのアセスメントをトレーニングするのが最適か? 本研究では, モノトニック写像と非モノトニック写像を用いた回帰損失と分類スコアについて実験的に検討した。
  論文  参考訳（メタデータ） (2025-02-01T08:41:57Z)
• Attribute-to-Delete: Machine Unlearning via Datamodel Matching [65.13151619119782]
  機械学習 -- 事前訓練された機械学習モデルで、小さな"ターゲットセット"トレーニングデータを効率的に削除する -- は、最近関心を集めている。 最近の研究では、機械学習技術はこのような困難な環境では耐えられないことが示されている。
  論文  参考訳（メタデータ） (2024-10-30T17:20:10Z)
• On Using Admissible Bounds for Learning Forward Search Heuristics [9.749638953163391]
  学習において,受理者が提供する情報を効果的に活用する方法に焦点をあてる。 学習対象は、学習対象ではなく、この分布の下位境界として、許容値が使用される、切り裂かれたssianとしてモデル化する。 その結果,提案手法はトレーニング中により高速に収束し,より優れたガウスが得られることがわかった。
  論文  参考訳（メタデータ） (2023-08-23T04:14:45Z)
• Alternate Loss Functions for Classification and Robust Regression Can Improve the Accuracy of Artificial Neural Networks [6.452225158891343]
  本稿では,ニューラルネットワークのトレーニング速度と最終的な精度が,ニューラルネットワークのトレーニングに使用する損失関数に大きく依存することを示す。 様々なベンチマークタスクの性能を著しく向上させる2つの新しい分類損失関数を提案する。
  論文  参考訳（メタデータ） (2023-03-17T12:52:06Z)
• Xtreme Margin: A Tunable Loss Function for Binary Classification Problems [0.0]
  本稿では,新しい損失関数 Xtreme Margin の損失関数について概説する。 二進的クロスエントロピーやヒンジ損失関数とは異なり、この損失関数は研究者や実践者がトレーニングプロセスに柔軟性をもたらす。
  論文  参考訳（メタデータ） (2022-10-31T22:39:32Z)
• Omnipredictors [19.735769148626588]
  ロス最小化は機械学習において支配的なパラダイムである。 我々は家族の損失を最適化するために使用できる$mathcalL,mathcalC$)-omnipredictorの概念を紹介した。 このような「余分な知識」の学習は、多重校正とのつながりを通して実現可能であることを示す。
  論文  参考訳（メタデータ） (2021-09-11T23:28:49Z)
• Loss Function Discovery for Object Detection via Convergence-Simulation Driven Search [101.73248560009124]
  本稿では,効率的な収束シミュレーションによる進化的探索アルゴリズムCSE-Autolossを提案する。 一般的な検出器上での損失関数探索の広範囲な評価を行い、探索された損失の優れた一般化能力を検証した。 実験の結果, 2段検出器と1段検出器のmAPでは, 最適損失関数の組み合わせが1.1%と0.8%を上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-02-09T08:34:52Z)
• Predicting Training Time Without Training [120.92623395389255]
  我々は、事前訓練された深層ネットワークが損失関数の所定の値に収束する必要がある最適化ステップの数を予測する問題に取り組む。 我々は、微調整中の深部ネットワークのトレーニングダイナミクスが線形化モデルによってよく近似されているという事実を活用する。 トレーニングをする必要なく、特定の損失にモデルを微調整するのに要する時間を予測できます。
  論文  参考訳（メタデータ） (2020-08-28T04:29:54Z)
• A Loss-Function for Causal Machine-Learning [0.0]
  因果機械学習は、治療のネットエフェクト(真のリフト)を予測することである。 データにポイントワイド真の値がないため、同様のよく定義された損失関数は存在しない。 この文脈で損失関数を定義する新しい手法を提案し、これは標準回帰問題における平均二乗誤差(MSE)と等しい。
  論文  参考訳（メタデータ） (2020-01-02T21:22:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。