論文の概要: Machine Unlearning for Gibbs Supervised Learning Algorithms

• arxiv url: http://arxiv.org/abs/2609.29409v1
• Date: Thu, 24 Sep 2026 11:33:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:09.883373
• Title: Machine Unlearning for Gibbs Supervised Learning Algorithms
• Title（参考訳）: ギブズ監督学習アルゴリズムのための機械学習
• Abstract要約: ギブズ教師付き学習アルゴリズムの正確な未学習を実現する方法を提案する。 ERM-RERにおけるデータポイントの再重み付けのためのフレームワークを提案する。 本稿では,ERM-RERにおける古典的再重み付けデータポイントの新たな構築的,あるいは反対的視点の道を開く。
• 参考スコア（独自算出の注目度）: 6.040904021861969
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this paper, a method for achieving exact unlearning for Gibbs supervised learning algorithms is proposed using a variational formulation inspired by empirical risk minimization subject to relative entropy regularization (ERM-RER). Such a method consists of maximizing the expected empirical risk over the dataset to be unlearned subject to a regularization by relative entropy with respect to the original algorithm. The optimization variable is a probability measure on the models; and the solution is another Gibbs probability measure that represents a new Gibbs supervised learning algorithm. The method guarantees exact unlearning in the sense that the new Gibbs algorithm coincides in distribution with the algorithm that would have been obtained by retraining from scratch on the dataset to be retained. As a byproduct, a framework for reweighting data points in ERM-RER by strategically choosing both the reference measure and the regularization factor is obtained. In this framework, exact unlearning is the special case in which zero-weight is assigned to the contribution of the data points to be unlearned. More generally, depending on the choice of certain parameters, data points can be up-weighted or down-weighted in ERM-RER problems for particular purposes, e.g., controlling the generalization error of Gibbs algorithms. This paves the way for new constructive or adversarial views on classical reweighting data points in ERM-RER.
• Abstract（参考訳）: 本稿では、相対エントロピー正則化(ERM-RER)に基づく経験的リスク最小化に着想を得た変分定式化を用いて、ギブス指導学習アルゴリズムの正確な未学習を実現する方法を提案する。 このような手法は、元のアルゴリズムに対する相対エントロピーによる正規化の対象となるデータセットに対して期待される経験的リスクを最大化する。 最適化変数はモデル上の確率測度であり、解は新しいギブス教師付き学習アルゴリズムを表すギブス確率測度である。 この手法は、新しいギブスアルゴリズムが、保持するデータセットのスクラッチから再トレーニングしたであろうアルゴリズムと、分布において一致しているという意味で、正確なアンラーニングを保証する。 副産物として、基準測度と正規化係数の両方を戦略的に選択してERM−RERのデータポイントを再重み付けする枠組みを得る。 このフレームワークでは、正確なアンラーニングは、ゼロウェイトが未学習のデータポイントの寄与に割り当てられる特別なケースである。 より一般的には、特定のパラメータの選択によって、データポイントは特定の目的、例えばギブスアルゴリズムの一般化誤差を制御するために、ERM-RER問題において重み付けまたは重み付けされる。 このことは、ERM-RERにおける古典的再重み付けデータポイントに関する新しい構築的あるいは敵対的ビューの道を開く。

関連論文リスト

• Self-Regularized Learning Methods [6.30853901017231]
  本稿では,自己正規化の概念に基づいて学習アルゴリズムを解析するための一般的なフレームワークを提案する。 我々は、minmax-optimal rateを含むそのようなアルゴリズムの詳細な統計分析を行う。
  論文  参考訳（メタデータ） (2026-03-17T21:45:50Z)
• Asymptotically Optimal Linear Best Feasible Arm Identification with Fixed Budget [55.938644481736446]
  本稿では,誤差確率の指数的減衰を保証し,最適な腕識別のための新しいアルゴリズムを提案する。 我々は,複雑性のレベルが異なる様々な問題インスタンスに対する包括的経験的評価を通じて,アルゴリズムの有効性を検証する。
  論文  参考訳（メタデータ） (2025-06-03T02:56:26Z)
• STEERING: Stein Information Directed Exploration for Model-Based Reinforcement Learning [111.75423966239092]
  遷移モデルの現在の推定値と未知の最適値との間の積分確率距離(IPM)の観点から探索インセンティブを提案する。 KSDに基づく新しいアルゴリズムを開発した。 textbfSTEin information dirtextbfEcted Explor for model-based textbfReinforcement Learntextbfing。
  論文  参考訳（メタデータ） (2023-01-28T00:49:28Z)
• Mutual Information Learned Regressor: an Information-theoretic Viewpoint of Training Regression Systems [10.314518385506007]
  回帰問題を解くための既存の慣習は平均二乗誤差(MSE)最小化アプローチである。 近年,Yiらは相互情報に基づく教師あり学習フレームワークを提案し,ラベルエントロピー正規化を導入した。 本稿では,相互情報に基づく教師あり学習フレームワークにおける回帰について検討する。
  論文  参考訳（メタデータ） (2022-11-23T03:43:22Z)
• GEC: A Unified Framework for Interactive Decision Making in MDP, POMDP, and Beyond [101.5329678997916]
  対話型意思決定の一般的な枠組みの下で, サンプル高能率強化学習(RL)について検討した。 本稿では,探索とエクスプロイトの基本的なトレードオフを特徴付ける,新しい複雑性尺度である一般化エルダー係数(GEC)を提案する。 低 GEC の RL 問題は非常にリッチなクラスであり、これは低ベルマン楕円体次元問題、双線型クラス、低証人ランク問題、PO-双線型クラス、一般化正規PSR を仮定する。
  論文  参考訳（メタデータ） (2022-11-03T16:42:40Z)
• On the Generalization for Transfer Learning: An Information-Theoretic Analysis [8.102199960821165]
  一般化誤差と転帰学習アルゴリズムの過大なリスクを情報理論で解析する。 我々の結果は、おそらく予想通り、Kulback-Leibler divergenceD(mu|mu')$がキャラクタリゼーションにおいて重要な役割を果たすことを示唆している。 次に、$phi$-divergence や Wasserstein 距離といった他の発散点と結びついた相互情報を一般化する。
  論文  参考訳（メタデータ） (2022-07-12T08:20:41Z)
• Risk Minimization from Adaptively Collected Data: Guarantees for Supervised and Policy Learning [57.88785630755165]
  経験的リスク最小化(Empirical Risk Minimization, ERM)は、機械学習のワークホースであるが、適応的に収集されたデータを使用すると、そのモデルに依存しない保証が失敗する可能性がある。 本研究では,仮説クラス上での損失関数の平均値を最小限に抑えるため,適応的に収集したデータを用いた一般的な重み付きERMアルゴリズムについて検討する。 政策学習では、探索がゼロになるたびに既存の文献のオープンギャップを埋める率-最適後悔保証を提供する。
  論文  参考訳（メタデータ） (2021-06-03T09:50:13Z)
• Fast OSCAR and OWL Regression via Safe Screening Rules [97.28167655721766]
  順序付き$L_1$ (OWL)正規化回帰は、高次元スパース学習のための新しい回帰分析である。 近勾配法はOWL回帰を解くための標準手法として用いられる。 未知の順序構造を持つ原始解の順序を探索することにより、OWL回帰の最初の安全なスクリーニングルールを提案する。
  論文  参考訳（メタデータ） (2020-06-29T23:35:53Z)
• Differentially Private ADMM for Convex Distributed Learning: Improved Accuracy via Multi-Step Approximation [10.742065340992525]
  Alternating Direction Method of Multipliers (ADMM) は分散学習において一般的な計算方法である。 トレーニングデータが機密性のある場合には、交換されたイテレートが深刻なプライバシー上の懸念を引き起こす。 本稿では,様々な凸学習問題に対する精度の向上を図った分散ADMMを提案する。
  論文  参考訳（メタデータ） (2020-05-16T07:17:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。