論文の概要: On Optimization Complexity of Second-Order Certified Unlearning

• arxiv url: http://arxiv.org/abs/2607.20192v1
• Date: Wed, 22 Jul 2026 14:16:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-23 18:51:38.109303
• Title: On Optimization Complexity of Second-Order Certified Unlearning
• Title（参考訳）: 2次認定アンラーニングの最適化複雑性について
• Authors: Nikita Doikov, Anastasia Koloskova,
• Abstract要約: 我々は、未学習アルゴリズムの目標を、認定未学習と最適化の精度を同時に達成するものとして定式化する。 我々は、異方性ガウス機構と最先端のグローバルコンバージェンスを備えた新しい二階未学習アルゴリズムを開発した。
• 参考スコア（独自算出の注目度）: 13.772246033005672
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study machine unlearning: the removal of memorized training data from a trained model. Specifically, we investigate the algorithmic complexity of certified unlearning from an optimization perspective. We formalize the goal of an unlearning algorithm as simultaneously achieving certified unlearning and optimization accuracy. Utilizing the notion of uniformly convex regularizers, we prove new bounds on the distance between initial and unlearned models using a novel substitute for generalization error. Thus we theoretically demonstrate that if the removed data is well-predicted by the unlearned model, the corresponding optimization problem is simple. Furthermore, we develop a new second-order unlearning algorithm with an anisotropic Gaussian mechanism and state-of-the-art global convergence. We prove fast rates for our method in achieving certified unlearning for linear models with quasi-self-concordant losses. As a direct application, our theory covers unlearning for logistic and exponential regressions and shows a provable benefit of utilizing second-order information compared to first-order unlearning methods.
• Abstract（参考訳）: 我々は、トレーニングされたモデルから記憶されたトレーニングデータを除去するマシンアンラーニングについて研究する。 具体的には、最適化の観点から、認定アンラーニングのアルゴリズム的複雑さについて検討する。 我々は、未学習アルゴリズムの目標を、認定未学習と最適化の精度を同時に達成するものとして定式化する。 一様凸正規化子の概念を用いることで、一般化誤差に対する新しい代用法を用いて、初期モデルと未学習モデルの間の距離の新たな境界を証明できる。 理論的には、除去されたデータが未学習モデルによって適切に予測された場合、対応する最適化問題は単純である。 さらに、異方性ガウス機構と最先端のグローバルコンバージェンスを備えた新しい2階未学習アルゴリズムを開発した。 準自己一致の損失を持つ線形モデルに対して,証明された未学習を達成するために,本手法の高速化を実証する。 直接的応用として、ロジスティック回帰と指数回帰の未学習を取り上げ、一階未学習法と比較して二階情報を利用する利点を示す。

関連論文リスト

• Heterogeneous Self-Supervised Acoustic Pre-Training with Local Constraints [64.15709757611369]
  異種データを扱うための自己教師付き事前学習手法を提案する。 提案手法は、下流の教師付き微調整タスクに対する自己教師付き事前訓練モデルの適応性を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2025-08-27T15:48:50Z)
• L-SR1: Learned Symmetric-Rank-One Preconditioning [5.421390145168128]
  エンドツーエンドのディープラーニングは目覚ましい結果を得たが、大きなラベル付きデータセットに依存しているため、依然として制限されている。 対照的に、古典最適化法はデータ効率が高く軽量であるが、しばしば収束が遅い。 そこで本研究では,古典的シンメトリー・ランクワンアルゴリズムを強化するために,トレーニング可能なプレコンディショニングユニットを導入した新しい2次ベクトルを提案する。
  論文  参考訳（メタデータ） (2025-08-17T07:37:29Z)
• Efficient Machine Unlearning via Influence Approximation [75.31015485113993]
  インフルエンサーベースのアンラーニングは、個別のトレーニングサンプルがモデルパラメータに与える影響を再トレーニングせずに推定する顕著なアプローチとして現れてきた。 本稿では,暗記(増分学習)と忘れ(未学習)の理論的関連性を確立する。 本稿では、インフルエンス近似アンラーニングアルゴリズムを導入し、インクリメンタルな視点から効率的なマシンアンラーニングを行う。
  論文  参考訳（メタデータ） (2025-07-31T05:34:27Z)
• Hessian-Free Online Certified Unlearning [8.875278412741695]
  ほぼ瞬時にデータを除去するオンライン・アンラーニングアルゴリズムを開発した。 提案手法は,非学習および一般化保証の観点から,最先端の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-04-02T07:54:18Z)
• Learning to optimize with convergence guarantees using nonlinear system theory [0.4143603294943439]
  本研究では,スムーズな目的関数に対するアルゴリズムの非制約パラメトリゼーションを提案する。 特に、私たちのフレームワークは自動微分ツールと直接互換性があります。
  論文  参考訳（メタデータ） (2024-03-14T13:40:26Z)
• Faster Adaptive Federated Learning [84.38913517122619]
  フェデレートラーニングは分散データの出現に伴って注目を集めている。 本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
  論文  参考訳（メタデータ） (2022-12-02T05:07:50Z)
• Matrix Completion via Non-Convex Relaxation and Adaptive Correlation Learning [90.8576971748142]
  閉形式解によって最適化できる新しいサロゲートを開発する。 そこで我々は, 上向きの相関関係を利用して, 適応的相関学習モデルを構築した。
  論文  参考訳（メタデータ） (2022-03-04T08:50:50Z)
• Simple Stochastic and Online Gradient DescentAlgorithms for Pairwise Learning [65.54757265434465]
  ペアワイズ学習(Pairwise learning)とは、損失関数がペアインスタンスに依存するタスクをいう。 オンライン降下(OGD)は、ペアワイズ学習でストリーミングデータを処理する一般的なアプローチである。 本稿では,ペアワイズ学習のための手法について,シンプルでオンラインな下降を提案する。
  論文  参考訳（メタデータ） (2021-11-23T18:10:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。