論文の概要: The BatchNorm Illusion: Diagnosing Normalization Artifacts in Machine Unlearning Evaluation

• arxiv url: http://arxiv.org/abs/2609.08901v2
• Date: Fri, 11 Sep 2026 09:22:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-15 07:38:31.452949
• Title: The BatchNorm Illusion: Diagnosing Normalization Artifacts in Machine Unlearning Evaluation
• Title（参考訳）: BatchNorm Illusion: 機械学習評価における正規化アーティファクトの診断
• Authors: Aaryaman Kalani, Murari Mandal, Dhruv Kumar, Mohan Kankanhalli, Yash Sinha,
• Abstract要約: 我々は、BatchNormベースのアーキテクチャでアンラーニングがどのように評価されるか、これまで文書化されていなかったコンファウンドを特定した。 我々は、この演算を重み保存された固定点演算子として定式化し、それが引き起こす逆ポストギャップがBN実行統計に起因することを証明した。
• 参考スコア（独自算出の注目度）: 8.644777648927427
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Approximate machine unlearning aims to remove the influence of specific training data from a trained model without retraining from scratch. We identify a previously undocumented confound in how unlearning is evaluated on BatchNorm-based architectures: a single forward pass over retain data, an operation that modifies no weight, can deterministically rewrite the model's normalization state and reverse the apparent surface-metric forgetting. We formalize this operation as a weight-preserving fixed-point operator and prove that any pre-versus-post gap it induces is provably attributable to BN running statistics rather than to any modification the unlearning method made to the weights. This attribution claim cleanly separates measurement failure (BN artifact) from encoder failure (residual weight-encoded information, recently documented in concurrent work), and the same operator framework yields a unique decomposition of linear-probe elevation into BN-measurement-bias and encoder-geometry components. Empirically, the artifact reverses headline forget accuracy by up to 78 pp across nine evaluated methods on standard benchmarks; an attacker with as few as 10 unlabeled images recovers most of the masked accuracy; and a strict GroupNorm control reduces the artifact to zero across all methods. The tested membership-inference attacks change little under recalibration, locating the observed evaluation failure in forget accuracy and linear probing.
• Abstract（参考訳）: Approximate Machine Unlearningは、トレーニングされたモデルから特定のトレーニングデータの影響を、スクラッチからリトレーニングすることなく除去することを目的としている。 我々は、BatchNormベースのアーキテクチャにおいて、未学習がどのように評価されるかについて、これまで文書化されていなかった記述を識別する: 単一のフォワードが保持データに渡される、すなわち、重みを変更せずに、モデルの正規化状態を確定的に書き直し、表面測定の忘れを反転させることができる。 我々は、この演算を重み保存固定点演算子として定式化し、それが引き起こす逆ポストギャップが、重みへの未学習法の変更よりも、BN実行統計に起因することを証明した。 この帰属的主張は、測定失敗(BNアーティファクト)をエンコーダの故障(最近は並列処理で記録された残重エンコーダの情報)からきれいに分離し、同じ演算子フレームワークは、リニアプローブの高度をBN測定バイアスとエンコーダ幾何学成分に一意に分解する。 経験的に、アーティファクトは標準ベンチマークで評価された9つのメソッドで最大78ppの精度で、アタッカーは10個の未ラベルのイメージを持つほとんどのマスクされた精度を回復し、厳格なGroupNormコントロールは、アーティファクトをすべてのメソッドでゼロに削減する。 テストされたメンバシップ推論攻撃は、再校正下ではほとんど変化せず、観測された評価失敗を、精度と線形探索を忘れることなく検出した。

関連論文リスト

• Not Every Subject Should Stay: Machine Unlearning for Noisy Engagement Recognition [53.005382593686356]
  エンゲージメント認識データセットは典型的には主観的インデクシングであり、しばしば騒々しく主観的な監督を含んでいる。 本研究では、この設定を、エンゲージメント認識のためのポストホック衛生機構として、主観レベルマシンアンラーニングを通して研究する。
  論文  参考訳（メタデータ） (2026-05-06T10:03:06Z)
• Rewind-to-Delete: Certified Machine Unlearning for Nonconvex Functions [22.183624306817563]
  機械学習アルゴリズムは、スクラッチを使わずにモデルから効率的にデータを収集することを目的としている。 証明されたマシン・アンラーニングは 微分一般化に基づく 強力な理論上の保証だ
  論文  参考訳（メタデータ） (2024-09-15T15:58:08Z)
• SINDER: Repairing the Singular Defects of DINOv2 [61.98878352956125]
  大規模なデータセットでトレーニングされたビジョントランスフォーマーモデルは、抽出したパッチトークンにアーティファクトを表示することが多い。 本稿では,小さなデータセットのみを用いて構造欠陥を補正するスムーズなスムーズな正規化を提案する。
  論文  参考訳（メタデータ） (2024-07-23T20:34:23Z)
• Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple Logits Retargeting Approach [102.0769560460338]
  我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。 提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-03-01T03:27:08Z)
• Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
  我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。 我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。 製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
  論文  参考訳（メタデータ） (2022-06-23T14:16:30Z)
• READ: Aggregating Reconstruction Error into Out-of-distribution Detection [5.069442437365223]
  ディープニューラルネットワークは異常なデータに対する過信であることが知られている。 本稿では,READ(Reconstruction Error Aggregated Detector)を提案する。 本手法は,従来のOOD検出アルゴリズムと比較して,FPR@95TPRの平均値を最大9.8%削減する。
  論文  参考訳（メタデータ） (2022-06-15T11:30:41Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Unrolling SGD: Understanding Factors Influencing Machine Unlearning [17.6607904333012]
  機械学習は、デプロイされた機械学習モデルがトレーニングデータポイントの1つを忘れるプロセスである。 まず、近似アンラーニングのアプローチとメトリクスを分類する。 検証誤差(L2差)、すなわち、ほとんど学習されていないモデルの重みと鼻再訓練されたモデルのL2差を同定する。
  論文  参考訳（メタデータ） (2021-09-27T23:46:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。