論文の概要: Classification-Head Bias in Class-Level Machine Unlearning: Diagnosis, Mitigation, and Evaluation

• arxiv url: http://arxiv.org/abs/2605.08730v1
• Date: Sat, 09 May 2026 06:33:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:49.840475
• Title: Classification-Head Bias in Class-Level Machine Unlearning: Diagnosis, Mitigation, and Evaluation
• Title（参考訳）: クラスレベル・マシン・アンラーニングにおける分類・頭部バイアス : 診断・緩和・評価
• Abstract要約: クラスレベルのマシンアンラーニングは、モデルユーティリティを保持しながら、特定のクラスの影響を取り除くことを目的としている。 既存の手法は、保持セット精度、忘れセット精度、未学習時間によって一般に評価される。 我々は,クラスレベルの未学習において,バイアスに支配されるショートカットを明らかにし,最終分類ヘッドの対応するバイアス項を減少させることで,忘れられたクラスの予測を抑えることができる。
• 参考スコア（独自算出の注目度）: 0.7991370731695461
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Class-level machine unlearning aims to remove the influence of specified classes while preserving model utility on retained classes. Existing methods are commonly evaluated by retain-set accuracy, forget-set accuracy, and unlearning time, but these metrics provide limited insight into how forgetting is achieved internally. In this paper, we reveal a bias-dominated shortcut in class-level unlearning: the prediction of forgotten classes can be suppressed by decreasing the corresponding bias terms in the final classification head. We first analyze the gradient dynamics of classification-head biases under softmax cross-entropy training, explaining why retain-set-only optimization tends to reduce the biases of absent classes. Based on this observation, we introduce BiasShift as a diagnostic baseline, showing that simple bias manipulation can satisfy conventional unlearning metrics while leaving abnormal bias patterns that reveal forgotten labels. To mitigate excessive forgotten-class bias suppression, we propose two bias-aware mechanisms, namely Two-Stage Bias Gradient Reversal Mechanism (TS-BGRM) and Lower-Bound Hinge Regularization (LB-HR). We further introduce three bias-oriented metrics, including Bias Stability Coefficient (BSC), Median Bias Gap (MBG), and Minimal Bias Score (MBS), to quantify bias dependence and potential leakage. Experiments on CIFAR-10, CIFAR-100, and Tiny-ImageNet demonstrate that the proposed methods maintain competitive unlearning performance while producing more stable bias distributions. We have released our code at {https://github.com/zwd2024/Beyond-the-Shadow-of-Bias-From-Classification-Head-Bias-to-Parameter-Redi stribution}.
• Abstract（参考訳）: クラスレベルのマシンアンラーニングは、モデルユーティリティを保持しながら、特定のクラスの影響を取り除くことを目的としている。 既存の手法は、保持セットの精度、忘れセットの精度、未学習時間で評価されることが多いが、これらの指標は、内部でどのように忘れられるかについての限られた洞察を与える。 本稿では,クラスレベルの未学習におけるバイアスに支配的なショートカットを明らかにする。最終分類ヘッドにおける対応するバイアス項を減少させることで,忘れられたクラスの予測を抑えることができる。 まず,ソフトマックスクロスエントロピートレーニングにおける分類頭偏差の勾配ダイナミクスを解析し,なぜ保持セットのみの最適化が欠級の偏差を減少させるのかを説明する。 この観察から,BiasShiftを診断基準として導入し,単純なバイアス操作が従来の未学習の指標を満たすと同時に,忘れられたラベルを示す異常なバイアスパターンを残せることを示す。 過度に忘れられたクラスバイアスの抑制を緩和するため,2段階バイアス勾配反転機構 (TS-BGRM) と低境界ヒンジ正規化 (LB-HR) という2つのバイアス認識機構を提案する。 さらに、バイアス依存と潜在的な漏洩を定量化するために、バイアス安定係数(BSC)、メディアバイアスギャップ(MBG)、最小バイアススコア(MBS)の3つのバイアス指向指標を導入する。 CIFAR-10, CIFAR-100, Tiny-ImageNetによる実験により, 提案手法はより安定したバイアス分布を生成するとともに, 競争力のある未学習性能を維持していることが示された。 https://github.com/zwd2024/Beyond-the-Shadow-of-Bias-From-classification-Head-Bias-to-Parameter-redi stribution}でコードを公開しました。

関連論文リスト

• Learning Dynamics of Logits Debiasing for Long-Tailed Semi-Supervised Learning [29.880846977690254]
  長い尾の分布は、擬似ラベルが多数派を好む実世界の半教師付き学習(SSL)で一般的である。 学習力学のレンズを通してLTSSLを再考し,ロジットの偏りを理論的に評価する。 ラベル付きデータを用いたクラス認識型プルーニングとラベル付きデータによる信頼性ベースのソフトプルーニングにより,勾配予算を再配置する原理に基づく動的プルーニングフレームワークDyTrimを提案する。
  論文  参考訳（メタデータ） (2026-08-31T12:38:45Z)
• Neutral-Reference Prompting for Vision-Language Models [14.563492336625004]
  モデルパラメータを変更することなく、未確認クラスの識別を改善するプラグイン・アンド・プレイ・プロンプト補正戦略であるNeRPを提案する。 我々は,NeRPが未知のクラスに対して,既知のクラス予測性能を維持しながら精度を大幅に向上することを示す。
  論文  参考訳（メタデータ） (2026-05-15T04:54:08Z)
• Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
  CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。 シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
  論文  参考訳（メタデータ） (2026-04-11T10:47:22Z)
• Multi Attribute Bias Mitigation via Representation Learning [5.155573439009767]
  実世界のイメージは、テクスチャ、透かし、ジェンダーメイク、シーンオブジェクトペアリングなど、複数の重なり合うバイアスを頻繁に示します。 これは、トレーニング中にのみグループラベルを必要とし、テスト時にバイアスを最小限に抑えるリーン2段階フレームワークである。 GMBMをFB CMNIST, CelebA, COCO上で検証し, 最悪のグループ精度を向上し, 多属性バイアス増幅を半減させ, SBAでは新たな低値を設定した。
  論文  参考訳（メタデータ） (2025-09-03T18:08:59Z)
• LCGC: Learning from Consistency Gradient Conflicting for Class-Imbalanced Semi-Supervised Debiasing [7.868824589618853]
  理論的には、ベースライン画像の利用が疑似ラベルを洗練させ、黒画像が最良の選択であることを証明できる理由を解析する。 本稿では、偏りのあるクラス予測を奨励することで、グラディエント・コンフリクトから学習するLCGCと呼ばれるデバイアス化手法を提案する。 LCGCは、公開ベンチマーク上で既存のCISSLモデルの予測精度を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2025-04-09T02:57:53Z)
• ALBAR: Adversarial Learning approach to mitigate Biases in Action Recognition [52.537021302246664]
  行動認識モデルは、しばしば背景バイアス(背景の手がかりに基づく行動の推測)と前景バイアス(主題の外観に依存する)に悩まされる。 本稿では,前景や背景のバイアスを,バイアス特性の専門知識を必要とせずに軽減する,新たな対人訓練手法であるALBARを提案する。 我々は,提案手法を確立された背景と前景のバイアスプロトコル上で評価し,新しい最先端のバイアスプロトコルを設定し,HMDB51では12%以上のデバイアス性能を向上した。
  論文  参考訳（メタデータ） (2025-01-31T20:47:06Z)
• Sebra: Debiasing Through Self-Guided Bias Ranking [54.09529903433859]
  微粒なスプリシティ推定による試料のランク付けは,近年,バイアス緩和に大きく寄与することが示されている。 新たなulSelf-Guided ulBias ulRanking(emphSebra)に基づく脱バイアスフレームワークを提案する。 Sebraは、各クラス内のスプリシティによって、データポイントの自動ランキングを通じてバイアスを緩和する。
  論文  参考訳（メタデータ） (2025-01-30T11:31:38Z)
• Towards the Mitigation of Confirmation Bias in Semi-supervised Learning: a Debiased Training Perspective [6.164100243945264]
  半教師付き学習(SSL)は、モデルが特定のクラスを不均等に好むという、一般的に確認バイアスを示す。 SSLのデバイアスドトレーニングのための統合フレームワークであるTaMatchを紹介します。 TaMatchは,様々な課題の画像分類タスクにおいて,既存の最先端手法よりも大幅に優れていることを示す。
  論文  参考訳（メタデータ） (2024-09-26T21:50:30Z)
• Class-Imbalanced Graph Learning without Class Rebalancing [62.1368829847041]
  クラス不均衡は実世界のノード分類タスクでよく見られ、グラフ学習モデルには大きな課題がある。 本研究では、トポロジカルパラダイムからクラス不均衡バイアスの根本原因にアプローチする。 我々は,クラス再バランスを伴わずにクラス不均衡バイアスを軽減するために,軽量なトポロジカル拡張フレームワークであるBATを考案した。
  論文  参考訳（メタデータ） (2023-08-27T19:01:29Z)
• Self-supervised debiasing using low rank regularization [59.84695042540525]
  純粋な相関は、ディープニューラルネットワークの強いバイアスを引き起こし、一般化能力を損なう可能性がある。 ラベルのないサンプルと互換性のある自己監督型脱バイアスフレームワークを提案する。 注目すべきは,提案フレームワークが自己教師付き学習ベースラインの一般化性能を著しく向上させることである。
  論文  参考訳（メタデータ） (2022-10-11T08:26:19Z)
• Ensembling over Classifiers: a Bias-Variance Perspective [13.006468721874372]
  Pfau (2013) による偏差分解の拡張の上に構築し, 分類器のアンサンブルの挙動に関する重要な知見を得る。 条件付き推定は必然的に既約誤差を生じさせることを示す。 経験的に、標準的なアンサンブルはバイアスを減少させ、この予期せぬ減少のために、分類器のアンサンブルがうまく機能するかもしれないという仮説を立てる。
  論文  参考訳（メタデータ） (2022-06-21T17:46:35Z)
• Relieving Long-tailed Instance Segmentation via Pairwise Class Balance [85.53585498649252]
  長い尾のインスタンスセグメンテーションは、クラス間のトレーニングサンプルの極端な不均衡のために難しいタスクである。 尾のついたものに対して、(大多数のサンプルを含む)ヘッドクラスの深刻なバイアスを引き起こす。 そこで本研究では,学習中の予測嗜好を蓄積するために,学習中に更新される混乱行列上に構築された新しいPairwise Class Balance(PCB)手法を提案する。
  論文  参考訳（メタデータ） (2022-01-08T07:48:36Z)
• Prototypical Classifier for Robust Class-Imbalanced Learning [64.96088324684683]
  埋め込みネットワークに付加的なパラメータを必要としないtextitPrototypealを提案する。 プロトタイプは、訓練セットがクラス不均衡であるにもかかわらず、すべてのクラスに対してバランスと同等の予測を生成する。 我々は, CIFAR-10LT, CIFAR-100LT, Webvision のデータセットを用いて, プロトタイプが芸術の状況と比較した場合, サブスタンスの改善が得られることを検証した。
  論文  参考訳（メタデータ） (2021-10-22T01:55:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。