論文の概要: Unlearning Under Imbalance: Benchmarking Fairness in Multimodal LLM Unlearning

• arxiv url: http://arxiv.org/abs/2607.21300v1
• Date: Thu, 23 Jul 2026 13:24:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-24 18:26:25.420808
• Title: Unlearning Under Imbalance: Benchmarking Fairness in Multimodal LLM Unlearning
• Title（参考訳）: 不均衡下のアンラーニング:マルチモーダルLLMアンラーニングにおけるベンチマークフェアネス
• Abstract要約: FAIRGETは、不均衡で現実的で、要求を忘れることなく、未学習を評価する最初のベンチマークです。 また、モデルフェアネスを保ちながら、未学習データを忘れるMLLMのための最初の未学習アルゴリズムであるFAUNを提案する。
• 参考スコア（独自算出の注目度）: 33.59393479055872
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine unlearning has emerged as a tool for removing personal data from trained models to comply with recent AI regulations. To evaluate unlearning effectiveness in multimodal large language models (MLLMs), prior works fine-tune models on fictitious identities, simulating unlearning requests on subsets of these IDs, which are typically uniformly distributed. However, in realistic scenarios, people from different demographic groups may request to be unlearned at different frequencies, potentially altering the model's internal beliefs for these groups and leading to biased behaviors. To fill this gap, we propose FAIRGET, the first Visual Question Answering benchmark that evaluates unlearning under unbalanced, realistic, forget requests. These requests are designed to simulate multiple realistic scenarios, ranging from simple to challenging settings, that lead to biased unlearned models if fairness is not accounted for. Additionally, we propose FAUN, the first unlearning algorithm for MLLMs that forgets unlearning data while preserving model fairness. FAUN exploits a bias-aware activation steering mechanism to unlearn identities while accounting for the unbalanced nature of the forget data. Experiments on FAIRGET and the established FIUBench demonstrate our method's superiority both in unlearning quality and fairness.
• Abstract（参考訳）: 機械学習は、トレーニングされたモデルから個人データを削除して、最近のAI規則に準拠するためのツールとして登場した。 MLLM(Multimodal large language model)における未学習の有効性を評価するために、先代では、通常均一に配布されるこれらのIDのサブセットに対する未学習要求をシミュレートし、架空のアイデンティティに関する微調整モデルを開発した。 しかし、現実的なシナリオでは、異なる人口集団の人々は異なる周波数で学ばないよう要求し、モデルの内部の信念を変え、バイアスのある行動を引き起こす可能性がある。 このギャップを埋めるために、我々は、アンラーニングを非バランスで、現実的で、忘れた要求で評価する最初のVisual Question AnsweringベンチマークであるFAIRGETを提案する。 これらの要求は、簡単な設定から難しい設定まで、複数の現実的なシナリオをシミュレートするように設計されています。 さらに、モデルフェアネスを保ちながら学習データを忘れるMLLMのための最初のアンラーニングアルゴリズムであるFAUNを提案する。 FAUNは、バイアス対応のアクティベーションステアリング機構を利用して、忘れデータの不均衡の性質を考慮しつつ、アイデンティティを解放する。 FAIRGETと確立されたFIUBenchの実験は、未学習の品質と公平性の両方において、我々の方法の優位性を実証している。

関連論文リスト

• Multi-Objective Learning for Diffusion Models: A Statistical Theory under Semi-Supervised Learning [83.65494573724904]
  我々は、限られたデータを持つ拡散モデルのための原則的MOLフレームワークを開発する。 限られたペアデータから,まず軽量なスペシャリストモデルに適合する2段階のトレーニング手順を提案する。 与えられたペアサンプルの個数は、専門モデルクラスの複雑さにのみ依存することを示す境界一般化を確立する。
  論文  参考訳（メタデータ） (2026-05-24T18:19:40Z)
• FaLW: A Forgetting-aware Loss Reweighting for Long-tailed Unlearning [24.734154431191538]
  FaLWはプラグアンドプレイの動的損失再重み付け方式である。 各サンプルの未学習状態を、その予測確率と同一クラスからの未学習データの分布を比較して評価する。 実験により、FaLWは優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2026-01-26T16:21:01Z)
• Non-Invasive Fairness in Learning through the Lens of Data Drift [88.37640805363317]
  データや学習アルゴリズムを変更することなく、機械学習モデルの公平性を向上する方法を示す。 異なる集団間の傾向のばらつきと、学習モデルと少数民族間の連続的な傾向は、データドリフトと類似している。 このドリフトを解決するための2つの戦略(モデル分割とリウィーディング)を探索し、基礎となるデータに対するモデル全体の適合性を改善することを目的としている。
  論文  参考訳（メタデータ） (2023-03-30T17:30:42Z)
• Debiasing Vision-Language Models via Biased Prompts [79.04467131711775]
  本稿では,テキスト埋め込みにおけるバイアスのある方向を投影することで,視覚言語基盤モデルを疎外する一般的な手法を提案する。 偏平投影行列を組み込んだテキストのみをデバイアスすることで、ロバストな分類器と公正な生成モデルが得られることを示す。
  論文  参考訳（メタデータ） (2023-01-31T20:09:33Z)
• Synthetic Model Combination: An Instance-wise Approach to Unsupervised Ensemble Learning [92.89846887298852]
  ラベル付きデータのトレーニングセットから学ぶ機会のない、新しいテストデータに対する予測を検討する。 専門家モデルのセットと予測へのアクセスと、トレーニングに使用するデータセットに関する制限された情報を提供すること。
  論文  参考訳（メタデータ） (2022-10-11T10:20:31Z)
• Fairness Reprogramming [42.65700878967251]
  モデル再プログラミング手法を取り入れたFairRe Programと呼ばれる新しい汎用フェアネス学習パラダイムを提案する。 具体的には、FairRe Programはモデルを変更することができず、フェアネストリガと呼ばれる一連の摂動を入力に追加するケースについて検討している。 我々は,固定MLモデルの出力予測において,公平性トリガが効果的に人口統計バイアスを曖昧にすることができることを理論的および実証的に示す。
  論文  参考訳（メタデータ） (2022-09-21T09:37:00Z)
• Fair Classification via Transformer Neural Networks: Case Study of an Educational Domain [0.0913755431537592]
  本稿では,Law Schoolのニューラルネットワークを用いた変圧器ネットワークにおけるフェアネス制約の予備的検討を行う。 フェアネス指標を用いて評価を行い、フェアネスと精度のトレードオフを確認しました。
  論文  参考訳（メタデータ） (2022-06-03T06:34:16Z)
• FairIF: Boosting Fairness in Deep Learning via Influence Functions with Validation Set Sensitive Attributes [51.02407217197623]
  本稿では,FAIRIFという2段階の学習アルゴリズムを提案する。 サンプル重みが計算される再重み付きデータセットの損失を最小限に抑える。 FAIRIFは、様々な種類のバイアスに対して、フェアネスとユーティリティのトレードオフを良くしたモデルが得られることを示す。
  論文  参考訳（メタデータ） (2022-01-15T05:14:48Z)
• Certifiable Machine Unlearning for Linear Models [1.484852576248587]
  機械学習は、トレーニングされたトレーニングデータのサブセットが削除された後、機械学習(ML)モデルを更新するタスクである。 本稿では,線形モデルに対する3つの非学習手法について実験的に検討する。
  論文  参考訳（メタデータ） (2021-06-29T05:05:58Z)
• Self-Damaging Contrastive Learning [92.34124578823977]
  ラベルのないデータは一般に不均衡であり、長い尾の分布を示す。 本稿では,クラスを知らずに表現学習を自動的にバランスをとるための,自己学習コントラスト学習という原則的枠組みを提案する。 実験の結果,SDCLRは全体としての精度だけでなく,バランス性も著しく向上することがわかった。
  論文  参考訳（メタデータ） (2021-06-06T00:04:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。