Fugu-MT 論文翻訳(概要): Anchoring Bias: A Persistent Fairness Backdoor Attack against MLLMs under Continual Learning

論文の概要: Anchoring Bias: A Persistent Fairness Backdoor Attack against MLLMs under Continual Learning

arxiv url: http://arxiv.org/abs/2608.21577v1
Date: Fri, 21 Aug 2026 19:28:37 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-25 13:29:43.294677
Title: Anchoring Bias: A Persistent Fairness Backdoor Attack against MLLMs under Continual Learning
Title（参考訳）: Anchoring Bias:継続的な学習下でのMLLMに対する永続的フェアネスバックドアアタック
Abstract要約: MLLMに永続的でグループ固有の差別を注入するために,PFBA(Persistent Fairness Backdoor Attack)を提案する。 PFBAは、継続的な学習ラウンドを通して続く厳しい公平さの相違を誘発し、標準のバックドア防御を回避する。
参考スコア（独自算出の注目度）: 22.440866095820223
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Multimodal Large Language Models (MLLMs) are increasingly deployed in high-stakes domains where fairness is a critical safety requirement. In practice, these models are continually updated through continual learning (CL) to adapt to evolving tasks and data distributions. Prior work has shown that backdoor attacks can manipulate MLLM responses through hidden triggers, but naively implanted backdoors degrade as models undergo subsequent updates of CL. Although fairness has emerged as a central concern for MLLM deployment, whether backdoor-induced fairness violations can survive CL remains unexplored, leaving two critical questions unanswered: (1) whether a backdoor can reliably induce fairness violations in MLLMs, and (2) whether such fairness-targeted backdoors can persist through continual learning. We bridge this gap by proposing Persistent Fairness Backdoor Attack (PFBA) to inject persistent and group-specific discrimination into MLLMs. Specifically, PFBA achieves this through two novel mechanisms. The Latent Space Fairness Reinforcement reshapes the model's deep feature geometry by anchoring privileged-group representations to preserve utility while repelling and clustering targeted-group representations to sustain discrimination, and the Continual Learning Simulation iteratively optimizes the trigger against simulated parameter drift to ensure backdoor persistence across future updates. Extensive experiments demonstrate that PFBA induces severe fairness disparities that persist across continual learning rounds, evading standard backdoor defenses. The data and code are publicly available at https://github.com/lyygua/PFBA.
Abstract（参考訳）: マルチモーダル大規模言語モデル(MLLM)は、公正性が重要な安全要件であるハイステークな領域にますます展開されている。実際には、これらのモデルは継続学習(CL)を通じて継続的に更新され、進化するタスクやデータ分布に適応する。以前の研究によると、バックドア攻撃は隠れたトリガーを通じてMLLM応答を操作できるが、モデルがその後のCLのアップデートを行うと、鼻で埋め込まれたバックドアは劣化する。フェアネスはMLLMの展開において中心的な関心事となっているが、バックドアによるフェアネス違反が生き残るか否かは未解明のままであり、(1)バックドアがMLLMのフェアネス違反を確実に誘発できるかどうか、(2)そのようなフェアネス対象のバックドアが継続的な学習を通して持続できるかどうかという2つの重要な疑問が残る。我々はPFBA(Persistent Fairness Backdoor Attack)を提案し、永続的でグループ固有の差別をMLLMに注入することで、このギャップを埋める。具体的には、PFBAは2つの新しいメカニズムによってこれを達成している。 Latent Space Fairness Reinforcementは、特権グループ表現を固定して実用性を保ちつつ、ターゲットグループ表現を撃退し、クラスタ化して差別を持続させ、継続学習シミュレーションは、シミュレーションされたパラメータドリフトに対するトリガーを反復的に最適化し、将来の更新におけるバックドアの持続性を保証する。広汎な実験により、PFBAは継続的な学習ラウンドにまたがる厳しい公平さの相違を誘発し、標準的なバックドア防御を回避することが示されている。データとコードはhttps://github.com/lyygua/PFBAで公開されている。

関連論文リスト

ProjLens: Unveiling the Role of Projectors in Multimodal Model Safety [54.4092272526747]
MLLM(Multimodal Large Language Models)は、クロスモーダルな理解と生成において大きな成功を収めていますが、そのデプロイは重大な安全性の脆弱性によって脅かされています。本稿では,MLLMのバックドアを復号化するための解釈可能性フレームワークであるProjLensを提案する。
論文参考訳（メタデータ） (2026-04-21T04:52:38Z)
Visual Backdoor Attacks on MLLM Embodied Decision Making via Contrastive Trigger Learning [89.1856483797116]
MLLMをベースとした組込みエージェントに視覚的バックドアを注入する最初のフレームワークであるBEATを紹介する。テキストトリガーとは異なり、オブジェクトトリガーは視点や照明の幅が広いため、確実に移植することは困難である。 BEATは攻撃の成功率を最大80%まで達成し、強い良識のあるタスクパフォーマンスを維持します。
論文参考訳（メタデータ） (2025-10-31T16:50:49Z)
MARS: A Malignity-Aware Backdoor Defense in Federated Learning [51.77354308287098]
最近提案されたSOTA攻撃(3DFed)は、ディフェンダーがバックドアモデルを受け入れたかどうかを判断するためにインジケータ機構を使用する。本稿では,各ニューロンの有害な範囲を示すためにバックドアエネルギーを利用するMARS(Maignity-Aware backdooR defenSe)を提案する。実験により、MARSはSOTAのバックドア攻撃に対して防御でき、既存の防御を著しく上回っていることが示された。
論文参考訳（メタデータ） (2025-09-21T14:50:02Z)
Lethe: Purifying Backdoored Large Language Models with Knowledge Dilution [49.78359632298156]
大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにおいて優れたパフォーマンスを達成し、大幅な進歩を遂げている。標準クエリではモデルが正常に動作しますが、特定のトリガがアクティブになると、有害な応答や意図しない出力を生成します。本稿では,LLMからのバックドアの挙動を知識希釈により除去する新しい手法LETHEを提案する。
論文参考訳（メタデータ） (2025-08-28T17:05:18Z)
ICLShield: Exploring and Mitigating In-Context Learning Backdoor Attacks [61.06621533874629]
In-context Learning (ICL)は、大規模言語モデル(LLM)において顕著な成功を収めた。本稿では,LLMがタスク関連潜伏概念とバックドア関連潜伏概念の両方を同時に学習する,という二重学習仮説を初めて提案する。そこで本研究では,概念選好比を動的に調整する防衛機構であるICLShieldを提案する。
論文参考訳（メタデータ） (2025-07-02T03:09:20Z)
Backdoor Cleaning without External Guidance in MLLM Fine-tuning [76.82121084745785]
Believe Your Eyes (BYE)は、アテンションエントロピーパターンを自己教師信号として活用して、バックドアサンプルを特定してフィルタリングするデータフィルタリングフレームワークである。クリーンタスクのパフォーマンスを維持しながら、ほぼゼロの攻撃成功率を達成する。
論文参考訳（メタデータ） (2025-05-22T17:11:58Z)
Defending Code Language Models against Backdoor Attacks with Deceptive Cross-Entropy Loss [26.24490960002264]
コード言語モデル(CLM)は、コードインテリジェンス領域において大きな成功を収めた。セキュリティの問題、特にバックドア攻撃は、このプロセスでしばしば見過ごされる。これまでの研究では、CLMのバックドア攻撃の設計に焦点が当てられていたが、効果的な防御は適切に対処されていない。
論文参考訳（メタデータ） (2024-07-12T03:18:38Z)
Simulate and Eliminate: Revoke Backdoors for Generative Large Language Models [42.19147076519423]
生成型大規模言語モデル(LLM)は、理解から推論まで、様々な自然言語処理(NLP)タスクを支配している。悪意のある敵は、毒データをオンラインで公開し、毒データに基づいて事前訓練された被害者のLSMに対するバックドア攻撃を行うことができる。生成LDMの不要なバックドアマッピングを除去するためにSANDE(Simulate and Eliminate)を提案する。
論文参考訳（メタデータ） (2024-05-13T11:53:42Z)
Acquiring Clean Language Models from Backdoor Poisoned Datasets by Downscaling Frequency Space [17.98191594223406]
周波数空間におけるバックドアLMの学習機構をフーリエ解析により検討した。本稿では,マルチスケール低ランク適応 (MuScleLoRA) を提案する。 MuScleLoRAは、さまざまなバックドア攻撃の平均成功率を、複数のデータセットで15%以下に削減する。
論文参考訳（メタデータ） (2024-02-19T10:34:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。