論文の概要: MEraser: An Effective Fingerprint Erasure Approach for Large Language Models

• arxiv url: http://arxiv.org/abs/2506.12551v1
• Date: Sat, 14 Jun 2025 15:48:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-17 17:28:46.422212
• Title: MEraser: An Effective Fingerprint Erasure Approach for Large Language Models
• Title（参考訳）: Meraser: 大規模言語モデルに対する効果的な指紋消去手法
• Authors: Jingxuan Zhang, Zhenhua Xu, Rui Hu, Wenpeng Xing, Xuhong Zhang, Meng Han,
• Abstract要約: 大規模言語モデル(LLM)は、様々な分野に広まり、モデルの所有と知的財産保護に関する重要な懸念を提起している。 モデル性能を維持しつつ, LLMからバックドアベースの指紋を効果的に除去する手法であるMismatched Eraser(MEraser)を提案する。
• 参考スコア（独自算出の注目度）: 19.8112399985437
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) have become increasingly prevalent across various sectors, raising critical concerns about model ownership and intellectual property protection. Although backdoor-based fingerprinting has emerged as a promising solution for model authentication, effective attacks for removing these fingerprints remain largely unexplored. Therefore, we present Mismatched Eraser (MEraser), a novel method for effectively removing backdoor-based fingerprints from LLMs while maintaining model performance. Our approach leverages a two-phase fine-tuning strategy utilizing carefully constructed mismatched and clean datasets. Through extensive evaluation across multiple LLM architectures and fingerprinting methods, we demonstrate that MEraser achieves complete fingerprinting removal while maintaining model performance with minimal training data of fewer than 1,000 samples. Furthermore, we introduce a transferable erasure mechanism that enables effective fingerprinting removal across different models without repeated training. In conclusion, our approach provides a practical solution for fingerprinting removal in LLMs, reveals critical vulnerabilities in current fingerprinting techniques, and establishes comprehensive evaluation benchmarks for developing more resilient model protection methods in the future.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、様々な分野に広まり、モデルの所有と知的財産保護に関する重要な懸念を提起している。 バックドアベースの指紋認証は、モデル認証の有望なソリューションとして登場したが、これらの指紋を削除する効果的な攻撃は、まだ明らかにされていない。 そこで, モデル性能を維持しつつ, LLMからバックドア指紋を効果的に除去する方法であるMismatched Eraser(MEraser)を提案する。 提案手法は、慎重に構築されたミスマッチとクリーンなデータセットを利用して、2段階の微調整戦略を利用する。 複数のLLMアーキテクチャやフィンガープリント手法の広範な評価を通じて,1,000サンプル未満の最小限のトレーニングデータを用いてモデル性能を維持しながら,完全なフィンガープリント除去を実現することを示す。 さらに,異なるモデル間で効果的な指紋認証を繰り返し訓練することなく行うことができる移動式消去機構を導入する。 結論として,本手法はLCMにおける指紋除去の実践的解決策を提供し,現在の指紋認証技術における重大な脆弱性を明らかにし,将来よりレジリエントなモデル保護手法を開発するための総合的な評価ベンチマークを確立する。

関連論文リスト

• RAP-SM: Robust Adversarial Prompt via Shadow Models for Copyright Verification of Large Language Models [12.459241957411669]
  RAP-SMは、大規模な言語モデル全体の公開指紋を抽出する新しいフレームワークである。 実験の結果,RAP-SMは異なるモデル間の固有共通点を効果的に捉えていることがわかった。
  論文  参考訳（メタデータ） (2025-05-08T03:21:58Z)
• ImF: Implicit Fingerprint for Large Language Models [0.0]
  我々は,ジェネレーション・リビジョン・インターベンション(GRI)攻撃という新たな敵攻撃を導入する。 GRIは、現在のフィンガープリント手法のセマンティックな脆弱性を利用して、事実上指紋を消去する。 Inlicit Fingerprints (ImF) と呼ばれる新しいモデル指紋パラダイムを提案する。
  論文  参考訳（メタデータ） (2025-03-25T05:47:34Z)
• Scalable Fingerprinting of Large Language Models [46.26999419117367]
  我々はPerinucleus sampleと呼ばれる新しい手法を導入し、スケーラブルで永続的で無害な指紋を生成する。 この手法により,Llama-3.1-8Bモデルに24,576個の指紋を付加できることを示した。
  論文  参考訳（メタデータ） (2025-02-11T18:43:07Z)
• Invisible Traces: Using Hybrid Fingerprinting to identify underlying LLMs in GenAI Apps [0.0]
  大規模言語モデル(LLM)のフィンガープリントは、AI統合アプリケーションのセキュリティと透明性を保証するために欠かせないものとなっている。 静的および動的フィンガープリント技術を統合することにより,これらの課題に対処する新しいフィンガープリントフレームワークを提案する。 提案手法は, 動的環境下でのLDMの高精度かつ堅牢なフィンガープリントを可能にするため, 建築特性と挙動特性を同定する。
  論文  参考訳（メタデータ） (2025-01-30T19:15:41Z)
• Sample Correlation for Fingerprinting Deep Face Recognition [83.53005932513156]
  SAC(SA Corremplelation)に基づく新しいモデル盗難検出手法を提案する。 SACは、顔認証や顔の感情認識を含む、深層顔認識における様々なモデル盗難攻撃に対して、AUC、p値、F1スコアの点で最高のパフォーマンスを示すことに成功した。 我々は,SAC-JC の評価を Tiny-ImageNet や CIFAR10 などのオブジェクト認識に拡張し,従来の手法よりも SAC-JC の優れた性能を示す。
  論文  参考訳（メタデータ） (2024-12-30T07:37:06Z)
• MergePrint: Merge-Resistant Fingerprints for Robust Black-box Ownership Verification of Large Language Models [1.9249287163937978]
  モデルマージを継続することのできる頑健な指紋を埋め込むための新しいフィンガープリント手法であるMergePrintを提案する。 MergePrintはブラックボックスのオーナシップの検証を可能にする。モデルが特定の指紋入力に対してターゲット出力を生成するかどうかのみを所有者が確認する必要がある。
  論文  参考訳（メタデータ） (2024-10-11T08:00:49Z)
• ModelShield: Adaptive and Robust Watermark against Model Extraction Attack [58.46326901858431]
  大規模言語モデル(LLM)は、さまざまな機械学習タスクにまたがる汎用インテリジェンスを示す。 敵はモデル抽出攻撃を利用して モデル生成で符号化された モデルインテリジェンスを盗むことができる ウォーターマーキング技術は、モデル生成コンテンツにユニークな識別子を埋め込むことによって、このような攻撃を防御する有望なソリューションを提供する。
  論文  参考訳（メタデータ） (2024-05-03T06:41:48Z)
• Effective Backdoor Mitigation in Vision-Language Models Depends on the Pre-training Objective [71.39995120597999]
  現代の機械学習モデルは、敵の攻撃やバックドア攻撃に弱い。 このようなリスクは、マルチモーダルモデルをトレーニングするための大規模なインターネットソースデータセット収集の一般的なプラクティスによって高められている。 CleanCLIPは、マルチモーダルモデルにおけるバックドア効果を軽減するための最先端のアプローチである。
  論文  参考訳（メタデータ） (2023-11-25T06:55:13Z)
• RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
  より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。 RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。 当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
  論文  参考訳（メタデータ） (2022-07-12T19:34:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。