論文の概要: LiteGuard: Efficient Task-Agnostic Model Fingerprinting with Enhanced Generalization
- arxiv url: http://arxiv.org/abs/2603.24982v1
- Date: Thu, 26 Mar 2026 03:14:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-27 20:52:48.075336
- Title: LiteGuard: Efficient Task-Agnostic Model Fingerprinting with Enhanced Generalization
- Title(参考訳): LiteGuard: 拡張一般化による効率的なタスク非依存モデルフィンガープリント
- Authors: Guang Yang, Ziye Geng, Yihang Chen, Changqing Luo,
- Abstract要約: 計算コストを大幅に削減しつつ,一般化を向上する,効率的なタスク非依存型フィンガープリントフレームワークである LiteGuard を提案する。
i) 各海賊と独立に訓練されたモデルのトレーニング中にキャプチャされた中間モデルスナップショットを活用することによって、モデルの多様性を強化するチェックポイントベースのモデルセット拡張戦略と、(ii)各指紋と軽量なローカル検証器をペアリングするローカル検証アーキテクチャである。
- 参考スコア(独自算出の注目度): 9.981615514164469
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Task-agnostic model fingerprinting has recently gained increasing attention due to its ability to provide a universal framework applicable across diverse model architectures and tasks. The current state-of-the-art method, MetaV, ensures generalization by jointly training a set of fingerprints and a neural-network-based global verifier using two large and diverse model sets: one composed of pirated models (i.e., the protected model and its variants) and the other comprising independently trained models. However, publicly available models are scarce in many real-world domains, and constructing such model sets requires intensive training and massive computational resources, posing a significant barrier to deployment. Reducing the number of models can alleviate the overhead, but increases the risk of overfitting, a problem further exacerbated by MetaV's entangled design, in which all fingerprints and the global verifier are jointly trained. This overfitting issue compromises the generalization capability for verifying unseen models. In this paper, we propose LiteGuard, an efficient task-agnostic fingerprinting framework that attains enhanced generalization while significantly lowering computational cost. Specifically, LiteGuard introduces two key innovations: (i) a checkpoint-based model set augmentation strategy that enriches model diversity by leveraging intermediate model snapshots captured during training of each pirated and independently trained model, thereby alleviating the need to train a large number of such models, and (ii) a local verifier architecture that pairs each fingerprint with a lightweight local verifier, thereby reducing parameter entanglement and mitigating overfitting. Extensive experiments across five representative tasks show that LiteGuard consistently outperforms MetaV in both generalization performance and computational efficiency.
- Abstract(参考訳): タスクに依存しないモデルフィンガープリントは、様々なモデルアーキテクチャやタスクにまたがる普遍的なフレームワークを提供することによって、近年注目を集めている。
現在の最先端の方法であるMetaVは、海賊モデル(保護されたモデルとその変種)と独立に訓練されたモデルからなる2つの大規模で多様なモデルセットを使用して、指紋とニューラルネットワークベースのグローバル検証を共同でトレーニングすることで、一般化を保証する。
しかし、多くの現実世界のドメインでは公開モデルは不足しており、そのようなモデルセットを構築するには、集中的なトレーニングと膨大な計算資源が必要であるため、デプロイに重大な障壁が生じる。
モデル数を減らすことでオーバーヘッドを軽減できるが、過度な適合のリスクが増大し、メタVの絡み合った設計によりさらに悪化し、全ての指紋とグローバル検証装置が共同で訓練される。
このオーバーフィッティング問題は、目に見えないモデルを検証するための一般化能力を損なう。
本稿では,LiteGuardを提案する。LiteGuardは,計算コストを大幅に削減しつつ,一般化を向上する効率的なタスク非依存型フィンガープリントフレームワークである。
具体的には、LiteGuardは2つの重要なイノベーションを紹介している。
一 海賊及び独立に訓練された各モデルの訓練中に取得した中間モデルスナップショットを活用することにより、モデルの多様性を高めるチェックポイントベースのモデルセット強化戦略により、多数のモデルを訓練する必要がなくなること。
二 各指紋を軽量な局所検証器と組み合わせた局所検証器のアーキテクチャにより、パラメータの絡み合いを低減し、過度な適合を緩和する。
5つの代表的なタスクにわたる大規模な実験により、LiteGuardは、一般化性能と計算効率の両方でMetaVを一貫して上回っている。
関連論文リスト
- CREDIT: Certified Ownership Verification of Deep Neural Networks Against Model Extraction Attacks [54.04030169323115]
我々は、モデル抽出攻撃(MEA)に対する認証された所有権検証であるCREDITを紹介する。
DNNモデル間の類似性を定量化し、実用的な検証しきい値を提案し、このしきい値に基づいてオーナシップ検証を行うための厳密な理論的保証を提供する。
我々は、さまざまなドメインやタスクにまたがるいくつかの主流データセットに対するアプローチを広範囲に評価し、最先端のパフォーマンスを実現した。
論文 参考訳(メタデータ) (2026-02-23T23:36:25Z) - White-Basilisk: A Hybrid Model for Code Vulnerability Detection [45.03594130075282]
我々は、優れた性能を示す脆弱性検出の新しいアプローチであるWhite-Basiliskを紹介する。
White-Basiliskは、パラメータ数2億の脆弱性検出タスクで結果を得る。
この研究は、コードセキュリティにおける新しいベンチマークを確立し、コンパクトで効率的に設計されたモデルが、特定のタスクにおいてより大きなベンチマークよりも優れているという実証的な証拠を提供する。
論文 参考訳(メタデータ) (2025-07-11T12:39:25Z) - Gatekeeper: Improving Model Cascades Through Confidence Tuning [45.46791873454989]
カスケード構成の小型モデルを校正するための新しい損失関数「ゲートキーパー」を導入する。
我々のアプローチは、より小さなモデルを微調整して、より大規模なモデルに複雑なタスクを遅延させながら、正しく実行できるタスクを確実に処理する。
論文 参考訳(メタデータ) (2025-02-26T17:29:08Z) - CAMH: Advancing Model Hijacking Attack in Machine Learning [44.58778557522968]
Category-Agnostic Model Hijacking (CAMH) は、新しいモデルハイジャック攻撃法である。
クラス番号のミスマッチ、データ分散のばらつき、元のタスクとハイジャックタスクのパフォーマンスバランスの問題に対処する。
本研究は,本来のタスクの性能を最小限に抑えつつ,攻撃効果を実証するものである。
論文 参考訳(メタデータ) (2024-08-25T07:03:01Z) - Restore Anything Model via Efficient Degradation Adaptation [129.38475243424563]
RAMは、様々な劣化にまたがる固有の類似性を活用して、効率的で包括的な復元を可能にする統一された経路を取る。
RAMのSOTA性能はRAMのSOTA性能を確認し、トレーニング可能なパラメータで約82%、FLOPで約85%のモデルの複雑さを減少させる。
論文 参考訳(メタデータ) (2024-07-18T10:26:53Z) - Towards Scalable and Robust Model Versioning [30.249607205048125]
ディープラーニングモデルへのアクセスを目的とした悪意ある侵入が増えている。
異なる攻撃特性を持つモデルの複数バージョンを生成する方法を示す。
モデル学習データにパラメータ化された隠れ分布を組み込むことでこれを実現できることを示す。
論文 参考訳(メタデータ) (2024-01-17T19:55:49Z) - FullLoRA: Efficiently Boosting the Robustness of Pretrained Vision Transformers [72.83770102062141]
Vision Transformer (ViT) モデルは、様々なコンピュータビジョンタスクにおいて徐々に主流になりつつある。
既存の大きなモデルは、トレーニング中のパフォーマンスを優先する傾向があり、ロバストさを無視する可能性がある。
従来のLoRAモジュールよりも前に学習可能なレイヤ正規化を取り入れた新しいLNLoRAモジュールを開発した。
学習可能なLNLoRAモジュールをViTモデルの主要コンポーネントに組み込むことにより,FullLoRAフレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-03T14:08:39Z) - Uni-Perceiver v2: A Generalist Model for Large-Scale Vision and
Vision-Language Tasks [86.66733026149892]
大規模ビジョンと視覚非依存タスクを扱える最初のジェネラリストモデルであるUni-Perceiver v2を提案する。
具体的には、画像は一般領域の提案としてエンコードされ、テキストはTransformerベースの言語モデルを介してエンコードされる。
Uni-Perceiver v2は、幅広いビジョンとビジョン言語タスクで競争力を発揮する。
論文 参考訳(メタデータ) (2022-11-17T18:59:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。