論文の概要: Queries, Representation & Detection: The Next 100 Model Fingerprinting Schemes

• arxiv url: http://arxiv.org/abs/2412.13021v1
• Date: Tue, 17 Dec 2024 15:41:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-18 13:59:16.512115
• Title: Queries, Representation & Detection: The Next 100 Model Fingerprinting Schemes
• Title（参考訳）: クエリ、表現、検出:次の100モデルフィンガープリントスキーム
• Authors: Augustin Godinot, Erwan Le Merrer, Camilla Penzo, François Taïani, Gilles Trédan,
• Abstract要約: 本稿では,モデルフィンガープリント方式とその評価ベンチマークを作成するための体系的なアプローチを提案する。 以前に探索されていないQuRDの組み合わせを$sim100$で識別し、パフォーマンスに関する洞察を得る。 我々のアプローチは、より挑戦的なベンチマークとベースラインとの健全な比較の必要性を明らかにします。
• 参考スコア（独自算出の注目度）: 4.993542259120313
• License:
• Abstract: The deployment of machine learning models in operational contexts represents a significant investment for any organisation. Consequently, the risk of these models being misappropriated by competitors needs to be addressed. In recent years, numerous proposals have been put forth to detect instances of model stealing. However, these proposals operate under implicit and disparate data and model access assumptions; as a consequence, it remains unclear how they can be effectively compared to one another. Our evaluation shows that a simple baseline that we introduce performs on par with existing state-of-the-art fingerprints, which, on the other hand, are much more complex. To uncover the reasons behind this intriguing result, this paper introduces a systematic approach to both the creation of model fingerprinting schemes and their evaluation benchmarks. By dividing model fingerprinting into three core components -- Query, Representation and Detection (QuRD) -- we are able to identify $\sim100$ previously unexplored QuRD combinations and gain insights into their performance. Finally, we introduce a set of metrics to compare and guide the creation of more representative model stealing detection benchmarks. Our approach reveals the need for more challenging benchmarks and a sound comparison with baselines. To foster the creation of new fingerprinting schemes and benchmarks, we open-source our fingerprinting toolbox.
• Abstract（参考訳）: 運用状況における機械学習モデルの展開は、あらゆる組織にとって重要な投資である。 したがって、これらのモデルが競合者に不適切であるリスクに対処する必要がある。 近年、モデル盗難の事例を検出するために多くの提案がなされている。 しかしながら、これらの提案は暗黙的かつ異質なデータとモデルアクセスの仮定の下で運用されている。 評価の結果,既存の最先端指紋と同等に機能する単純なベースラインがより複雑であることがわかった。 この興味深い結果の背景となる理由を明らかにするため,本論文では,モデルフィンガープリント方式と評価ベンチマークの双方に体系的なアプローチを導入する。 モデルフィンガープリントを3つのコアコンポーネント – Query, Representation and Detection (QuRD) – に分割することで、以前は探索されていなかったQuRDの組み合わせを$\sim100$で識別し、パフォーマンスに関する洞察を得ることができます。 最後に、より代表的なモデルステルス検出ベンチマークの作成を比較、ガイドするためのメトリクスのセットを紹介します。 我々のアプローチは、より挑戦的なベンチマークとベースラインとの健全な比較の必要性を明らかにします。 新たなフィンガープリントスキームとベンチマークの作成を促進するために,我々は,フィンガープリントツールボックスをオープンソース化した。

関連論文リスト

• MergePrint: Robust Fingerprinting against Merging Large Language Models [1.9249287163937978]
  本稿では,モデルマージ後の所有権主張を保存すべく,頑健な指紋を埋め込んだ新しい指紋認証手法MergePrintを提案する。 擬似マージモデルに最適化することで、マージ後も検出可能な指紋を生成する。 このアプローチは、モデルマージによる誤適用の場合のオーナシップを主張するために、実用的なフィンガープリント戦略を提供する。
  論文  参考訳（メタデータ） (2024-10-11T08:00:49Z)
• Model Stealing Attack against Graph Classification with Authenticity, Uncertainty and Diversity [80.16488817177182]
  GNNは、クエリ許可を通じてターゲットモデルを複製するための悪行であるモデル盗難攻撃に対して脆弱である。 異なるシナリオに対応するために,3つのモデルステルス攻撃を導入する。
  論文  参考訳（メタデータ） (2023-12-18T05:42:31Z)
• Towards Evaluating Transfer-based Attacks Systematically, Practically, and Fairly [79.07074710460012]
  ディープニューラルネットワーク(DNN)の敵対的脆弱性に大きな注目を集めている。 ブラックボックスDNNモデルを騙すための転送ベース手法が増えている。 30以上のメソッドを実装した転送ベースアタックベンチマーク(TA-Bench)を確立する。
  論文  参考訳（メタデータ） (2023-11-02T15:35:58Z)
• Resources for Brewing BEIR: Reproducible Reference Models and an Official Leaderboard [47.73060223236792]
  BEIRは18種類のドメイン/タスクの組み合わせで情報検索モデルを評価するためのベンチマークデータセットである。 我々の研究は、ベンチマークが完全な潜在能力を達成できない2つの欠点に対処しています。
  論文  参考訳（メタデータ） (2023-06-13T00:26:18Z)
• MoSFPAD: An end-to-end Ensemble of MobileNet and Support Vector Classifier for Fingerprint Presentation Attack Detection [2.733700237741334]
  本稿では,指紋攻撃を検知する新しいエンドツーエンドモデルを提案する。 提案モデルでは,MobileNetを特徴抽出器として,Support Vectorを分類器として組み込んだ。 提案モデルの性能を最先端の手法と比較する。
  論文  参考訳（メタデータ） (2023-03-02T18:27:48Z)
• DSI++: Updating Transformer Memory with New Documents [95.70264288158766]
  DSI++は、DSIが新たなドキュメントをインクリメンタルにインデクシングするための継続的な学習課題である。 新たな文書の連続的な索引付けは,それまでの索引付け文書をかなり忘れてしまうことを示す。 文書の擬似クエリをサンプルとして生成メモリを導入し、連続的なインデックス付け中に補足することで、検索タスクの忘れを防止する。
  論文  参考訳（メタデータ） (2022-12-19T18:59:34Z)
• Are You Stealing My Model? Sample Correlation for Fingerprinting Deep Neural Networks [86.55317144826179]
  従来の方法は、常にモデル指紋として転送可能な敵の例を利用する。 本稿では,SAmple correlation (SAC) に基づく新しいモデル盗難検出手法を提案する。 SACは、敵の訓練や移動学習を含む様々なモデル盗難攻撃をうまく防いでいる。
  論文  参考訳（メタデータ） (2022-10-21T02:07:50Z)
• FBI: Fingerprinting models with Benign Inputs [17.323638042215013]
  本稿では,モデルファミリとその変種の概念を一般化することにより,モデルの大幅な修正に耐性のある指紋認証方式を提案する。 我々は、修正されていない画像である良性入力が、両方のタスクに十分な材料であることを実証することによって、両方の目標を達成する。 どちらのアプローチも、かつてない1000以上のネットワークに対して実験的に検証されている。
  論文  参考訳（メタデータ） (2022-08-05T13:55:36Z)
• Learning Robust Representations Of Generative Models Using Set-Based Artificial Fingerprints [14.191129493685212]
  既存の手法はサンプル分布を通してモデル間の距離を近似する。 我々は、生成モデルの表現として、ユニークな痕跡(いわゆる「人工指紋」)を考える。 セットエンコーディングとコントラスト学習に基づく新しい学習手法を提案する。
  論文  参考訳（メタデータ） (2022-06-04T23:20:07Z)
• Autoregressive Search Engines: Generating Substrings as Document Identifiers [53.0729058170278]
  自動回帰言語モデルは、回答を生成するデファクト標準として現れています。 これまでの研究は、探索空間を階層構造に分割する方法を探究してきた。 本研究では,検索空間の任意の構造を強制しない代替として,経路内のすべてのngramを識別子として使用することを提案する。
  論文  参考訳（メタデータ） (2022-04-22T10:45:01Z)
• An Intelligent Hybrid Model for Identity Document Classification [0.0]
  デジタル化は、生産性の向上、災害復旧、環境に優しいソリューションなどの機会とビジネスへの挑戦を提供する。 主な課題の1つは、顧客によって毎日アップロードされた多数のスキャンされたドキュメントを正確に分類することである。 画像分類の応用としてこの課題に対処する研究はほとんどない。 提案手法はPythonを用いて実装され、合成および実世界のデータセットで実験的に検証されている。
  論文  参考訳（メタデータ） (2021-06-07T13:08:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。