論文の概要: Data Taggants: Dataset Ownership Verification via Harmless Targeted Data Poisoning

• arxiv url: http://arxiv.org/abs/2410.09101v1
• Date: Wed, 9 Oct 2024 12:49:23 GMT
• ステータス: 処理完了
• システム内更新日: 2024-10-30 16:38:28.655759
• Title: Data Taggants: Dataset Ownership Verification via Harmless Targeted Data Poisoning
• Title（参考訳）: データタグ: ハームレスターゲティングによるデータセットのオーナシップ検証
• Authors: Wassim Bouaziz, El-Mahdi El-Mhamdi, Nicolas Usunier,
• Abstract要約: 本稿では,非バックドアデータセットのオーナシップ検証技術であるデータタグを新たに導入する。 我々は、VTモデルとResNetモデルと最先端のトレーニングレシピを用いて、ImageNet1kの包括的で現実的な実験を通してアプローチを検証する。
• 参考スコア（独自算出の注目度）: 12.80649024603656
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Dataset ownership verification, the process of determining if a dataset is used in a model's training data, is necessary for detecting unauthorized data usage and data contamination. Existing approaches, such as backdoor watermarking, rely on inducing a detectable behavior into the trained model on a part of the data distribution. However, these approaches have limitations, as they can be harmful to the model's performances or require unpractical access to the model's internals. Most importantly, previous approaches lack guarantee against false positives. This paper introduces data taggants, a novel non-backdoor dataset ownership verification technique. Our method uses pairs of out-of-distribution samples and random labels as secret keys, and leverages clean-label targeted data poisoning to subtly alter a dataset, so that models trained on it respond to the key samples with the corresponding key labels. The keys are built as to allow for statistical certificates with black-box access only to the model. We validate our approach through comprehensive and realistic experiments on ImageNet1k using ViT and ResNet models with state-of-the-art training recipes. Our findings demonstrate that data taggants can reliably make models trained on the protected dataset detectable with high confidence, without compromising validation accuracy, and demonstrates superiority over backdoor watermarking. Moreover, our method shows to be stealthy and robust against various defense mechanisms.
• Abstract（参考訳）: データセットのオーナシップ検証(データセットのオーナシップ検証)は、データセットがモデルのトレーニングデータに使用されているかどうかを決定するプロセスであり、不正なデータの使用やデータの汚染を検出するために必要である。 バックドアの透かしのような既存のアプローチは、データ分散の一部でトレーニングされたモデルに検出可能な振る舞いを誘導することに依存している。 しかしながら、これらのアプローチには、モデルの性能に有害である、あるいはモデルの内部への実践的アクセスを必要とする可能性があるため、制限がある。 最も重要なことは、以前のアプローチには偽陽性に対する保証がないことである。 本稿では,非バックドアデータセットのオーナシップ検証技術であるデータタグを新たに導入する。 提案手法では, 秘密鍵として分布外サンプルとランダムラベルのペアを用い, クリーンラベルを標的としたデータ中毒を利用してデータセットを微調整し, 学習したモデルが対応するキーラベルを用いてキーサンプルに応答するようにした。 キーは、ブラックボックスにアクセス可能な統計証明書をモデルにのみアクセスできるように構築されている。 我々は、VTモデルとResNetモデルと最先端のトレーニングレシピを用いて、ImageNet1kの包括的で現実的な実験を通してアプローチを検証する。 以上の結果から,保護されたデータセット上でトレーニングされたモデルに対して,検証精度を損なうことなく,信頼性の高いモデルが確実に作成可能であること,バックドア透かしよりも優れていることが示唆された。 さらに, 本手法は, 各種防御機構に対してステルス性があり, 堅牢であることを示す。

関連論文リスト

• PointNCBW: Towards Dataset Ownership Verification for Point Clouds via Negative Clean-label Backdoor Watermark [20.746346834429925]
  我々は,点雲に対するクリーンラベルバックドアベースのデータセット透かしを提案し,有効性とステルス性の両方を保証する。 我々は、トリガーパターンを挿入する前に、形状的にも点的にも非ターゲットカテゴリの点雲を摂動する。 そのため、ウォーターマークされたデータセットでトレーニングされたモデルには、独特だがステルス的なバックドアの挙動がある。
  論文  参考訳（メタデータ） (2024-08-10T09:31:58Z)
• Mendata: A Framework to Purify Manipulated Training Data [12.406255198638064]
  我々は、操作したトレーニングデータを浄化するフレームワークであるMendataを提案する。 Mendataはトレーニングインプットを乱してユーティリティを保持するが、参照データと同様に分散される。 我々は、最先端のデータ中毒やデータ追跡技術にMendataを適用して、その効果を実証する。
  論文  参考訳（メタデータ） (2023-12-03T04:40:08Z)
• Detecting Pretraining Data from Large Language Models [90.12037980837738]
  事前学習データ検出問題について検討する。 事前学習データを知ることなく、テキスト片とLCMへのブラックボックスアクセスを条件に、モデルが提供されたテキストでトレーニングされたかどうかを判断できますか? 簡単な仮説に基づく新しい検出手法Min-K% Probを提案する。
  論文  参考訳（メタデータ） (2023-10-25T17:21:23Z)
• Stop Uploading Test Data in Plain Text: Practical Strategies for Mitigating Data Contamination by Evaluation Benchmarks [70.39633252935445]
  データ汚染は、大規模な自動クロールコーパスで事前訓練されたモデルの台頭によって、普及し、課題となっている。 クローズドモデルの場合、トレーニングデータはトレードシークレットになり、オープンモデルであっても汚染を検出するのは簡単ではない。 1)公開するテストデータを公開鍵で暗号化し,デリバティブ配信を許可する,(2)クローズドAPI保持者からの要求トレーニング排他的コントロールを許可する,(2)評価を拒否してテストデータを保護する,(3)インターネット上のソリューションで表示されるデータを避け,インターネット由来のWebページコンテキストを解放する,という3つの方法を提案する。
  論文  参考訳（メタデータ） (2023-05-17T12:23:38Z)
• Did You Train on My Dataset? Towards Public Dataset Protection with Clean-Label Backdoor Watermarking [54.40184736491652]
  本稿では,公開データの保護のための一般的な枠組みとして機能するバックドアベースの透かし手法を提案する。 データセットに少数の透かしサンプルを挿入することにより、我々のアプローチは、ディフェンダーが設定した秘密関数を暗黙的に学習することを可能にする。 この隠れた機能は、データセットを違法に使用するサードパーティモデルを追跡するための透かしとして使用できる。
  論文  参考訳（メタデータ） (2023-03-20T21:54:30Z)
• Black-box Dataset Ownership Verification via Backdoor Watermarking [67.69308278379957]
  我々は、リリースデータセットの保護を、(目立たしい)サードパーティモデルのトレーニングに採用されているかどうかの検証として定式化する。 バックドアの透かしを通じて外部パターンを埋め込んでオーナシップの検証を行い,保護することを提案する。 具体的には、有毒なバックドア攻撃(例えばBadNets)をデータセットのウォーターマーキングに利用し、データセット検証のための仮説テストガイダンスメソッドを設計する。
  論文  参考訳（メタデータ） (2022-08-04T05:32:20Z)
• On the Effectiveness of Dataset Watermarking in Adversarial Settings [14.095584034871658]
  機械学習(ML)モデルのトレーニングに使用される(画像)データセットのオーナシップを実証するために,提案手法である放射能データについて検討する。 本研究では, 放射能データによるモデル抽出攻撃を効果的に回避できることを示し, モデル抽出に対して頑健なMLモデルのオーナシップ検証に使用できる可能性を示した。
  論文  参考訳（メタデータ） (2022-02-25T05:51:53Z)
• Attentive Prototypes for Source-free Unsupervised Domain Adaptive 3D Object Detection [85.11649974840758]
  3Dオブジェクト検出ネットワークは、トレーニングされたデータに対してバイアスを受ける傾向がある。 そこで本研究では,ライダーを用いた3次元物体検出器のソースレス・教師なし領域適応のための単一フレーム手法を提案する。
  論文  参考訳（メタデータ） (2021-11-30T18:42:42Z)
• Open-sourced Dataset Protection via Backdoor Watermarking [87.15630326131901]
  本稿では,オープンソースの画像分類データセットを保護するために,Emphbackdoor Embeddingベースのデータセット透かし手法を提案する。 疑わしい第三者モデルによって生成される後続確率に基づいて,仮説テストガイド法を用いてデータセット検証を行う。
  論文  参考訳（メタデータ） (2020-10-12T16:16:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。