論文の概要: Data Isotopes for Data Provenance in DNNs
- arxiv url: http://arxiv.org/abs/2208.13893v1
- Date: Mon, 29 Aug 2022 21:28:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-31 13:40:09.668078
- Title: Data Isotopes for Data Provenance in DNNs
- Title（参考訳）: DNNにおけるデータ出現のためのデータアイソトープ
- Authors: Emily Wenger and Xiuyu Li and Ben Y. Zhao and Vitaly Shmatikov
- Abstract要約: トレーニング中にDNNに“spurious features”を導入することで、ユーザがIthronicsと呼ぶ特別なデータポイントを作成できることを示します。
ユーザは、統計仮説テストを適用して、モデルが自分の同位体に関連する刺激的な特徴を学習したかどうかを、ユーザーのデータに基づいてトレーニングすることで検出することができる。
その結果,複数設定で有効性を確認し,高い精度で数百の同位体の検出と識別を行った。
- 参考スコア（独自算出の注目度）: 27.549744883427376
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Today, creators of data-hungry deep neural networks (DNNs) scour the Internet
for training fodder, leaving users with little control over or knowledge of
when their data is appropriated for model training. To empower users to
counteract unwanted data use, we design, implement and evaluate a practical
system that enables users to detect if their data was used to train an DNN
model. We show how users can create special data points we call isotopes, which
introduce "spurious features" into DNNs during training. With only query access
to a trained model and no knowledge of the model training process, or control
of the data labels, a user can apply statistical hypothesis testing to detect
if a model has learned the spurious features associated with their isotopes by
training on the user's data. This effectively turns DNNs' vulnerability to
memorization and spurious correlations into a tool for data provenance. Our
results confirm efficacy in multiple settings, detecting and distinguishing
between hundreds of isotopes with high accuracy. We further show that our
system works on public ML-as-a-service platforms and larger models such as
ImageNet, can use physical objects instead of digital marks, and remains
generally robust against several adaptive countermeasures.
- Abstract（参考訳）: 今日、DNN(Data-hungry Deep Neural Network)のクリエーターは、データをモデルトレーニングにいつ適切なタイミングで制御するか、知識をほとんど持たないまま、ファダーのトレーニングのためにインターネットをいじる。
ユーザが望ましくないデータの使用に対処するために、DNNモデルのトレーニングに使用したデータを検出する実用的なシステムを設計、実装、評価する。
トレーニング中にDNNに“spurious features”を導入することで、ユーザがIthronicsと呼ぶ特別なデータポイントを作成できることを示します。
トレーニングされたモデルへのクエリアクセスのみを使用して、モデルトレーニングプロセスやデータラベルの制御を行なわず、ユーザが統計的仮説テストを適用して、モデルがユーザのデータに基づいてトレーニングすることで、自分の同位体に関連する急激な特徴を学習したかどうかを検出することができる。
これにより、DNNの脆弱性を暗記と素早い相関に効果的に変換し、データ証明のためのツールとなる。
その結果,複数設定で有効性を確認し,高い精度で数百の同位体の検出と識別を行った。
さらに,私たちのシステムはパブリックML・アズ・ア・サービスプラットフォームやImageNetなどの大規模モデルで動作し,デジタルマークの代わりに物理オブジェクトを使用できることを示す。
関連論文リスト
- Machine Unlearning using Forgetting Neural Networks [0.0]
本稿では,忘れニューラルネットワーク(FNN)を用いた機械学習の新しいアプローチを提案する。
FNNは特定の記憶層を持つニューラルネットワークで、人間の脳が忘れられたときのプロセスからインスピレーションを受けます。
MNIST手書き文字認識とファッションデータセットについて報告する。
論文 参考訳（メタデータ） (2024-10-29T02:52:26Z) - GOODAT: Towards Test-time Graph Out-of-Distribution Detection [103.40396427724667]
グラフニューラルネットワーク(GNN)は、さまざまな領域にわたるグラフデータのモデリングに広く応用されている。
近年の研究では、特定のモデルのトレーニングや、よく訓練されたGNN上でのデータ修正に重点を置いて、OOD検出のグラフを調査している。
本稿では、GNNアーキテクチャのトレーニングデータと修正から独立して動作する、データ中心、教師なし、プラグアンドプレイのソリューションを提案する。
論文 参考訳（メタデータ） (2024-01-10T08:37:39Z) - GraphGuard: Detecting and Counteracting Training Data Misuse in Graph
Neural Networks [69.97213941893351]
グラフデータ分析におけるグラフニューラルネットワーク(GNN)の出現は、モデルトレーニング中のデータ誤用に関する重要な懸念を引き起こしている。
既存の手法は、データ誤用検出または緩和のいずれかに対応しており、主にローカルGNNモデル用に設計されている。
本稿では,これらの課題に対処するため,GraphGuardという先駆的なアプローチを導入する。
論文 参考訳（メタデータ） (2023-12-13T02:59:37Z) - Learn to Unlearn for Deep Neural Networks: Minimizing Unlearning
Interference with Gradient Projection [56.292071534857946]
最近のデータプライバシ法は、機械学習への関心を喚起している。
課題は、残りのデータセットに関する知識を変更することなく、忘れたデータに関する情報を捨てることである。
我々は、プロジェクテッド・グラディエント・アンラーニング(PGU)という、プロジェクテッド・グラディエント・ベースの学習手法を採用する。
トレーニングデータセットがもはやアクセスできない場合でも、スクラッチからスクラッチで再トレーニングされたモデルと同じような振る舞いをするモデルを、我々のアンラーニング手法が生成できることを実証するための実証的な証拠を提供する。
論文 参考訳（メタデータ） (2023-12-07T07:17:24Z) - From Zero to Hero: Detecting Leaked Data through Synthetic Data Injection and Model Querying [10.919336198760808]
分類モデルの学習に使用される漏洩データを検出する新しい手法を提案する。
textscLDSSは、クラス分散の局所的なシフトによって特徴付けられる、少量の合成データを所有者のデータセットに注入する。
これにより、モデルクエリ単独で、リークデータに基づいてトレーニングされたモデルの効果的な識別が可能になる。
論文 参考訳（メタデータ） (2023-10-06T10:36:28Z) - Efficient Testing of Deep Neural Networks via Decision Boundary Analysis [28.868479656437145]
我々は、新しいラベルのないデータに基づいてDNNの性能を推定できるAriesという新しい手法を提案する。
Aries による推定精度は 0.03% -- 2.60% (平均 0.61%) しか真の精度から外れていない。
論文 参考訳（メタデータ） (2022-07-22T08:39:10Z) - Data-Free Adversarial Knowledge Distillation for Graph Neural Networks [62.71646916191515]
グラフ構造化データ(DFAD-GNN)を用いたデータフリー逆知識蒸留のための第1のエンドツーエンドフレームワークを提案する。
具体的には、DFAD-GNNは、教師モデルと学生モデルとを2つの識別器とみなし、教師モデルから学生モデルに知識を抽出するために学習グラフを導出するジェネレータという、主に3つの成分からなる生成的対向ネットワークを採用している。
我々のDFAD-GNNは、グラフ分類タスクにおける最先端のデータフリーベースラインを大幅に上回っている。
論文 参考訳（メタデータ） (2022-05-08T08:19:40Z) - Efficient training of lightweight neural networks using Online
Self-Acquired Knowledge Distillation [51.66271681532262]
オンライン自己獲得知識蒸留(OSAKD)は、ディープニューラルネットワークの性能をオンライン的に向上することを目的としている。
出力特徴空間におけるデータサンプルの未知確率分布を推定するために、k-nnノンパラメトリック密度推定手法を用いる。
論文 参考訳（メタデータ） (2021-08-26T14:01:04Z) - IADA: Iterative Adversarial Data Augmentation Using Formal Verification
and Expert Guidance [1.599072005190786]
本稿では,ニューラルネットワークモデルを学習するための反復的逆データ拡張フレームワークを提案する。
提案するフレームワークは,人工的な2Dデータセット,MNISTデータセット,人間の動作データセットに適用される。
学習モデルのロバスト性や精度を向上させることができることを示す。
論文 参考訳（メタデータ） (2021-08-16T03:05:53Z) - ALT-MAS: A Data-Efficient Framework for Active Testing of Machine
Learning Algorithms [58.684954492439424]
少量のラベル付きテストデータのみを用いて機械学習モデルを効率的にテストする新しいフレームワークを提案する。
ベイズニューラルネットワーク(bnn)を用いたモデルアンダーテストの関心指標の推定が目的である。
論文 参考訳（メタデータ） (2021-04-11T12:14:04Z) - Self-Competitive Neural Networks [0.0]
ディープニューラルネットワーク(DNN)は、多くのアプリケーションにおける分類問題の精度を改善している。
DNNをトレーニングする際の課題の1つは、その正確性を高め、過度な適合に苦しむことを避けるために、豊富なデータセットによって供給される必要があることである。
近年,データ拡張手法の提案が盛んに行われている。
本稿では,各クラスのドメイン・オブ・アトラクション(DoAs)を洗練させるために,逆データを生成します。このアプローチでは,各段階において,プライマリデータと生成された逆データ(その段階まで)から学習したモデルを用いて,プライマリデータを複雑な方法で操作する。
論文 参考訳（メタデータ） (2020-08-22T12:28:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。