論文の概要: Responsible Disclosure of Generative Models Using Scalable Fingerprinting

• arxiv url: http://arxiv.org/abs/2012.08726v4
• Date: Tue, 30 Mar 2021 23:51:15 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-03 03:02:15.366789
• Title: Responsible Disclosure of Generative Models Using Scalable Fingerprinting
• Title（参考訳）: スケーラブルフィンガープリントを用いた生成モデルの責任開示
• Authors: Ning Yu, Vladislav Skripniuk, Dingfan Chen, Larry Davis, Mario Fritz
• Abstract要約: 深層生成モデルは質的に新しいパフォーマンスレベルを達成した。 この技術がスプーフセンサーに誤用され、ディープフェイクを発生させ、大規模な誤情報を可能にするという懸念がある。 最先端のジェネレーションモデルを責任を持って公開することで、研究者や企業がモデルに指紋を刻むことができます。
• 参考スコア（独自算出の注目度）: 70.81987741132451
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Over the past six years, deep generative models have achieved a qualitatively new level of performance. Generated data has become difficult, if not impossible, to be distinguished from real data. While there are plenty of use cases that benefit from this technology, there are also strong concerns on how this new technology can be misused to spoof sensors, generate deep fakes, and enable misinformation at scale. Unfortunately, current deep fake detection methods are not sustainable, as the gap between real and fake continues to close. In contrast, our work enables a responsible disclosure of such state-of-the-art generative models, that allows researchers and companies to fingerprint their models, so that the generated samples containing a fingerprint can be accurately detected and attributed to a source. Our technique achieves this by an efficient and scalable ad-hoc generation of a large population of models with distinct fingerprints. Our recommended operation point uses a 128-bit fingerprint which in principle results in more than $10^{36}$ identifiable models. Experiments show that our method fulfills key properties of a fingerprinting mechanism and achieves effectiveness in deep fake detection and attribution.
• Abstract（参考訳）: 過去6年間で、深層生成モデルは定性的に新しいレベルのパフォーマンスを達成している。 生成されたデータは、不可能ではないにせよ、実際のデータと区別することが困難になっている。 この技術の恩恵を受けるユースケースはたくさんあるが、この新技術がセンサーを悪用し、深いフェイクを生成し、大規模に誤った情報を可能にすることには、強い懸念がある。 残念ながら、現在のディープフェイク検出方法は、現実とフェイクのギャップが閉まっているため、持続可能ではない。 対照的に、我々の研究は、このような最先端の生成モデルについて責任ある開示を可能にし、研究者や企業がモデルに指紋を付けることができ、指紋を含む生成されたサンプルを正確に検出し、ソースに関連付けることができる。 本手法は,異なる指紋を持つ多数のモデル群を効率的かつスケーラブルに生成することにより,これを実現する。 推奨操作ポイントは128ビットの指紋を使用し、原則として10^{36}$の識別可能なモデルが生成される。 実験の結果, 本手法はフィンガープリンティング機構の重要な特性を満たし, ディープフェイクの検出と帰属に有効であることがわかった。

関連論文リスト

• Scalable Fingerprinting of Large Language Models [46.26999419117367]
  我々はPerinucleus sampleと呼ばれる新しい手法を導入し、スケーラブルで永続的で無害な指紋を生成する。 この手法により,Llama-3.1-8Bモデルに24,576個の指紋を付加できることを示した。
  論文  参考訳（メタデータ） (2025-02-11T18:43:07Z)
• Sample Correlation for Fingerprinting Deep Face Recognition [83.53005932513156]
  SAC(SA Corremplelation)に基づく新しいモデル盗難検出手法を提案する。 SACは、顔認証や顔の感情認識を含む、深層顔認識における様々なモデル盗難攻撃に対して、AUC、p値、F1スコアの点で最高のパフォーマンスを示すことに成功した。 我々は,SAC-JC の評価を Tiny-ImageNet や CIFAR10 などのオブジェクト認識に拡張し,従来の手法よりも SAC-JC の優れた性能を示す。
  論文  参考訳（メタデータ） (2024-12-30T07:37:06Z)
• ManiFPT: Defining and Analyzing Fingerprints of Generative Models [16.710998621718193]
  生成モデルにおけるアーティファクトと指紋の定義を形式化する。 我々は実際にそれらを計算するためのアルゴリズムを提案する。 指紋の構造について検討し,異なる設計選択が生成過程に与える影響を非常に予測できることを示した。
  論文  参考訳（メタデータ） (2024-02-16T01:58:35Z)
• SpoofGAN: Synthetic Fingerprint Spoof Images [47.87570819350573]
  指紋スプーフ検出の進歩に対する大きな制限は、公開可能な大規模な指紋スプーフデータセットの欠如である。 この研究は、これらのアルゴリズムに十分なデータを供給する際に、合成指紋(ライブ指紋とスプーフ指紋の両方)の有用性を実証することを目的としている。
  論文  参考訳（メタデータ） (2022-04-13T16:27:27Z)
• A high performance fingerprint liveness detection method based on quality related features [66.41574316136379]
  このシステムは、10,500枚以上の実画像と偽画像からなる非常に難しいデータベースでテストされている。 提案手法はマルチシナリオデータセットに対して堅牢であることが証明され、全体の90%が正しく分類されたサンプルである。
  論文  参考訳（メタデータ） (2021-11-02T21:09:39Z)
• Artificial Fingerprinting for Generative Models: Rooting Deepfake Attribution in Training Data [64.65952078807086]
  光現実性画像生成は、GAN(Generative Adversarial Network)のブレークスルーにより、新たな品質レベルに達した。 しかし、このようなディープフェイクのダークサイド、すなわち生成されたメディアの悪意ある使用は、視覚的誤報に関する懸念を提起する。 我々は,モデルに人工指紋を導入することによって,深度検出の積極的な,持続可能なソリューションを模索する。
  論文  参考訳（メタデータ） (2020-07-16T16:49:55Z)
• SynFi: Automatic Synthetic Fingerprint Generation [23.334625222079634]
  我々は,高忠実度合成指紋を大規模に自動生成する新しい手法を提案する。 本手法は,実際の指紋と計算的に区別できない指紋を生成する最初の方法であることを示す。
  論文  参考訳（メタデータ） (2020-02-16T07:45:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。