論文の概要: Coincidental Generation
- arxiv url: http://arxiv.org/abs/2304.01108v2
- Date: Mon, 10 Apr 2023 15:16:04 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-11 19:58:01.280985
- Title: Coincidental Generation
- Title（参考訳）: 偶然の世代
- Authors: Jordan W. Suchow and Necdet G\"urkan
- Abstract要約: 生成型AIモデルは、プライバシー保護データ共有、計算芸術、製品やサービスのパーソナライズ、没入型エンターテイメントなど、様々な産業で多用途ツールとして登場してきた。
ここでは、生成モデルの出力が既存のエンティティに十分よく似ており、モデルのトレーニングに使用されるデータセットに代表されるもの以外に、生成モデルの採用と使用に関する新たなプライバシ上の懸念を紹介する。
- 参考スコア（独自算出の注目度）: 0.5076419064097732
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative A.I. models have emerged as versatile tools across diverse
industries, with applications in privacy-preserving data sharing, computational
art, personalization of products and services, and immersive entertainment.
Here, we introduce a new privacy concern in the adoption and use of generative
A.I. models: that of coincidental generation, where a generative model's output
is similar enough to an existing entity, beyond those represented in the
dataset used to train the model, to be mistaken for it. Consider, for example,
synthetic portrait generators, which are today deployed in commercial
applications such as virtual modeling agencies and synthetic stock photography.
Due to the low intrinsic dimensionality of human face perception, every
synthetically generated face will coincidentally resemble an actual person.
Such examples of coincidental generation all but guarantee the misappropriation
of likeness and expose organizations that use generative A.I. to legal and
regulatory risk.
- Abstract（参考訳）: 生成型AIモデルは、プライバシー保護データ共有、計算芸術、製品やサービスのパーソナライズ、没入型エンターテイメントなど、様々な産業で多用途ツールとして登場してきた。
ここでは,生成型a.i.モデルの採用と使用に関して,新たなプライバシ上の懸念を提起する。生成型モデルの出力が既存のエンティティと十分に類似している場合,モデルのトレーニングに使用されるデータセットに代表されるものよりも,誤用される場合が多い。
例えば、現在仮想モデリングエージェンシーや合成ストック写真などの商用アプリケーションにデプロイされている合成ポートレートジェネレータについて考えてみましょう。
人間の顔知覚の固有次元が低かったため、すべての合成された顔は、偶然に実際の人物に類似する。
このような偶然発生の例は、類似性の誤用を保証し、生成的A.I.を使用する組織を法的および規制上のリスクにさらしている。
関連論文リスト
- Unveiling Synthetic Faces: How Synthetic Datasets Can Expose Real Identities [22.8742248559748]
6つの最先端の合成顔認識データセットにおいて、元の実データからのサンプルが漏洩していることを示す。
本論文は,ジェネレータモデルのトレーニングデータから生成した合成顔認証データセットへの漏洩を示す最初の研究である。
論文 参考訳（メタデータ） (2024-10-31T15:17:14Z) - Deep Generative Models in Robotics: A Survey on Learning from Multimodal Demonstrations [52.11801730860999]
近年、ロボット学習コミュニティは、大規模なデータセットの複雑さを捉えるために、深層生成モデルを使うことへの関心が高まっている。
本稿では,エネルギーベースモデル,拡散モデル,アクションバリューマップ,生成的敵ネットワークなど,コミュニティが探求してきたさまざまなモデルについて述べる。
また,情報生成から軌道生成,コスト学習に至るまで,深層生成モデルを用いた様々なアプリケーションについて述べる。
論文 参考訳（メタデータ） (2024-08-08T11:34:31Z) - AI-Generated Images as Data Source: The Dawn of Synthetic Era [61.879821573066216]
生成AIは、現実世界の写真によく似た合成画像を作成する可能性を解き放った。
本稿では、これらのAI生成画像を新しいデータソースとして活用するという革新的な概念を探求する。
実際のデータとは対照的に、AI生成データには、未整合のアブリダンスやスケーラビリティなど、大きなメリットがある。
論文 参考訳（メタデータ） (2023-10-03T06:55:19Z) - On the Stability of Iterative Retraining of Generative Models on their own Data [56.153542044045224]
混合データセットに対する生成モデルの訓練が与える影響について検討する。
まず、初期生成モデルがデータ分布を十分に近似する条件下で反復学習の安定性を実証する。
我々は、正規化フローと最先端拡散モデルを繰り返し訓練することにより、合成画像と自然画像の両方に関する我々の理論を実証的に検証する。
論文 参考訳（メタデータ） (2023-09-30T16:41:04Z) - TSGM: A Flexible Framework for Generative Modeling of Synthetic Time Series [61.436361263605114]
時系列データは、研究者と産業組織間のデータの共有を妨げるため、しばしば不足または非常に敏感である。
本稿では,合成時系列の生成モデリングのためのオープンソースフレームワークである時系列生成モデリング(TSGM)を紹介する。
論文 参考訳（メタデータ） (2023-05-19T10:11:21Z) - Is synthetic data from generative models ready for image recognition? [69.42645602062024]
本研究では,最新のテキスト・画像生成モデルから生成した合成画像が,画像認識タスクにどのように利用できるかを検討した。
本稿では,既存の生成モデルからの合成データの強大さと欠点を示し,認識タスクに合成データを適用するための戦略を提案する。
論文 参考訳（メタデータ） (2022-10-14T06:54:24Z) - 3DMM-RF: Convolutional Radiance Fields for 3D Face Modeling [111.98096975078158]
本稿では,1つのパスを1つのパスで合成し,必要なニューラルネットワークのレンダリングサンプルのみを合成するスタイルベースの生成ネットワークを提案する。
このモデルは、任意のポーズと照明の顔画像に正確に適合し、顔の特徴を抽出し、制御可能な条件下で顔を再レンダリングするために使用できることを示す。
論文 参考訳（メタデータ） (2022-09-15T15:28:45Z) - Mimetic Models: Ethical Implications of AI that Acts Like You [5.843033621853535]
人工知能研究における新たなテーマは、特定の人々の決定と振る舞いをシミュレートするモデルの作成である。
われわれは, 倫理的, 社会的問題に対処するための枠組みを構築した。
論文 参考訳（メタデータ） (2022-07-19T16:41:36Z) - Training face verification models from generated face identity data [2.557825816851682]
我々は、顔認識に適用されるように、データセットのプライバシー保護を高めるアプローチを検討する。
我々は、StyleGAN生成逆数ネットワーク上に構築し、2つの異なるサブコードを組み合わせた潜時符号でフィードする。
少量のプライベートデータを追加することで、モデルの性能が大幅に向上することがわかった。
論文 参考訳（メタデータ） (2021-08-02T12:00:01Z) - Composable Generative Models [5.990174495635326]
本稿では,プライバシ保護アプリケーションを考慮した合成データ生成モデルについて述べる。
新しいアーキテクチャであるComposable Generative Model(CGM)を導入する。
CGMは13のデータセットで評価され、14の最近の生成モデルと比較された。
論文 参考訳（メタデータ） (2021-02-18T10:11:29Z) - On Attribution of Deepfakes [25.334701225923517]
生成的敵ネットワークは メディアを効果的に 合成し 変更できるようにしました
現在、悪意のある個人は、これらの機械生成メディア(ディープフェイク)を使って、社会的言論を操っている。
そこで本研究では,各生成モデルのエントロピー源を最適化し,ディープフェイクをモデルの一つに属性付ける手法を提案する。
論文 参考訳（メタデータ） (2020-08-20T20:25:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。