論文の概要: Coincidental Generation
- arxiv url: http://arxiv.org/abs/2304.01108v2
- Date: Mon, 10 Apr 2023 15:16:04 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-11 19:58:01.280985
- Title: Coincidental Generation
- Title(参考訳): 偶然の世代
- Authors: Jordan W. Suchow and Necdet G\"urkan
- Abstract要約: 生成型AIモデルは、プライバシー保護データ共有、計算芸術、製品やサービスのパーソナライズ、没入型エンターテイメントなど、様々な産業で多用途ツールとして登場してきた。
ここでは、生成モデルの出力が既存のエンティティに十分よく似ており、モデルのトレーニングに使用されるデータセットに代表されるもの以外に、生成モデルの採用と使用に関する新たなプライバシ上の懸念を紹介する。
- 参考スコア(独自算出の注目度): 0.5076419064097732
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative A.I. models have emerged as versatile tools across diverse
industries, with applications in privacy-preserving data sharing, computational
art, personalization of products and services, and immersive entertainment.
Here, we introduce a new privacy concern in the adoption and use of generative
A.I. models: that of coincidental generation, where a generative model's output
is similar enough to an existing entity, beyond those represented in the
dataset used to train the model, to be mistaken for it. Consider, for example,
synthetic portrait generators, which are today deployed in commercial
applications such as virtual modeling agencies and synthetic stock photography.
Due to the low intrinsic dimensionality of human face perception, every
synthetically generated face will coincidentally resemble an actual person.
Such examples of coincidental generation all but guarantee the misappropriation
of likeness and expose organizations that use generative A.I. to legal and
regulatory risk.
- Abstract(参考訳): 生成型AIモデルは、プライバシー保護データ共有、計算芸術、製品やサービスのパーソナライズ、没入型エンターテイメントなど、様々な産業で多用途ツールとして登場してきた。
ここでは,生成型a.i.モデルの採用と使用に関して,新たなプライバシ上の懸念を提起する。生成型モデルの出力が既存のエンティティと十分に類似している場合,モデルのトレーニングに使用されるデータセットに代表されるものよりも,誤用される場合が多い。
例えば、現在仮想モデリングエージェンシーや合成ストック写真などの商用アプリケーションにデプロイされている合成ポートレートジェネレータについて考えてみましょう。
人間の顔知覚の固有次元が低かったため、すべての合成された顔は、偶然に実際の人物に類似する。
このような偶然発生の例は、類似性の誤用を保証し、生成的A.I.を使用する組織を法的および規制上のリスクにさらしている。
関連論文リスト
- Situating the social issues of image generation models in the model life
cycle: a sociotechnical approach [22.52767766394583]
本稿では,画像生成モデルに関連する社会問題の包括的分類について報告する。
データ問題,知的財産権,バイアス,プライバシ,情報,文化,自然環境など,画像生成モデルから生じる7つのイシュークラスタを特定します。
画像生成モデルによって引き起こされるリスクは、大きな言語モデルによってもたらされるリスクと重大であると主張する。
論文 参考訳(メタデータ) (2023-11-30T08:32:32Z) - AI-Generated Images as Data Source: The Dawn of Synthetic Era [61.879821573066216]
生成AIは、現実世界の写真によく似た合成画像を作成する可能性を解き放った。
本稿では、これらのAI生成画像を新しいデータソースとして活用するという革新的な概念を探求する。
実際のデータとは対照的に、AI生成データには、未整合のアブリダンスやスケーラビリティなど、大きなメリットがある。
論文 参考訳(メタデータ) (2023-10-03T06:55:19Z) - On the Stability of Iterative Retraining of Generative Models on their own Data [56.153542044045224]
混合データセットに対する生成モデルの訓練が与える影響について検討する。
まず、初期生成モデルがデータ分布を十分に近似する条件下で反復学習の安定性を実証する。
我々は、正規化フローと最先端拡散モデルを繰り返し訓練することにより、合成画像と自然画像の両方に関する我々の理論を実証的に検証する。
論文 参考訳(メタデータ) (2023-09-30T16:41:04Z) - BAGM: A Backdoor Attack for Manipulating Text-to-Image Generative Models [54.19289900203071]
テキストから画像への生成人工知能の普及は、大衆の関心を集めている。
ユーザを微妙に操作するコンテンツを生成するために,この技術を攻撃できることを実証する。
テキストから画像生成モデル(BAGM)に対するバックドアアタックを提案する。
我々の攻撃は、生成過程の3段階にわたる3つの一般的なテキスト・画像生成モデルをターゲットにした最初の攻撃である。
論文 参考訳(メタデータ) (2023-07-31T08:34:24Z) - TSGM: A Flexible Framework for Generative Modeling of Synthetic Time
Series [79.64785804590821]
時系列データは、研究者と産業組織間のデータの共有を妨げるため、しばしば不足または非常に敏感である。
本稿では,合成時系列の生成モデリングのためのオープンソースフレームワークである時系列生成モデリング(TSGM)を紹介する。
論文 参考訳(メタデータ) (2023-05-19T10:11:21Z) - Is synthetic data from generative models ready for image recognition? [69.42645602062024]
本研究では,最新のテキスト・画像生成モデルから生成した合成画像が,画像認識タスクにどのように利用できるかを検討した。
本稿では,既存の生成モデルからの合成データの強大さと欠点を示し,認識タスクに合成データを適用するための戦略を提案する。
論文 参考訳(メタデータ) (2022-10-14T06:54:24Z) - 3DMM-RF: Convolutional Radiance Fields for 3D Face Modeling [111.98096975078158]
本稿では,1つのパスを1つのパスで合成し,必要なニューラルネットワークのレンダリングサンプルのみを合成するスタイルベースの生成ネットワークを提案する。
このモデルは、任意のポーズと照明の顔画像に正確に適合し、顔の特徴を抽出し、制御可能な条件下で顔を再レンダリングするために使用できることを示す。
論文 参考訳(メタデータ) (2022-09-15T15:28:45Z) - Mimetic Models: Ethical Implications of AI that Acts Like You [5.843033621853535]
人工知能研究における新たなテーマは、特定の人々の決定と振る舞いをシミュレートするモデルの作成である。
われわれは, 倫理的, 社会的問題に対処するための枠組みを構築した。
論文 参考訳(メタデータ) (2022-07-19T16:41:36Z) - Training face verification models from generated face identity data [2.557825816851682]
我々は、顔認識に適用されるように、データセットのプライバシー保護を高めるアプローチを検討する。
我々は、StyleGAN生成逆数ネットワーク上に構築し、2つの異なるサブコードを組み合わせた潜時符号でフィードする。
少量のプライベートデータを追加することで、モデルの性能が大幅に向上することがわかった。
論文 参考訳(メタデータ) (2021-08-02T12:00:01Z) - Composable Generative Models [5.990174495635326]
本稿では,プライバシ保護アプリケーションを考慮した合成データ生成モデルについて述べる。
新しいアーキテクチャであるComposable Generative Model(CGM)を導入する。
CGMは13のデータセットで評価され、14の最近の生成モデルと比較された。
論文 参考訳(メタデータ) (2021-02-18T10:11:29Z) - On Attribution of Deepfakes [25.334701225923517]
生成的敵ネットワークは メディアを効果的に 合成し 変更できるようにしました
現在、悪意のある個人は、これらの機械生成メディア(ディープフェイク)を使って、社会的言論を操っている。
そこで本研究では,各生成モデルのエントロピー源を最適化し,ディープフェイクをモデルの一つに属性付ける手法を提案する。
論文 参考訳(メタデータ) (2020-08-20T20:25:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。