論文の概要: Dual-Use AI Face Swap Apps Are Mostly Unsafe: A Systematic Safety Audit

• arxiv url: http://arxiv.org/abs/2605.24735v1
• Date: Sat, 23 May 2026 21:15:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:18.354559
• Title: Dual-Use AI Face Swap Apps Are Mostly Unsafe: A Systematic Safety Audit
• Title（参考訳）: デュアルユースなAIフェイススワップアプリは安全ではない
• Authors: Alaa Daffalla, Sarah Chao, Eric Zeng,
• Abstract要約: 我々は、SNCIIの作成を防ぐために、iOSとAndroid用のAIフェイススワップアプリが安全対策を実装しているかどうかを検討する。 評価の結果,顔スワップ機能を持つアプリの70%はヌード画像の生成に対して技術的な保護を受けていないことがわかった。 ヌード化アプリとして自称するアプリは存在しないが、大多数はこの種の利用を禁じる特定のサービス規約を持っていない。
• 参考スコア（独自算出の注目度）: 2.729582776382713
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: AI-based image editing tools, such as face swapping algorithms, can be used to transform a clothed image of a person into a sexually explicit image of that person. These tools are made easily accessible to non-expert users through mobile apps, and have been linked to reports of image-based sexual abuse and cyberbullying involving synthetic non-consensual intimate imagery. Apple and Google have begun to remove "nudification" apps from their platforms: apps that are marketed with the capability to "undress", "nudify", or create nude face swaps from images of people. However, AI image editing apps that have the same underlying capabilities, but do not present as nudification apps could be also abused to create non-consensual explicit images. In this paper, we investigate whether AI face swap apps for iOS and Android implement safety measures to prevent the creation of SNCII. We identified and downloaded 420 face swap apps, and manually tested 155 eligible apps to see whether they would permit the user to create face swaps with nude images. Our evaluation shows that 70% of apps with face swap functionality have no technical safeguards against generation of nude images. Additionally, we investigated whether face swap apps' descriptions, terms of service, or privacy policies addressed harmful uses of the app, finding that no apps self-describe as nudification apps, but that the majority do not have specific terms of service provisions prohibiting this kind of use. Our findings suggest that to mitigate the threat of UI-bound SNCII threats, platforms and lawmakers must implement policies to mandate safety filters in dual-use AI image editing applications like face swap apps.
• Abstract（参考訳）: AIベースの画像編集ツール、例えば顔スワッピングアルゴリズムは、人の服を着たイメージをその人の性的に明示的なイメージに変換するのに使うことができる。 これらのツールは、モバイルアプリを通じて、専門家でないユーザーに簡単にアクセスでき、画像ベースの性的虐待や、合成された非合意的近親画像を含むサイバーいじめの報告に関連付けられている。 Apple(アップル)とGoogle(グーグル)は、自社のプラットフォームから「ニュデーション」アプリを削除し始めた。 しかし、同じ基礎機能を持つが、ヌード化アプリとして存在しないAI画像編集アプリは、非合意の明示的なイメージを作成するために悪用される可能性がある。 本稿では,SNCII作成を防ぐための安全対策として,iOSとAndroid用のAIフェイススワップアプリが実装されているかを検討する。 420のフェイススワップアプリを特定してダウンロードし、155の適格アプリを手動でテストし、ユーザーがヌード画像でフェイススワップを作成できるかどうかを確認しました。 評価の結果,顔スワップ機能を持つアプリの70%はヌード画像の生成に対して技術的な保護を受けていないことがわかった。 さらに、私たちは、アプリの説明、サービス規約、プライバシーポリシーが、アプリの有害な使用に対処するかどうかを調査し、アプリがヌード化アプリとして自己記述することはないが、大多数がこの種の使用を禁じる特定のサービス規約を持っていないことを発見した。 当社の調査結果は、UIバウンドなSNCII脅威の脅威を軽減するために、プラットフォームと立法者は、フェイススワップアプリのようなデュアルユースAI画像編集アプリケーションに安全フィルタを委任するポリシーを実装しなければならないことを示唆している。

関連論文リスト

• PRIVATEEDIT: A Privacy-Preserving Pipeline for Face-Centric Generative Image Editing [39.82402524402139]
  生成画像編集は、プロのヘッドショット生成からアバタースタイリゼーションまで、変換可能なアプリケーションを可能にする。 これらのシステムは、しばしば高忠実な顔画像をサードパーティのモデルにアップロードすることを必要とし、生体認証のプライバシー、データ誤用、ユーザーの同意に関する懸念を提起する。 我々は,顔中心のユースケースで生体データを制御しながら,高品質な編集をサポートするプライバシー保護パイプラインを提案する。
  論文  参考訳（メタデータ） (2026-03-03T18:27:51Z)
• Analyzing the AI Nudification Application Ecosystem [28.065263900272747]
  被服者(画像被写体)の原像が与えられた場合、AIベースのヌードアプリケーションは、その人物のヌード(無ストレス)画像を生成することができる。 実世界において、画像の主題の同意なく、そのような応用が用いられているという証拠は豊富である。 本研究は,20の有名かつ手軽なヌードWebサイトに焦点を当てた。
  論文  参考訳（メタデータ） (2024-11-14T19:05:47Z)
• Privacy-preserving Optics for Enhancing Protection in Face De-identification [60.110274007388135]
  この脆弱性を解決するために,ハードウェアレベルの顔識別手法を提案する。 また、プライバシ保存画像、フェイスヒートマップ、およびパブリックデータセットからの参照顔イメージを入力として、新しい顔を生成する匿名化フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-03-31T19:28:04Z)
• UnGANable: Defending Against GAN-based Face Manipulation [69.90981797810348]
  ディープフェイクは、私たちの社会に視覚的誤報の深刻な脅威をもたらす。 1つの代表的なディープフェイク応用は、画像中の被害者の顔属性を変更する顔操作である。 本稿では,GANable による顔操作に対する最初の防御システムである UnGANable を提案する。
  論文  参考訳（メタデータ） (2022-10-03T14:20:01Z)
• LFW-Beautified: A Dataset of Face Images with Beautification and Augmented Reality Filters [53.180678723280145]
  いくつかの操作を含む顔画像のデータベースにコントリビュートする。 画像強調フィルター(コントラストや稲妻を主に修正する)や、動物の鼻や眼鏡などのアイテムを組み込んだ拡張現実フィルターが含まれている。 各データセットには、64×64の4,324枚の画像があり、合計34,592枚の画像がある。
  論文  参考訳（メタデータ） (2022-03-11T17:05:10Z)
• FedFace: Collaborative Learning of Face Recognition Model [66.84737075622421]
  FedFaceは顔認識モデルの協調学習のためのフレームワークである。 各クライアントに格納された顔画像が、他のクライアントや中央ホストと共有されない、正確で汎用的な顔認識モデルを学ぶ。 コードとトレーニング済みモデルは公開される予定です。
  論文  参考訳（メタデータ） (2021-04-07T09:25:32Z)
• A Study of Face Obfuscation in ImageNet [94.2949777826947]
  本稿では,imagenetチャレンジにおける画像難読化について検討する。 ImageNetチャレンジのほとんどのカテゴリは、人のカテゴリではありません。 さまざまな深層ニューラルネットワークを顔画像上でベンチマークし、異なるカテゴリに対する異なる影響を観察します。 結果は、顔が破れた画像で学んだ特徴が等しく転送可能であることを示している。
  論文  参考訳（メタデータ） (2021-03-10T17:11:34Z)
• FoggySight: A Scheme for Facial Lookup Privacy [8.19666118455293]
  ソーシャルメディアにアップロードされる前に、相手の事例文献から学んだ教訓を適用して、プライバシー保護の方法で顔写真を修正するソリューションを提案し、評価します。 f foggysightの核となる機能はコミュニティ保護戦略であり、ユーザがプライバシーの保護者として行動することで、敵の機械学習アルゴリズムによって生成されたデコイ写真をアップロードする。 我々は、このスキームのさまざまな設定を調査し、未知の内部構造を持つ顔認識サービスを含む、顔のプライバシー保護を可能にすることを見出します。
  論文  参考訳（メタデータ） (2020-12-15T19:57:18Z)
• Towards Face Encryption by Generating Adversarial Identity Masks [53.82211571716117]
  敵の識別マスクを生成するためのターゲットID保護反復法(TIP-IM)を提案する。 TIP-IMは、様々な最先端の顔認識モデルに対して95%以上の保護成功率を提供する。
  論文  参考訳（メタデータ） (2020-03-15T12:45:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。