論文の概要: Position: AI/ML Deepfake Research is Misaligned with AI-Generated Non-Consensual Intimate Imagery (AIG-NCII)
- arxiv url: http://arxiv.org/abs/2607.18263v1
- Date: Sat, 16 May 2026 20:52:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 00:46:13.09584
- Title: Position: AI/ML Deepfake Research is Misaligned with AI-Generated Non-Consensual Intimate Imagery (AIG-NCII)
- Title（参考訳）: ポジション:AI/MLディープフェイク研究はAIが生成する非合意的近親画像(AIG-NCII)とミスマッチしている
- Authors: Li Qiwei, Wells Lucas Santo, Sarita Schoenebeck, Eric Gilbert,
- Abstract要約: AI生成非合意画像(AIG-NCII)は、AI生成メディアに関するAI/ML文献では適切に対処されていない。
AIG-NCIIをほぼ完全に無視するディープフェイクに対処する技術的介入を実証するため、高度に刺激された作品のランドスケープ分析を行う。
我々は、対象中心の害を考慮に入れた脅威モデルを更新するなど、分野を実現するためのレコメンデーションを提供する。
- 参考スコア（独自算出の注目度）: 5.7652309474723085
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: AI-generated non-consensual intimate imagery (AIG-NCII) is not adequately addressed in AI/ML literature regarding AI-generated media, commonly referred to as "deepfakes". While research on deepfakes currently focuses on its epistemic harms -- or harms relating to truth and authenticity -- this is misaligned with the dominant reality of generative AI abuse involving sexualized imagery. We conduct a landscape analysis of highly-cited works to demonstrate that technical interventions addressing deepfakes almost entirely ignore AIG-NCII, limiting the research ecosystem to authenticity detection tools. In this position paper, we argue that existing interventions address viewer-centric epistemic harms, such as fraud or scams, but ignore subject-centric dignity harms, such as AIG-NCII. We illustrate that knowing an image is synthetic does not mitigate harms to subjects and may, in some cases, even exacerbate them. We conclude by offering recommendations to realign the field, including updating threat models to consider subject-centric harms and addressing AIG-NCII in AI safety research. Finally, we caution that researchers should only engage in this high-risk domain if they implement safety guardrails for both subjects and researchers and establish partnerships with domain experts in sexual violence prevention.
- Abstract（参考訳）: AI生成非合意画像(AIG-NCII)は、AI生成メディアに関するAI/ML文献では適切に扱われていない。
ディープフェイクの研究は、現在、その疫学的な害(真実と真理に関する害)に焦点を当てているが、これは、性的なイメージを含む生成AIの悪用という支配的な現実と一致していない。
AIG-NCIIをほぼ完全に無視し、研究エコシステムを信頼度検出ツールに制限していることを示すために、高度に刺激された作品のランドスケープ分析を実施している。
本稿では,既存の介入は詐欺や詐欺のような視聴者中心の疫学的な害に対処するが,AIG-NCIIのような主観中心の尊厳的な害は無視する。
画像が合成されていることを知ることは、被験者への害を和らげるものではなく、場合によってはさらに悪化させることもある。
我々は、AIの安全性研究においてAIG-NCIIに対処するため、被疑者中心の害を検討するための脅威モデルを更新することを含む、分野を実現するためのレコメンデーションを提供することで締めくくっている。
最後に、このリスクの高いドメインは、被験者と研究者の両方の安全ガードレールを実装し、性的暴力防止におけるドメイン専門家とのパートナーシップを確立する場合にのみ、研究者が関与すべきである、と警告する。
関連論文リスト
- The Deepfakes We Missed: We Built Detectors for a Threat That Didn't Arrive [7.322569681160197]
本稿は、フィールドが用意した脅威が到着せず、到達した脅威が著しく異なることを論じる。
2022-2026年のディープフェイク事件の報告によると、支配的な害は、ピアジェネレーションのNon-Consensual Intimate Imagery(NCII)、家族やファイナンスワーカーをターゲットにした音声クローン詐欺、感情操作詐欺である。
ML研究コミュニティは、実際に成長している有害カテゴリーに対して、研究アジェンダを実質的に再バランスさせるべきだ、と我々は主張する。
論文 参考訳（メタデータ） (2026-05-12T13:02:13Z) - Zero-Shot Visual Deepfake Detection: Can AI Predict and Prevent Fake Content Before It's Created? [7.89029114152292]
デジタルセキュリティ、メディアの完全性、および公的な信頼に対するディープフェイクの脅威は急速に増加している。
本研究は、モデルが特定のディープフェイク変化を見たことがない場合でも、ゼロショットディープフェイク検出(ゼロショットディープフェイク検出)を新たに行う方法である。
論文 参考訳（メタデータ） (2025-09-22T22:33:16Z) - The Malicious Technical Ecosystem: Exposing Limitations in Technical Governance of AI-Generated Non-Consensual Intimate Images of Adults [2.0002283733682003]
我々は「重要な技術エコシステム」または「MTE」を識別する
本稿では,成人AIG-NCIIのMTEを効果的に規制する上で,現在の実践状況がいかに失敗しているかを示す。
論文 参考訳（メタデータ） (2025-04-24T15:31:46Z) - Why do Experts Disagree on Existential Risk and P(doom)? A Survey of AI Experts [0.0]
破滅的なリスクとAIアライメントに関する研究は、専門家による懐疑的な見方がしばしばある。
AIの実在するリスクに関するオンライン議論が、部族化し始めた。
AIの安全性の概念に精通している111人のAI専門家を調査しました。
論文 参考訳（メタデータ） (2025-01-25T01:51:29Z) - Deepfake Media Forensics: State of the Art and Challenges Ahead [51.33414186878676]
AIが生成する合成メディア、別名Deepfakesは、エンターテイメントからサイバーセキュリティまで、多くの領域に影響を与えている。
ディープフェイク検出は、微妙な矛盾やアーティファクトを機械学習技術で識別することに焦点を当て、研究の不可欠な領域となっている。
本稿では,これらの課題に対処する主要なアルゴリズムについて,その利点,限界,今後の展望について検討する。
論文 参考訳（メタデータ） (2024-08-01T08:57:47Z) - Generative AI and the problem of existential risk [0.0]
ジェネレーティブAIは、AIの現実的リスクに対する懸念の焦点となっている。
この章は、生成的AIに関連する存在的リスクの恐れを根底にしている重要な懸念を強調して、議論を軽視することを目的としている。
論文 参考訳（メタデータ） (2024-07-18T10:16:24Z) - A Safe Harbor for AI Evaluation and Red Teaming [124.89885800509505]
一部の研究者は、そのような研究の実施や研究成果の公表が、アカウント停止や法的報復につながることを恐れている。
我々は、主要なAI開発者が法的、技術的に安全な港を提供することを約束することを提案します。
これらのコミットメントは、ジェネレーティブAIのリスクに取り組むための、より包括的で意図しないコミュニティ努力への必要なステップである、と私たちは信じています。
論文 参考訳（メタデータ） (2024-03-07T20:55:08Z) - Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。
我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。
本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
論文 参考訳（メタデータ） (2024-02-06T18:54:07Z) - Control Risk for Potential Misuse of Artificial Intelligence in Science [85.91232985405554]
我々は、科学におけるAI誤用の危険性の認識を高めることを目的としている。
化学科学における誤用の実例を取り上げる。
我々は、科学におけるAIモデルの誤用リスクを制御するSciGuardというシステムを提案する。
論文 参考訳（メタデータ） (2023-12-11T18:50:57Z) - Physical Adversarial Attack meets Computer Vision: A Decade Survey [55.38113802311365]
本稿では,身体的敵意攻撃の概要を概観する。
本研究は,身体的敵意攻撃の性能を体系的に評価する第一歩を踏み出した。
提案する評価基準であるhiPAAは6つの視点から構成される。
論文 参考訳（メタデータ） (2022-09-30T01:59:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。