Fugu-MT 論文翻訳(概要): The Malicious Technical Ecosystem: Exposing Limitations in Technical Governance of AI-Generated Non-Consensual Intimate Images of Adults

論文の概要: The Malicious Technical Ecosystem: Exposing Limitations in Technical Governance of AI-Generated Non-Consensual Intimate Images of Adults

arxiv url: http://arxiv.org/abs/2504.17663v1
Date: Thu, 24 Apr 2025 15:31:46 GMT
ステータス: 翻訳完了
システム内更新日: 2025-05-02 19:15:53.437306
Title: The Malicious Technical Ecosystem: Exposing Limitations in Technical Governance of AI-Generated Non-Consensual Intimate Images of Adults
Title（参考訳）: 悪意ある技術生態系:AIによる成人の非合意的親密なイメージの技術的ガバナンスにおける限界を提示する
Authors: Michelle L. Ding, Harini Suresh,
Abstract要約: 我々は「重要な技術エコシステム」または「MTE」を識別する本稿では,成人AIG-NCIIのMTEを効果的に規制する上で,現在の実践状況がいかに失敗しているかを示す。
参考スコア（独自算出の注目度）: 2.0002283733682003
License: http://creativecommons.org/licenses/by/4.0/
Abstract: In this paper, we adopt a survivor-centered approach to locate and dissect the role of sociotechnical AI governance in preventing AI-Generated Non-Consensual Intimate Images (AIG-NCII) of adults, colloquially known as "deep fake pornography." We identify a "malicious technical ecosystem" or "MTE," comprising of open-source face-swapping models and nearly 200 "nudifying" software programs that allow non-technical users to create AIG-NCII within minutes. Then, using the National Institute of Standards and Technology (NIST) AI 100-4 report as a reflection of current synthetic content governance methods, we show how the current landscape of practices fails to effectively regulate the MTE for adult AIG-NCII, as well as flawed assumptions explaining these gaps.
Abstract（参考訳）: 本稿では,「ディープフェイクポルノ」として知られる成人のAI-Generated Non-Consensual Intimate Images(AIG-NCII)の防止における社会技術AIガバナンスの役割の発見と解明に,生き残り中心のアプローチを採用する。我々は、オープンソースのフェイススワッピングモデルと、非技術者のユーザが数分でAIG-NCIIを作成できる200近い「ニュデーション」ソフトウェアプログラムからなる「重要な技術エコシステム」または「MTE」を識別する。そこで,国立標準技術研究所(NIST)のAI 100-4レポートを,現行の合成コンテンツガバナンス手法の反映として用いて,成人AIG-NCIIのMTEを効果的に規制できない現状と,これらのギャップを説明できない前提について述べる。

関連論文リスト

Adoption of Watermarking for Generative AI Systems in Practice and Implications under the new EU AI Act [4.2125200966193885]
本稿では,画像生成において最も広く使用されている50のAIシステムについて,実証分析を行い,これをAI法の法的解析に組み込む。我々は、AI法に基づき、生成AI画像システムの4つのカテゴリを特定し、各カテゴリの法的義務を概説し、現在適切な透かしを実施しているのは、少数の提供者のみである。
論文参考訳（メタデータ） (2025-03-23T17:55:33Z)
Decoding the Black Box: Integrating Moral Imagination with Technical AI Governance [0.0]
我々は、防衛、金融、医療、教育といった高度な領域に展開するAI技術を規制するために設計された包括的なフレームワークを開発する。本手法では,厳密な技術的分析,定量的リスク評価,規範的評価を併用して,システム的脆弱性を暴露する。
論文参考訳（メタデータ） (2025-03-09T03:11:32Z)
Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文参考訳（メタデータ） (2024-10-10T17:38:38Z)
An FDA for AI? Pitfalls and Plausibility of Approval Regulation for Frontier Artificial Intelligence [0.0]
我々は、フロンティアAIの規制に対する承認規制、すなわち、実験的なミニマと、その実験で部分的にまたは完全に条件付けられた政府のライセンスとを組み合わせた製品の適用性について検討する。承認規制が単に適用されたとしても、フロンティアAIのリスクには不適当であると考える理由はいくつかある。規制開発における政策学習と実験の役割を強調して締めくくる。
論文参考訳（メタデータ） (2024-08-01T17:54:57Z)
Open Problems in Technical AI Governance [102.19067750759471]
テクニカルAIガバナンス(Technical AI Governance)は、AIの効果的なガバナンスを支援するための技術分析とツールである。本論文は、AIガバナンスへの貢献を目指す技術研究者や研究資金提供者のためのリソースとして意図されている。
論文参考訳（メタデータ） (2024-07-20T21:13:56Z)
Deepfakes, Misinformation, and Disinformation in the Era of Frontier AI, Generative AI, and Large AI Models [7.835719708227145]
ディープフェイクとm/disinformationの拡散は、世界中の情報エコシステムの整合性に対する恐ろしい脅威として現れている。我々は,大規模モデル(LM-based GenAI)をベースとした生成AIの仕組みを強調した。我々は、高度な検出アルゴリズム、クロスプラットフォームのコラボレーション、ポリシー駆動のイニシアチブを組み合わせた統合フレームワークを導入する。
論文参考訳（メタデータ） (2023-11-29T06:47:58Z)
Guiding AI-Generated Digital Content with Wireless Perception [69.51950037942518]
本稿では,AIGC(AIGC)と無線認識を統合し,デジタルコンテンツ制作の質を向上させる。このフレームワークは、単語の正確な記述が難しいユーザの姿勢を読み取るために、新しいマルチスケール認識技術を採用し、それをスケルトン画像としてAIGCモデルに送信する。生産プロセスはAIGCモデルの制約としてユーザの姿勢を強制するため、生成されたコンテンツはユーザの要求に適合する。
論文参考訳（メタデータ） (2023-03-26T04:39:03Z)
Tensions Between the Proxies of Human Values in AI [20.303537771118048]
AIコミュニティは、これらの柱の特定の定式化を選択するすべての結果を検討する必要がある、と私たちは主張する。我々は,後者のフレームワークに関する社会工学的な研究をめざしているが,実際に実施するためには,より広範な努力が必要である。
論文参考訳（メタデータ） (2022-12-14T21:13:48Z)
Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
論文参考訳（メタデータ） (2022-11-12T21:54:05Z)
Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
論文参考訳（メタデータ） (2021-06-14T20:48:48Z)
An interdisciplinary conceptual study of Artificial Intelligence (AI) for helping benefit-risk assessment practices: Towards a comprehensive qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文参考訳（メタデータ） (2021-05-07T12:01:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。