論文の概要: Position: Preventing AI-Generated CSAM Necessitates New Approaches to AI Safety
- arxiv url: http://arxiv.org/abs/2607.05407v1
- Date: Tue, 09 Jun 2026 03:22:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-13 07:26:11.082824
- Title: Position: Preventing AI-Generated CSAM Necessitates New Approaches to AI Safety
- Title（参考訳）: ポジション:AIが生成するCSAMの予防には、AIの安全性に対する新たなアプローチが必要である
- Abstract要約: 我々は、AIに精通した性的虐待から子供を守るには、AIの安全性に対する新しいアプローチが必要であると主張している。
既存の安全技術は、データアクセシビリティ、透明性、そして評価のプラクティスが、児童性的虐待の素材を取り巻く倫理的および法的制約と相容れないと仮定している。
- 参考スコア（独自算出の注目度）: 17.12585775312932
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Modern artificial intelligence (AI) systems present profound new risks to child safety. AI is increasingly being misused to create AI-generated child sexual abuse material, facilitate child sexual exploitation, and reduce barriers to harm. In this paper, we argue that protecting children from AI-facilitated sexual abuse requires new approaches to AI safety. Existing safety techniques assume data accessibility, transparency, and evaluation practices that are incompatible with the ethical and legal constraints surrounding child sexual abuse material. We examine how these constraints create new technical challenges, such as limitations on dataset auditing, red teaming, and fine-tuning prevention. In turn, we outline *15 open problems* in online child sexual exploitation and abuse across the AI development lifecycle, from dataset curation and model design to deployment and long-term maintenance. We propose targeted recommendations for researchers, developers, and policymakers to bridge the gap between theoretical AI safety and the realities of child protection. Our work aims to reframe preventing AI-facilitated child sexual abuse as a central, safety-critical dimension for AI research, motivating work that translates responsible AI principles into concrete safeguards against the exploitation of children.
- Abstract（参考訳）: 現代の人工知能(AI)システムは、子供の安全に深刻な新しいリスクをもたらす。
AIは、AIが生成する児童性的虐待の素材を作り、子供の性的搾取を促進し、有害な障壁を減らすために、ますます悪用されている。
本稿では,AIによる性的虐待から子どもを守るためには,AIの安全性に対する新たなアプローチが必要であると論じる。
既存の安全技術は、児童性的虐待物質を取り巻く倫理的・法的制約と相容れないデータアクセシビリティ、透明性、評価のプラクティスを前提としている。
これらの制約が,データセット監査やレッドチーム,微調整防止といった,新たな技術的課題をいかに生み出すかを検討する。
ここでは、データセットのキュレーションやモデル設計からデプロイメント、長期的なメンテナンスに至るまで、AI開発ライフサイクル全体にわたって、オンラインの子供による性的搾取と虐待に関する*15のオープンな問題を概説する。
我々は、理論的AIの安全性と児童保護の現実とのギャップを埋めるために、研究者、開発者、政策立案者を対象にした勧告を提案する。
我々の研究は、AIに熟練した児童の性的虐待をAI研究の中心的で安全に重要な要素として再編成することを目的としており、責任あるAI原則を子どもの搾取に対する具体的な保護に翻訳する仕事の動機付けを目的としています。
関連論文リスト
- Generative AI for Biosciences: Emerging Threats and Roadmap to Biosecurity [56.331312963880215]
生物科学における生成人工知能(GenAI)は、バイオテクノロジー、医学、合成生物学を変革している。
この概要は、バイオサイエンスにおけるGenAIの現状と、脱獄攻撃やプライバシーリスクから、自律的なAIエージェントによって引き起こされるデュアルユースな課題まで、出現する脅威ベクターの概要を概説する。
我々は、厳格なデータフィルタリング、開発中の倫理原則との整合性、有害な要求をブロックするためのリアルタイム監視など、GenAIの安全性に対する多層的なアプローチを提唱する。
論文 参考訳（メタデータ） (2025-10-13T00:24:41Z) - AI Generated Child Sexual Abuse Material - What's the Harm? [0.05673770373739814]
完全または部分的に合成された児童性虐待物質(AI CSAM)を生産できる生成人工知能ツールは、児童保護、法執行、児童虐待に対する社会的反応に重大な課題を提示する。
本稿は、AI CSAMに関連する害を批判的に調査するとともに、AI CSAMが害軽減ツールとして機能する可能性があるという主張に対して警告する。
論文 参考訳（メタデータ） (2025-10-03T13:11:28Z) - "We are not Future-ready": Understanding AI Privacy Risks and Existing Mitigation Strategies from the Perspective of AI Developers in Europe [56.1653658714305]
ヨーロッパを拠点とする25人のAI開発者を対象にインタビューを行い、ユーザ、開発者、ビジネスに最もリスクをもたらすと彼らが信じているプライバシの脅威を理解しました。
プライバシリスクの相対的なランク付けに関して、AI開発者の間ではほとんど合意が得られていないことが分かっています。
AI開発者はこれらのリスクに対処するために提案された緩和戦略を認識しているが、彼らは最小限の現実的採用を報告した。
論文 参考訳（メタデータ） (2025-10-01T13:51:33Z) - What Is AI Safety? What Do We Want It to Be? [0.0]
研究プロジェクトは、AIシステムによって引き起こされる害を防ぎ、軽減しようとする場合にのみ、AIの安全性の見地に入る。
その単純さと魅力にもかかわらず、私たちは、AI安全研究者と組織がAI安全について考え話し合う方法に関して、少なくとも2つのトレンドと緊張関係にあると主張している。
論文 参考訳（メタデータ） (2025-05-05T01:55:00Z) - Ethical AI for Young Digital Citizens: A Call to Action on Privacy Governance [0.0]
若者が利用するデジタルプラットフォームにおける人工知能の急速な拡張は、プライバシ、自律性、データ保護に関する大きな課題を生み出している。
AI駆動のパーソナライゼーションは、ユーザエクスペリエンスの向上を提供するが、しばしば明確な倫理的境界なしに動作し、若いユーザはデータエクスプロイトやアルゴリズム上のバイアスに弱いままである。
本稿では、青少年中心のプライバシ保護、透過的なデータプラクティス、規制監督を保証する構造化されたフレームワークを提唱する。
論文 参考訳（メタデータ） (2025-03-15T01:35:56Z) - Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path? [37.13209023718946]
未確認のAI機関は、公共の安全とセキュリティに重大なリスクをもたらす。
これらのリスクが現在のAIトレーニング方法からどのように生じるかについて議論する。
我々は,非エージェント型AIシステムの開発をさらに進めるために,コアビルディングブロックを提案する。
論文 参考訳（メタデータ） (2025-02-21T18:28:36Z) - Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。
これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
論文 参考訳（メタデータ） (2024-12-19T13:50:26Z) - Control Risk for Potential Misuse of Artificial Intelligence in Science [85.91232985405554]
我々は、科学におけるAI誤用の危険性の認識を高めることを目的としている。
化学科学における誤用の実例を取り上げる。
我々は、科学におけるAIモデルの誤用リスクを制御するSciGuardというシステムを提案する。
論文 参考訳（メタデータ） (2023-12-11T18:50:57Z) - Proceedings of the Artificial Intelligence for Cyber Security (AICS)
Workshop at AAAI 2022 [55.573187938617636]
ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。
サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
論文 参考訳（メタデータ） (2022-02-28T18:27:41Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳（メタデータ） (2021-07-12T14:21:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。