論文の概要: A Closer Look at the Existing Risks of Generative AI: Mapping the Who, What, and How of Real-World Incidents

• arxiv url: http://arxiv.org/abs/2505.22073v2
• Date: Mon, 02 Jun 2025 19:08:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-04 16:31:03.658299
• Title: A Closer Look at the Existing Risks of Generative AI: Mapping the Who, What, and How of Real-World Incidents
• Title（参考訳）: ジェネレーティブAIの既存のリスクを振り返る:誰が、何、どのように現実世界のインシデントをマッピングするか
• Authors: Megan Li, Wendy Bickersteth, Ningjing Tang, Jason Hong, Lorrie Cranor, Hong Shen, Hoda Heidari,
• Abstract要約: 我々は、生成的AI障害に特化して分類を構築し、それらが引き起こす害にマッピングする。 本報告では、各種類の害、基礎となる障害モード、害のあるステークホルダー、およびそれらの共通する共起事故の頻度について報告する。 私たちの仕事は、政策立案者、開発者、ジェネレーティブAIユーザに実用的な洞察を提供する。
• 参考スコア（独自算出の注目度）: 11.147381548503965
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Due to its general-purpose nature, Generative AI is applied in an ever-growing set of domains and tasks, leading to an expanding set of risks of harm impacting people, communities, society, and the environment. These risks may arise due to failures during the design and development of the technology, as well as during its release, deployment, or downstream usages and appropriations of its outputs. In this paper, building on prior taxonomies of AI risks, harms, and failures, we construct a taxonomy specifically for Generative AI failures and map them to the harms they precipitate. Through a systematic analysis of 499 publicly reported incidents, we describe what harms are reported, how they arose, and who they impact. We report the prevalence of each type of harm, underlying failure mode, and harmed stakeholder, as well as their common co-occurrences. We find that most reported incidents are caused by use-related issues but bring harm to parties beyond the end user(s) of the Generative AI system at fault, and that the landscape of Generative AI harms is distinct from that of traditional AI. Our work offers actionable insights to policymakers, developers, and Generative AI users. In particular, we call for the prioritization of non-technical risk and harm mitigation strategies, including public disclosures and education and careful regulatory stances.
• Abstract（参考訳）: 汎用的な性質から、ジェネレーティブAIは、成長を続けるドメインやタスクのセットに適用され、人々、コミュニティ、社会、環境に害を与えるリスクが拡大する。 これらのリスクは、技術の設計と開発、リリース、デプロイ、ダウンストリームの使用、アウトプットの予測の失敗によって生じる可能性がある。 本稿では,AIのリスク,障害,障害の既知分類に基づいて,生成的AI障害に特化して構築し,それらが引き起こす害にマッピングする。 公に報告された499件のインシデントを体系的に分析し、どんな被害が報告され、どのように発生し、誰が影響するかを説明する。 本報告では、各種類の害、基礎となる障害モード、害のあるステークホルダー、およびそれらの共通する共起事故の頻度について報告する。 報告されたほとんどのインシデントは、使用に関する問題によって引き起こされているが、原因となるジェネレーティブAIシステムのエンドユーザー以外の関係者に害を与えている。 私たちの仕事は、政策立案者、開発者、ジェネレーティブAIユーザに実用的な洞察を提供する。 特に、公的開示や教育、慎重な規制スタンスを含む非技術的リスクと害軽減戦略の優先順位付けを求める。

関連論文リスト

• Risks and Opportunities of Open-Source Generative AI [64.86989162783648]
  Generative AI(Gen AI)の応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。 こうした地震の変化の可能性は、この技術の潜在的なリスクについて活発に議論を巻き起こし、より厳格な規制を要求した。 この規制は、オープンソースの生成AIの誕生する分野を危険にさらす可能性がある。
  論文  参考訳（メタデータ） (2024-05-14T13:37:36Z)
• Near to Mid-term Risks and Opportunities of Open-Source Generative AI [94.06233419171016]
  Generative AIの応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。 こうした地震の影響の可能性は、潜在的なリスクに関する活発な議論を引き起こし、より厳格な規制を要求した。 この規制は、オープンソースのジェネレーティブAIの誕生する分野を危険にさらしている可能性が高い。
  論文  参考訳（メタデータ） (2024-04-25T21:14:24Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• An Overview of Catastrophic AI Risks [38.84933208563934]
  本稿では,破滅的なAIリスクの主な要因について概説し,その要因を4つのカテゴリに分類する。 個人やグループが意図的にAIを使用して危害を及ぼす悪用; 競争環境がアクターに安全でないAIを配置させたり、AIに制御を強制するAIレース。 組織的リスクは 人的要因と複雑なシステムが 破滅的な事故の 可能性を高めることを示しています 不正なAIは、人間よりもはるかにインテリジェントなエージェントを制御することの難しさを説明する。
  論文  参考訳（メタデータ） (2023-06-21T03:35:06Z)
• Overcoming Failures of Imagination in AI Infused System Development and Deployment [71.9309995623067]
  NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。 我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
  論文  参考訳（メタデータ） (2020-11-26T18:09:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。