論文の概要: Who is Responsible When AI Fails? Mapping Causes, Entities, and Consequences of AI Privacy and Ethical Incidents

• arxiv url: http://arxiv.org/abs/2504.01029v1
• Date: Fri, 28 Mar 2025 21:57:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-03 13:25:21.398289
• Title: Who is Responsible When AI Fails? Mapping Causes, Entities, and Consequences of AI Privacy and Ethical Incidents
• Title（参考訳）: AIが失敗した場合の責任とは何か?AIプライバシと倫理的インシデントの原因、実体、および結果のマッピング
• Authors: Hilda Hadan, Reza Hadi Mogavi, Leah Zhang-Kennedy, Lennart E. Nacke,
• Abstract要約: 私たちは202の現実世界のAIプライバシと倫理的インシデントを分析しました。 これにより、AIライフサイクルステージにまたがるインシデントタイプを分類する分類が作成される。 原因、責任ある実体、開示源、影響などの文脈的要因を考慮に入れている。
• 参考スコア（独自算出の注目度）: 29.070947259551478
• License:
• Abstract: The rapid growth of artificial intelligence (AI) technologies has changed decision-making in many fields. But, it has also raised major privacy and ethical concerns. However, many AI incidents taxonomies and guidelines for academia, industry, and government lack grounding in real-world incidents. We analyzed 202 real-world AI privacy and ethical incidents. This produced a taxonomy that classifies incident types across AI lifecycle stages. It accounts for contextual factors such as causes, responsible entities, disclosure sources, and impacts. Our findings show insufficient incident reporting from AI developers and users. Many incidents are caused by poor organizational decisions and legal non-compliance. Only a few legal actions and corrective measures exist, while risk-mitigation efforts are limited. Our taxonomy contributes a structured approach in reporting of future AI incidents. Our findings demonstrate that current AI governance frameworks are inadequate. We urgently need child-specific protections and AI policies on social media. They must moderate and reduce the spread of harmful AI-generated content. Our research provides insights for policymakers and practitioners, which lets them design ethical AI. It also support AI incident detection and risk management. Finally, it guides AI policy development. Improved policies will protect people from harmful AI applications and support innovation in AI systems.
• Abstract（参考訳）: 人工知能(AI)技術の急速な成長は、多くの分野で意思決定を変えてきた。 しかし、プライバシーと倫理上の懸念も持ち上がっている。 しかし、多くのAIインシデントは、学界、産業、政府に対する分類学とガイドラインであり、現実世界のインシデントに根ざしていない。 私たちは202の現実世界のAIプライバシと倫理的インシデントを分析しました。 これにより、AIライフサイクルステージにまたがるインシデントタイプを分類する分類が作成される。 原因、責任ある実体、開示源、影響などの文脈的要因を考慮に入れている。 以上の結果から,AI開発者やユーザからのインシデント報告が不十分であることが示唆された。 多くのインシデントは、組織的な決定の貧弱さと法的な非コンプライアンスによって引き起こされる。 若干の法的措置と是正措置しか存在しないが、リスク軽減努力は限られている。 我々の分類学は、将来のAIインシデントを報告するための構造化されたアプローチに貢献している。 私たちの調査結果は、現在のAIガバナンスフレームワークが不十分であることを示している。 ソーシャルメディアには、子供固有の保護とAIポリシーが緊急に必要です。 彼らは有害なAI生成コンテンツの拡散を適度に減らさなければならない。 私たちの研究は、政策立案者と実践者に洞察を与え、倫理的AIを設計できるようにします。 AIインシデント検出とリスク管理もサポートする。 そして最後に、AIポリシー開発を導く。 改善されたポリシーは、人々が有害なAIアプリケーションから保護し、AIシステムのイノベーションをサポートする。

関連論文リスト

• A Survey on Offensive AI Within Cybersecurity [1.8206461789819075]
  攻撃的AIに関する調査論文は、AIシステムに対する攻撃および使用に関する様々な側面を包括的にカバーする。 消費者、企業、公共のデジタルインフラストラクチャなど、さまざまな分野における攻撃的なAIプラクティスの影響を掘り下げる。 この論文では、敵対的な機械学習、AIモデルに対する攻撃、インフラストラクチャ、インターフェース、および情報収集、ソーシャルエンジニアリング、兵器化されたAIといった攻撃的テクニックについて検討する。
  論文  参考訳（メタデータ） (2024-09-26T17:36:22Z)
• Lessons for Editors of AI Incidents from the AI Incident Database [2.5165775267615205]
  AIインシデントデータベース(AIID)は、AIインシデントをカタログ化し、インシデントを分類するプラットフォームを提供することでさらなる研究を支援するプロジェクトである。 この研究は、AIIDの750以上のAIインシデントのデータセットと、これらのインシデントに適用された2つの独立した曖昧さをレビューし、AIインシデントをインデックス化し分析する一般的な課題を特定する。 我々は、インシデントプロセスが原因、害の程度、重大さ、あるいは関連するシステムの技術的詳細に関連する不確実性に対してより堅牢になるよう、軽減策を報告する。
  論文  参考訳（メタデータ） (2024-09-24T19:46:58Z)
• Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
  汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。 本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
  論文  参考訳（メタデータ） (2024-03-21T19:12:37Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• AI Ethics Issues in Real World: Evidence from AI Incident Database [0.6091702876917279]
  インテリジェントなサービスロボット、言語/ビジョンモデル、そして自動運転がリードする、AIの非倫理的利用をよく目にする13のアプリケーション領域を特定します。 倫理的問題は、不適切な使用や人種的差別から、身体的安全と不公平なアルゴリズムまで、8つの異なる形態で現れる。
  論文  参考訳（メタデータ） (2022-06-15T16:25:57Z)
• Proceedings of the Artificial Intelligence for Cyber Security (AICS) Workshop at AAAI 2022 [55.573187938617636]
  ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。 サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
  論文  参考訳（メタデータ） (2022-02-28T18:27:41Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• The Role of Social Movements, Coalitions, and Workers in Resisting Harmful Artificial Intelligence and Contributing to the Development of Responsible AI [0.0]
  あらゆる分野の連合は、AIの恥ずべき適用に抵抗するために世界中で活動している。 AIアルゴリズムにはバイアスがあり、不正で、乱雑な仮定が埋め込まれています。 AIの最大の貢献の1つは、人類の知恵が地球上でいかに重要かを理解することだ。
  論文  参考訳（メタデータ） (2021-07-11T18:51:29Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)
• Socially Responsible AI Algorithms: Issues, Purposes, and Challenges [31.382000425295885]
  技術者とAI研究者は、信頼できるAIシステムを開発する責任がある。 AIと人間の長期的な信頼を構築するためには、アルゴリズムの公正性を超えて考えることが鍵だ、と私たちは主張する。
  論文  参考訳（メタデータ） (2021-01-01T17:34:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。