論文の概要: Vernacularizing Taxonomies of Harm is Essential for Operationalizing Holistic AI Safety

• arxiv url: http://arxiv.org/abs/2410.16562v1
• Date: Mon, 21 Oct 2024 22:47:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-23 14:29:37.738415
• Title: Vernacularizing Taxonomies of Harm is Essential for Operationalizing Holistic AI Safety
• Title（参考訳）: ホリスティックAIの安全性を運用するためのハームの垂直化分類法
• Authors: Wm. Matthew Kennedy, Daniel Vargas Campos,
• Abstract要約: AI倫理と安全原則とフレームワークの運用は、潜在的な利益を実現し、AIシステムによる潜在的な害を軽減するために不可欠である。 我々はまた、専門分野に特化したAI安全運用において容易に実施できるように、分類学を地域カテゴリーに移行する必要があると論じている。 人権に関する人類学の新たな理論から、我々は「白化」のプロセスがこのギャップを埋めるのに役立つと提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Operationalizing AI ethics and safety principles and frameworks is essential to realizing the potential benefits and mitigating potential harms caused by AI systems. To that end, actors across industry, academia, and regulatory bodies have created formal taxonomies of harm to support operationalization efforts. These include novel holistic methods that go beyond exclusive reliance on technical benchmarking. However, our paper argues that such taxonomies must also be transferred into local categories to be readily implemented in sector-specific AI safety operationalization efforts, and especially in underresourced or high-risk sectors. This is because many sectors are constituted by discourses, norms, and values that "refract" or even directly conflict with those operating in society more broadly. Drawing from emerging anthropological theories of human rights, we propose that the process of "vernacularization"--a participatory, decolonial practice distinct from doctrinary "translation" (the dominant mode of AI safety operationalization)--can help bridge this gap. To demonstrate this point, we consider the education sector, and identify precisely how vernacularizing a leading holistic taxonomy of harm leads to a clearer view of how harms AI systems may cause are substantially intensified when deployed in educational spaces. We conclude by discussing the generalizability of vernacularization as a useful AI safety methodology.
• Abstract（参考訳）: AI倫理と安全原則とフレームワークの運用は、AIシステムによる潜在的な利益を実現し、潜在的な害を軽減するために不可欠である。 その目的のために、産業、学界、規制機関にわたるアクターが、運用活動を支援するために、害の正式な分類を作成した。 これには、技術的ベンチマークに排他的に依存するような、新しい総合的な方法が含まれる。 しかし,本論文では,これらの分類体系は,特に低リソースあるいは高リスクの分野において,セクター固有のAI安全運用において容易に実施されるように,地域カテゴリに移行する必要がある,と論じている。 これは、多くのセクターが、社会の中で活動している人々と「反抗的」あるいは直接的に矛盾する言説、規範、価値観によって構成されているためである。 人権に関する人類学の新たな理論から,我々は,このギャップを埋める上で,「白化(vernacularization)」のプロセス,すなわち,教義的「翻訳(translation)」とは別の参加的,非植民地的実践(decolonial practice)を提案する。 この点を実証するために、我々は教育分野を考察し、主要な総合的な害の分類を垂直化することによって、AIシステムがもたらす害が教育空間に展開するときに、いかに大幅に強化されるかを明確にする。 我々は、有用なAI安全手法として、言語化の一般化可能性について論じる。

関連論文リスト

• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• Crossing the principle-practice gap in AI ethics with ethical problem-solving [0.0]
  AI開発の技術的側面から倫理的言説を分離する原則-実践的ギャップを埋めるには、依然として未解決の問題である。 EPSは、責任、人間中心、価値指向のAI開発を促進する方法論である。 EPSを青写真として利用し、Ethics as a Service Platformの実装を提案します。
  論文  参考訳（メタデータ） (2024-04-16T14:35:13Z)
• Towards Responsible AI in Banking: Addressing Bias for Fair Decision-Making [69.44075077934914]
  責任AI(Responsible AI)は、企業文化の発展におけるバイアスに対処する重要な性質を強調している。 この論文は、バイアスを理解すること、バイアスを緩和すること、バイアスを説明することの3つの基本的な柱に基づいて構成されている。 オープンソースの原則に従って、アクセス可能なPythonパッケージとして、Bias On DemandとFairViewをリリースしました。
  論文  参考訳（メタデータ） (2024-01-13T14:07:09Z)
• Learning Machine Morality through Experience and Interaction [3.7414804164475983]
  次世代人工知能(AI)システムの安全性確保への関心が高まっているため、自律エージェントに道徳を埋め込む新しいアプローチが求められている。 我々は、適応可能で堅牢だが、より制御可能で解釈可能なエージェントを作成するために、よりハイブリッドなソリューションが必要であると論じている。
  論文  参考訳（メタデータ） (2023-12-04T11:46:34Z)
• Regulation and NLP (RegNLP): Taming Large Language Models [51.41095330188972]
  我々は,NLP研究が規制研究や隣接分野に近接することのメリットを論じる。 我々は、規制とNLPに関する新しい多分野研究空間の開発を提唱する。
  論文  参考訳（メタデータ） (2023-10-09T09:22:40Z)
• Ethical Framework for Harnessing the Power of AI in Healthcare and Beyond [0.0]
  この総合的な研究論文は、AI技術の急速な進化と密接に関連する倫理的次元を厳格に調査する。 この記事の中心は、透明性、エクイティ、回答可能性、人間中心の指向といった価値を、慎重に強調するために作られた、良心的なAIフレームワークの提案である。 この記事は、グローバルに標準化されたAI倫理の原則とフレームワークに対するプレッシャーの必要性を明確に強調している。
  論文  参考訳（メタデータ） (2023-08-31T18:12:12Z)
• Tensions Between the Proxies of Human Values in AI [20.303537771118048]
  AIコミュニティは、これらの柱の特定の定式化を選択するすべての結果を検討する必要がある、と私たちは主張する。 我々は,後者のフレームワークに関する社会工学的な研究をめざしているが,実際に実施するためには,より広範な努力が必要である。
  論文  参考訳（メタデータ） (2022-12-14T21:13:48Z)
• Liability regimes in the age of AI: a use-case driven analysis of the burden of proof [1.7510020208193926]
  人工知能(AI)を利用した新しいテクノロジーは、私たちの社会をより良く、破壊的に変革する可能性を秘めている。 しかし、安全と基本的権利の両方に潜在的なリスクをもたらす、これらの方法論の固有の特性に対する懸念が高まっている。 本稿では,これらの難易度を示す3つのケーススタディと,それらに到達するための方法論について述べる。
  論文  参考訳（メタデータ） (2022-11-03T13:55:36Z)
• Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation [61.77881142275982]
  この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。 私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。 我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
  論文  参考訳（メタデータ） (2022-06-08T12:32:08Z)
• Inspect, Understand, Overcome: A Survey of Practical Methods for AI Safety [54.478842696269304]
  安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。 近年,これらの安全対策を目的とした最先端技術動物園が出現している。 本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
  論文  参考訳（メタデータ） (2021-04-29T09:54:54Z)
• Overcoming Failures of Imagination in AI Infused System Development and Deployment [71.9309995623067]
  NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。 我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
  論文  参考訳（メタデータ） (2020-11-26T18:09:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。