論文の概要: Towards Fairness Certification in Artificial Intelligence

• arxiv url: http://arxiv.org/abs/2106.02498v1
• Date: Fri, 4 Jun 2021 14:12:12 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-07 15:05:57.337746
• Title: Towards Fairness Certification in Artificial Intelligence
• Title（参考訳）: 人工知能の公正認定に向けて
• Authors: Tatiana Tommasi, Silvia Bucci, Barbara Caputo, Pietro Asinari
• Abstract要約: 我々は,AIフェアネス認証に必要な運用手順を定義するための最初の共同作業を提案する。 我々は、オフィシャルサービスに入る前にAIシステムが満たすべき基準と、公正な判断のためにその機能を監視するのに役立つ適合性評価手順を概観する。
• 参考スコア（独自算出の注目度）: 31.920661197618195
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Thanks to the great progress of machine learning in the last years, several Artificial Intelligence (AI) techniques have been increasingly moving from the controlled research laboratory settings to our everyday life. AI is clearly supportive in many decision-making scenarios, but when it comes to sensitive areas such as health care, hiring policies, education, banking or justice, with major impact on individuals and society, it becomes crucial to establish guidelines on how to design, develop, deploy and monitor this technology. Indeed the decision rules elaborated by machine learning models are data-driven and there are multiple ways in which discriminatory biases can seep into data. Algorithms trained on those data incur the risk of amplifying prejudices and societal stereotypes by over associating protected attributes such as gender, ethnicity or disabilities with the prediction task. Starting from the extensive experience of the National Metrology Institute on measurement standards and certification roadmaps, and of Politecnico di Torino on machine learning as well as methods for domain bias evaluation and mastering, we propose a first joint effort to define the operational steps needed for AI fairness certification. Specifically we will overview the criteria that should be met by an AI system before coming into official service and the conformity assessment procedures useful to monitor its functioning for fair decisions.
• Abstract（参考訳）: 過去数年間の機械学習の大きな進歩により、いくつかの人工知能(AI)技術は、制御された研究室の設定から日々の生活へとますます移行している。 AIは多くの意思決定シナリオにおいて明らかに支持的だが、医療、雇用政策、教育、銀行、正義といった繊細な分野において、個人や社会に大きな影響を与えている場合には、この技術を設計、開発、デプロイ、監視するためのガイドラインを確立することが重要である。 実際、機械学習モデルによって詳述された決定ルールはデータ駆動であり、差別バイアスがデータに浸透する複数の方法がある。 これらのデータに基づいて訓練されたアルゴリズムは、性別、民族、障害などの保護された属性を予測タスクと過剰に関連付けることで偏見や社会ステレオタイプを増幅するリスクを負う。 測定基準と認定ロードマップに関する国立メトロロジー研究所の広範な経験と、機械学習に関するPolitecnico di Torino、ドメインバイアス評価とマスタリングの方法から始まり、AIフェアネス認証に必要な運用手順を定義するための最初の共同作業を提案する。 具体的には、オフィシャルサービスに入る前にAIシステムが満たすべき基準と、公正な判断のためにその機能を監視するのに役立つ適合性評価手順を概観する。

関連論文リスト

• Guideline for Trustworthy Artificial Intelligence -- AI Assessment Catalog [0.0]
  AIアプリケーションとそれに基づくビジネスモデルが、高品質な標準に従って開発されている場合にのみ、その潜在能力を最大限に発揮できることは明らかです。 AIアプリケーションの信頼性の問題は非常に重要であり、多くの主要な出版物の主題となっている。 このAIアセスメントカタログは、まさにこの点に対応しており、2つのターゲットグループを対象としている。
  論文  参考訳（メタデータ） (2023-06-20T08:07:18Z)
• Human-Centric Multimodal Machine Learning: Recent Advances and Testbed on AI-based Recruitment [66.91538273487379]
  人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。 i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。 異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
  論文  参考訳（メタデータ） (2023-02-13T16:44:44Z)
• Enabling Automated Machine Learning for Model-Driven AI Engineering [60.09869520679979]
  モデル駆動型ソフトウェアエンジニアリングとモデル駆動型AIエンジニアリングを実現するための新しいアプローチを提案する。 特に、私たちはAutomated MLをサポートし、AI集約システムの開発において、AIの深い知識のないソフトウェアエンジニアを支援します。
  論文  参考訳（メタデータ） (2022-03-06T10:12:56Z)
• Certifiable Artificial Intelligence Through Data Fusion [7.103626867766158]
  本稿では,人工知能(AI)システムの採用,フィールド化,保守に関する課題をレビューし,提案する。 画像データ融合により、精度対距離を考慮したAI物体認識精度を支援する。
  論文  参考訳（メタデータ） (2021-11-03T03:34:19Z)
• Multi Agent System for Machine Learning Under Uncertainty in Cyber Physical Manufacturing System [78.60415450507706]
  近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。 ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。 本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
  論文  参考訳（メタデータ） (2021-07-28T10:28:05Z)
• An interdisciplinary conceptual study of Artificial Intelligence (AI) for helping benefit-risk assessment practices: Towards a comprehensive qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
  本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。 目的は、AIシステムを評価するための共有概念や相違点を特定することである。
  論文  参考訳（メタデータ） (2021-05-07T12:01:31Z)
• Trusted Artificial Intelligence: Towards Certification of Machine Learning Applications [5.7576910363986]
  T"UV AUSTRIA Groupは、Johannes Kepler University LinzのInstitute for Machine Learningと協力して、認定プロセスを提案する。 全体的なアプローチは、セキュアなソフトウェア開発、機能要件、データ品質、データ保護、倫理の側面を評価し検証しようとするものである。 監査カタログは教師あり学習の範囲内の低リスクアプリケーションに適用することができる。
  論文  参考訳（メタデータ） (2021-03-31T08:59:55Z)
• Decision Rule Elicitation for Domain Adaptation [93.02675868486932]
  ヒトインザループ機械学習は、専門家からラベルを引き出すために人工知能(AI)で広く使用されています。 この作業では、専門家が意思決定を説明する決定ルールを作成できるようにします。 決定規則の適用はアルゴリズムのドメイン適応を改善し、専門家の知識をAIモデルに広めるのに役立つことを示す。
  論文  参考訳（メタデータ） (2021-02-23T08:07:22Z)
• Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
  異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。 我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。 我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
  論文  参考訳（メタデータ） (2020-04-15T15:58:05Z)
• Bias in Data-driven AI Systems -- An Introductory Survey [37.34717604783343]
  この調査は、(大きな)データと強力な機械学習(ML)アルゴリズムによって、AIの大部分は、データ駆動型AIに重点を置いている。 さもなければ、一般的な用語バイアスを使ってデータの収集や処理に関連する問題を説明します。
  論文  参考訳（メタデータ） (2020-01-14T09:39:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。