論文の概要: Towards an AI Accountability Policy

• arxiv url: http://arxiv.org/abs/2307.13658v2
• Date: Wed, 26 Feb 2025 18:17:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-27 17:39:51.013961
• Title: Towards an AI Accountability Policy
• Title（参考訳）: AIアカウンタビリティポリシーに向けて
• Authors: Przemyslaw Grabowicz, Adrian Byrne, Cyrus Cousins, Nicholas Perello, Yair Zick,
• Abstract要約: リスクの高い技術が国家レベルでどのように規制されているかを検討する。 本稿では,商用AIシステムにおける説明可能性とベンチマーク要件の連携システムを提案する。
• 参考スコア（独自算出の注目度）: 16.59829043755575
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We propose establishing an office to oversee AI systems by introducing a tiered system of explainability and benchmarking requirements for commercial AI systems. We examine how complex high-risk technologies have been successfully regulated at the national level. Specifically, we draw parallels to the existing regulation for the U.S. medical device industry and the pharmaceutical industry (regulated by the FDA), the proposed legislation for AI in the European Union (the AI Act), and the existing U.S. anti-discrimination legislation. To promote accountability and user trust, AI accountability mechanisms shall introduce standarized measures for each category of intended high-risk use of AI systems to enable structured comparisons among such AI systems. We suggest using explainable AI techniques, such as input influence measures, as well as fairness statistics and other performance measures of high-risk AI systems. We propose to standardize internal benchmarking and automated audits to transparently characterize high-risk AI systems. The results of such audits and benchmarks shall be clearly and transparently communicated and explained to enable meaningful comparisons of competing AI systems via a public AI registry. Such standardized audits, benchmarks, and certificates shall be specific to intended high-risk use of respective AI systems and could constitute conformity assessment for AI systems, e.g., in the European Union's AI Act.
• Abstract（参考訳）: 我々は、商用AIシステムのための説明可能性とベンチマークの強化されたシステムを導入することで、AIシステムを監視するオフィスを確立することを提案する。 我々は,高リスク技術が国家レベルでいかに複雑に規制されているかを検討する。 具体的には、米国の医療機器産業と製薬業界(FDAが規制している)の既存の規制、欧州連合におけるAIに関する提案された法律(AI法)、および既存のアメリカの反差別法に類似している。 アカウンタビリティとユーザ信頼を促進するため、AIのカウンタビリティメカニズムは、AIシステム間の構造化された比較を可能にするために、意図されたハイリスク使用のカテゴリ毎に、スタンダライズされた尺度を導入する。 我々は、入力影響尺度などの説明可能なAI技術や、公正度統計やその他のリスクの高いAIシステムのパフォーマンス測定手法の使用を提案する。 我々は,ハイリスクなAIシステムを透過的に特徴付けるために,内部ベンチマークと自動監査の標準化を提案する。 このような監査とベンチマークの結果は、公開AIレジストリを通じて競合するAIシステムの有意義な比較を可能にするために、明確かつ透過的に伝達され、説明される。 このような標準化された監査、ベンチマーク、証明書は、欧州連合のAI法において、それぞれのAIシステムの高リスク使用に特化して、AIシステムの適合性評価を構成することができる。

関連論文リスト

• In-House Evaluation Is Not Enough: Towards Robust Third-Party Flaw Disclosure for General-Purpose AI [93.33036653316591]
  我々はシステムの安全性を高めるために3つの介入を要求します。 まず、標準化されたAI欠陥レポートと研究者へのエンゲージメントのルールを用いることを提案する。 第2に,GPAIシステムプロバイダが広視野欠陥開示プログラムを採用することを提案する。 第3に,欠陥報告の分布を調整するための改良されたインフラの開発を提唱する。
  論文  参考訳（メタデータ） (2025-03-21T05:09:46Z)
• Compliance of AI Systems [0.0]
  本稿では、EUのAI法に焦点をあてて、関連する法律に対するAIシステムのコンプライアンスを体系的に検討する。 この分析は、エッジデバイスに関連する多くの課題を強調した。 データセットのコンプライアンスの重要性は、AIシステムの信頼性、透明性、説明可能性を保証するための基盤として強調されている。
  論文  参考訳（メタデータ） (2025-03-07T16:53:36Z)
• Position: A taxonomy for reporting and describing AI security incidents [57.98317583163334]
  AIシステムのセキュリティインシデントを記述し報告するためには、具体的が必要である、と我々は主張する。 非AIセキュリティまたは汎用AI安全インシデントレポートの既存のフレームワークは、AIセキュリティの特定の特性をキャプチャするには不十分である。
  論文  参考訳（メタデータ） (2024-12-19T13:50:26Z)
• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• How Could Generative AI Support Compliance with the EU AI Act? A Review for Safe Automated Driving Perception [4.075971633195745]
  ディープニューラルネットワーク(DNN)は、自動運転車の知覚機能の中心となっている。 EU(EU)人工知能(AI)法は、AIシステムの厳格な規範と標準を確立することによって、これらの課題に対処することを目的としている。 本稿では、DNNに基づく知覚システムに関するEU AI法から生じる要件を要約し、ADにおける既存の生成AIアプリケーションを体系的に分類する。
  論文  参考訳（メタデータ） (2024-08-30T12:01:06Z)
• Ensuring Fairness with Transparent Auditing of Quantitative Bias in AI Systems [0.30693357740321775]
  AIシステムは、意思決定者が不公平な結論を導くバイアスを示す可能性がある。 本稿では,サードパーティの監査官やAIシステムプロバイダによるAIフェアネスの監査を行うフレームワークを提案する。 我々は,AIシステムの体系的な検査を容易にするツールを開発した。
  論文  参考訳（メタデータ） (2024-08-24T17:16:50Z)
• Auto FAQ Generation [0.0]
  本稿では,FAQ文書を生成するシステムを提案する。 既存のテキスト要約、テキストランクアルゴリズムによる文章ランキング、質問生成ツールを用いて、質問と回答の初期セットを作成します。
  論文  参考訳（メタデータ） (2024-05-13T03:30:27Z)
• Measuring the Quality of Answers in Political Q&As with Large Language Models [0.5261718469769449]
  本稿では,政治質問・回答セッションにおける回答の質を評価するための新しいアプローチを提案する。 本稿では,初期質問を正確に推測できる度合いに基づいて,回答の品質を測定することを提案する。
  論文  参考訳（メタデータ） (2024-04-12T21:16:53Z)
• The Necessity of AI Audit Standards Boards [0.0]
  我々は、監査基準の作成は不十分であるだけでなく、無害で一貫性のない基準を広めることによって積極的に有害であると主張している。 代わりに、監査方法と標準を開発・更新する責任を持つAI監査基準委員会(AI Audit Standards Board)の設立を提案する。
  論文  参考訳（メタデータ） (2024-04-11T15:08:24Z)
• Navigating the EU AI Act: A Methodological Approach to Compliance for Safety-critical Products [0.0]
  本稿では,リスクの高いAIシステムに対するEU AI Act要件を解釈するための方法論を提案する。 まず,AIシステムに対する製品品質モデルの拡張を提案し,現行の品質モデルではカバーされない法に関する属性を取り入れた。 次に、ステークホルダーレベルで技術的要件を導出するための契約ベースのアプローチを提案します。
  論文  参考訳（メタデータ） (2024-03-25T14:32:18Z)
• Responsible AI Considerations in Text Summarization Research: A Review of Current Practices [89.85174013619883]
  私たちは、責任あるAIコミュニティがほとんど見落としている共通のNLPタスクである、テキスト要約に重点を置いています。 我々は,2020-2022年に出版されたACLアンソロジーから333の要約論文の多段階的質的分析を行った。 私たちは、どの、どの、どの責任あるAI問題がカバーされているか、どの関係するステークホルダーが考慮されているか、そして、述べられた研究目標と実現された研究目標のミスマッチに焦点を合わせます。
  論文  参考訳（メタデータ） (2023-11-18T15:35:36Z)
• The risks of risk-based AI regulation: taking liability seriously [46.90451304069951]
  AIの開発と規制は、重要な段階に達したようだ。 一部の専門家は、GPT-4よりも強力なAIシステムのトレーニングに関するモラトリアムを求めている。 本稿では、最も先進的な法的提案である欧州連合のAI法について分析する。
  論文  参考訳（メタデータ） (2023-11-03T12:51:37Z)
• Users are the North Star for AI Transparency [111.5679109784322]
  透明な人工知能システムを求める声が広まっているにもかかわらず、この用語は、厳密な政策の目的や具体的な研究ラインのオリエント化を表すために、多義的な意味に過大評価されている。 このことが起こる理由の1つは、AI透明性の明確な理想が、この仕事の体で実現されないことである。 透明性はユーザ中心で、ユーザ指向で、誠実です。
  論文  参考訳（メタデータ） (2023-03-09T18:53:29Z)
• Discourse Analysis via Questions and Answers: Parsing Dependency Structures of Questions Under Discussion [57.43781399856913]
  この研究は、談話分析にQUD(Language framework of Questions Under discussion)を採用する。 我々は、文間の関係を、徹底的なきめ細かい質問とは対照的に、自由形式の質問として特徴づける。 完全文書上の質問の依存関係構造を導出する第一種QUDを開発する。
  論文  参考訳（メタデータ） (2022-10-12T03:53:12Z)
• Discourse Comprehension: A Question Answering Framework to Represent Sentence Connections [35.005593397252746]
  談話理解のためのモデルの構築と評価における重要な課題は、注釈付きデータの欠如である。 本稿では,ニュース文書の理解を目的としたスケーラブルなデータ収集を実現する新しいパラダイムを提案する。 得られたコーパスDCQAは、607の英語文書からなる22,430の質問応答ペアで構成されている。
  論文  参考訳（メタデータ） (2021-11-01T04:50:26Z)
• Privacy Policy Question Answering Assistant: A Query-Guided Extractive Summarization Approach [18.51811191325837]
  入力されたユーザクエリに応答して要約を抽出する自動プライバシポリシ質問応答アシスタントを提案する。 なぜなら、ユーザーはプライバシーに関する質問を、ポリシーの法的言語とは全く異なる言語で表現するからだ。 当社のパイプラインでは,プライバシQAデータセットのユーザクエリの89%に対して,回答を見つけています。
  論文  参考訳（メタデータ） (2021-09-29T18:00:09Z)
• Building and Evaluating Open-Domain Dialogue Corpora with Clarifying Questions [65.60888490988236]
  オープンドメインのシングルターンとマルチターンの会話に焦点を当てたデータセットをリリースする。 我々は最先端のニューラルベースラインをいくつかベンチマークする。 様々な対話における質問の明確化の質を評価するための,オフラインおよびオンラインのステップからなるパイプラインを提案する。
  論文  参考訳（メタデータ） (2021-09-13T09:16:14Z)
• An interdisciplinary conceptual study of Artificial Intelligence (AI) for helping benefit-risk assessment practices: Towards a comprehensive qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
  本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。 目的は、AIシステムを評価するための共有概念や相違点を特定することである。
  論文  参考訳（メタデータ） (2021-05-07T12:01:31Z)
• A Dataset of Information-Seeking Questions and Answers Anchored in Research Papers [66.11048565324468]
  1,585の自然言語処理論文に関する5,049の質問のデータセットを提示する。 各質問は、対応する論文のタイトルと要約のみを読むNLP実践者によって書かれ、質問は全文に存在する情報を求めます。 他のQAタスクでうまく機能する既存のモデルは、これらの質問に答える上ではうまく機能せず、論文全体から回答する際には、少なくとも27 F1ポイントパフォーマンスが低下します。
  論文  参考訳（メタデータ） (2021-05-07T00:12:34Z)
• PolicyQA: A Reading Comprehension Dataset for Privacy Policies [77.79102359580702]
  既存のWebサイトプライバシポリシ115のコーパスから算出した,25,017の理解スタイルの例を含むデータセットであるPolicyQAを提案する。 既存の2つのニューラルQAモデルを評価し、厳密な分析を行い、ポリシQAが提供する利点と課題を明らかにする。
  論文  参考訳（メタデータ） (2020-10-06T09:04:58Z)
• Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
  AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。 このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。 我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
  論文  参考訳（メタデータ） (2020-04-15T17:15:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。