論文の概要: GPAI Evaluations Standards Taskforce: Towards Effective AI Governance

• arxiv url: http://arxiv.org/abs/2411.13808v1
• Date: Thu, 21 Nov 2024 03:14:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-22 15:19:58.248277
• Title: GPAI Evaluations Standards Taskforce: Towards Effective AI Governance
• Title（参考訳）: GPAIが標準化タスクフォースを評価 - 効果的なAIガバナンスを目指して
• Authors: Patricia Paskov, Lukas Berglund, Everett Smith, Lisa Soder,
• Abstract要約: 汎用AI評価は、AI開発とデプロイメントによって引き起こされるシステム的リスクを特定し緩和する、有望な方法として提案されている。 品質や正当性を促進するための基準は今のところ存在しない。 我々は、EU GPAI評価基準タスクフォースを、EU AI法によって制定された機関内に収容することを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: General-purpose AI evaluations have been proposed as a promising way of identifying and mitigating systemic risks posed by AI development and deployment. While GPAI evaluations play an increasingly central role in institutional decision- and policy-making -- including by way of the European Union AI Act's mandate to conduct evaluations on GPAI models presenting systemic risk -- no standards exist to date to promote their quality or legitimacy. To strengthen GPAI evaluations in the EU, which currently constitutes the first and only jurisdiction that mandates GPAI evaluations, we outline four desiderata for GPAI evaluations: internal validity, external validity, reproducibility, and portability. To uphold these desiderata in a dynamic environment of continuously evolving risks, we propose a dedicated EU GPAI Evaluation Standards Taskforce, to be housed within the bodies established by the EU AI Act. We outline the responsibilities of the Taskforce, specify the GPAI provider commitments that would facilitate Taskforce success, discuss the potential impact of the Taskforce on global AI governance, and address potential sources of failure that policymakers should heed.
• Abstract（参考訳）: 汎用AI評価は、AI開発とデプロイメントによって引き起こされるシステム的リスクを特定し緩和する、有望な方法として提案されている。 GPAIの評価は、制度的なリスクを示すGPAIモデルの評価を行う欧州連合のAI法によって、制度的な意思決定と政策決定において、ますます中心的な役割を担っているが、その品質や正当性を促進するための基準は今のところ存在しない。 GPAI評価を義務付けているEUにおけるGPAI評価を強化するため、GPAI評価のための4つのデシラタ(内部妥当性、外部妥当性、再現性、移植性)を概説する。 これらのデシダラタを継続的に進化するリスクの動的環境において維持するため、我々は、EU AI法によって制定された機関内に収容される専用のEU GPAI評価基準タスクフォースを提案する。 タスクフォースの責任の概要、タスクフォースの成功を促進するGPAIプロバイダのコミットメントの特定、グローバルAIガバナンスに対するタスクフォースの潜在的影響について議論し、政策立案者が取り組まなければならない潜在的な失敗源に対処する。

関連論文リスト

• Declare and Justify: Explicit assumptions in AI evaluations are necessary for effective regulation [2.07180164747172]
  規制は、開発者が評価に関する主要な前提を明示的に識別し、正当化する必要がある、と我々は主張する。 我々は、包括的脅威モデリング、プロキシタスクの妥当性、適切な能力付与など、AI評価における中核的な仮定を特定する。 提案したアプローチは,AI開発における透明性の向上を目標とし,先進的なAIシステムのより効果的なガバナンスに向けた実践的な道筋を提供する。
  論文  参考訳（メタデータ） (2024-11-19T19:13:56Z)
• The Fundamental Rights Impact Assessment (FRIA) in the AI Act: Roots, legal obligations and key elements for a model template [55.2480439325792]
  基本権利影響評価(FRIA)の理論的・方法論的検討における既存のギャップを埋めることを目的とする。 この記事では、FRIAのモデルテンプレートの主要なビルディングブロックについて概説する。 これは、AIが人権と完全に整合していることを保証するために、他の国家および国際規制イニシアチブの青写真として機能する。
  論文  参考訳（メタデータ） (2024-11-07T11:55:55Z)
• Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
  信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。 私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
  論文  参考訳（メタデータ） (2024-10-25T07:53:32Z)
• How Could Generative AI Support Compliance with the EU AI Act? A Review for Safe Automated Driving Perception [4.075971633195745]
  ディープニューラルネットワーク(DNN)は、自動運転車の知覚機能の中心となっている。 EU(EU)人工知能(AI)法は、AIシステムの厳格な規範と標準を確立することによって、これらの課題に対処することを目的としている。 本稿では、DNNに基づく知覚システムに関するEU AI法から生じる要件を要約し、ADにおける既存の生成AIアプリケーションを体系的に分類する。
  論文  参考訳（メタデータ） (2024-08-30T12:01:06Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• Responsible AI Question Bank: A Comprehensive Tool for AI Risk Assessment [18.966590454042272]
  この調査では、さまざまなAIイニシアチブをサポートするために設計された包括的なフレームワークとツールであるResponsible AI (RAI) Question Bankを紹介した。 公正性、透明性、説明責任といったAI倫理原則を構造化された質問形式に統合することで、RAI質問銀行は潜在的なリスクの特定を支援する。
  論文  参考訳（メタデータ） (2024-08-02T22:40:20Z)
• Navigating the EU AI Act: A Methodological Approach to Compliance for Safety-critical Products [0.0]
  本稿では,リスクの高いAIシステムに対するEU AI Act要件を解釈するための方法論を提案する。 まず,AIシステムに対する製品品質モデルの拡張を提案し,現行の品質モデルではカバーされない法に関する属性を取り入れた。 次に、ステークホルダーレベルで技術的要件を導出するための契約ベースのアプローチを提案します。
  論文  参考訳（メタデータ） (2024-03-25T14:32:18Z)
• Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
  この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。 本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
  論文  参考訳（メタデータ） (2024-02-21T08:29:42Z)
• The risks of risk-based AI regulation: taking liability seriously [46.90451304069951]
  AIの開発と規制は、重要な段階に達したようだ。 一部の専門家は、GPT-4よりも強力なAIシステムのトレーニングに関するモラトリアムを求めている。 本稿では、最も先進的な法的提案である欧州連合のAI法について分析する。
  論文  参考訳（メタデータ） (2023-11-03T12:51:37Z)
• An International Consortium for Evaluations of Societal-Scale Risks from Advanced AI [10.550015825854837]
  規制のギャップにより、AIラボは最小限の監視で研究、開発、デプロイメント活動を行うことができた。 フロンティアAIシステムの評価は、フロンティアAIシステムの開発と展開のリスクを評価する方法として提案されている。 本稿では,AI開発者とサードパーティのAIリスク評価者の両方からなる,AIリスク評価のための国際コンソーシアムの形でのソリューションを提案する。
  論文  参考訳（メタデータ） (2023-10-22T23:37:48Z)
• International Institutions for Advanced AI [47.449762587672986]
  国際機関は、高度なAIシステムが人類に利益をもたらすための重要な役割を担っているかもしれない。 本稿では,これらの課題に対処するために,国際レベルで実施可能な一連のガバナンス機能について述べる。 これらの機能を4つの組織モデルに分類し、内部のシナジーを示し、既存の組織で先例を持つ。
  論文  参考訳（メタデータ） (2023-07-10T16:55:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。