論文の概要: Oversight for Frontier AI through a Know-Your-Customer Scheme for Compute Providers

• arxiv url: http://arxiv.org/abs/2310.13625v1
• Date: Fri, 20 Oct 2023 16:17:29 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-23 21:52:15.543211
• Title: Oversight for Frontier AI through a Know-Your-Customer Scheme for Compute Providers
• Title（参考訳）: コンピューティングプロバイダのためのノウ・ユー・カスタマスキームによるフロンティアAIの展望
• Authors: Janet Egan and Lennart Heim
• Abstract要約: Know-Your-Customer (KYC) は、銀行部門がクライアントの識別と検証のために開発した標準である。 KYCは、既存の輸出管理におけるフロンティアAI開発とクローズループの監視を強化するメカニズムを提供するかもしれない。 AIチップの購入を制限する戦略とは異なり、計算へのデジタルアクセスを規制することは、より正確な制御を提供する。
• 参考スコア（独自算出の注目度）: 0.8547032097715571
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: To address security and safety risks stemming from highly capable artificial intelligence (AI) models, we propose that the US government should ensure compute providers implement Know-Your-Customer (KYC) schemes. Compute - the computational power and infrastructure required to train and run these AI models - is emerging as a node for oversight. KYC, a standard developed by the banking sector to identify and verify client identity, could provide a mechanism for greater public oversight of frontier AI development and close loopholes in existing export controls. Such a scheme has the potential to identify and warn stakeholders of potentially problematic and/or sudden advancements in AI capabilities, build government capacity for AI regulation, and allow for the development and implementation of more nuanced and targeted export controls. Unlike the strategy of limiting access to AI chip purchases, regulating the digital access to compute offers more precise controls, allowing regulatory control over compute quantities, as well as the flexibility to suspend access at any time. To enact a KYC scheme, the US government will need to work closely with industry to (1) establish a dynamic threshold of compute that effectively captures high-risk frontier model development, while minimizing imposition on developers not engaged in frontier AI; (2) set requirements and guidance for compute providers to keep records and report high-risk entities; (3) establish government capacity that allows for co-design, implementation, administration and enforcement of the scheme; and (4) engage internationally to promote international alignment with the scheme and support its long-term efficacy. While the scheme will not address all AI risks, it complements proposed solutions by allowing for a more precise and flexible approach to controlling the development of frontier AI models and unwanted AI proliferation.
• Abstract（参考訳）: 高度に有能な人工知能(AI)モデルから生じるセキュリティと安全性のリスクに対処するため、米国政府は、コンピュータプロバイダーがKnow-Your-Customer(KYC)スキームを実装することを保証するべきである。 これらのAIモデルのトレーニングと実行に必要な計算能力とインフラストラクチャであるComputeが、監視のノードとして登場している。 銀行セクターがクライアントの識別と検証のために開発した標準であるKYCは、既存の輸出管理におけるフロンティアAI開発とクローズループの監視を強化するメカニズムを提供する可能性がある。 このようなスキームは、AI能力の潜在的および/または突然の進歩をステークホルダーに特定し、警告し、AI規制のための政府の能力を構築し、よりニュアンスでターゲットとする輸出管理の開発と実装を可能にする。 aiチップの購入を制限する戦略とは異なり、コンピュートへのデジタルアクセスを規制することはより正確な制御を提供し、計算量に対する規制による制御を可能にすると同時に、いつでもアクセスを停止できる柔軟性を提供する。 To enact a KYC scheme, the US government will need to work closely with industry to (1) establish a dynamic threshold of compute that effectively captures high-risk frontier model development, while minimizing imposition on developers not engaged in frontier AI; (2) set requirements and guidance for compute providers to keep records and report high-risk entities; (3) establish government capacity that allows for co-design, implementation, administration and enforcement of the scheme; and (4) engage internationally to promote international alignment with the scheme and support its long-term efficacy. このスキームはすべてのAIリスクに対処するわけではないが、フロンティアAIモデルの開発と望ましくないAI増殖を制御するための、より正確で柔軟なアプローチを可能にすることで、提案されたソリューションを補完する。

関連論文リスト

• How Could Generative AI Support Compliance with the EU AI Act? A Review for Safe Automated Driving Perception [4.075971633195745]
  ディープニューラルネットワーク(DNN)は、自動運転車の知覚機能の中心となっている。 EU(EU)人工知能(AI)法は、AIシステムの厳格な規範と標準を確立することによって、これらの課題に対処することを目的としている。 本稿では、DNNに基づく知覚システムに関するEU AI法から生じる要件を要約し、ADにおける既存の生成AIアプリケーションを体系的に分類する。
  論文  参考訳（メタデータ） (2024-08-30T12:01:06Z)
• Risks and Opportunities of Open-Source Generative AI [64.86989162783648]
  Generative AI(Gen AI)の応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。 こうした地震の変化の可能性は、この技術の潜在的なリスクについて活発に議論を巻き起こし、より厳格な規制を要求した。 この規制は、オープンソースの生成AIの誕生する分野を危険にさらす可能性がある。
  論文  参考訳（メタデータ） (2024-05-14T13:37:36Z)
• Governing Through the Cloud: The Intermediary Role of Compute Providers in AI Regulation [14.704747149179047]
  計算プロバイダは、AI開発とデプロイメントに関連する法的義務と倫理的責任を持つべきだ、と我々は主張する。 コンピューティングプロバイダは,4つの重要な能力を通じて,規制エコシステムにおいて重要な役割を果たすことができます。
  論文  参考訳（メタデータ） (2024-03-13T13:08:16Z)
• Computing Power and the Governance of Artificial Intelligence [51.967584623262674]
  政府や企業は、AIを管理する手段として計算を活用し始めている。 計算ベースのポリシーと技術は、これらの領域を補助する可能性があるが、実装の準備ができている点で大きなバリエーションがある。 プライバシーや経済的影響、権力の中央集権化といった分野において、ガバナンスの計算方法の素早い、あるいは不十分なアプローチは重大なリスクを伴います。
  論文  参考訳（メタデータ） (2024-02-13T21:10:21Z)
• The risks of risk-based AI regulation: taking liability seriously [46.90451304069951]
  AIの開発と規制は、重要な段階に達したようだ。 一部の専門家は、GPT-4よりも強力なAIシステムのトレーニングに関するモラトリアムを求めている。 本稿では、最も先進的な法的提案である欧州連合のAI法について分析する。
  論文  参考訳（メタデータ） (2023-11-03T12:51:37Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• International Institutions for Advanced AI [47.449762587672986]
  国際機関は、高度なAIシステムが人類に利益をもたらすための重要な役割を担っているかもしれない。 本稿では,これらの課題に対処するために,国際レベルで実施可能な一連のガバナンス機能について述べる。 これらの機能を4つの組織モデルに分類し、内部のシナジーを示し、既存の組織で先例を持つ。
  論文  参考訳（メタデータ） (2023-07-10T16:55:55Z)
• AI and the EU Digital Markets Act: Addressing the Risks of Bigness in Generative AI [4.889410481341167]
  本稿では、特定のAIソフトウェアをコアプラットフォームサービスとして統合し、特定の開発者をDMAの下でゲートキーパーとして分類する。 EUは、生成AI固有のルールとDMA修正の可能性を検討するため、生成AIサービスの多様性とオープン性に関する洞察を提供する。
  論文  参考訳（メタデータ） (2023-07-07T16:50:08Z)
• Frontier AI Regulation: Managing Emerging Risks to Public Safety [15.85618115026625]
  脆弱なAI」モデルは、公共の安全に深刻なリスクをもたらすのに十分な危険能力を持つ可能性がある。 業界の自己規制は重要な第一歩です。 安全基準の最初のセットを提案する。
  論文  参考訳（メタデータ） (2023-07-06T17:03:25Z)
• Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
  AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。 このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。 我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
  論文  参考訳（メタデータ） (2020-04-15T17:15:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。