論文の概要: Computing Power and the Governance of Artificial Intelligence
- arxiv url: http://arxiv.org/abs/2402.08797v1
- Date: Tue, 13 Feb 2024 21:10:21 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-15 17:46:38.818562
- Title: Computing Power and the Governance of Artificial Intelligence
- Title(参考訳): コンピューティングパワーと人工知能のガバナンス
- Authors: Girish Sastry, Lennart Heim, Haydn Belfield, Markus Anderljung, Miles
Brundage, Julian Hazell, Cullen O'Keefe, Gillian K. Hadfield, Richard Ngo,
Konstantin Pilz, George Gor, Emma Bluemke, Sarah Shoker, Janet Egan, Robert
F. Trager, Shahar Avin, Adrian Weller, Yoshua Bengio, Diane Coyle
- Abstract要約: 政府や企業は、AIを管理する手段として計算を活用し始めている。
計算ベースのポリシーと技術は、これらの領域を補助する可能性があるが、実装の準備ができている点で大きなバリエーションがある。
プライバシーや経済的影響、権力の中央集権化といった分野において、ガバナンスの計算方法の素早い、あるいは不十分なアプローチは重大なリスクを伴います。
- 参考スコア(独自算出の注目度): 51.967584623262674
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Computing power, or "compute," is crucial for the development and deployment
of artificial intelligence (AI) capabilities. As a result, governments and
companies have started to leverage compute as a means to govern AI. For
example, governments are investing in domestic compute capacity, controlling
the flow of compute to competing countries, and subsidizing compute access to
certain sectors. However, these efforts only scratch the surface of how compute
can be used to govern AI development and deployment. Relative to other key
inputs to AI (data and algorithms), AI-relevant compute is a particularly
effective point of intervention: it is detectable, excludable, and
quantifiable, and is produced via an extremely concentrated supply chain. These
characteristics, alongside the singular importance of compute for cutting-edge
AI models, suggest that governing compute can contribute to achieving common
policy objectives, such as ensuring the safety and beneficial use of AI. More
precisely, policymakers could use compute to facilitate regulatory visibility
of AI, allocate resources to promote beneficial outcomes, and enforce
restrictions against irresponsible or malicious AI development and usage.
However, while compute-based policies and technologies have the potential to
assist in these areas, there is significant variation in their readiness for
implementation. Some ideas are currently being piloted, while others are
hindered by the need for fundamental research. Furthermore, naive or poorly
scoped approaches to compute governance carry significant risks in areas like
privacy, economic impacts, and centralization of power. We end by suggesting
guardrails to minimize these risks from compute governance.
- Abstract(参考訳): コンピュータパワー(Compute)は、人工知能(AI)の能力の開発と展開に不可欠である。
その結果、政府や企業はAIを管理する手段として計算を活用し始めている。
例えば、政府は国内計算能力に投資し、競合国への計算の流れを制御し、特定の分野への計算アクセスを補助している。
しかし、これらの取り組みは、AI開発とデプロイメントを管理するために計算をどのように使用できるかという表面を掻くだけである。
AI(データとアルゴリズム)に対する他の重要な入力とは対照的に、AI関連計算は特に効果的な介入点である。
これらの特徴は、最先端のAIモデルにおける計算の特異な重要性と並行して、計算の管理は、AIの安全性と有益な使用を保証するなど、共通の政策目標を達成するのに寄与する可能性があることを示唆している。
より正確には、政策立案者は計算を使ってAIの規制の可視性を促進し、有益な結果を促進するためにリソースを割り当て、無責任または悪意のあるAI開発と使用に対する制限を強制することができる。
しかし、計算ベースのポリシーや技術はこれらの領域で支援する可能性を秘めているが、その実装準備には大きな変化がある。
いくつかのアイデアは、現在パイロット化されているが、基本的な研究の必要性によって妨げられているものもある。
さらに、プライバシーや経済的影響、権力の集中といった分野において、ナイーブあるいは低範囲のガバナンスアプローチは重大なリスクを負う。
最終的には、コンピューティングガバナンスからのリスクを最小限に抑えるためのガードレールを提案します。
関連論文リスト
- Governing Through the Cloud: The Intermediary Role of Compute Providers
in AI Regulation [15.338083640341223]
計算プロバイダは、AI開発とデプロイメントに関連する法的義務と倫理的責任を持つべきだ、と我々は主張する。
コンピューティングプロバイダは,4つの重要な能力を通じて,規制エコシステムにおいて重要な役割を果たすことができます。
論文 参考訳(メタデータ) (2024-03-13T13:08:16Z) - Mathematical Algorithm Design for Deep Learning under Societal and
Judicial Constraints: The Algorithmic Transparency Requirement [65.26723285209853]
計算モデルにおける透過的な実装が実現可能かどうかを分析するための枠組みを導出する。
以上の結果から,Blum-Shub-Smale Machinesは,逆問題に対する信頼性の高い解法を確立できる可能性が示唆された。
論文 参考訳(メタデータ) (2024-01-18T15:32:38Z) - Increased Compute Efficiency and the Diffusion of AI Capabilities [1.1838866556981258]
高度なAIモデルをトレーニングするには、計算リソースや計算に多大な投資が必要になる。
ハードウェアのイノベーションが計算とアルゴリズムの進歩の価格を下げるにつれ、AIモデルを所定のパフォーマンスにトレーニングするコストは、時間の経過とともに低下する。
アクセス効果が与えられたパフォーマンスにモデルを訓練できるアクターの数を増加させる一方、パフォーマンス効果は各アクターが利用できるパフォーマンスを同時に増加させる。
論文 参考訳(メタデータ) (2023-11-26T18:36:28Z) - Trust, Accountability, and Autonomy in Knowledge Graph-based AI for
Self-determination [1.4305544869388402]
知識グラフ(KG)は、インテリジェントな意思決定を支えるための基盤として登場した。
KGと神経学習の統合は、現在活発な研究のトピックである。
本稿では,KGベースのAIによる自己決定を支援するための基礎的なトピックと研究の柱を概念化する。
論文 参考訳(メタデータ) (2023-10-30T12:51:52Z) - Oversight for Frontier AI through a Know-Your-Customer Scheme for
Compute Providers [0.8547032097715571]
Know-Your-Customer (KYC) は、銀行部門がクライアントの識別と検証のために開発した標準である。
KYCは、既存の輸出管理におけるフロンティアAI開発とクローズループの監視を強化するメカニズムを提供するかもしれない。
AIチップの購入を制限する戦略とは異なり、計算へのデジタルアクセスを規制することは、より正確な制御を提供する。
論文 参考訳(メタデータ) (2023-10-20T16:17:29Z) - Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。
PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
論文 参考訳(メタデータ) (2023-08-15T16:37:16Z) - AI for IT Operations (AIOps) on Cloud Platforms: Reviews, Opportunities
and Challenges [60.56413461109281]
IT運用のための人工知能(AIOps)は、AIのパワーとIT運用プロセスが生成するビッグデータを組み合わせることを目的としている。
我々は、IT運用活動が発信する重要なデータの種類、分析における規模と課題、そしてどのように役立つかについて深く議論する。
主要なAIOpsタスクは、インシデント検出、障害予測、根本原因分析、自動アクションに分類します。
論文 参考訳(メタデータ) (2023-04-10T15:38:12Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳(メタデータ) (2022-01-26T18:53:09Z) - AI Assurance using Causal Inference: Application to Public Policy [0.0]
ほとんどのAIアプローチは、"ブラックボックス"としてのみ表現することができ、透明性の欠如に悩まされる。
効果的で堅牢なAIシステムを開発するだけでなく、内部プロセスが説明可能で公平であることを確認することも重要です。
論文 参考訳(メタデータ) (2021-12-01T16:03:06Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳(メタデータ) (2021-05-07T12:01:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。