論文の概要: From Principles to Rules: A Regulatory Approach for Frontier AI

• arxiv url: http://arxiv.org/abs/2407.07300v1
• Date: Wed, 10 Jul 2024 01:45:15 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-11 18:11:16.264169
• Title: From Principles to Rules: A Regulatory Approach for Frontier AI
• Title（参考訳）: 原則からルールへ:フロンティアAIの規制的アプローチ
• Authors: Jonas Schuett, Markus Anderljung, Alexis Carlier, Leonie Koessler, Ben Garfinkel,
• Abstract要約: レギュレータは、フロンティアAI開発者に安全対策を適用するよう要求する。 要件は、ハイレベルな原則や特定のルールとして定式化できる。 これらの規制アプローチは「原則ベース」および「ルールベース」規制と呼ばれ、補完的な強みと弱みを持っている。
• 参考スコア（独自算出の注目度）: 2.1764247401772705
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Several jurisdictions are starting to regulate frontier artificial intelligence (AI) systems, i.e. general-purpose AI systems that match or exceed the capabilities present in the most advanced systems. To reduce risks from these systems, regulators may require frontier AI developers to adopt safety measures. The requirements could be formulated as high-level principles (e.g. 'AI systems should be safe and secure') or specific rules (e.g. 'AI systems must be evaluated for dangerous model capabilities following the protocol set forth in...'). These regulatory approaches, known as 'principle-based' and 'rule-based' regulation, have complementary strengths and weaknesses. While specific rules provide more certainty and are easier to enforce, they can quickly become outdated and lead to box-ticking. Conversely, while high-level principles provide less certainty and are more costly to enforce, they are more adaptable and more appropriate in situations where the regulator is unsure exactly what behavior would best advance a given regulatory objective. However, rule-based and principle-based regulation are not binary options. Policymakers must choose a point on the spectrum between them, recognizing that the right level of specificity may vary between requirements and change over time. We recommend that policymakers should initially (1) mandate adherence to high-level principles for safe frontier AI development and deployment, (2) ensure that regulators closely oversee how developers comply with these principles, and (3) urgently build up regulatory capacity. Over time, the approach should likely become more rule-based. Our recommendations are based on a number of assumptions, including (A) risks from frontier AI systems are poorly understood and rapidly evolving, (B) many safety practices are still nascent, and (C) frontier AI developers are best placed to innovate on safety practices.
• Abstract（参考訳）: いくつかの管轄区域は、フロンティア人工知能(AI)システム、すなわち最も先進的なシステムに存在する能力に適合または超える汎用AIシステムを規制し始めている。 これらのシステムからのリスクを減らすために、規制当局はフロンティアAI開発者に安全対策を適用するよう要求するかもしれない。 要求は、高レベルの原則(例:「AIシステムは安全で安全」)または特定のルール(例:「AIシステムは、...のプロトコルに従って危険なモデル能力で評価されなければならない」)として定式化できる。 これらの規制アプローチは「原則ベース」および「ルールベース」規制と呼ばれ、補完的な強みと弱みを持っている。 特定のルールはより確実性を提供し、強制しやすくするが、それらはすぐに時代遅れになり、ボックスタイキングにつながる可能性がある。 逆に、ハイレベルな原則はより確実性が少なく、強制にコストがかかるが、規制当局が与えられた規制目標を最も適切に進めるための行動が明確でない状況では、より適応性が高く、より適切である。 しかし、ルールベースおよび原則ベースの規制はバイナリオプションではない。 政策立案者は、適切な特異性のレベルが要件と時間とともに変化する可能性があることを認識して、それらの間のスペクトルの点を選択する必要がある。 政策立案者は、まず、(1)安全フロンティアAI開発・展開のための高水準原則の遵守を義務付け、(2)規制当局がデベロッパーがこれらの原則にどう準拠しているかを厳格に監視し、(3)規制能力の即時化を図ることを推奨する。 時間が経つにつれて、このアプローチはよりルールベースのものになるでしょう。 私たちのレコメンデーションは、(A)フロンティアAIシステムからのリスクの理解が不十分で、急速に進化している、(B)多くの安全プラクティスはまだ初期段階であり、(C)フロンティアAI開発者は、安全プラクティスの革新に最適です。

関連論文リスト

• Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
  信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。 私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
  論文  参考訳（メタデータ） (2024-10-25T07:53:32Z)
• The Artificial Intelligence Act: critical overview [0.0]
  この記事では、最近承認された人工知能法を概観する。 これはまず、2024/1689年のEU(Regulation)の主要な構造、目的、アプローチを示すことから始まる。 テキストは、全体的なフレームワークが適切かつバランスが取れたとしても、アプローチは非常に複雑であり、それ自体の目的を損なうリスクがある、と結論付けている。
  論文  参考訳（メタデータ） (2024-08-30T21:38:02Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• SoFA: Shielded On-the-fly Alignment via Priority Rule Following [90.32819418613407]
  本稿では,各ダイアログにおけるルールを主制御機構として定義する,新たなアライメントパラダイムである優先ルールを提案する。 そこで本研究では,厳密な規則統合と固着性を確保するために,シミュレーションから優先信号に従う半自動蒸留手法であるプライオリティディスティルを提案する。
  論文  参考訳（メタデータ） (2024-02-27T09:52:27Z)
• The risks of risk-based AI regulation: taking liability seriously [46.90451304069951]
  AIの開発と規制は、重要な段階に達したようだ。 一部の専門家は、GPT-4よりも強力なAIシステムのトレーニングに関するモラトリアムを求めている。 本稿では、最も先進的な法的提案である欧州連合のAI法について分析する。
  論文  参考訳（メタデータ） (2023-11-03T12:51:37Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• No Trust without regulation! [0.0]
  機械学習(ML)の性能の爆発と、その応用の可能性は、産業システムにおけるその利用を考慮し続けています。 安全と、その基準、規制、標準の問題については、いまだに片側に過度に残っています。 欧州委員会は、安全で信頼性があり、ヨーロッパの倫理的価値を尊重するAIベースのアプリケーションを統合するための、前進と強固なアプローチを構築するための基盤を築き上げた。
  論文  参考訳（メタデータ） (2023-09-27T09:08:41Z)
• Frontier AI Regulation: Managing Emerging Risks to Public Safety [15.85618115026625]
  脆弱なAI」モデルは、公共の安全に深刻なリスクをもたらすのに十分な危険能力を持つ可能性がある。 業界の自己規制は重要な第一歩です。 安全基準の最初のセットを提案する。
  論文  参考訳（メタデータ） (2023-07-06T17:03:25Z)
• Both eyes open: Vigilant Incentives help Regulatory Markets improve AI Safety [69.59465535312815]
  Regulatory Markets for AIは、適応性を考慮して設計された提案である。 政府はAI企業が達成すべき結果に基づく目標を設定する必要がある。 我々は、規制市場がこの目標を達成するのを阻止するインセンティブについて、非常に簡単に対応できることを警告する。
  論文  参考訳（メタデータ） (2023-03-06T14:42:05Z)
• Regulating ChatGPT and other Large Generative AI Models [0.0]
  大規模な生成AIモデル(LGAIM)は、私たちのコミュニケーション、図示、作成の方法に急速に変化しています。 本稿では、信頼に値するAI規制に関する現在の議論の中で、これらの新しい生成モデルについて検討する。 LGAIM設定でAIバリューチェーンをキャプチャする新しい用語が提案されている。
  論文  参考訳（メタデータ） (2023-02-05T08:56:45Z)
• Negative Human Rights as a Basis for Long-term AI Safety and Regulation [1.5229257192293197]
  有害な行動を認識して回避するために自律的なAIシステムを導く一般的な原則は、規制の拘束システムによって支持される必要がある。 技術的実装に十分な仕様でなければならない。 この記事は、このような原則の役割を負の人権がどのように満たすかを説明するために、法律からインスピレーションを得ている。
  論文  参考訳（メタデータ） (2022-08-31T11:57:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。