Fugu-MT 論文翻訳(概要): Regulatory Markets for AI Safety

論文の概要: Regulatory Markets for AI Safety

arxiv url: http://arxiv.org/abs/2001.00078v2
Date: Thu, 24 Apr 2025 15:06:37 GMT
ステータス: 翻訳完了
システム内更新日: 2025-05-02 19:15:51.374265
Title: Regulatory Markets for AI Safety
Title（参考訳）: AI安全のための規制市場
Authors: Jack Clark, Gillian K. Hadfield,
Abstract要約: 我々は,AIの安全性を達成するための新たな規制モデル,グローバルな規制市場を提案する。まず、一般的な用語でモデルをスケッチし、このアプローチのコストとメリットの概要を提供します。そして、商用ドローンで使用されるAIモデルに対する敵の攻撃のリスクに対応するモデルが実際にどのように機能するかを実証する。
参考スコア（独自算出の注目度）: 1.1268254714512649
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We propose a new model for regulation to achieve AI safety: global regulatory markets. We first sketch the model in general terms and provide an overview of the costs and benefits of this approach. We then demonstrate how the model might work in practice: responding to the risk of adversarial attacks on AI models employed in commercial drones.
Abstract（参考訳）: 我々は,AIの安全性を達成するための新たな規制モデル,グローバルな規制市場を提案する。まず、一般的な用語でモデルをスケッチし、このアプローチのコストとメリットの概要を提供します。そして、商用ドローンで使用されるAIモデルに対する敵の攻撃のリスクに対応するモデルが実際にどのように機能するかを実証する。

関連論文リスト

An Approach to Technical AGI Safety and Security [72.83728459135101]
我々は、人類を著しく傷つけるのに十分な害のリスクに対処するアプローチを開発する。私たちは、誤用や悪用に対する技術的なアプローチに重点を置いています。これらの成分を組み合わせてAGIシステムの安全性を実現する方法について概説する。
論文参考訳（メタデータ） (2025-04-02T15:59:31Z)
OpenAI o1 System Card [274.83891368890977]
o1モデルシリーズは、思考の連鎖を用いて推論するために大規模な強化学習で訓練されている。本報告では,OpenAI o1およびOpenAI o1-miniモデルに対して実施される安全作業の概要について述べる。
論文参考訳（メタデータ） (2024-12-21T18:04:31Z)
Fundamental Risks in the Current Deployment of General-Purpose AI Models: What Have We (Not) Learnt From Cybersecurity? [60.629883024152576]
大規模言語モデル(LLM)は、幅広いユースケースで急速にデプロイされている。 OpenAIs Alteraは、自律性の向上、データアクセス、実行機能の一例に過ぎない。これらの方法には、さまざまなサイバーセキュリティ上の課題が伴う。
論文参考訳（メタデータ） (2024-12-19T14:44:41Z)
Auction-Based Regulation for Artificial Intelligence [28.86995747151915]
規制当局は、AIの展開が壊れた後に残された安全、偏見、法的な破片をゆっくりと拾い上げている。本稿では,デバイスに適合したモデルをデプロイする動機付けを確実に行う,オークションベースの規制機構を提案する。規制入札は,基準規制機構と比較して,コンプライアンス率を20%,参加率を15%向上させることを示す。
論文参考訳（メタデータ） (2024-10-02T17:57:02Z)
Formal Modelling of Safety Architecture for Responsibility-Aware Autonomous Vehicle via Event-B Refinement [1.45566585318013]
本稿では,AVの安全条件をモデル化し,導出し,証明する上での戦略と経験について述べる。このケーススタディは、現在最先端のゴール認識型責任感性安全性モデルを対象として、周囲の車両との相互作用について議論する。
論文参考訳（メタデータ） (2024-01-10T02:02:06Z)
Towards more Practical Threat Models in Artificial Intelligence Security [66.67624011455423]
最近の研究で、人工知能のセキュリティの研究と実践のギャップが特定されている。我々は、AIセキュリティ研究で最も研究されている6つの攻撃の脅威モデルを再検討し、実際にAIの使用と一致させる。
論文参考訳（メタデータ） (2023-11-16T16:09:44Z)
Deployment Corrections: An incident response framework for frontier AI models [0.0]
本稿では,デプロイ前リスク管理が不十分な場合の緊急計画について検討する。危険な機能に対応するためにAI開発者が使用できるデプロイメント修正ツールキットについて説明する。私たちは、フロンティアAI開発者、標準設定組織、そして規制当局が協力して標準化された業界全体のアプローチを定義することを推奨します。
論文参考訳（メタデータ） (2023-09-30T10:07:39Z)
Frontier AI Regulation: Managing Emerging Risks to Public Safety [15.85618115026625]
脆弱なAI」モデルは、公共の安全に深刻なリスクをもたらすのに十分な危険能力を持つ可能性がある。業界の自己規制は重要な第一歩です。安全基準の最初のセットを提案する。
論文参考訳（メタデータ） (2023-07-06T17:03:25Z)
Both eyes open: Vigilant Incentives help Regulatory Markets improve AI Safety [69.59465535312815]
Regulatory Markets for AIは、適応性を考慮して設計された提案である。政府はAI企業が達成すべき結果に基づく目標を設定する必要がある。我々は、規制市場がこの目標を達成するのを阻止するインセンティブについて、非常に簡単に対応できることを警告する。
論文参考訳（メタデータ） (2023-03-06T14:42:05Z)
Self-Destructing Models: Increasing the Costs of Harmful Dual Uses of Foundation Models [103.71308117592963]
本稿ではメタラーニングと逆学習の技法を活用した自己破壊モデルの学習アルゴリズムを提案する。小規模な実験では、MLACは、BERTスタイルのモデルが性別識別を行うために再目的化されることをほとんど防ぐことができることを示す。
論文参考訳（メタデータ） (2022-11-27T21:43:45Z)
Towards Industrial Private AI: A two-tier framework for data and model security [7.773212143837498]
IIoT環境でデータとモデルパラメータの2層セキュリティを提供するプライベート(FLEP)AIフレームワークを提案する。実験結果から,提案手法は実行時間の増加を犠牲にして,より優れた暗号化品質を実現することが示された。
論文参考訳（メタデータ） (2021-07-27T13:28:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。