Fugu-MT 論文翻訳(概要): Catastrophic Liability: Managing Systemic Risks in Frontier AI Development

論文の概要: Catastrophic Liability: Managing Systemic Risks in Frontier AI Development

arxiv url: http://arxiv.org/abs/2505.00616v1
Date: Thu, 01 May 2025 15:47:14 GMT
ステータス: 翻訳完了
システム内更新日: 2025-05-02 19:15:55.361568
Title: Catastrophic Liability: Managing Systemic Risks in Frontier AI Development
Title（参考訳）: 破滅的な責任:フロンティアAI開発におけるシステム的リスクの管理
Authors: Aidan Kierans, Kaley Rittichier, Utku Sonsayar,
Abstract要約: フロンティアAI開発は、社会に大規模な影響を及ぼす可能性のある、システム的リスクをもたらす可能性がある。多くのAIラボでの現在のプラクティスでは、安全対策、テスト手順、ガバナンス構造に関する十分な透明性が欠如している。我々は、フロンティアAI開発における安全性ドキュメントと説明責任に関する包括的なアプローチを提案する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: As artificial intelligence systems grow more capable and autonomous, frontier AI development poses potential systemic risks that could affect society at a massive scale. Current practices at many AI labs developing these systems lack sufficient transparency around safety measures, testing procedures, and governance structures. This opacity makes it challenging to verify safety claims or establish appropriate liability when harm occurs. Drawing on liability frameworks from nuclear energy, aviation software, and healthcare, we propose a comprehensive approach to safety documentation and accountability in frontier AI development.
Abstract（参考訳）: 人工知能システムがより有能で自律的に成長するにつれて、フロンティアAI開発は、社会に大規模な影響を及ぼす可能性のあるシステム的リスクをもたらす可能性がある。これらのシステムを開発する多くのAIラボの現在のプラクティスは、安全性対策、テスト手順、ガバナンス構造に関する十分な透明性を欠いている。この不透明さは、安全クレームを検証することや、危害が発生した場合に適切な責任を確立することを困難にしている。核エネルギー,航空ソフトウェア,医療の負債フレームワークを参考に,フロンティアAI開発における安全性ドキュメントと説明責任への包括的アプローチを提案する。

関連論文リスト

A Framework for the Assurance of AI-Enabled Systems [0.0]
本稿では,AIシステムのリスク管理と保証のためのクレームベースのフレームワークを提案する。論文のコントリビューションは、AI保証のためのフレームワークプロセス、関連する定義のセット、AI保証における重要な考慮事項に関する議論である。
論文参考訳（メタデータ） (2025-04-03T13:44:01Z)
An Approach to Technical AGI Safety and Security [72.83728459135101]
我々は、人類を著しく傷つけるのに十分な害のリスクに対処するアプローチを開発する。私たちは、誤用や悪用に対する技術的なアプローチに重点を置いています。これらの成分を組み合わせてAGIシステムの安全性を実現する方法について概説する。
論文参考訳（メタデータ） (2025-04-02T15:59:31Z)
AI threats to national security can be countered through an incident regime [55.2480439325792]
我々は、AIシステムからの潜在的な国家安全保障脅威に対抗することを目的とした、法的に義務付けられたポストデプロイAIインシデントシステムを提案する。提案したAIインシデント体制は,3段階に分けられる。第1フェーズは,‘AIインシデント’とみなすような,新たな運用方法を中心に展開される。第2フェーズと第3フェーズでは、AIプロバイダが政府機関にインシデントを通知し、政府機関がAIプロバイダのセキュリティおよび安全手順の修正に関与するべきだ、と説明されている。
論文参考訳（メタデータ） (2025-03-25T17:51:50Z)
Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
論文参考訳（メタデータ） (2024-10-25T07:53:32Z)
EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
論文参考訳（メタデータ） (2024-08-08T13:19:37Z)
Materiality and Risk in the Age of Pervasive AI Sensors [9.180189171335744]
我々は、センサーの材料価格とその基礎となる計算モデルから生じるAIシステムに関連するリスクの次元を強調する。我々は,これらのリスクを診断するためのセンサセンシティブなフレームワークを提案し,米国国立標準技術AIリスク管理フレームワークや欧州連合のAI法などの既存のアプローチを補完する。
論文参考訳（メタデータ） (2024-02-17T03:47:38Z)
Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文参考訳（メタデータ） (2023-10-26T17:59:06Z)
AI Hazard Management: A framework for the systematic management of root causes for AI risks [0.0]
本稿ではAI Hazard Management(AIHM)フレームワークを紹介する。 AIのハザードを体系的に識別し、評価し、治療するための構造化されたプロセスを提供する。総合的な最先端分析からAIハザードリストを構築する。
論文参考訳（メタデータ） (2023-10-25T15:55:50Z)
Safe AI -- How is this Possible? [0.45687771576879593]
従来の安全エンジニアリングは、決定論的で非進化的なシステムが、明確に定義されたコンテキストで運用されるものから、予測不可能な操作コンテキストで機能する自律的で学習可能なAIシステムへと、転換点に近づいている。我々は、安全AIの基本的な課題を概説し、AIシステムの安全な振る舞いにおいて、不確実性を最小化し、信頼性を高め、許容レベルまで、厳格なエンジニアリングフレームワークを提案する。
論文参考訳（メタデータ） (2022-01-25T16:32:35Z)
Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
論文参考訳（メタデータ） (2020-04-15T17:15:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。