Fugu-MT 論文翻訳(概要): Three lines of defense against risks from AI

論文の概要: Three lines of defense against risks from AI

arxiv url: http://arxiv.org/abs/2212.08364v1
Date: Fri, 16 Dec 2022 09:33:00 GMT
ステータス: 処理完了
システム内更新日: 2023-02-19 13:05:25.487303
Title: Three lines of defense against risks from AI
Title（参考訳）: AIのリスクに対する3つの防衛線
Authors: Jonas Schuett
Abstract要約: AIリスク管理の責任者は必ずしも明確ではない。 3つの防衛ライン(3LoD)モデルは、多くの産業でベストプラクティスと考えられている。私は、AI企業がモデルを実装できる方法を提案する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Organizations that develop and deploy artificial intelligence (AI) systems need to manage the associated risks - for economic, legal, and ethical reasons. However, it is not always clear who is responsible for AI risk management. The Three Lines of Defense (3LoD) model, which is considered best practice in many industries, might offer a solution. It is a risk management framework that helps organizations to assign and coordinate risk management roles and responsibilities. In this article, I suggest ways in which AI companies could implement the model. I also discuss how the model could help reduce risks from AI: it could identify and close gaps in risk coverage, increase the effectiveness of risk management practices, and enable the board of directors to oversee management more effectively. The article is intended to inform decision-makers at leading AI companies, regulators, and standard-setting bodies.
Abstract（参考訳）: 人工知能(AI)システムの開発と展開を行う組織は、経済的、法的、倫理的な理由から、関連するリスクを管理する必要がある。しかし、AIリスク管理の責任者が誰であるかは必ずしも明確ではない。多くの業界でベストプラクティスと考えられている3行の防御(3lod)モデルは、解決策を提供するかもしれない。リスク管理のフレームワークであり、組織がリスク管理の役割と責任を割り当て、調整するのに役立ちます。この記事では、ai企業がモデルを実装する方法を提案します。リスクカバレッジのギャップを特定し、閉じたり、リスク管理プラクティスの有効性を高めたり、取締役会がより効果的に管理を監督できるようになります。この記事は、主要なAI企業、規制当局、標準設定機関の意思決定者に通知することを目的としている。

関連論文リスト

Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
論文参考訳（メタデータ） (2024-10-25T07:53:32Z)
Risk Alignment in Agentic AI Systems [0.0]
監視の少ない複雑な行動を実行することができるエージェントAIは、そのようなシステムをユーザ、開発者、社会と安全に構築し整合させる方法について、新たな疑問を提起する。リスクアライメントは、ユーザの満足度と信頼には重要ですが、社会にさらに大きな影響をもたらします。これらの質問の重要な規範的および技術的側面を論じる3つの論文を提示する。
論文参考訳（メタデータ） (2024-10-02T18:21:08Z)
Risks and Opportunities of Open-Source Generative AI [64.86989162783648]
Generative AI(Gen AI)の応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。こうした地震の変化の可能性は、この技術の潜在的なリスクについて活発に議論を巻き起こし、より厳格な規制を要求した。この規制は、オープンソースの生成AIの誕生する分野を危険にさらす可能性がある。
論文参考訳（メタデータ） (2024-05-14T13:37:36Z)
Near to Mid-term Risks and Opportunities of Open-Source Generative AI [94.06233419171016]
Generative AIの応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。こうした地震の影響の可能性は、潜在的なリスクに関する活発な議論を引き起こし、より厳格な規制を要求した。この規制は、オープンソースのジェネレーティブAIの誕生する分野を危険にさらしている可能性が高い。
論文参考訳（メタデータ） (2024-04-25T21:14:24Z)
Control Risk for Potential Misuse of Artificial Intelligence in Science [85.91232985405554]
我々は、科学におけるAI誤用の危険性の認識を高めることを目的としている。化学科学における誤用の実例を取り上げる。我々は、科学におけるAIモデルの誤用リスクを制御するSciGuardというシステムを提案する。
論文参考訳（メタデータ） (2023-12-11T18:50:57Z)
The risks of risk-based AI regulation: taking liability seriously [46.90451304069951]
AIの開発と規制は、重要な段階に達したようだ。一部の専門家は、GPT-4よりも強力なAIシステムのトレーニングに関するモラトリアムを求めている。本稿では、最も先進的な法的提案である欧州連合のAI法について分析する。
論文参考訳（メタデータ） (2023-11-03T12:51:37Z)
Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文参考訳（メタデータ） (2023-10-26T17:59:06Z)
AI Hazard Management: A framework for the systematic management of root causes for AI risks [0.0]
本稿ではAI Hazard Management(AIHM)フレームワークを紹介する。 AIのハザードを体系的に識別し、評価し、治療するための構造化されたプロセスを提供する。総合的な最先端分析からAIハザードリストを構築する。
論文参考訳（メタデータ） (2023-10-25T15:55:50Z)
An Overview of Catastrophic AI Risks [38.84933208563934]
本稿では,破滅的なAIリスクの主な要因について概説し,その要因を4つのカテゴリに分類する。個人やグループが意図的にAIを使用して危害を及ぼす悪用; 競争環境がアクターに安全でないAIを配置させたり、AIに制御を強制するAIレース。組織的リスクは人的要因と複雑なシステムが破滅的な事故の可能性を高めることを示しています不正なAIは、人間よりもはるかにインテリジェントなエージェントを制御することの難しさを説明する。
論文参考訳（メタデータ） (2023-06-21T03:35:06Z)
A Brief Overview of AI Governance for Responsible Machine Learning Systems [3.222802562733787]
このポジションペーパーは、AIの責任ある使用を監督するように設計されたフレームワークである、AIガバナンスの簡単な紹介を提案する。 AIの確率的性質のため、それに関連するリスクは従来の技術よりもはるかに大きい。
論文参考訳（メタデータ） (2022-11-21T23:48:51Z)
Actionable Guidance for High-Consequence AI Risk Management: Towards Standards Addressing AI Catastrophic Risks [12.927021288925099]
人工知能(AI)システムは、社会規模で非常に高い、または破滅的な結果をもたらす事象のリスクを提示することができる。 NISTはAIリスク評価と管理に関する自主的なガイダンスとして、AI RMF(AI Artificial Intelligence Risk Management Framework)を開発している。我々は、非常に高い、または破滅的な結果のイベントのリスクを特定し、管理することに焦点を当てた、行動可能なガイダンスの詳細な推奨を提供する。
論文参考訳（メタデータ） (2022-06-17T18:40:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。