論文の概要: AI Risk-Management Standards Profile for General-Purpose AI (GPAI) and Foundation Models

• arxiv url: http://arxiv.org/abs/2506.23949v1
• Date: Mon, 30 Jun 2025 15:18:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-01 21:27:54.118848
• Title: AI Risk-Management Standards Profile for General-Purpose AI (GPAI) and Foundation Models
• Title（参考訳）: 汎用AI(GPAI)とファンデーションモデルのためのAIリスク管理基準プロファイル
• Authors: Anthony M. Barrett, Jessica Newman, Brandie Nonnecke, Nada Madkour, Dan Hendrycks, Evan R. Murphy, Krystal Jackson, Deepika Raman,
• Abstract要約: この文書はGPAI/基礎モデルのリスクを特定し、分析し、緩和するためのリスク管理のプラクティスやコントロールを提供する。 この文書は主に、大規模かつ最先端のGPAI/基礎モデルの開発者を対象としている。
• 参考スコア（独自算出の注目度）: 15.890326508488673
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Increasingly multi-purpose AI models, such as cutting-edge large language models or other 'general-purpose AI' (GPAI) models, 'foundation models,' generative AI models, and 'frontier models' (typically all referred to hereafter with the umbrella term 'GPAI/foundation models' except where greater specificity is needed), can provide many beneficial capabilities but also risks of adverse events with profound consequences. This document provides risk-management practices or controls for identifying, analyzing, and mitigating risks of GPAI/foundation models. We intend this document primarily for developers of large-scale, state-of-the-art GPAI/foundation models; others that can benefit from this guidance include downstream developers of end-use applications that build on a GPAI/foundation model. This document facilitates conformity with or use of leading AI risk management-related standards, adapting and building on the generic voluntary guidance in the NIST AI Risk Management Framework and ISO/IEC 23894, with a focus on the unique issues faced by developers of GPAI/foundation models.
• Abstract（参考訳）: 最先端の大規模言語モデルや'汎用AI'(GPAI)モデル、'境界モデル'、'生成AIモデル'、'フロンティアモデル'(一般的には、より大きな特異性が必要な場合を除いて、"GPAI/境界モデル"という傘用語で後に言及される)といった多目的AIモデルの増加は、多くの有益な能力を提供すると同時に、重大な結果をもたらす有害事象のリスクをもたらす可能性がある。 この文書はGPAI/基礎モデルのリスクを特定し、分析し、緩和するためのリスク管理のプラクティスやコントロールを提供する。 我々は、このドキュメントを主に、大規模で最先端のGPAI/基盤モデルの開発者を対象としているが、このガイダンスの恩恵を受けることができるのは、GPAI/基盤モデル上に構築されたエンドユースアプリケーションの下流開発者である。 この文書は、NIST AI Risk Management FrameworkとISO/IEC 23894における汎用的な自発的ガイダンスを適応し、構築することで、主要なAIリスク管理関連標準への適合または使用を促進する。

関連論文リスト

• Risk Sources and Risk Management Measures in Support of Standards for General-Purpose AI Systems [2.3266896180922187]
  我々は、汎用AIシステムのためのリスクソースとリスク管理対策の広範なカタログをコンパイルする。 この作業には、モデル開発、トレーニング、デプロイメントステージにわたる技術的、運用的、社会的リスクの特定が含まれる。 このカタログは、AIガバナンスと標準における利害関係者による直接的な使用を容易にするために、パブリックドメインライセンス下でリリースされている。
  論文  参考訳（メタデータ） (2024-10-30T21:32:56Z)
• Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
  信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。 私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
  論文  参考訳（メタデータ） (2024-10-25T07:53:32Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• Generative AI Models: Opportunities and Risks for Industry and Authorities [1.3196892898418466]
  生成AIモデルは、伝統的に創造性と人間の理解を必要とする幅広いタスクを実行することができる。 トレーニング中は、既存のデータからパターンを学び、その後、新しいコンテンツを生成することができる。 生成AIに関連する多くのリスクは、開発中に対処する必要がある。
  論文  参考訳（メタデータ） (2024-06-07T08:34:30Z)
• Risks and Opportunities of Open-Source Generative AI [64.86989162783648]
  Generative AI(Gen AI)の応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。 こうした地震の変化の可能性は、この技術の潜在的なリスクについて活発に議論を巻き起こし、より厳格な規制を要求した。 この規制は、オープンソースの生成AIの誕生する分野を危険にさらす可能性がある。
  論文  参考訳（メタデータ） (2024-05-14T13:37:36Z)
• Deployment Corrections: An incident response framework for frontier AI models [0.0]
  本稿では,デプロイ前リスク管理が不十分な場合の緊急計画について検討する。 危険な機能に対応するためにAI開発者が使用できるデプロイメント修正ツールキットについて説明する。 私たちは、フロンティアAI開発者、標準設定組織、そして規制当局が協力して標準化された業界全体のアプローチを定義することを推奨します。
  論文  参考訳（メタデータ） (2023-09-30T10:07:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。