論文の概要: An Artificial Intelligence Value at Risk Approach: Metrics and Models

• arxiv url: http://arxiv.org/abs/2509.18394v1
• Date: Mon, 22 Sep 2025 20:27:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-24 20:41:27.569674
• Title: An Artificial Intelligence Value at Risk Approach: Metrics and Models
• Title（参考訳）: リスクアプローチにおける人工知能の価値:メトリクスとモデル
• Authors: Luis Enriquez Alvarez,
• Abstract要約: 人工知能のリスク管理技術の現状は、今後のAI規制により、非常に未熟であるようだ。 本稿の目的は、AIリスク管理の深さについて、AIステークホルダーを指向させることである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Artificial intelligence risks are multidimensional in nature, as the same risk scenarios may have legal, operational, and financial risk dimensions. With the emergence of new AI regulations, the state of the art of artificial intelligence risk management seems to be highly immature due to upcoming AI regulations. Despite the appearance of several methodologies and generic criteria, it is rare to find guidelines with real implementation value, considering that the most important issue is customizing artificial intelligence risk metrics and risk models for specific AI risk scenarios. Furthermore, the financial departments, legal departments and Government Risk Compliance teams seem to remain unaware of many technical aspects of AI systems, in which data scientists and AI engineers emerge as the most appropriate implementers. It is crucial to decompose the problem of artificial intelligence risk in several dimensions: data protection, fairness, accuracy, robustness, and information security. Consequently, the main task is developing adequate metrics and risk models that manage to reduce uncertainty for decision-making in order to take informed decisions concerning the risk management of AI systems. The purpose of this paper is to orientate AI stakeholders about the depths of AI risk management. Although it is not extremely technical, it requires a basic knowledge of risk management, quantifying uncertainty, the FAIR model, machine learning, large language models and AI context engineering. The examples presented pretend to be very basic and understandable, providing simple ideas that can be developed regarding specific AI customized environments. There are many issues to solve in AI risk management, and this paper will present a holistic overview of the inter-dependencies of AI risks, and how to model them together, within risk scenarios.
• Abstract（参考訳）: 人工知能のリスクは本質的に多次元であり、同じリスクシナリオが法的、運用的、財務的リスク次元を持つ可能性がある。 新たなAI規制の出現に伴い、人工知能のリスク管理の最先端技術は、今後のAI規制のために非常に未熟なようだ。 いくつかの方法論と一般的な基準が出現しているにもかかわらず、人工知能のリスクメトリクスと特定のAIリスクシナリオに対するリスクモデルをカスタマイズすることが最も重要な問題であることを考えると、実際の実装価値を持つガイドラインを見つけることはまれである。 さらに、金融部門、法務部門、政府リスクコンプライアンスチームは、データサイエンティストとAIエンジニアが最も適切な実装者として出現する、AIシステムの多くの技術的側面に気づいていないようだ。 データ保護、公正性、正確性、堅牢性、情報セキュリティといった、人工知能のリスクの問題を、さまざまな面で分解することが不可欠である。 その結果、AIシステムのリスク管理に関する情報的な決定を下すために、意思決定の不確実性を軽減するための適切なメトリクスとリスクモデルを開発することが主な課題である。 本稿の目的は、AIリスク管理の深さについて、AIステークホルダーを指向させることである。 極めて技術的なものではないが、リスク管理、不確実性の定量化、FAIRモデル、機械学習、大規模言語モデル、AIコンテキストエンジニアリングに関する基本的な知識が必要である。 その例は、非常にベーシックで理解しやすいふりをして、特定のAIカスタマイズ環境に関して開発可能なシンプルなアイデアを提供した。 AIリスク管理には多くの課題があり、この論文では、AIリスクの相互依存の全体像と、リスクシナリオ内でそれらをモデリングする方法を概観する。

関連論文リスト

• Fully Autonomous AI Agents Should Not be Developed [58.88624302082713]
  本稿では,完全自律型AIエージェントを開発すべきではないと主張している。 この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。 分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-04T19:00:06Z)
• Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
  信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。 私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
  論文  参考訳（メタデータ） (2024-10-25T07:53:32Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• AI Hazard Management: A framework for the systematic management of root causes for AI risks [0.0]
  本稿ではAI Hazard Management(AIHM)フレームワークを紹介する。 AIのハザードを体系的に識別し、評価し、治療するための構造化されたプロセスを提供する。 総合的な最先端分析からAIハザードリストを構築する。
  論文  参考訳（メタデータ） (2023-10-25T15:55:50Z)
• A Brief Overview of AI Governance for Responsible Machine Learning Systems [3.222802562733787]
  このポジションペーパーは、AIの責任ある使用を監督するように設計されたフレームワークである、AIガバナンスの簡単な紹介を提案する。 AIの確率的性質のため、それに関連するリスクは従来の技術よりもはるかに大きい。
  論文  参考訳（メタデータ） (2022-11-21T23:48:51Z)
• Quantitative AI Risk Assessments: Opportunities and Challenges [7.35411010153049]
  リスクを減らす最善の方法は、包括的なAIライフサイクルガバナンスを実装することです。 リスクは技術コミュニティのメトリクスを使って定量化できます。 本稿では,このようなアプローチの機会,課題,潜在的影響に焦点をあてて,これらの課題について考察する。
  論文  参考訳（メタデータ） (2022-09-13T21:47:25Z)
• Actionable Guidance for High-Consequence AI Risk Management: Towards Standards Addressing AI Catastrophic Risks [12.927021288925099]
  人工知能(AI)システムは、社会規模で非常に高い、または破滅的な結果をもたらす事象のリスクを提示することができる。 NISTはAIリスク評価と管理に関する自主的なガイダンスとして、AI RMF(AI Artificial Intelligence Risk Management Framework)を開発している。 我々は、非常に高い、または破滅的な結果のイベントのリスクを特定し、管理することに焦点を当てた、行動可能なガイダンスの詳細な推奨を提供する。
  論文  参考訳（メタデータ） (2022-06-17T18:40:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。