論文の概要: Qualifying and Quantifying Risk Under the EU AI Act

• arxiv url: http://arxiv.org/abs/2608.08564v2
• Date: Mon, 17 Aug 2026 09:51:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.013319
• Title: Qualifying and Quantifying Risk Under the EU AI Act
• Title（参考訳）: EU AI法に基づくリスクの定量化と定量化
• Abstract要約: EU AI Actはリスクベースのアプローチを使用して、AIシステムを規制し、それらが引き起こすリスクに応じて規制の強度を調整している。 リスク」という言葉は定量化を意味するが、AI法は基本的権利に対するリスクを指し、質的な視点を持つ。
• 参考スコア（独自算出の注目度）: 0.8782077377058891
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The EU AI Act uses a risk-based approach to regulate AI systems, calibrating the intensity of regulation according to the risks they pose. While the term 'risk' implies quantification, resulting from the combination of the probability and severity of harm, the AI Act refers to risks to fundamental rights, thereby engaging a qualitative perspective. In this piece, we address this puzzle using a two-step framework under which the EU AI Act balances risks with the protection of fundamental rights, the legitimate purposes of providers and deployers, and the impacts of regulatory measures on providers, deployers, and regulators. We discuss this framework against the backdrop of potential approaches to quantifying risks, with a specific focus on defining and measuring the main components of the concept of risk: probability, severity, and their combination. We suggest that the protection of fundamental rights and risk quantification can be aligned by incorporating quantification methodologies into the proposed framework. In particular, the AI Act implies a balancing analysis that uses a severity-first approach to classify and quantify the risks posed by AI systems. The integrated framework not only helps to clarify the AI Act's risk-based approach, but can also inform technical and implementation choices. Finally, we conclude that if the risk quantification methodology or its application to the protection of fundamental rights is left to providers and deployers, there is potential for 'risk hacking', which could lead to the underclassification of AI systems and subsequent regulatory shortcuts.
• Abstract（参考訳）: EU AI Actはリスクベースのアプローチを使用して、AIシステムを規制し、それらが引き起こすリスクに応じて規制の強度を調整している。 リスク」という言葉は、リスクの確率と重大さの組み合わせから生じる定量化を意味するが、AI法は基本的権利に対するリスクを指し、質的な視点を持つ。 本稿では、EU AI法がリスクと基本的権利の保護、プロバイダとデプロイ者の合法的な目的、およびプロバイダ、デプロイ者、規制機関に対する規制措置の影響とをバランスさせる2段階の枠組みを用いて、この問題に対処する。 リスクを定量化するための潜在的アプローチの背景と、リスクの概念の主成分である確率、重大度、それらの組み合わせの定義と測定に特に焦点をあてて、この枠組みについて議論する。 基本的権利とリスク定量化の保護は,提案する枠組みに定量化手法を組み込むことによって整合できる可能性が示唆された。 特に、AI法は、重大性優先のアプローチを使用してAIシステムによって引き起こされるリスクを分類し、定量化するバランス分析を規定している。 この統合フレームワークは、AI Actのリスクベースのアプローチを明確にするだけでなく、技術的および実装上の選択も通知する。 最後に、リスク定量化手法や基本的権利保護への応用が提供者やデプロイ者に委ねられている場合、「リスクハッキング」の可能性があり、AIシステムやその後の規制ショートカットの下位分類につながる可能性があると結論付けます。

関連論文リスト

• Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report v1.5 [61.787178868669265]
  この技術レポートは、サイバー犯罪、説得と操作、戦略上の詐欺、制御されていないAIR&D、自己複製の5つの重要な側面について、更新されきめ細かな評価を提示する。 この作業は、現在のAIフロンティアのリスクに対する理解を反映し、これらの課題を軽減するための集団行動を促します。
  論文  参考訳（メタデータ） (2026-02-16T04:30:06Z)
• Constrained Language Model Policy Optimization via Risk-aware Stepwise Alignment [49.2305683068875]
  本稿では,リスク認識を政策最適化プロセスに組み込んだ新しいアライメント手法であるリスク対応ステップワイドアライメント(RSA)を提案する。 RSAは、過剰なモデルシフトによって引き起こされるリスクを基準方針から緩和し、低確率で高影響の有害な振る舞いを明示的に抑制する。 実験により, 本手法は高い安全性を確保しつつ, 高い安全性を達成できることが確認された。
  論文  参考訳（メタデータ） (2025-12-30T14:38:02Z)
• Toward Quantitative Modeling of Cybersecurity Risks Due to AI Misuse [50.87630846876635]
  我々は9つの詳細なサイバーリスクモデルを開発する。 各モデルはMITRE ATT&CKフレームワークを使用して攻撃をステップに分解する。 個々の見積もりはモンテカルロシミュレーションによって集約される。
  論文  参考訳（メタデータ） (2025-12-09T17:54:17Z)
• A Methodology for Quantitative AI Risk Modeling [32.594929429306774]
  本稿では、シナリオ構築と定量的リスク推定を統合する手法を導入することにより、AIリスク管理のリスクモデリングコンポーネントを進化させる。 我々の手法は、サイバー犯罪、生物兵器開発、有害な操作、制御の喪失など、主要なシステム的AIリスクに適用できるように設計されている。
  論文  参考訳（メタデータ） (2025-12-09T17:34:59Z)
• RADAR: A Risk-Aware Dynamic Multi-Agent Framework for LLM Safety Evaluation via Role-Specialized Collaboration [81.38705556267917]
  大規模言語モデル(LLM)の既存の安全性評価手法は、固有の制約に悩まされている。 リスク概念空間を再構築する理論的枠組みを導入する。 マルチエージェント協調評価フレームワークRADARを提案する。
  論文  参考訳（メタデータ） (2025-09-28T09:35:32Z)
• Foundations for Risk Assessment of AI in Protecting Fundamental Rights [0.5093073566064981]
  この章では、AIの質的リスクアセスメントの概念的フレームワークを紹介します。 法的コンプライアンスと基本的権利保護の複雑さに対処し、定義的バランスとデファシブルな推論を反復する。
  論文  参考訳（メタデータ） (2025-07-24T10:52:22Z)
• An Overview of the Risk-based Model of AI Governance [0.0]
  セクションでは、AIガバナンスに対するリスクベースのアプローチに対するいくつかの批判が提案されている。 リスクの概念は、その固有の規範が、その利益が重要となる支配的かつ有害な物語を再現するので、問題であると主張する。 本稿では、リスクベースのAIガバナンスを改善する上で、既存のリスクガバナンス奨学金が貴重な洞察を得られることを示唆して結論付ける。
  論文  参考訳（メタデータ） (2025-07-21T06:56:04Z)
• Adapting Probabilistic Risk Assessment for AI [0.0]
  汎用人工知能(AI)システムは、緊急リスク管理の課題を示す。 現在の手法は、しばしば選択的なテストとリスク優先順位に関する未文書の仮定に依存します。 本稿では,AIフレームワークの確率的リスクアセスメント(PRA)を紹介する。
  論文  参考訳（メタデータ） (2025-04-25T17:59:14Z)
• An Approach to Technical AGI Safety and Security [72.83728459135101]
  我々は、人類を著しく傷つけるのに十分な害のリスクに対処するアプローチを開発する。 私たちは、誤用や悪用に対する技術的なアプローチに重点を置いています。 これらの成分を組み合わせてAGIシステムの安全性を実現する方法について概説する。
  論文  参考訳（メタデータ） (2025-04-02T15:59:31Z)
• AI Risk Categorization Decoded (AIR 2024): From Government Regulations to Corporate Policies [88.32153122712478]
  我々は4階層の分類に分類された314のユニークなリスクカテゴリを特定した。 最高レベルでは、この分類はシステム・アンド・オペレーショナル・リスク、コンテンツ・セーフティ・リスク、社会的なリスク、法と権利のリスクを含む。 我々は、セクター間の情報共有と、生成型AIモデルとシステムのリスク軽減におけるベストプラクティスの推進を通じて、AIの安全性を向上することを目指している。
  論文  参考訳（メタデータ） (2024-06-25T18:13:05Z)
• The risks of risk-based AI regulation: taking liability seriously [46.90451304069951]
  AIの開発と規制は、重要な段階に達したようだ。 一部の専門家は、GPT-4よりも強力なAIシステムのトレーニングに関するモラトリアムを求めている。 本稿では、最も先進的な法的提案である欧州連合のAI法について分析する。
  論文  参考訳（メタデータ） (2023-11-03T12:51:37Z)
• RiskQ: Risk-sensitive Multi-Agent Reinforcement Learning Value Factorization [49.26510528455664]
  本稿では,リスクに敏感な個人・グローバル・マックス(RIGM)の原則を,個人・グローバル・マックス(IGM)と分散IGM(DIGM)の原則の一般化として紹介する。 RiskQは広範な実験によって有望な性能が得られることを示す。
  論文  参考訳（メタデータ） (2023-11-03T07:18:36Z)
• Acceptable risks in Europe's proposed AI Act: Reasonableness and other principles for deciding how much risk management is enough [0.0]
  この法律は「信頼できる」AIを規制の負担に比例して推進することを目的としている。 リスク受容性に関する規定では、リスクの高いシステムからの残留リスクを「可能な限り」削減または排除する必要がある。 本稿は、議会のアプローチがより機能しやすく、比例性と信頼性の目標とのバランスが良くなっていることを主張する。
  論文  参考訳（メタデータ） (2023-07-26T09:21:58Z)
• Normative Challenges of Risk Regulation of Artificial Intelligence and Automated Decision-Making [0.0]
  人工知能(AI)と自動意思決定(ADM)の規制をめざす最近の提案 最も顕著な例は、欧州委員会によって提案された人工知能法(AIA)である。 本稿では、主に関連する特定のリスクの種類から生じる適切なリスク規制の課題に対処する。
  論文  参考訳（メタデータ） (2022-11-11T13:57:38Z)
• Quantitative AI Risk Assessments: Opportunities and Challenges [7.35411010153049]
  リスクを減らす最善の方法は、包括的なAIライフサイクルガバナンスを実装することです。 リスクは技術コミュニティのメトリクスを使って定量化できます。 本稿では,このようなアプローチの機会,課題,潜在的影響に焦点をあてて,これらの課題について考察する。
  論文  参考訳（メタデータ） (2022-09-13T21:47:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。