論文の概要: Bounding the Black Box: A Statistical Certification Framework for AI Risk Regulation
- arxiv url: http://arxiv.org/abs/2604.21854v1
- Date: Thu, 23 Apr 2026 16:50:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-24 14:40:06.76872
- Title: Bounding the Black Box: A Statistical Certification Framework for AI Risk Regulation
- Title（参考訳）: ブラックボックスの境界 - AIリスク規制のための統計的認定フレームワーク
- Authors: Natan Levy, Gadi Perl,
- Abstract要約: EU AI法、NISTリスク管理フレームワーク、欧州評議会は、高リスクシステムは配備前に安全を示すことを要求している。
この規制の合意の下には、決定的な掃除機がある。
我々は、AIリスク規制をエンジニアリングプラクティスに変換する2段階のフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Artificial intelligence now decides who receives a loan, who is flagged for criminal investigation, and whether an autonomous vehicle brakes in time. Governments have responded: the EU AI Act, the NIST Risk Management Framework, and the Council of Europe Convention all demand that high-risk systems demonstrate safety before deployment. Yet beneath this regulatory consensus lies a critical vacuum: none specifies what ``acceptable risk'' means in quantitative terms, and none provides a technical method for verifying that a deployed system actually meets such a threshold. The regulatory architecture is in place; the verification instrument is not. This gap is not theoretical. As the EU AI Act moves into full enforcement, developers face mandatory conformity assessments without established methodologies for producing quantitative safety evidence - and the systems most in need of oversight are opaque statistical inference engines that resist white-box scrutiny. This paper provides the missing instrument. Drawing on the aviation certification paradigm, we propose a two-stage framework that transforms AI risk regulation into engineering practice. In Stage One, a competent authority formally fixes an acceptable failure probability $δ$ and an operational input domain $\varepsilon$ - a normative act with direct civil liability implications. In Stage Two, the RoMA and gRoMA statistical verification tools compute a definitive, auditable upper bound on the system's true failure rate, requiring no access to model internals and scaling to arbitrary architectures. We demonstrate how this certificate satisfies existing regulatory obligations, shifts accountability upstream to developers, and integrates with the legal frameworks that exist today.
- Abstract（参考訳）: 人工知能(AI)は、ローンの受取人、刑事捜査の警告を受けた者、そして自動運転車のブレーキが間に合うかどうかを判断する。
EU AI法、NISTリスク管理フレームワーク、欧州評議会は、高リスクシステムは配備前に安全を示すことを要求している。
しかし、この規制の合意の下には、クリティカルな掃除機がある。‘受け入れ可能なリスク’とは、量的な用語で何を意味するかは特定されておらず、デプロイされたシステムが実際にそのようなしきい値を満たすかを検証するための技術的な方法も提供されていない。
規制アーキテクチャは実施されているが、検証手段は存在しない。
このギャップは理論的ではない。
EUのAI法が施行されるにつれて、開発者は定量的な安全証拠を生み出すための方法が確立されていない、必須の適合性評価に直面している。
本論文は欠落した楽器を提供する。
航空認証のパラダイムに基づいて、AIリスク規制をエンジニアリングプラクティスに変換する2段階のフレームワークを提案する。
ステージ1では、有能な当局は許容可能な障害確率$δ$と運用入力ドメイン$\varepsilon$を正式に修正する。
ステージ2では、RoMAとgRoMAの統計検証ツールが、システムの真の失敗率に関する決定的かつ監査可能な上限を計算し、モデル内部へのアクセスや任意のアーキテクチャへのスケーリングを必要としない。
この証明書が既存の規制義務をどのように満たすかを示し、開発者に説明責任を移し、現在存在する法的枠組みと統合する。
関連論文リスト
- Making AI Compliance Evidence Machine-Readable [0.0]
本稿では,AIガバナンスの候補交換フォーマットとしてOSCALを提案する。
ライフサイクルフェーズ、実施の意味論、リスクトレーサビリティ、リスク受容の正当性を含む16のプロパティ拡張を定義します。
アーキテクチャとリファレンス実装はApache RM 2.0の下でオープンソースである。
論文 参考訳（メタデータ） (2026-04-15T11:51:54Z) - CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。
CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。
このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
論文 参考訳（メタデータ） (2026-04-10T09:41:21Z) - Trustworthy AI Posture (TAIP): A Framework for Continuous AI Assurance of Agentic Systems at Horizontal and Vertical scale [1.0896567381206714]
ポイント・イン・タイムの文書ベースの監査では、決定論的でない振る舞いには対応できない。
垂直的には、ガバナンスとコントロールの義務は、フレームワークが運用できるものよりも速く変化します。
リスクベースの規制は、現在進行中のコントロールの妥当性と効果を示す必要がある。
本稿では,信頼度を静的証明書ではなく,連続的に発生する信号として再設定する。
論文 参考訳（メタデータ） (2026-02-15T10:49:47Z) - Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。
本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
論文 参考訳（メタデータ） (2026-01-16T18:44:09Z) - AI Bill of Materials and Beyond: Systematizing Security Assurance through the AI Risk Scanning (AIRS) Framework [31.261980405052938]
人工知能(AI)システムの保証は、ソフトウェアサプライチェーンセキュリティ、敵機械学習、ガバナンスドキュメントに分散している。
本稿では,AI保証の運用を目的とした脅威モデルに基づくエビデンス発生フレームワークであるAI Risk Scanning(AIRS)フレームワークを紹介する。
論文 参考訳（メタデータ） (2025-11-16T16:10:38Z) - Rethinking Autonomy: Preventing Failures in AI-Driven Software Engineering [1.6766200616088744]
SAFE-AI Frameworkは、安全性、監査可能性、フィードバック、説明可能性を強調した総合的なアプローチである。
我々は、リスク評価と監視を導くために、提案的、生成的、自律的、破壊的なアクションを分類する、AI行動の新しい分類法を導入する。
この記事では、EU AI ActやカナダのAIDAといった新たな規則に沿って、ソフトウェアエンジニアリングにおける責任あるAI統合のためのロードマップを提供する。
論文 参考訳（メタデータ） (2025-08-15T22:13:54Z) - AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。
このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
論文 参考訳（メタデータ） (2025-02-19T05:58:52Z) - ACRIC: Securing Legacy Communication Networks via Authenticated Cyclic Redundancy Integrity Check [98.34702864029796]
安全クリティカルな業界における最近のセキュリティインシデントは、適切なメッセージ認証の欠如により、攻撃者が悪意のあるコマンドを注入したり、システムの振る舞いを変更することができることを明らかにした。
これらの欠点は、サイバーセキュリティを強化するために圧力をかける必要性を強調する新しい規制を引き起こしている。
我々は,レガシ産業通信をセキュアにするためのメッセージ認証ソリューションであるACRICを紹介する。
論文 参考訳（メタデータ） (2024-11-21T18:26:05Z) - Auction-Based Regulation for Artificial Intelligence [28.86995747151915]
規制当局は、AIの展開が壊れた後に残された安全、偏見、法的な破片をゆっくりと拾い上げている。
本稿では,デバイスに適合したモデルをデプロイする動機付けを確実に行う,オークションベースの規制機構を提案する。
規制入札は,基準規制機構と比較して,コンプライアンス率を20%,参加率を15%向上させることを示す。
論文 参考訳（メタデータ） (2024-10-02T17:57:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。