論文の概要: Finite-Sample Probabilistic Safety Certification for AI-Based Grid-Edge Coordination

• arxiv url: http://arxiv.org/abs/2609.28182v1
• Date: Wed, 23 Sep 2026 14:24:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:18.062223
• Title: Finite-Sample Probabilistic Safety Certification for AI-Based Grid-Edge Coordination
• Title（参考訳）: AIに基づくグリッドエッジコーディネーションのための有限サンプル確率的安全性証明
• Abstract要約: 本稿では,閉ループグリッド動作におけるブラックボックスAI決定モデルに対する有限サンプル確率的安全性保証フレームワークを開発する。 1000エージェントAIモデル(独立パラメータ)によるグリッドエッジフレキシビリティ調整のケーススタディは、有限サンプル安全性を保証する。
• 参考スコア（独自算出の注目度）: 0.22940141855172028
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Coordinating large population of flexible grid-edge devices can alleviate the need for time-consuming and capital-intensive network upgrades, and AI-based control methods such as multi-agent reinforcement learning or imitation learning are promising in their real-time decision scalability. However, system operators still need an independent and rigorous way to decide whether a given AI system is safe enough for deployment. This paper develops a finite-sample probabilistic safety certification framework for black-box AI decision models in closed-loop grid operation. The central idea is to reduce the complete input--AI--grid evaluator workflow to a binary unsafe outcome under an operator-defined safety specification, and then use exact binomial inference to certify the corresponding unsafe operation probability. Given a set of held-out calibration scenarios, the framework returns the tightest one-sided upper certificate and an accept/reject deployment criterion that controls the probability of false safety certification. Because the certification is for the calibration distribution that may deviate from the future operation, we further combine the nominal certificate with physically interpretable sample-space adversarial attacks, a concept widely used in AI to investigate the fragility of AI models. Case studies on grid-edge flexibility coordination with 1{,}000-agent AI models (independent parameters) verify the finite-sample safety guarantee and the value of integrating adversarial attacks into a rolling-window training-certification-deployment flow.
• Abstract（参考訳）: 多くのフレキシブルグリッドエッジデバイスをコーディネートすることで、時間と資本集約的なネットワークアップグレードの必要性が軽減されると同時に、マルチエージェント強化学習や模倣学習といったAIベースの制御手法が、リアルタイムな意思決定のスケーラビリティにおいて有望である。 しかし、システムオペレータは、特定のAIシステムがデプロイメントに十分な安全かどうかを判断するために、独立して厳格な方法が必要です。 本稿では,閉ループグリッド動作におけるブラックボックスAI決定モデルに対する有限サンプル確率的安全性保証フレームワークを開発する。 中心となる考え方は、完全な入力-AI-グリッド評価ワークフローをオペレータ定義の安全仕様の下でバイナリアンセーフな結果に減らし、それに対応するアンセーフな操作確率を証明するために正確な二項推論を使用することである。 一連のキャリブレーションシナリオを前提として、フレームワークは最も厳密な片側認証と、偽の安全認証の確率を制御するアクセプション/リジェクトデプロイメント基準を返却する。 認定は将来の運用から逸脱する可能性のある校正分布のためであり、さらに、名目証明と物理的に解釈可能なサンプル空間の敵攻撃を組み合わせ、AIモデルの脆弱性を調べるために広く使用されている概念である。 1{,}000エージェントAIモデル(独立パラメータ)を用いたグリッドエッジフレキシビリティ調整のケーススタディでは、有限サンプル安全性保証と、対向攻撃をローリングウインドウのトレーニング-認定-デプロイフローに統合する価値を検証している。

関連論文リスト

• Risk-Aware Online Conformal State Probing [65.02200443982082]
  オンライン整合状態探索(オンライン整合状態探索、OCSP)は、分布仮定に頼ることなく最悪のケースの信頼性レベルを認定する行動・探索政策である。 OCSPは、リトレーニングや微調整を必要とせずに、既存のバリューベースのコントロールポリシーに適用することができる。
  論文  参考訳（メタデータ） (2026-09-22T08:55:09Z)
• SMC-ES: Automated synthesis of formally verified control policies [0.6117371161379209]
  本稿では,性能,安全性,堅牢性に関する公式な保証付きポリシを自動生成するシミュレーションベースの手法を提案する。 SMC-ESは,進化的戦略と統計的モデル検査に基づく検証を統合するアルゴリズムである。 その結果, 計算コストの持続的増加に対して, 本アルゴリズムは性能, 安全性, 堅牢性に関する公式な保証を提供することがわかった。
  論文  参考訳（メタデータ） (2026-07-16T13:51:59Z)
• From CRUD to Autonomous Agents: Formal Validation and Zero-Trust Security for Semantic Gateways in AI-Native Enterprise Systems [0.0]
  本稿では,モデルコンテキストプロトコル(MCP)が管理するセマンティックゲートウェイの設計,形式検証,実証評価を提案する。 ゲートウェイは、エンタプライズAPIをセマンティックサーフェスとして再構成する。 このアーキテクチャでは、事前に推論されたセマンティックファイアウォール、決定論的ツールレベルRBAC、アウトオブバンドの暗号化人間対ループの承認を含む3層ゼロトラストセキュリティモデルが導入されている。
  論文  参考訳（メタデータ） (2026-04-28T12:25:06Z)
• Towards provable probabilistic safety for scalable embodied AI systems [79.31011047593492]
  エンボディードAIシステムは、様々なアプリケーションでますます普及している。 複雑な運用環境での安全性確保は依然として大きな課題である。 このパースペクティブは、安全で大規模に実施されたAIシステムを安全クリティカルなアプリケーションに採用するための道筋を提供する。
  論文  参考訳（メタデータ） (2025-06-05T15:46:25Z)
• Conformal Calibration: Ensuring the Reliability of Black-Box AI in Wireless Systems [36.407171992845456]
  この論文は、計算量的に軽量で高度な統計ツールを採用することによって、芸術の状態を超越した一般的なフレームワークであるコンフォーマルキャリブレーションをレビューする。 コンフォーマルキャリブレーションをAIモデルライフサイクルに織り込むことで、ネットワークオペレータは、ブラックボックスAIモデルの信頼性を、無線システムの信頼性の高い実現技術として確立することができる。
  論文  参考訳（メタデータ） (2025-04-12T19:05:00Z)
• MIBP-Cert: Certified Training against Data Perturbations with Mixed-Integer Bilinear Programs [50.41998220099097]
  トレーニング中のデータエラー、汚職、中毒攻撃は、現代のAIシステムの信頼性に大きな脅威をもたらす。 混合整数双線形プログラミング(MIBP)に基づく新しい認証手法MIBP-Certを紹介する。 摂動データや操作データを通じて到達可能なパラメータの集合を計算することで、可能なすべての結果を予測することができ、堅牢性を保証することができる。
  論文  参考訳（メタデータ） (2024-12-13T14:56:39Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• CC-Cert: A Probabilistic Approach to Certify General Robustness of Neural Networks [58.29502185344086]
  安全クリティカルな機械学習アプリケーションでは、モデルを敵の攻撃から守ることが不可欠である。 意味的に意味のある入力変換に対して、ディープラーニングモデルの証明可能な保証を提供することが重要である。 我々はChernoff-Cramer境界に基づく新しい普遍確率的証明手法を提案する。
  論文  参考訳（メタデータ） (2021-09-22T12:46:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。