論文の概要: Dependable AI-Assisted Engineering: A Formal Framework for AI Participation and Assurance in Safety-Critical Workflows

• arxiv url: http://arxiv.org/abs/2610.04084v1
• Date: Fri, 02 Oct 2026 21:46:50 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-06 20:40:07.305362
• Title: Dependable AI-Assisted Engineering: A Formal Framework for AI Participation and Assurance in Safety-Critical Workflows
• Title（参考訳）: Dependable AI-Assisted Engineering: 安全クリティカルワークフローにおけるAI参加と保証のための形式的フレームワーク
• Abstract要約: 生成AIは、エンジニアリングアーティファクトを生成できるが、生成だけでは、それらのアーティファクトが安全クリティカルに入るかどうかを判断できない。 本稿では、個々のワークフロー単位のレベルでAI参加と保証を割り当てるための正式な枠組みを開発する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Generative AI can produce engineering artefacts, but generation alone does not determine whether or how those artefacts should enter safety-critical workflows. This paper develops a formal framework for assigning AI participation and assurance at the level of individual workflow units. Each unit has a participation and assurance record covering its engineering requirement, an approved operational formalization where applicable, the applicable mechanism, fallback where applicable, evidence obligations and the applicable guarantee, plus a deployment-readiness status. The framework distinguishes deterministic verification, statistically calibrated admission, authorized human judgement supported by AI advice, authorized human adjudication of AI-produced artefacts, retained deterministic tool paths and explicit non-participation; these arrangements carry different kinds of guarantee rather than levels on a common scale. The framework also separates formalization fidelity from verifier soundness, provides a staged classification and readiness procedure, and derives conditions for comparing a gated AI-assisted unit with an incumbent process under recurring-population assumptions. We instantiate and apply the framework in an executed 17-unit wing-spar structural-analysis workflow combining deterministically gated AI-generated CAD, retained deterministic computation and human judgement. The AI-generated CAD program passed all 23 deterministic checks and was admitted at the first attempt. Favourable stress magnitudes did not suffice to pass the stress criteria where the predeclared mesh-convergence evidence was insufficient; those criteria were instead referred to engineering judgement. The case demonstrates selective AI participation and explicit evidence handling at unit level; no claim is made of workflow-level dependability, certification, structural safety or productivity.
• Abstract（参考訳）: 生成AIは、エンジニアリングアーティファクトを生成できるが、生成だけでは、それらのアーティファクトが安全クリティカルなワークフローに入るかどうかを判断できない。 本稿では、個々のワークフロー単位のレベルでAI参加と保証を割り当てるための正式な枠組みを開発する。 各ユニットは、そのエンジニアリング要件をカバーする参加と保証の記録、適用可能な運用の形式化、適用可能なメカニズム、適用可能なフォールバック、エビデンス義務および適用可能な保証、およびデプロイメント対応ステータスを有する。 この枠組みは、決定論的な検証、統計的に校正された受け入れ、AIアドバイスによって支持された認定された人間の判断、AIが生成する人工物に対する承認された人的適応、決定論的ツールパスの維持、そして明示的な非参加を区別する。 このフレームワークはまた、形式化の忠実度を検証者の健全性から切り離し、段階的な分類と準備手順を提供し、ゲートAI支援ユニットと累積過程を繰り返し人口の仮定で比較するための条件を導出する。 我々は、決定論的にゲートされたAI生成CADと決定論的計算と人的判断を組み合わせた17ユニットのウイングスパー構造解析ワークフローにおいて、このフレームワークをインスタンス化し、適用する。 AIによって生成されたCADプログラムは、23の決定論的チェックをすべてパスし、最初の試みで承認された。 事前宣言されたメッシュ・コンバージェンス証拠が不十分なストレス基準を通過させるには、疲労の程度は十分ではなく、代わりにこれらの基準は工学的判断に言及された。 このケースでは、選択的なAI参加と、ユニットレベルでの明示的なエビデンス処理が示されています。

関連論文リスト

• Finite-Sample Probabilistic Safety Certification for AI-Based Grid-Edge Coordination [0.22940141855172028]
  本稿では,閉ループグリッド動作におけるブラックボックスAI決定モデルに対する有限サンプル確率的安全性保証フレームワークを開発する。 1000エージェントAIモデル(独立パラメータ)によるグリッドエッジフレキシビリティ調整のケーススタディは、有限サンプル安全性を保証する。
  論文  参考訳（メタデータ） (2026-09-23T14:24:46Z)
• Risk-Aware Online Conformal State Probing [65.02200443982082]
  オンライン整合状態探索(オンライン整合状態探索、OCSP)は、分布仮定に頼ることなく最悪のケースの信頼性レベルを認定する行動・探索政策である。 OCSPは、リトレーニングや微調整を必要とせずに、既存のバリューベースのコントロールポリシーに適用することができる。
  論文  参考訳（メタデータ） (2026-09-22T08:55:09Z)
• AI-GRACE: A Use-Case Operationalization Framework for Agentic AI: From Organizational Objectives and Obligations to Deployment Capabilities and Architecture [0.0]
  本稿では,組織ガバナンスと技術的実装を結びつけるユースケース運用フレームワークとして,AI-GRACEを提案する。 この枠組みは、ミッションと価値の実現を含む7つの提案された領域における目標と義務を確立し、リスクを評価する。
  論文  参考訳（メタデータ） (2026-09-18T01:17:25Z)
• Risk Architecture for AI-Native Engineering Teams: An Organizational Framework for Agentic System Governance [0.0]
  本稿では、純粋なソフトウェアエンジニアリング、ハイブリッド、AIネイティブチームを区別する7次元プロファイルを提供する。 研究の対象は人間の行動よりもフレームワークの妥当性にあるため、評価は観察されたカバレッジクレームよりも導出される。
  論文  参考訳（メタデータ） (2026-07-01T19:31:02Z)
• VASO: Formally Verifiable Self-Evolving Skills for Physical AI Agents [57.240036084348354]
  本稿では,ロボットスキルコントラクトの検証誘導自己進化のためのフレームワークであるVASOを紹介する。 VASOは論理的に一貫性のないスキル契約を検証し、グローバルおよびローカルな時間的仕様に対してスキルによって誘発される計画を検証する。 Clearpath Jackal と PX4 のクアッドコプタータスクでは、VASO は100点未満の最適化サンプルを使用して97.2% の形式的な仕様準拠に達した。
  論文  参考訳（メタデータ） (2026-06-03T20:02:35Z)
• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• Governing AI-Assisted Security Operations: A Design Science Framework for Operational Decision Support [0.0]
  この研究では、エンジニアリング管理問題の技術的インスタンス化として、Kusto Query Language(KQL)とMicrosoft Azureのセキュリティ機能を使用します。 この研究は、AI計画と運用実行を分離する、管理されたAIクエリブローカーアーティファクトを開発する。
  論文  参考訳（メタデータ） (2026-05-10T13:35:17Z)
• DUCTILE: Agentic LLM Orchestration of Engineering Analysis in Product Development Practice [41.99844472131922]
  製品開発におけるエンジニアリング分析の自動化は、ツール、データフォーマット、ドキュメントプロセス間の厳密なインターフェースに依存しています。 本稿では DUCTILE (Delegated, User-supervised Coordination of Tool- and document-Integrated LLM-Enabled) エージェントオーケストレーションについて述べる。 エージェントは、文書化された設計プラクティスを解釈し、入力データを検査し、処理パスを適応し、エンジニアは最終判断を監督し、実行する。
  論文  参考訳（メタデータ） (2026-03-10T22:00:47Z)
• Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
  この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。 エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。 セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
  論文  参考訳（メタデータ） (2025-09-08T17:52:08Z)
• Explainable AI Systems Must Be Contestable: Here's How to Make It Happen [2.5875936082584623]
  本稿では、説明可能なAIにおける競合性の最初の厳密な形式的定義について述べる。 我々は、ヒューマン中心のインターフェース、技術プロセス、組織アーキテクチャにまたがる、設計やポストホックメカニズムのモジュール化されたフレームワークを紹介します。 私たちの作業は実践者に、真のリコースと説明責任をAIシステムに組み込むためのツールを提供しています。
  論文  参考訳（メタデータ） (2025-06-02T13:32:05Z)
• Weakly Supervised Learners for Correction of AI Errors with Provable Performance Guarantees [38.36817319051697]
  本稿では,最優先性能保証付き弱教師付きAI誤り訂正器を導入することにより,AIエラーを処理する新しい手法を提案する。 これらのAI補正は、その決定を承認または拒否することで、以前に構築されたいくつかの下位分類器の決定を緩和する役割を持つ補助的なマップである。 この作業の重要な技術的焦点は、誤った判断の可能性を限定して、これらの新しいAI修正器のパフォーマンス保証を提供することである。
  論文  参考訳（メタデータ） (2024-01-31T20:36:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。