論文の概要: AI Assurance in UK Defence: Challenges in Operationalising JSP 936

• arxiv url: http://arxiv.org/abs/2606.09414v1
• Date: Mon, 08 Jun 2026 12:28:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:06.985266
• Title: AI Assurance in UK Defence: Challenges in Operationalising JSP 936
• Title（参考訳）: 英国防衛におけるAI保証 - JSP 936の運用上の課題
• Abstract要約: 本報告では、イギリス防衛におけるAI保証のための936パート1の運用における実践的課題について検討する。 報告書は、936は有益なガバナンス基盤を提供するが、その実装は未解決の技術、組織、保証の問題に依存していると主張している。 このレポートは、防衛全体にわたるAIの野心的で安全で責任ある採用のために、さらなる方法、ガイダンス、組織能力が必要である分野を特定している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: This report examines practical challenges in operationalising JSP 936 Part 1 for AI assurance in UK Defence. Using a structured interpretive review of the directive's requirements, the analysis identifies eight thematic challenge areas adequacy of evidence and argument, management of human interaction with AI, definition of the operational environment, integration of AI within systems of systems, assessment and maintenance of AI performance, analysis of safety and security, measurement of ethicality, and mitigation of the inherent complexities of AI. The report argues that JSP 936 provides a useful governance basis, but that implementation depends on unresolved technical, organisational, and assurance questions. These challenges stem from the socio-technical nature of AI-enabled systems, uncertainty in real-world deployment contexts, limitations in current assurance methodologies, and tensions between performance, safety, human oversight, security, and ethical acceptability. The report identifies areas where further methods, guidance, and organisational capability are needed for the ambitious, safe, and responsible adoption of AI across Defence. This is consistent with MOD's own framing of JSP 936 as requiring iterative implementation and supporting guidance.
• Abstract（参考訳）: 本報告では、イギリス防衛におけるAI保証のためのJSP 936 Part 1の運用における実践的課題について検討する。 分析では、指示者の要求を構造化された解釈的レビューを用いて、証拠と議論の妥当性、AIとの人間インタラクションの管理、運用環境の定義、システム内のAIの統合、AIパフォーマンスの評価とメンテナンス、安全性とセキュリティの分析、倫理性の測定、AIの本質的な複雑さの緩和の8つのテーマ的課題領域を特定している。 報告書はJSP 936が有益なガバナンス基盤を提供すると主張しているが、その実装は未解決の技術、組織、保証の問題に依存している。 これらの課題は、AI対応システムの社会技術的性質、現実世界の展開状況の不確実性、現在の保証方法論の限界、パフォーマンス、安全性、人間の監視、セキュリティ、倫理的受容性の間の緊張などに起因する。 このレポートは、防衛全体にわたるAIの野心的で安全で責任ある採用のために、さらなる方法、ガイダンス、組織能力が必要である分野を特定している。 これはMODのJSP 936のフレーミングと一致しており、反復的な実装とサポートガイダンスが必要である。

関連論文リスト

• AI Deployment Accountability Engineering: A Vision for Accountable AI in Safety-Critical Socio-Technical Systems [14.280538199149634]
  このビジョンペーパーはAI Deployment Accountability Engineering (ADAE)を紹介する。 ADAEは、デプロイされたAIシステムに対して測定可能で、連続的で、実行可能な説明責任を確立することを目的とした、AIエンジニアリングのサブカテゴリである。 我々は,コンテキスト依存型障害モードの構造化発見,プライバシ保護型説明責任測定,エージェントAIのシステムレベルのリスク分析,技術的障害の運用的,制度的リスクへの変換という,4つの相互接続された柱を中心に構築された研究課題を具体的に述べる。
  論文  参考訳（メタデータ） (2026-09-13T15:18:41Z)
• Agentic AI for Safety-critical Multi-drone Systems: Challenges and Opportunities [38.499036085412094]
  マルチドローンシステムは、探索・救助(SAR)やインフラ監視といった安全上重要な任務のためにますます位置づけられている。 しかし、現実世界の採用は、自律的なパフォーマンスだけでなく、エージェント的な振る舞いをプロフェッショナルな仕事に統合することの難しさにも制約されている。 本稿では,NAMURとPERSISTの2つの取り組みから,その野心と教訓を合成する。
  論文  参考訳（メタデータ） (2026-08-19T11:53:02Z)
• On AI Safety and Security Technical Debt in Engineering AI-Enabled Systems [11.878368077620337]
  AIテクニカル負債(AI Technical Debts, AITD)は、データガバナンス、モデル実装、アルゴリズム設計、アーキテクチャ決定、運用プロセス、ドキュメントプラクティス、テストの妥当性にまたがる根本原因から生まれる。 従来の技術的負債とは異なり、多くのAITDは遅延し、密結合したAIパイプラインに伝播し、メンテナンス上の問題、信頼性の低下、安全性やセキュリティ上のリスクの増大につながる。 我々は、AITD分類、品質、リスク影響を結合する統合フレームワークであるAITD-MAPを導入し、リスク対応AIエンジニアリングのための統一構造に緩和戦略を導入する。
  論文  参考訳（メタデータ） (2026-07-25T21:15:41Z)
• From Frontier to Shadow AI: A Simmering Threat to Assurance and Security in Critical Infrastructure [8.167474882691755]
  我々は、重要なインフラ環境におけるシャドウAIに関する最初の実証的研究を提示する。 私たちは、AIが実際にどのように現れるか、既存の技術とガバナンスのコントロールとどのように相互作用するか、そして結果として生じるセキュリティ、保証、コンプライアンスのリスクを分析します。
  論文  参考訳（メタデータ） (2026-05-23T07:21:08Z)
• Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
  Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。 デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。 この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
  論文  参考訳（メタデータ） (2026-03-28T13:21:44Z)
• Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
  私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。 本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
  論文  参考訳（メタデータ） (2026-01-16T18:44:09Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
  我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。 これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
  論文  参考訳（メタデータ） (2024-12-19T13:50:26Z)
• Landscape of AI safety concerns -- A methodology to support safety assurance for AI-based autonomous systems [0.0]
  AIは重要な技術として登場し、さまざまなアプリケーションにまたがる進歩を加速している。 AIコンポーネントを組み込んだシステムの安全性を確保するという課題は、極めて重要である。 本稿では,AIシステムにおける安全保証事例作成を支援する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-12-18T16:38:16Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
  この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。 本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
  論文  参考訳（メタデータ） (2024-02-21T08:29:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。