論文の概要: SoK: How Frontier AI Reshapes System-Level Security Risk Dynamics in Critical Infrastructure
- arxiv url: http://arxiv.org/abs/2608.04033v1
- Date: Mon, 03 Aug 2026 01:30:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.358633
- Title: SoK: How Frontier AI Reshapes System-Level Security Risk Dynamics in Critical Infrastructure
- Title（参考訳）: SoK:Frontier AIは、クリティカルインフラストラクチャにおけるシステムレベルのセキュリティリスクダイナミクスをいかに改善するか
- Abstract要約: 本稿では,FAIがライフサイクル全体のCIセキュリティをどのように特徴付けるかを示す5次元リスク力学フレームワークを紹介する。
このフレームワークは脅威を列挙するのではなく、システムレベルのリスクを共同で決定する繰り返しメカニズムを特定します。
- 参考スコア（独自算出の注目度）: 8.022874342690155
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Frontier artificial intelligence (FAI), encompassing large-scale, general-purpose AI systems, including large language models, multimodal foundation models, and agentic systems, is increasingly integrated into critical infrastructure (CI). This challenges long-standing security assumptions of bounded behavior, segmented networks, component transparency, and human-paced decision-making. Existing AI-security literature typically organizes risks by attack type, lifecycle stage, or asset class, but fails to capture the system-level dynamics, such as how risk emerges, spreads, and is controlled, through which FAI reshapes CI security outcomes. This Systematization of Knowledge (SoK) introduces a five-dimensional risk-dynamics framework that characterizes how FAI reconfigures CI security across the lifecycle: (i) Capability Emergence through new FAI-enabled attack and defense capabilities, (ii) Infiltration Pathways through data, models and AI supply chains, (iii) Cross-System Propagation across interconnected infrastructures and dependencies, (iv) degradation of effective technical and human Control Authority, and (v) strain on institutional Response Capacity under operational pressure. Rather than enumerating threats, the framework identifies recurring mechanisms that jointly determine system-level risk. We further identify a structural mismatch between academic AI-security research and CI operational constraints, and derive a deployment-oriented research agenda grounded in system-level assurance criteria. Collectively, this work shifts attention from model-centric robustness to lifecycle-structured, system-level assurance in interconnected CI environments.
- Abstract（参考訳）: Frontier AI(FAI)は、大規模で汎用的なAIシステムを含む、大規模言語モデル、マルチモーダル基盤モデル、エージェントシステムを含む、ますます重要なインフラストラクチャ(CI)に統合されつつある。
これは、境界づけられた行動、セグメント化されたネットワーク、コンポーネントの透明性、人間による影響のある意思決定といった、長年にわたるセキュリティ上の前提に挑戦する。
既存のAIセキュリティの文献は、攻撃タイプ、ライフサイクルステージ、アセットクラスによってリスクを編成するが、リスクの発生、拡散、制御などのシステムレベルのダイナミクスをキャプチャできないため、FAIはCIセキュリティの結果を再確認する。
この知識の体系化(SoK)は、FAIがライフサイクル全体にわたってCIセキュリティを再設定する方法を特徴付ける5次元のリスクダイナミクスフレームワークを導入します。
一 新たなFAI対応攻撃・防衛能力による能力回復
二 データ、モデル及びAIサプライチェーンによる浸透経路
三 相互接続されたインフラ及び依存関係を横断するシステム間伝播
四 有効な技術及び人事管理機関の劣化及び
五 運転圧下の機関対応能力の歪
このフレームワークは脅威を列挙するのではなく、システムレベルのリスクを共同で決定する繰り返しメカニズムを特定します。
さらに、学術的なAIセキュリティ研究とCI運用上の制約の間の構造的ミスマッチを特定し、システムレベルの保証基準に基づくデプロイメント指向の研究課題を導出する。
まとめると、この作業は、相互接続されたCI環境でのモデル中心の堅牢性からライフサイクル構造化されたシステムレベルの保証へと注目を移します。
関連論文リスト
- A data-driven security quantification framework for IoT-based systems [1.7499351967216337]
本研究では,IoTベースの安全クリティカルシステムのためのデータ駆動型確率的セキュリティフレームワークを提案する。
モデルベースシステムエンジニアリング(SEMB)、攻撃木解析(ATA)、経験的脆弱性データを統合する。
システムの妥協確率を定量化し、攻撃の可能性のある原因を特定し、緩和戦略を優先する。
論文 参考訳（メタデータ） (2026-06-15T11:04:04Z) - Hierarchical Federated Learning with Dynamic Clustering and Adaptive Regularization for Robust Infrastructure Inspection [46.657161089480375]
本稿では,新しい階層型フェデレーション学習フレームワークを提案する。
このフレームワークは、相乗的な2層最適化戦略を編成する。
大規模で実世界の構造検査データセットに関する総合的な評価は、マクロクラスタリングとマイクロレギュラー化の階層的な統合が二重レベルの不均一性をうまく中和することを示した。
論文 参考訳（メタデータ） (2026-06-02T03:14:26Z) - The Attack and Defense Landscape of Agentic AI: A Comprehensive Survey [46.278608570660005]
大規模言語モデルと非AIシステムコンポーネントを組み合わせたAIエージェントは、現実世界のアプリケーションで急速に出現している。
本稿では,AIエージェントのセキュリティに関する最初の体系的かつ包括的な調査について述べる。
論文 参考訳（メタデータ） (2026-03-11T05:25:55Z) - SAGE-LLM: Towards Safe and Generalizable LLM Controller with Fuzzy-CBF Verification and Graph-Structured Knowledge Retrieval for UAV Decision [46.089736018739295]
大型言語モデル (LLM) には、ドメイン固有のUAV制御知識と正式な安全保証がない。
本稿では,LLMに基づく列車自由な2層決定アーキテクチャを提案し,低レベルの高精度制御と高レベルの安全計画を統合する。
論文 参考訳（メタデータ） (2026-02-27T06:41:04Z) - An Ontology-Based Approach to Security Risk Identification of Container Deployments in OT Contexts [1.826848871278733]
OTコンテナのデプロイに対するセキュリティリスクの識別には、ハイブリッドIT/OTアーキテクチャや、ステークホルダの知識の断片化、継続的システム変更といった課題がある。
本稿では,CSRO(Container Security Risk Ontology)として実装されたモデルベースのアプローチを提案する。
CSROは、敵行動、コンテキスト仮定、アタックシナリオ、リスクアセスメントルール、コンテナセキュリティアーティファクトの5つの重要なドメインを統合している。
論文 参考訳（メタデータ） (2026-01-07T15:20:19Z) - STAMP/STPA informed characterization of Factors Leading to Loss of Control in AI Systems [0.0]
コントロールの喪失を議論し、特徴付けるための、より構造化されたフレームワークの提供に着手しました。
我々は、この枠組みを用いて、AIを含む社会技術システムの安全な運用に責任を持つ人々を支援し、制御の喪失につながる因果的要因を特定する。
論文 参考訳（メタデータ） (2025-12-19T14:07:32Z) - A cybersecurity AI agent selection and decision support framework [0.0]
本稿では,AIエージェントアーキテクチャ,リアクティブ,認知,ハイブリッド,学習を協調する,新しい構造化された意思決定支援フレームワークを提案する。
エージェント理論と産業ガイドラインを統合することで、このフレームワークは、AIソリューションの選択とデプロイのための透過的で段階的な方法論を提供する。
論文 参考訳（メタデータ） (2025-10-02T07:38:21Z) - A Survey on Autonomy-Induced Security Risks in Large Model-Based Agents [45.53643260046778]
大規模言語モデル(LLM)の最近の進歩は、自律型AIエージェントの台頭を触媒している。
これらの大きなモデルエージェントは、静的推論システムからインタラクティブなメモリ拡張エンティティへのパラダイムシフトを示す。
論文 参考訳（メタデータ） (2025-06-30T13:34:34Z) - Towards provable probabilistic safety for scalable embodied AI systems [79.31011047593492]
エンボディードAIシステムは、様々なアプリケーションでますます普及している。
複雑な運用環境での安全性確保は依然として大きな課題である。
このパースペクティブは、安全で大規模に実施されたAIシステムを安全クリティカルなアプリケーションに採用するための道筋を提供する。
論文 参考訳（メタデータ） (2025-06-05T15:46:25Z) - EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。
高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。
しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。
本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
論文 参考訳（メタデータ） (2024-08-08T13:19:37Z) - Beyond Accidents and Misuse: Decoding the Structural Risk Dynamics of Artificial Intelligence [0.0]
本稿では,複雑なシステム研究を基盤としたフレームワークを導入することにより,構造リスクの概念を推し進める。
構造リスクを、先行する構造的原因、先行するAIシステム原因、有害なフィードバックループの3つのカテゴリに分類する。
本稿では,これらのダイナミクスを予測し,支配するために,シナリオマッピング,シミュレーション,探索的展望を取り入れた方法論的アジェンダを提案する。
論文 参考訳（メタデータ） (2024-06-21T05:44:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。