論文の概要: Surveying the Operational Cybersecurity and Supply Chain Threat Landscape when Developing and Deploying AI Systems

• arxiv url: http://arxiv.org/abs/2508.20307v1
• Date: Wed, 27 Aug 2025 22:46:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-29 18:12:01.854165
• Title: Surveying the Operational Cybersecurity and Supply Chain Threat Landscape when Developing and Deploying AI Systems
• Title（参考訳）: AIシステムの開発と展開における運用型サイバーセキュリティとサプライチェーンの脅威景観の調査
• Authors: Michael R Smith, Joe Ingram,
• Abstract要約: 本稿では,AIをソフトウェアシステムに組み込む際に導入された,新たなサイバー脅威に対する認識を高める。 AIライフサイクルにおける運用上のサイバーセキュリティとサプライチェーンのリスクについて検討する。 これらのリスクを理解することによって、組織はAIシステムをよりよく保護し、信頼性とレジリエンスを確保することができる。
• 参考スコア（独自算出の注目度）: 0.08594140167290097
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rise of AI has transformed the software and hardware landscape, enabling powerful capabilities through specialized infrastructures, large-scale data storage, and advanced hardware. However, these innovations introduce unique attack surfaces and objectives which traditional cybersecurity assessments often overlook. Cyber attackers are shifting their objectives from conventional goals like privilege escalation and network pivoting to manipulating AI outputs to achieve desired system effects, such as slowing system performance, flooding outputs with false positives, or degrading model accuracy. This paper serves to raise awareness of the novel cyber threats that are introduced when incorporating AI into a software system. We explore the operational cybersecurity and supply chain risks across the AI lifecycle, emphasizing the need for tailored security frameworks to address evolving threats in the AI-driven landscape. We highlight previous exploitations and provide insights from working in this area. By understanding these risks, organizations can better protect AI systems and ensure their reliability and resilience.
• Abstract（参考訳）: AIの台頭は、ソフトウェアとハードウェアのランドスケープを変革し、特殊なインフラストラクチャ、大規模データストレージ、高度なハードウェアを通じて強力な機能を実現する。 しかし、これらのイノベーションは、従来のサイバーセキュリティアセスメントがしばしば見落としているユニークな攻撃面と目的を導入します。 サイバー攻撃者は、特権のエスカレーションやネットワークのピボットといった従来の目標から、システムパフォーマンスの低下、偽陽性による出力の洪水、モデル精度の低下といった望ましいシステム効果を達成するために、AI出力の操作へと目標をシフトしている。 本稿では,AIをソフトウェアシステムに組み込む際に導入された,新たなサイバー脅威に対する認識を高める。 我々は、AIライフサイクル全体にわたる運用上のサイバーセキュリティとサプライチェーンのリスクについて検討し、AI駆動の状況における進化する脅威に対処するための、適切なセキュリティフレームワークの必要性を強調した。 我々は、以前のエクスプロイトを強調し、この分野で働くことからの洞察を提供する。 これらのリスクを理解することによって、組織はAIシステムをよりよく保護し、信頼性とレジリエンスを確保することができる。

関連論文リスト

• Autonomous AI-based Cybersecurity Framework for Critical Infrastructure: Real-Time Threat Mitigation [1.4999444543328293]
  我々は、リアルタイムの脆弱性検出、脅威モデリング、自動修復を強化するためのハイブリッドAI駆動型サイバーセキュリティフレームワークを提案する。 我々の発見は、新興のサイバー脅威に対する重要なインフラシステムのセキュリティとレジリエンスを強化するための実用的な洞察を提供する。
  論文  参考訳（メタデータ） (2025-07-10T04:17:29Z)
• AI threats to national security can be countered through an incident regime [55.2480439325792]
  我々は、AIシステムからの潜在的な国家安全保障脅威に対抗することを目的とした、法的に義務付けられたポストデプロイAIインシデントシステムを提案する。 提案したAIインシデント体制は,3段階に分けられる。第1フェーズは,‘AIインシデント’とみなすような,新たな運用方法を中心に展開される。 第2フェーズと第3フェーズでは、AIプロバイダが政府機関にインシデントを通知し、政府機関がAIプロバイダのセキュリティおよび安全手順の修正に関与するべきだ、と説明されている。
  論文  参考訳（メタデータ） (2025-03-25T17:51:50Z)
• Transforming Cyber Defense: Harnessing Agentic and Frontier AI for Proactive, Ethical Threat Intelligence [0.0]
  この原稿は、エージェントAIとフロンティアAIの収束がサイバーセキュリティをいかに変えているかを説明する。 本稿では,リアルタイムモニタリング,自動インシデント応答,永続的学習といった,レジリエントでダイナミックな防衛エコシステム構築における役割について検討する。 我々のビジョンは、テクノロジーのイノベーションを、倫理的監視を揺るがさずに調和させることであり、未来のAIによるセキュリティソリューションが、新たなサイバー脅威を効果的に対処しつつ、公正性、透明性、説明責任の核心的価値を維持することを保証することである。
  論文  参考訳（メタデータ） (2025-02-28T20:23:35Z)
• Cyber Shadows: Neutralizing Security Threats with AI and Targeted Policy Measures [0.0]
  サイバー脅威は個人、組織、社会レベルでリスクを引き起こす。 本稿では,AI駆動型ソリューションと政策介入を統合した包括的サイバーセキュリティ戦略を提案する。
  論文  参考訳（メタデータ） (2025-01-03T09:26:50Z)
• Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
  我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。 これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
  論文  参考訳（メタデータ） (2024-12-19T13:50:26Z)
• Considerations Influencing Offense-Defense Dynamics From Artificial Intelligence [0.0]
  AIは防御能力を向上するだけでなく、悪意ある搾取と大規模な社会的危害のための道も提示する。 本稿では、AIシステムが主に脅威を生じているか、社会に保護的利益をもたらすかに影響を及ぼす主要な要因をマップし、検証するための分類法を提案する。
  論文  参考訳（メタデータ） (2024-12-05T10:05:53Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。