論文の概要: Surveying the Operational Cybersecurity and Supply Chain Threat Landscape when Developing and Deploying AI Systems

• arxiv url: http://arxiv.org/abs/2508.20307v1
• Date: Wed, 27 Aug 2025 22:46:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-29 18:12:01.854165
• Title: Surveying the Operational Cybersecurity and Supply Chain Threat Landscape when Developing and Deploying AI Systems
• Title（参考訳）: AIシステムの開発と展開における運用型サイバーセキュリティとサプライチェーンの脅威景観の調査
• Authors: Michael R Smith, Joe Ingram,
• Abstract要約: 本稿では,AIをソフトウェアシステムに組み込む際に導入された,新たなサイバー脅威に対する認識を高める。 AIライフサイクルにおける運用上のサイバーセキュリティとサプライチェーンのリスクについて検討する。 これらのリスクを理解することによって、組織はAIシステムをよりよく保護し、信頼性とレジリエンスを確保することができる。
• 参考スコア（独自算出の注目度）: 0.08594140167290097
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rise of AI has transformed the software and hardware landscape, enabling powerful capabilities through specialized infrastructures, large-scale data storage, and advanced hardware. However, these innovations introduce unique attack surfaces and objectives which traditional cybersecurity assessments often overlook. Cyber attackers are shifting their objectives from conventional goals like privilege escalation and network pivoting to manipulating AI outputs to achieve desired system effects, such as slowing system performance, flooding outputs with false positives, or degrading model accuracy. This paper serves to raise awareness of the novel cyber threats that are introduced when incorporating AI into a software system. We explore the operational cybersecurity and supply chain risks across the AI lifecycle, emphasizing the need for tailored security frameworks to address evolving threats in the AI-driven landscape. We highlight previous exploitations and provide insights from working in this area. By understanding these risks, organizations can better protect AI systems and ensure their reliability and resilience.
• Abstract（参考訳）: AIの台頭は、ソフトウェアとハードウェアのランドスケープを変革し、特殊なインフラストラクチャ、大規模データストレージ、高度なハードウェアを通じて強力な機能を実現する。 しかし、これらのイノベーションは、従来のサイバーセキュリティアセスメントがしばしば見落としているユニークな攻撃面と目的を導入します。 サイバー攻撃者は、特権のエスカレーションやネットワークのピボットといった従来の目標から、システムパフォーマンスの低下、偽陽性による出力の洪水、モデル精度の低下といった望ましいシステム効果を達成するために、AI出力の操作へと目標をシフトしている。 本稿では,AIをソフトウェアシステムに組み込む際に導入された,新たなサイバー脅威に対する認識を高める。 我々は、AIライフサイクル全体にわたる運用上のサイバーセキュリティとサプライチェーンのリスクについて検討し、AI駆動の状況における進化する脅威に対処するための、適切なセキュリティフレームワークの必要性を強調した。 我々は、以前のエクスプロイトを強調し、この分野で働くことからの洞察を提供する。 これらのリスクを理解することによって、組織はAIシステムをよりよく保護し、信頼性とレジリエンスを確保することができる。

関連論文リスト

• Neuro-Symbolic AI for Cybersecurity: State of the Art, Challenges, and Opportunities [13.175694396580184]
  Neuro-Symbolic (NeSy) AIが登場し、サイバーセキュリティAIに革命をもたらす可能性がある。 我々は、2019年から2025年7月までの127の出版物を分析して、この分野を体系的に特徴づけた。 因果推論統合は最も変革的な進歩であり、相関に基づくアプローチを超えて積極的に防御できることを示す。
  論文  参考訳（メタデータ） (2025-09-08T17:33:59Z)
• ANNIE: Be Careful of Your Robots [48.89876809734855]
  エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。 すべての安全カテゴリーで攻撃の成功率は50%を超えている。 結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
  論文  参考訳（メタデータ） (2025-09-03T15:00:28Z)
• Autonomous AI-based Cybersecurity Framework for Critical Infrastructure: Real-Time Threat Mitigation [1.4999444543328293]
  我々は、リアルタイムの脆弱性検出、脅威モデリング、自動修復を強化するためのハイブリッドAI駆動型サイバーセキュリティフレームワークを提案する。 我々の発見は、新興のサイバー脅威に対する重要なインフラシステムのセキュリティとレジリエンスを強化するための実用的な洞察を提供する。
  論文  参考訳（メタデータ） (2025-07-10T04:17:29Z)
• AI threats to national security can be countered through an incident regime [55.2480439325792]
  我々は、AIシステムからの潜在的な国家安全保障脅威に対抗することを目的とした、法的に義務付けられたポストデプロイAIインシデントシステムを提案する。 提案したAIインシデント体制は,3段階に分けられる。第1フェーズは,‘AIインシデント’とみなすような,新たな運用方法を中心に展開される。 第2フェーズと第3フェーズでは、AIプロバイダが政府機関にインシデントを通知し、政府機関がAIプロバイダのセキュリティおよび安全手順の修正に関与するべきだ、と説明されている。
  論文  参考訳（メタデータ） (2025-03-25T17:51:50Z)
• Transforming Cyber Defense: Harnessing Agentic and Frontier AI for Proactive, Ethical Threat Intelligence [0.0]
  この原稿は、エージェントAIとフロンティアAIの収束がサイバーセキュリティをいかに変えているかを説明する。 本稿では,リアルタイムモニタリング,自動インシデント応答,永続的学習といった,レジリエントでダイナミックな防衛エコシステム構築における役割について検討する。 我々のビジョンは、テクノロジーのイノベーションを、倫理的監視を揺るがさずに調和させることであり、未来のAIによるセキュリティソリューションが、新たなサイバー脅威を効果的に対処しつつ、公正性、透明性、説明責任の核心的価値を維持することを保証することである。
  論文  参考訳（メタデータ） (2025-02-28T20:23:35Z)
• Cyber Shadows: Neutralizing Security Threats with AI and Targeted Policy Measures [0.0]
  サイバー脅威は個人、組織、社会レベルでリスクを引き起こす。 本稿では,AI駆動型ソリューションと政策介入を統合した包括的サイバーセキュリティ戦略を提案する。
  論文  参考訳（メタデータ） (2025-01-03T09:26:50Z)
• Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
  我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。 これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
  論文  参考訳（メタデータ） (2024-12-19T13:50:26Z)
• Considerations Influencing Offense-Defense Dynamics From Artificial Intelligence [0.0]
  AIは防御能力を向上するだけでなく、悪意ある搾取と大規模な社会的危害のための道も提示する。 本稿では、AIシステムが主に脅威を生じているか、社会に保護的利益をもたらすかに影響を及ぼす主要な要因をマップし、検証するための分類法を提案する。
  論文  参考訳（メタデータ） (2024-12-05T10:05:53Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• Countering Autonomous Cyber Threats [40.00865970939829]
  ファンデーションモデルは、サイバードメイン内で広く、特に二元的関心事を提示します。 近年の研究では、これらの先進的なモデルが攻撃的なサイバースペース操作を通知または独立に実行する可能性を示している。 この研究は、孤立したネットワークでマシンを妥協する能力について、最先端のいくつかのFMを評価し、そのようなAIによる攻撃を倒す防御メカニズムを調査する。
  論文  参考訳（メタデータ） (2024-10-23T22:46:44Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。