論文の概要: Securing AI Systems: A Guide to Known Attacks and Impacts

• arxiv url: http://arxiv.org/abs/2506.23296v1
• Date: Sun, 29 Jun 2025 15:32:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-01 21:27:53.81701
• Title: Securing AI Systems: A Guide to Known Attacks and Impacts
• Title（参考訳）: AIシステムのセキュア化 - 攻撃と影響を知るためのガイド
• Authors: Naoto Kiribuchi, Kengo Zenitani, Takayuki Semitsu,
• Abstract要約: 本稿では,予測型および生成型AIシステムに特有の敵攻撃の概要について述べる。 我々は11種類の主要な攻撃タイプを特定し、その影響に攻撃テクニックを明示的にリンクする。 我々は、AI固有のリスクを認識し、効果的な防御を実装するための基礎知識を、研究者、開発者、セキュリティ実践者、および政策立案者に提供することを目的としています。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Embedded into information systems, artificial intelligence (AI) faces security threats that exploit AI-specific vulnerabilities. This paper provides an accessible overview of adversarial attacks unique to predictive and generative AI systems. We identify eleven major attack types and explicitly link attack techniques to their impacts -- including information leakage, system compromise, and resource exhaustion -- mapped to the confidentiality, integrity, and availability (CIA) security triad. We aim to equip researchers, developers, security practitioners, and policymakers, even those without specialized AI security expertise, with foundational knowledge to recognize AI-specific risks and implement effective defenses, thereby enhancing the overall security posture of AI systems.
• Abstract（参考訳）: 情報システムに組み込まれた人工知能(AI)は、AI固有の脆弱性を悪用するセキュリティ脅威に直面している。 本稿では,予測型および生成型AIシステムに特有の敵攻撃について概説する。 我々は、機密性、完全性、可用性(CIA)の3つのトライアドにマップされた、情報漏洩、システム妥協、リソースの枯渇を含む11の主要な攻撃タイプを特定し、その影響を明示的にリンクする。 我々は、研究者、開発者、セキュリティ実践者、そして政策立案者に対して、AI固有のリスクを認識し、効果的な防御を実装するための基礎知識を持って、AIシステムの全体的なセキュリティ姿勢を強化することを目的としています。

関連論文リスト

• Offensive Security for AI Systems: Concepts, Practices, and Applications [0.0]
  従来の防御策は、AI駆動技術に直面するユニークで進化する脅威に対して、しばしば不足する。 本稿では、AIライフサイクル全体を通して脆弱性を明らかにするために、積極的な脅威シミュレーションと敵対的なテストを強調する。
  論文  参考訳（メタデータ） (2025-05-09T18:58:56Z)
• Security-First AI: Foundations for Robust and Trustworthy Systems [0.0]
  この原稿は、AIセキュリティは基礎的なレイヤとして優先順位付けされなければならないことを示唆している。 私たちは、信頼できるレジリエントなAIシステムを実現するために、セキュリティ優先のアプローチを主張します。
  論文  参考訳（メタデータ） (2025-04-17T22:53:01Z)
• Open Problems in Machine Unlearning for AI Safety [61.43515658834902]
  特定の種類の知識を選択的に忘れたり、抑圧したりするマシンアンラーニングは、プライバシとデータ削除タスクの約束を示している。 本稿では,アンラーニングがAI安全性の包括的ソリューションとして機能することを防止するための重要な制約を特定する。
  論文  参考訳（メタデータ） (2025-01-09T03:59:10Z)
• Security of and by Generative AI platforms [0.0]
  このホワイトペーパーは、生成AI(genAI)プラットフォームを確保し、サイバーセキュリティにgenAIを活用することの2つの重要性を強調している。 genAI技術の普及に伴い、その誤用はデータ漏洩、モデル改ざん、悪意のあるコンテンツ生成など、重大なリスクをもたらす。 ホワイトペーパーでは、genAIシステムに関する堅牢なセキュリティフレームワークの戦略を探求するとともに、高度なサイバー脅威を予測、検出、緩和する組織にgenAIがどのように力を与えるかを説明している。
  論文  参考訳（メタデータ） (2024-10-15T15:27:05Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• CTI4AI: Threat Intelligence Generation and Sharing after Red Teaming AI Models [0.0]
  システムの脆弱性、潜在的な脅威、システムの堅牢性を高める特性を識別する必要がある。 二次的なニーズは、このAIセキュリティ脅威インテリジェンスを、モデル開発者、ユーザ、AI/MLセキュリティ専門家など、さまざまな利害関係者間で共有することである。 本稿では,AI/ML固有の脆弱性と脅威知能を体系的に識別し,共有する必要性を克服するために,プロトタイプシステムCTI4AIを作成し,記述する。
  論文  参考訳（メタデータ） (2022-08-16T00:16:58Z)
• A System for Automated Open-Source Threat Intelligence Gathering and Management [53.65687495231605]
  SecurityKGはOSCTIの収集と管理を自動化するシステムである。 AIとNLP技術を組み合わせて、脅威行動に関する高忠実な知識を抽出する。
  論文  参考訳（メタデータ） (2021-01-19T18:31:35Z)
• Vulnerabilities of Connectionist AI Applications: Evaluation and Defence [0.0]
  この記事では、コネクショナリスト人工知能(AI)アプリケーションのITセキュリティを扱い、完全性への脅威に焦点を当てます。 脅威の包括的リストと軽減の可能性は、最先端の文献をレビューすることによって提示される。 緩和に関する議論は同様に、AIシステム自体のレベルに限定されず、むしろサプライチェーンの文脈でAIシステムを見ることを提唱している。
  論文  参考訳（メタデータ） (2020-03-18T12:33:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。