論文の概要: A Security Risk Assessment Framework for AI-Powered Development Tools

• arxiv url: http://arxiv.org/abs/2609.18658v1
• Date: Wed, 16 Sep 2026 13:36:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.822651
• Title: A Security Risk Assessment Framework for AI-Powered Development Tools
• Title（参考訳）: AIを活用した開発ツールのセキュリティリスク評価フレームワーク
• Abstract要約: 本稿では,AI生成コードのセキュリティリスクを評価するためのセキュリティリスク評価フレームワーク(SRF)を提案する。 フレームワークはセキュリティ関連の一連のプログラミングタスクに適用されます。 その結果、AI生成コードはすべての評価ツールにセキュリティ脆弱性を導入することができることがわかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: AI-powered development tools are now widely used to generate code and assist developers with routine programming tasks. Although existing work has identified vulnerabilities in AI-generated code, security-oriented work is often focused on vulnerability detection rather than risk assessment. To address this gap, this paper presents a Security Risk Assessment Framework (SRF) to evaluate the security risks of AI-generated code. SRF combines threat modeling, security analysis, and a quantitative risk evaluation approach based on vulnerability criticality. The framework is applied to a set of security-relevant programming tasks, where code generated by multiple AI-powered development tools is analyzed using Bandit and Semgrep. The results show that AI-generated code can introduce security vulnerabilities across all evaluated tools. They also show that risk levels vary by task type, as input processing and file handling tasks showed higher risk, while simpler tasks remained low-risk. Differences between tools exist but are smaller than differences across task categories. Overall, SRF enables reproducible evaluation of AI-generated code and provides a practical framework for assessing its security implications.
• Abstract（参考訳）: AIを使った開発ツールは、コードを生成し、開発者が日常的なプログラミングタスクを支援するために広く利用されている。 既存の作業はAI生成コードの脆弱性を特定しているが、セキュリティ指向の作業はリスク評価よりも脆弱性検出に重点を置いていることが多い。 このギャップに対処するため,AI生成コードのセキュリティリスクを評価するためのセキュリティリスク評価フレームワーク(SRF)を提案する。 SRFは、脅威モデリング、セキュリティ分析、および脆弱性臨界度に基づく定量的リスク評価アプローチを組み合わせる。 このフレームワークはセキュリティ関連プログラミングタスクのセットに適用され、BanditとSemgrepを使用して、複数のAI駆動開発ツールによって生成されたコードが分析される。 その結果、AI生成したコードは、評価されたすべてのツールにセキュリティ脆弱性を導入することができることがわかった。 また、入力処理やファイル処理タスクはリスクが高く、単純なタスクはリスクが低いため、リスクレベルがタスクタイプによって異なることも示している。 ツールの違いはあるが、タスクカテゴリの違いよりも小さい。 全体として、SRFはAI生成コードの再現可能な評価を可能にし、そのセキュリティへの影響を評価するための実践的なフレームワークを提供する。

関連論文リスト

• Adversarial Prompting Framework for AI Safety Assessment [0.7619404259039283]
  本稿では,AIの安全性を総合的に評価するためのAPF(Adversarial Prompting Framework)の実装について述べる。 このフレームワークは、構造化された敵プロンプトの生成を通じて、AIモデルのレジリエンスを体系的に評価する。 結果は、異なる攻撃ベクトルにわたるモデル脆弱性の顕著なばらつきを示している。
  論文  参考訳（メタデータ） (2026-07-15T05:26:43Z)
• SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents [87.26967184869198]
  SeClawは、仕様駆動のセキュリティタスク合成と、自律エージェントの実行ベースのセキュリティ評価を組み合わせたフレームワークである。 ベンチマークは、リソース、ユーザタスク、環境、本質的なエージェントの振る舞いから生じるリスクをカバーしている。
  論文  参考訳（メタデータ） (2026-06-01T14:23:42Z)
• A.S.E: A Repository-Level Benchmark for Evaluating Security in AI-Generated Code [49.009041488527544]
  A.S.Eは、AI生成コードのセキュリティを評価するためのリポジトリレベルの評価ベンチマークである。 現在の大規模言語モデル(LLM)は、セキュアなコーディングに苦戦している。 大きな推論予算は、必ずしもより良いコード生成につながるとは限らない。
  論文  参考訳（メタデータ） (2025-08-25T15:11:11Z)
• Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
  計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。 ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。 我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
  論文  参考訳（メタデータ） (2025-02-18T02:26:50Z)
• SOK: Exploring Hallucinations and Security Risks in AI-Assisted Software Development with Insights for LLM Deployment [0.0]
  GitHub Copilot、ChatGPT、Cursor AI、Codeium AIといった大規模言語モデル(LLM)は、コーディングの世界に革命をもたらした。 本稿では,AIを利用したコーディングツールのメリットとリスクを包括的に分析する。
  論文  参考訳（メタデータ） (2025-01-31T06:00:27Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。