論文の概要: Trust but Verify? Uncovering the Security Debt of Autonomous Coding Agents
- arxiv url: http://arxiv.org/abs/2607.12428v1
- Date: Tue, 14 Jul 2026 06:59:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-15 17:08:30.058185
- Title: Trust but Verify? Uncovering the Security Debt of Autonomous Coding Agents
- Title（参考訳）: 信頼は検証する? - 自律的符号化エージェントのセキュリティ負債を明らかにする
- Abstract要約: 本稿では,エージェント生成プルリクエストのセキュリティコードの臭いを特徴付けるためにAIDevデータセットを用いた大規模実証研究を提案する。
エージェント生成PRの38.9%には少なくとも1つのセキュリティ臭が含まれており、サプライチェーンの整合性の問題が検出されたセキュリティ臭の82.3%を占めている。
人間の協力者はこれらのエージェント支援システムに67.6%の真に漏洩した秘密を導入する責任がある。
- 参考スコア（独自算出の注目度）: 3.30025498453752
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The increasing adoption of autonomous coding agents accelerates software development but also introduces scoped security risks within high-impact file paths that can outpace traditional human review capacity. While prior research has primarily evaluated these systems in terms of functional correctness and productivity, this paper presents a large-scale empirical study using the AIDev dataset to systematically characterize security code smells in agent-generated pull requests (PRs). Through a combination of a validated LLM-as-a-judge framework and manual qualitative analysis, we identify and classify security misconfigurations across 16,112 file changes spanning 4,022 pull requests. Our results reveal that 38.9% of agent-generated PRs contain at least one security smell, with supply chain integrity issues accounting for 82.3% of all detected security smells. Furthermore, hard-coded credentials constitute 99.6% of all critical-severity security smells. Crucially, we find that human collaborators are responsible for introducing 67.6% of genuine leaked secrets within these agent-assisted workflows, while existing automated and human review processes fail to detect 81.1% of these credentials prior to integration. These findings highlight substantial security risks in agent-assisted software development workflows and suggest a potential reduction in developer vigilance. They also underscore the urgent need for context-aware security guardrails implemented directly at the point of human-AI collaboration.
- Abstract（参考訳）: 自律的なコーディングエージェントの採用の増加は、ソフトウェア開発を加速すると同時に、従来のヒューマンレビュー能力を上回るような、インパクトの高いファイルパス内での、スコープ化されたセキュリティリスクも導入する。
従来,これらのシステムは機能的正当性と生産性の観点から評価されてきたが,本研究では,エージェント生成プルリクエスト(PR)におけるセキュリティコードの臭いを体系的に特徴付けるために,AIDevデータセットを用いた大規模実証研究を提案する。
検証済みのLCM-as-a-judgeフレームワークと手動定性的分析を組み合わせることで,4,022件のプルリクエストにまたがる16,112ファイルの変更に対して,セキュリティの誤設定を特定し,分類する。
以上の結果から,エージェント生成PRの38.9%には少なくとも1つのセキュリティ臭が含まれており,サプライチェーンの整合性の問題が検出されたセキュリティ臭の82.3%を占めていることがわかった。
さらに、ハードコードされた認証情報は、すべての重度セキュリティの臭いの99.6%を占める。
重要なことに、人間の協力者はこれらのエージェント支援ワークフローに67.6%の真に漏洩したシークレットを導入し、一方、既存の自動化されたレビュープロセスと人間のレビュープロセスは統合前に81.1%の認証情報を検出できなかった。
これらの知見は、エージェント支援ソフトウェア開発ワークフローにおける重大なセキュリティリスクを浮き彫りにし、開発者の警戒を減らす可能性を示唆している。
また、人間とAIのコラボレーションの時点で直接実装されるコンテキスト対応のセキュリティレールに対する緊急の必要性も強調している。
関連論文リスト
- Why Trust Your Agent? Empirical Security Gains from TRiSM-Guided Agentic Workflows in Healthcare [0.0]
本稿では,医療報告生成アプリケーションにAI Trust, Risk, and Security Management (TRiSM) フレームワークを適用する。
これは、安全でないエージェントワークフローが、セキュリティに配慮したエージェントワークフローにどのように変換されるかを示す。
論文 参考訳（メタデータ） (2026-06-27T01:00:39Z) - SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents [87.26967184869198]
SeClawは、仕様駆動のセキュリティタスク合成と、自律エージェントの実行ベースのセキュリティ評価を組み合わせたフレームワークである。
ベンチマークは、リソース、ユーザタスク、環境、本質的なエージェントの振る舞いから生じるリスクをカバーしている。
論文 参考訳（メタデータ） (2026-06-01T14:23:42Z) - SecPI: Secure Code Generation with Reasoning Models via Security Reasoning Internalization [50.71047638695205]
RLM(Reasoning Language Model)は、プログラミングにおいてますます使われている言語モデルである。
しかし、最先端のRLMでさえ、生成されたコードに重大なセキュリティ脆弱性を頻繁に導入する。
我々は、構造化されたセキュリティ推論を内部化するためのRTMを教える微調整パイプラインであるSecPIを提案する。
論文 参考訳（メタデータ） (2026-04-04T04:29:11Z) - SafeClaw-R: Towards Safe and Secure Multi-Agent Personal Assistants [10.897758061443989]
SafeClaw-Rは、実行グラフ上のシステムレベルの不変量として安全を強制するフレームワークである。
生産性プラットフォーム、サードパーティのスキルエコシステム、コード実行環境の3つの領域でSafeClaw-Rを評価します。
論文 参考訳（メタデータ） (2026-03-28T05:03:54Z) - Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。
LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。
モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
論文 参考訳（メタデータ） (2026-01-12T21:31:38Z) - When Developer Aid Becomes Security Debt: A Systematic Analysis of Insecure Behaviors in LLM Coding Agents [1.7587442088965226]
LLMベースのコーディングエージェントは、急速にソフトウェア開発にデプロイされているが、その安全性への影響はよく分かっていない。
我々は,5つの最先端モデルにわたる12,000以上のアクションを解析し,自律型符号化エージェントの最初の系統的安全性評価を行った。
我々は,4つの主要な脆弱性を識別する高精度検出システムを開発した。
論文 参考訳（メタデータ） (2025-07-12T16:11:07Z) - OpenAgentSafety: A Comprehensive Framework for Evaluating Real-World AI Agent Safety [58.201189860217724]
OpenAgentSafetyは,8つの危機リスクカテゴリにまたがるエージェントの動作を評価する包括的なフレームワークである。
従来の作業とは異なり、我々のフレームワークは、Webブラウザ、コード実行環境、ファイルシステム、bashシェル、メッセージングプラットフォームなど、実際のツールと対話するエージェントを評価します。
ルールベースの分析とLSM-as-judgeアセスメントを組み合わせることで、過度な行動と微妙な不安全行動の両方を検出する。
論文 参考訳（メタデータ） (2025-07-08T16:18:54Z) - SEC-bench: Automated Benchmarking of LLM Agents on Real-World Software Security Tasks [11.861657542626219]
SEC-benchは、大規模言語モデル(LLM)エージェントを評価するための、最初の完全に自動化されたベンチマークフレームワークである。
当社のフレームワークは,再現可能なアーティファクトを備えた高品質なソフトウェア脆弱性データセットを,インスタンス当たり0.87ドルで自動生成します。
最先端のLLMコードエージェントの包括的な評価では、大きなパフォーマンスギャップが明らかになっている。
論文 参考訳（メタデータ） (2025-06-13T13:54:30Z) - Agent-SafetyBench: Evaluating the Safety of LLM Agents [72.92604341646691]
我々は,大規模言語モデル(LLM)の安全性を評価するベンチマークであるAgent-SafetyBenchを紹介する。
Agent-SafetyBenchは349のインタラクション環境と2,000のテストケースを含み、安全リスクの8つのカテゴリを評価し、安全でないインタラクションで頻繁に発生する10の一般的な障害モードをカバーする。
16 名の LLM エージェントを評価した結果,いずれのエージェントも 60% 以上の安全性スコアを達成できないことがわかった。
論文 参考訳（メタデータ） (2024-12-19T02:35:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。