論文の概要: Understanding the (In)Security of Vibe-Coded Applications
- arxiv url: http://arxiv.org/abs/2606.23130v2
- Date: Tue, 23 Jun 2026 05:37:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 22:16:48.515486
- Title: Understanding the (In)Security of Vibe-Coded Applications
- Title（参考訳）: Vibe-Coded アプリケーションの (In) セキュリティを理解する
- Authors: Junquan Deng, Zhiyu Fan, Ruijie Meng,
- Abstract要約: Vibeコーディングは、AIエージェントとの自然言語インタラクションを通じて、ユーザがアプリケーションを作成する、新たなソフトウェア開発パラダイムである。
従来のAI支援プログラミングとは異なり、ビブ符号化はAIシステムに開発の大部分を委譲する。
我々は、人気のあるAIエージェントを使って開発された現実世界のアプリケーションの大規模なコーパスを収集し、エージェント支援コード監査と人間の検証を組み合わせた脆弱性分析フレームワークを設計する。
- 参考スコア（独自算出の注目度）: 3.954625565366601
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent advances in large language models (LLMs) have enabled vibe coding, an emerging software development paradigm in which users create applications primarily through natural-language interactions with AI agents. Due to its low barrier to entry, vibe coding is rapidly gaining adoption in practice. Unlike conventional AI-assisted programming, where developers remain responsible for implementation and code review, vibe coding delegates a substantial portion of development to AI systems. This shift raises a fundamental question: how (in)secure are applications developed through vibe coding? In this paper, we conduct a systematic study of the security of vibe-coded applications. We collect a large corpus of real-world applications developed using popular AI agents and design a vulnerability analysis framework that combines agent-assisted code auditing with human validation. Using this framework, we examine the prevalence, severity, and root causes of vulnerabilities in the deployed vibe-coded applications. Our study reveals several key findings: (1) vibe-coded applications exhibit recurring vulnerability patterns that differ from those commonly observed in conventional software development workflows, including placeholder logic, unfiltered input, and secret exposure; (2) these vulnerabilities arise from systematic limitations of AI agents throughout the vibe-coding lifecycle, such as memory loss, locally optimized objectives and insufficient security knowledge; and (3) while advances in LLM capabilities and improved prompting strategies can reduce the incidence of vulnerabilities, they do not eliminate the underlying security risks. Overall, our study provides an empirical understanding of the security landscape of vibe-coded applications and lays the groundwork for addressing the security challenges introduced by the growing delegation of software development to AI systems.
- Abstract（参考訳）: 大規模言語モデル(LLM)の最近の進歩により、AIエージェントとの自然言語インタラクションを通じて、ユーザがアプリケーションを作成する、新たなソフトウェア開発パラダイムであるビブコーディングが実現された。
参入障壁が低いため、ビブコーディングは実践的に急速に普及している。
開発者が実装とコードレビューの責任を負う従来のAI支援プログラミングとは異なり、ビブコーディングはAIシステムに開発の大部分を委譲する。
このシフトは、基本的な疑問を提起する: ビブコーディングによるアプリケーション開発は、どのように (in) セキュアになるか?
本稿では,ビブ符号化アプリケーションのセキュリティに関する系統的研究を行う。
我々は、人気のあるAIエージェントを使って開発された現実世界のアプリケーションの大規模なコーパスを収集し、エージェント支援コード監査と人間の検証を組み合わせた脆弱性分析フレームワークを設計する。
このフレームワークを用いて、デプロイされたvibe-codedアプリケーションにおける脆弱性の頻度、重症度、根本原因について検討する。
これらの脆弱性は、メモリ損失、局所最適化目標、セキュリティ知識の不足など、バイブコーディングライフサイクルを通じてAIエージェントの体系的な制限から生じるものであり、LLM能力の進歩とプロンプト戦略の改善は、脆弱性の発生を低減できるが、基盤となるセキュリティリスクを排除しない。
全体として、我々の研究は、バイブ符号化されたアプリケーションのセキュリティ状況に関する実証的な理解を提供し、AIシステムへのソフトウェア開発の委譲の増加によってもたらされるセキュリティ上の課題に対処するための基礎を定めている。
関連論文リスト
- From Preventive to Reactive: How AI Coding Assistants Transform Developers' Security Awareness [3.2382588276702315]
我々は15人のプロのソフトウェアエンジニアにインタビューを行い、AIアシストによるセキュリティ関連コーディングタスクの完了を観察した。
AIコーディングアシスタントは、セキュリティ思考をなくすのではなく、コードを記述する行為からレビューする行為に移行する。
本稿では,AIを活用した開発がセキュアコーディングの人間的側面をどう再認識するかを,実践的な説明として提示する。
論文 参考訳（メタデータ） (2026-05-22T01:07:15Z) - Takedown: How It's Done in Modern Coding Agent Exploits [11.214918024551638]
本研究では,8つの実世界の符号化エージェントの総合的セキュリティ分析を行う。
ユーザシステムの機密性や整合性を損なうために悪用される可能性のある,これまで見過ごされあるいは見逃された問題を含む,15のセキュリティ問題を特定します。
論文 参考訳（メタデータ） (2025-09-29T03:27:18Z) - A.S.E: A Repository-Level Benchmark for Evaluating Security in AI-Generated Code [49.009041488527544]
A.S.Eは、AI生成コードのセキュリティを評価するためのリポジトリレベルの評価ベンチマークである。
現在の大規模言語モデル(LLM)は、セキュアなコーディングに苦戦している。
大きな推論予算は、必ずしもより良いコード生成につながるとは限らない。
論文 参考訳（メタデータ） (2025-08-25T15:11:11Z) - Towards Trustworthy GUI Agents: A Survey [64.6445117343499]
本調査では,GUIエージェントの信頼性を5つの重要な次元で検証する。
敵攻撃に対する脆弱性、シーケンシャルな意思決定における障害モードのカスケードなど、大きな課題を特定します。
GUIエージェントが普及するにつれて、堅牢な安全基準と責任ある開発プラクティスを確立することが不可欠である。
論文 参考訳（メタデータ） (2025-03-30T13:26:00Z) - AISafetyLab: A Comprehensive Framework for AI Safety Evaluation and Improvement [73.0700818105842]
我々は、AI安全のための代表的攻撃、防衛、評価方法論を統合する統合されたフレームワークとツールキットであるAISafetyLabを紹介する。
AISafetyLabには直感的なインターフェースがあり、開発者はシームレスにさまざまなテクニックを適用できる。
我々はヴィクナに関する実証的研究を行い、異なる攻撃戦略と防衛戦略を分析し、それらの比較効果に関する貴重な洞察を提供する。
論文 参考訳（メタデータ） (2025-02-24T02:11:52Z) - SOK: Exploring Hallucinations and Security Risks in AI-Assisted Software Development with Insights for LLM Deployment [0.0]
GitHub Copilot、ChatGPT、Cursor AI、Codeium AIといった大規模言語モデル(LLM)は、コーディングの世界に革命をもたらした。
本稿では,AIを利用したコーディングツールのメリットとリスクを包括的に分析する。
論文 参考訳（メタデータ） (2025-01-31T06:00:27Z) - Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。
これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
論文 参考訳（メタデータ） (2024-12-19T13:50:26Z) - Vulnerability Handling of AI-Generated Code -- Existing Solutions and Open Challenges [0.0]
AI生成コードの脆弱性検出、ローカライゼーション、修復のためのアプローチに重点を置いている。
AI生成コードの信頼性とスケーラブルな脆弱性処理プロセスを確立するためには,対処しなければならないオープンな課題を強調します。
論文 参考訳（メタデータ） (2024-08-16T06:31:44Z) - Large Language Models for Cyber Security: A Systematic Literature Review [17.073186844004148]
大規模言語モデル(LLM)は、サイバーセキュリティを含むさまざまなアプリケーションドメインで人工知能を活用する新たな機会を開いた。
LLMは、脆弱性検出、マルウェア分析、ネットワーク侵入検出など、幅広いサイバーセキュリティタスクに適用されている。
LLMベースの自律エージェントは、シングルタスク実行から複雑なマルチステップセキュリティのオーケストレーションへのパラダイムシフトを表している。
論文 参考訳（メタデータ） (2024-05-08T02:09:17Z) - Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。
我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。
我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
論文 参考訳（メタデータ） (2020-10-19T13:09:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。