論文の概要: (Don't) Trust, but (Don't) Verify: Developers' Attention to Security in AI-Generated Code
- arxiv url: http://arxiv.org/abs/2609.21020v1
- Date: Thu, 17 Sep 2026 19:16:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:16.762244
- Title: (Don't) Trust, but (Don't) Verify: Developers' Attention to Security in AI-Generated Code
- Title（参考訳）: 信頼しない) しかし、(しない)検証する:AI生成コードのセキュリティに対する開発者の意識
- Abstract要約: AI支援開発者がセキュアなコードを生成するかどうかを測定する。
この評価ステップは、AIによるセキュアな開発の基礎となる。
参加者100名を対象に遠隔観察を行った。
- 参考スコア（独自算出の注目度）: 41.14786046557949
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: AI coding assistants are rapidly transforming software development, but are known to produce insecure code. Prior work has measured whether AI-assisted developers produce secure code, but less is known about how they evaluate AI-generated code: whether they can identify vulnerabilities, what cues they use, and how trust shapes their decisions. This evaluation step is foundational to secure development with AI, whether using auto-complete, chat tools, or AI agents. As a first step, we conducted a remote observational study with 100 participants isolating this evaluation stage. Participants were tasked with producing secure and functional code for four C linked-list tasks. For each, participants were able to cycle through five AI-generated suggestions varying in security and functionality, select one, and edit their choice into a final submission. Participants also completed a post-study survey about their decision-making and perception of AI-generated code's security and 23 completed a more in-depth interview.
- Abstract（参考訳）: AIコーディングアシスタントは、ソフトウェア開発を急速に変革させているが、安全でないコードを生成することが知られている。
これまでの研究は、AI支援開発者がセキュアなコードを生成するかどうかを測定してきたが、AIが生成するコードをどのように評価するかは分かっていない。
この評価ステップは、オートコンプリート、チャットツール、AIエージェントを使用しても、AIによる開発を確実にするための基礎となるものだ。
第1段階として,この評価段階を分離した100人の参加者を対象に遠隔観察を行った。
参加者は4つのCリンクリストタスクに対してセキュアで機能的なコードを生成することを任務としていた。
それぞれの参加者は、セキュリティと機能の異なる5つのAI生成提案をサイクルして、1つを選択し、最終的な提出書に選択を編集することができた。
参加者はまた、AI生成コードのセキュリティに関する意思決定と認識に関するポストスタディ調査を完了し、23人はより詳細なインタビューを完了した。
関連論文リスト
- From Preventive to Reactive: How AI Coding Assistants Transform Developers' Security Awareness [3.2382588276702315]
我々は15人のプロのソフトウェアエンジニアにインタビューを行い、AIアシストによるセキュリティ関連コーディングタスクの完了を観察した。
AIコーディングアシスタントは、セキュリティ思考をなくすのではなく、コードを記述する行為からレビューする行為に移行する。
本稿では,AIを活用した開発がセキュアコーディングの人間的側面をどう再認識するかを,実践的な説明として提示する。
論文 参考訳（メタデータ） (2026-05-22T01:07:15Z) - Code with Me or for Me? How Increasing AI Automation Transforms Developer Workflows [60.04362496037186]
本研究は,コーディングエージェントと開発者インタラクションを制御した最初の研究である。
我々は,2つの主要な協調型およびエージェント型符号化アシスタントの評価を行った。
結果から,エージェントはコピロトを超える方法で開発者を支援することができることがわかった。
論文 参考訳（メタデータ） (2025-07-10T20:12:54Z) - Do Comments and Expertise Still Matter? An Experiment on Programmers' Adoption of AI-Generated JavaScript Code [8.673467364360857]
AI生成コードの採用は、AI生成ソリューションと参加者が提出したソリューションのコード類似性によって評価された。
その結果、関数レベルのプログラミングタスクのコンテキストにおいて、コメントの存在がプログラマのAI生成コードの採用に大きく影響していることが判明した。
論文 参考訳（メタデータ） (2025-03-14T14:42:51Z) - Using AI Assistants in Software Development: A Qualitative Study on Security Practices and Concerns [23.867795468379743]
最近の研究は、AI生成コードがセキュリティ問題を含むことを実証している。
ソフトウェア専門家がAIアシスタントの使用とセキュリティのバランスをとる方法はまだ不明だ。
本稿では,ソフトウェアプロフェッショナルがセキュアなソフトウェア開発にAIアシスタントをどのように利用するかを検討する。
論文 参考訳（メタデータ） (2024-05-10T10:13:19Z) - Generation Probabilities Are Not Enough: Uncertainty Highlighting in AI Code Completions [54.55334589363247]
本研究では,不確実性に関する情報を伝達することで,プログラマがより迅速かつ正確にコードを生成することができるかどうかを検討する。
トークンのハイライトは、編集される可能性が最も高いので、タスクの完了が早くなり、よりターゲットを絞った編集が可能になることがわかりました。
論文 参考訳（メタデータ） (2023-02-14T18:43:34Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。