論文の概要: Using AI Assistants in Software Development: A Qualitative Study on Security Practices and Concerns

• arxiv url: http://arxiv.org/abs/2405.06371v2
• Date: Mon, 14 Oct 2024 21:54:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-16 13:59:36.439841
• Title: Using AI Assistants in Software Development: A Qualitative Study on Security Practices and Concerns
• Title（参考訳）: ソフトウェア開発におけるAIアシスタントの利用 - セキュリティプラクティスと懸念に関する質的研究
• Authors: Jan H. Klemmer, Stefan Albert Horstmann, Nikhil Patnaik, Cordelia Ludden, Cordell Burton Jr., Carson Powers, Fabio Massacci, Akond Rahman, Daniel Votipka, Heather Richter Lipford, Awais Rashid, Alena Naiakshina, Sascha Fahl,
• Abstract要約: 最近の研究は、AI生成コードがセキュリティ問題を含むことを実証している。 ソフトウェア専門家がAIアシスタントの使用とセキュリティのバランスをとる方法はまだ不明だ。 本稿では,ソフトウェアプロフェッショナルがセキュアなソフトウェア開発にAIアシスタントをどのように利用するかを検討する。
• 参考スコア（独自算出の注目度）: 23.867795468379743
• License:
• Abstract: Following the recent release of AI assistants, such as OpenAI's ChatGPT and GitHub Copilot, the software industry quickly utilized these tools for software development tasks, e.g., generating code or consulting AI for advice. While recent research has demonstrated that AI-generated code can contain security issues, how software professionals balance AI assistant usage and security remains unclear. This paper investigates how software professionals use AI assistants in secure software development, what security implications and considerations arise, and what impact they foresee on secure software development. We conducted 27 semi-structured interviews with software professionals, including software engineers, team leads, and security testers. We also reviewed 190 relevant Reddit posts and comments to gain insights into the current discourse surrounding AI assistants for software development. Our analysis of the interviews and Reddit posts finds that despite many security and quality concerns, participants widely use AI assistants for security-critical tasks, e.g., code generation, threat modeling, and vulnerability detection. Their overall mistrust leads to checking AI suggestions in similar ways to human code, although they expect improvements and, therefore, a heavier use for security tasks in the future. We conclude with recommendations for software professionals to critically check AI suggestions, AI creators to improve suggestion security and capabilities for ethical security tasks, and academic researchers to consider general-purpose AI in software development.
• Abstract（参考訳）: OpenAIのChatGPTやGitHub Copilotといった最近のAIアシスタントのリリースに続いて、ソフトウェア産業は、これらのツールをソフトウェア開発タスク、例えばコードの生成、アドバイスのためのAIコンサルティングに急速に活用した。 最近の研究は、AI生成コードがセキュリティ問題を含むことを実証しているが、ソフトウェア専門家がAIアシスタントの使用とセキュリティのバランスをとる方法はまだ不明だ。 本稿では,ソフトウェアプロフェッショナルがセキュアなソフトウェア開発にAIアシスタントをどのように利用するか,セキュリティへの影響や考慮事項,セキュアなソフトウェア開発にどのような影響を与えるのかを検討する。 ソフトウェア技術者やチームリーダ,セキュリティテスタなど,ソフトウェアプロフェッショナルに対する27の半構造化インタビューを実施しました。 我々はまた、ソフトウェア開発のためのAIアシスタントを取り巻く現在の談話について、Redditの190件の投稿やコメントもレビューした。 インタビューとRedditの投稿の分析によると、多くのセキュリティと品質に関する懸念にもかかわらず、参加者は、セキュリティクリティカルなタスク、例えばコード生成、脅威モデリング、脆弱性検出にAIアシスタントを広く利用している。 彼らの全体的な不信は、人間のコードと同じような方法でAIの提案をチェックすることにつながる。 我々は、ソフトウェアプロフェッショナルに対して、AI提案を批判的にチェックする推奨、倫理的セキュリティタスクの推奨セキュリティと能力を改善するAIクリエーター、ソフトウェア開発における汎用AIを検討するための学術研究者を結論付けている。

関連論文リスト

• $\textit{"I Don't Use AI for Everything"}$: Exploring Utility, Attitude, and Responsibility of AI-empowered Tools in Software Development [19.851794567529286]
  本研究では、ソフトウェア開発プロセスにおけるAIを活用したツールの採用、影響、およびセキュリティに関する考察を行う。 ソフトウェア開発のさまざまな段階において,AIツールが広く採用されていることが判明した。
  論文  参考訳（メタデータ） (2024-09-20T09:17:10Z)
• Future of Artificial Intelligence in Agile Software Development [0.0]
  AIは、LLM、GenAIモデル、AIエージェントを活用することで、ソフトウェア開発マネージャ、ソフトウェアテスタ、その他のチームメンバーを支援することができる。 AIは効率を高め、プロジェクト管理チームが直面するリスクを軽減する可能性がある。
  論文  参考訳（メタデータ） (2024-08-01T16:49:50Z)
• The Ethics of Advanced AI Assistants [53.89899371095332]
  本稿では,高度AIアシスタントがもたらす倫理的・社会的リスクについて論じる。 我々は、高度なAIアシスタントを自然言語インタフェースを持つ人工知能エージェントとして定義し、ユーザに代わってアクションのシーケンスを計画し実行することを目的としている。 先進的なアシスタントの社会規模での展開を考察し、協力、株式とアクセス、誤情報、経済的影響、環境、先進的なAIアシスタントの評価方法に焦点をあてる。
  論文  参考訳（メタデータ） (2024-04-24T23:18:46Z)
• Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
  汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。 本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
  論文  参考訳（メタデータ） (2024-03-21T19:12:37Z)
• Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
  この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。 本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
  論文  参考訳（メタデータ） (2024-02-21T08:29:42Z)
• AI Product Security: A Primer for Developers [0.685316573653194]
  機械学習製品に対する脅威を理解し、AI製品開発における共通の落とし穴を避けることが不可欠である。 この記事は、AIソフトウェア製品の開発者、デザイナー、マネージャ、研究者に宛てられている。
  論文  参考訳（メタデータ） (2023-04-18T05:22:34Z)
• Enabling Automated Machine Learning for Model-Driven AI Engineering [60.09869520679979]
  モデル駆動型ソフトウェアエンジニアリングとモデル駆動型AIエンジニアリングを実現するための新しいアプローチを提案する。 特に、私たちはAutomated MLをサポートし、AI集約システムの開発において、AIの深い知識のないソフトウェアエンジニアを支援します。
  論文  参考訳（メタデータ） (2022-03-06T10:12:56Z)
• Proceedings of the Artificial Intelligence for Cyber Security (AICS) Workshop at AAAI 2022 [55.573187938617636]
  ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。 サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
  論文  参考訳（メタデータ） (2022-02-28T18:27:41Z)
• Artificial Intelligence in Software Testing : Impact, Problems, Challenges and Prospect [0.0]
  この研究は、テストにAIを適用しながら、ソフトウェアテスタが直面する最も大きな課題を認識し、説明することを目的としている。 この記事では、ソフトウェアテストの分野におけるAIの今後の重要な貢献についても提案する。
  論文  参考訳（メタデータ） (2022-01-14T10:21:51Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• Opening the Software Engineering Toolbox for the Assessment of Trustworthy AI [17.910325223647362]
  我々は、信頼できるAIを評価するためのソフトウェアエンジニアリングとテストプラクティスの適用について論じる。 欧州委員会のAIハイレベル専門家グループによって定義された7つの重要な要件の関連付けを行います。
  論文  参考訳（メタデータ） (2020-07-14T08:16:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。