Fugu-MT 論文翻訳(概要): Towards Personalizing Secure Programming Education with LLM-Injected Vulnerabilities

論文の概要: Towards Personalizing Secure Programming Education with LLM-Injected Vulnerabilities

arxiv url: http://arxiv.org/abs/2604.13955v1
Date: Wed, 15 Apr 2026 15:06:42 GMT
ステータス: 翻訳完了
システム内更新日: 2026-04-16 20:38:32.596631
Title: Towards Personalizing Secure Programming Education with LLM-Injected Vulnerabilities
Title（参考訳）: LLM導入脆弱性を用いたセキュアプログラミング教育のパーソナライズに向けて
Authors: Matthew Frazier, Kostadin Damevski,
Abstract要約: 構成主義理論によれば、学生は、サンプルが自身のコードで根拠付けられたときに、より効果的にソフトウェアセキュリティを学ぶ。本稿では,LLMを用いて特定の共通弱みのインスタンスを学生の代入コードに注入する手法を提案する。本稿では、タスク固有のツールを備えた自律型エージェントを用いて、インジェクション、評価、ランキング、学習結果生成のオーケストレーションを行うエージェントAIフレームワークを提案する。
参考スコア（独自算出の注目度）: 5.120675183010351
License: http://creativecommons.org/licenses/by/4.0/
Abstract: According to constructivist theory, students learn software security more effectively when examples are grounded in their own code. Generic examples often fail to connect with students' prior work, limiting engagement and understanding. Advances in LLMs are now making it possible to automatically generate personalized examples by embedding security vulnerabilities directly into student-authored code. This paper introduces a method that uses LLMs to inject instances of specific Common Weakness Enumerations (CWEs) into students' own assignment code, creating individualized instructional materials. We present an agentic AI framework, using autonomous LLM-based agents equipped with task-specific tools to orchestrate injection, evaluation, ranking, and learning outcome generation. We report the experience of deploying this system in two undergraduate computer science courses (N=71), where students reviewed code samples containing LLM-injected vulnerabilities and completed a post-project survey. We compared responses with a baseline using a widely adopted set of generic security instructional materials. Students qualitatively reported finding CWE injections into their own code more relevant, clearer, and more engaging than the textbook-style examples. However, our quantitative findings revealed limited statistically significant differences, suggesting that while students valued the personalization, further studies and refinement of the approach are needed to establish stronger empirical support.
Abstract（参考訳）: 構成主義理論によれば、学生は、サンプルが自身のコードで根拠付けられたときに、より効果的にソフトウェアセキュリティを学ぶ。ジェネリックな例は、学生の以前の仕事とつながりがなく、エンゲージメントと理解を制限している。 LLMの進歩により、セキュリティ脆弱性を直接学生認可コードに埋め込むことで、パーソナライズされたサンプルを自動的に生成できるようになった。本稿では,LLMを用いて特定の共通弱度列挙(CWE)のインスタンスを学生の代入コードに注入し,個別の教材を作成する手法を提案する。タスク固有のツールを備えた自律型LLMエージェントを用いて,インジェクション,評価,ランキング,学習結果生成を行うエージェントAIフレームワークを提案する。このシステムを2つの学部コンピュータサイエンスコース(N=71)に導入した経験を報告する。我々は,広く採用されている汎用セキュリティ教材を用いて,応答をベースラインと比較した。学生たちは、教科書スタイルの例よりもCWEインジェクションがより関連性があり、明確で、よりエンゲージメントが高いことを、質的に報告した。しかし, 統計的に有意な差がみられ, 学生はパーソナライゼーションを重んじる一方で, より強力な実証支援を確立するためには, さらなる研究と改良が必要であることが示唆された。

関連論文リスト

LLM Use, Cheating, and Academic Integrity in Software Engineering Education [2.6055991635575446]
大学教育における暖房は、一般に文脈に依存し、評価設計、制度規範、学生の解釈の影響を受けていると説明される。本研究では,ソフトウェア工学の学生が大規模言語モデル(LLM)の使用経験を,不適切,不適当,あるいはコースの期待と一致しないものとして記述する方法について検討する。
論文参考訳（メタデータ） (2026-03-17T18:48:33Z)
The Unlearning Mirage: A Dynamic Framework for Evaluating LLM Unlearning [54.67958855362658]
複雑な構造化クエリを用いたアンラーニングテストを強調する動的フレームワークを提案する。提案手法はまず,対象モデル(事前学習)から知識を抽出し,単純なクエリからマルチホップチェーンまで,対象プローブを構築する。本フレームワークは,テストセットを手作業で構築することなく,非学習手法の実用的でスケーラブルな評価を可能にする。
論文参考訳（メタデータ） (2026-03-11T19:51:33Z)
Training Language Models to Generate Quality Code with Program Analysis Feedback [66.0854002147103]
大規模言語モデル(LLM)によるコード生成は、ますます本番環境で採用されているが、コード品質の保証には失敗している。実運用品質のコードを生成するためにLLMにインセンティブを与える強化学習フレームワークであるREALを提案する。
論文参考訳（メタデータ） (2025-05-28T17:57:47Z)
SecAlign: Defending Against Prompt Injection with Preference Optimization [52.48001255555192]
敵のプロンプトは外部のデータソースに注入され、システムの意図した命令をオーバーライドし、悪意のある命令を実行する。我々は、好みの最適化技術に基づくSecAlignと呼ばれる新しいディフェンスを提案する。本手法は,訓練中に見られたものよりもはるかに高度な攻撃に対しても,様々なプロンプトインジェクションの成功率を10%に下げる。
論文参考訳（メタデータ） (2024-10-07T19:34:35Z)
Unveiling the Misuse Potential of Base Large Language Models via In-Context Learning [61.2224355547598]
大規模言語モデル(LLM)のオープンソース化は、アプリケーション開発、イノベーション、科学的進歩を加速させる。我々の調査は、この信念に対する重大な監視を露呈している。我々の研究は、慎重に設計されたデモを配置することにより、ベースLSMが悪意のある命令を効果的に解釈し実行できることを実証する。
論文参考訳（メタデータ） (2024-04-16T13:22:54Z)
Analyzing LLM Usage in an Advanced Computing Class in India [4.580708389528142]
本研究では,大規模言語モデル(LLM)を,大学院生や大学院生が高度なコンピューティングクラスにおけるプログラミング課題に活用することを検討した。インド大学の分散システムクラスから411名の学生を対象に,総合的な分析を行った。
論文参考訳（メタデータ） (2024-04-06T12:06:56Z)
C-ICL: Contrastive In-context Learning for Information Extraction [54.39470114243744]
c-ICLは、正しいサンプル構築と間違ったサンプル構築の両方を活用して、コンテキスト内学習のデモを作成する、新しい数ショット技術である。各種データセットに対する実験により,c-ICLは従来の数発のインコンテキスト学習法よりも優れていたことが示唆された。
論文参考訳（メタデータ） (2024-02-17T11:28:08Z)
Automated Assessment of Students' Code Comprehension using LLMs [0.3293989832773954]
大規模言語モデル(LLM)とエンコーダベースのセマンティックテキスト類似(STS)モデルを評価する。この結果から,LLMはプログラミング領域における生徒の短解評価において,微調整エンコーダモデルに匹敵する性能を示した。
論文参考訳（メタデータ） (2023-12-19T20:39:12Z)
Large Language Model as a Policy Teacher for Training Reinforcement Learning Agents [16.24662355253529]
LLM(Large Language Models)は、高レベルの命令を提供することによって、シーケンシャルな意思決定タスクに対処することができる。 LLMは、特にリアルタイムな動的環境において、特定のターゲット問題に対処する専門性を欠いている。 LLMベースの教師エージェントからの指示を用いて、より小規模で専門的なRLエージェントを訓練することで、これらの課題に対処する新しいフレームワークを導入する。
論文参考訳（メタデータ） (2023-11-22T13:15:42Z)
Coverage-based Example Selection for In-Context Learning [27.215972147196805]
BERTScore-Recall (BSR) がテスト入力の健全な側面をよりよく示すより良い例を選択していることを示す。 6つのタスクにまたがる15のデータセットと7つの LLM に対して、(1) BSR は、ボード全体のコンテキスト内サンプル選択において優れた指標であり、(2) 構成タスクでは、Set-BSR は、平均17ポイントまで独立したランキングを上回ります。
論文参考訳（メタデータ） (2023-05-24T08:58:28Z)
On Extracting Specialized Code Abilities from Large Language Models: A Feasibility Study [22.265542509143756]
大規模言語モデル(LLM)における模倣攻撃の実現可能性について検討する。攻撃者は、中規模のバックボーンモデルを訓練して、ターゲットのLLMに似た特殊なコード動作を再現できることを示す。
論文参考訳（メタデータ） (2023-03-06T10:34:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。