論文の概要: Generative AI Misuse Potential in Cyber Security Education: A Case Study of a UK Degree Program

• arxiv url: http://arxiv.org/abs/2501.12883v1
• Date: Wed, 22 Jan 2025 13:44:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-23 16:53:37.075560
• Title: Generative AI Misuse Potential in Cyber Security Education: A Case Study of a UK Degree Program
• Title（参考訳）: サイバーセキュリティ教育におけるジェネレーティブAIの誤用可能性--英国のデグレープログラムを事例として
• Authors: Carlton Shepherd,
• Abstract要約: 本稿では,英国ラッセルグループ大学におけるマスターレベルのサイバーセキュリティ学位プログラムのLLM誤用に対する感受性について検討する。 我々は、特に独立したプロジェクトベースおよびレポートベースアセスメントにおいて、誤用に対する高い暴露を識別する。 これらの課題に対処するために、LLM耐性評価、検出ツールの導入、倫理的学習環境の育成の重要性について論じる。
• 参考スコア（独自算出の注目度）: 1.9217872171227137
• License:
• Abstract: Recent advances in generative artificial intelligence (AI), such as ChatGPT, Google Gemini, and other large language models (LLMs), pose significant challenges to upholding academic integrity in higher education. This paper investigates the susceptibility of a Master's-level cyber security degree program at a UK Russell Group university, accredited by a leading national body, to LLM misuse. Through the application and extension of a quantitative assessment framework, we identify a high exposure to misuse, particularly in independent project- and report-based assessments. Contributing factors, including block teaching and a predominantly international cohort, are highlighted as potential amplifiers of these vulnerabilities. To address these challenges, we discuss the adoption of LLM-resistant assessments, detection tools, and the importance of fostering an ethical learning environment. These approaches aim to uphold academic standards while preparing students for the complexities of real-world cyber security.
• Abstract（参考訳）: ChatGPT、Google Gemini、その他の大規模言語モデル(LLMs)などの生成人工知能(AI)の最近の進歩は、高等教育における学術的完全性を維持する上で大きな課題となっている。 本稿では,英国ラッセルグループ大学における修士レベルのサイバーセキュリティ学位プログラムのLLM誤用に対する感受性について検討する。 定量的アセスメントフレームワークの適用と拡張を通じて、特に独立したプロジェクトおよびレポートに基づくアセスメントにおいて、誤用に対する高い暴露を識別する。 ブロック教育や、主に国際的なコホートを含む貢献要因は、これらの脆弱性の潜在的な増幅として強調される。 これらの課題に対処するために、LLM耐性評価、検出ツールの導入、倫理的学習環境の育成の重要性について論じる。 これらのアプローチは、学生が現実世界のサイバーセキュリティの複雑さに対処する準備をしながら、学術的基準を守ることを目的としている。

関連論文リスト

• Global Challenge for Safe and Secure LLMs Track 1 [57.08717321907755]
  LLM(Global Challenge for Safe and Secure Large Language Models)は、AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が主催する先駆的イニシアチブである。 本稿では,AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が組織した先駆的イニシアチブであるLLM(Global Challenge for Safe and Secure Large Language Models)を紹介する。
  論文  参考訳（メタデータ） (2024-11-21T08:20:31Z)
• Exploring the Cybersecurity-Resilience Gap: An Analysis of Student Attitudes and Behaviors in Higher Education [0.0]
  本研究では,行動理論を理論的枠組みとして用い,そのギャップを解消する。 情報セキュリティアンケートの人的側面を修正し, 大学生と大学院生の有効回答266件を収集した。 パスワード管理、電子メールの使用、ソーシャルメディアの実践、モバイルデバイスのセキュリティなど、サイバーセキュリティの意識と行動に関する重要な側面を評価した。
  論文  参考訳（メタデータ） (2024-11-05T16:09:37Z)
• Attack Atlas: A Practitioner's Perspective on Challenges and Pitfalls in Red Teaming GenAI [52.138044013005]
  生成AI、特に大規模言語モデル(LLM)は、製品アプリケーションにますます統合される。 新たな攻撃面と脆弱性が出現し、自然言語やマルチモーダルシステムにおける敵の脅威に焦点を当てる。 レッドチーム(英語版)はこれらのシステムの弱点を積極的に識別する上で重要となり、ブルーチーム(英語版)はそのような敵の攻撃から保護する。 この研究は、生成AIシステムの保護のための学術的な洞察と実践的なセキュリティ対策のギャップを埋めることを目的としている。
  論文  参考訳（メタデータ） (2024-09-23T10:18:10Z)
• CyberPal.AI: Empowering LLMs with Expert-Driven Cybersecurity Instructions [0.2999888908665658]
  大規模言語モデル(LLM)は、非常に高度な自然言語処理(NLP)機能を持ち、様々なアプリケーションにまたがる汎用機能を提供する。 しかし、サイバーセキュリティのような複雑なドメイン固有のタスクへの応用は、しばしば重大な課題に直面している。 本研究では,SecKnowledgeとCyberPal.AIを紹介し,これらの課題に対処し,セキュリティ専門家のLSMを訓練する。
  論文  参考訳（メタデータ） (2024-08-17T22:37:39Z)
• Could ChatGPT get an Engineering Degree? Evaluating Higher Education Vulnerability to AI Assistants [176.39275404745098]
  我々は,2つのAIアシスタントであるGPT-3.5とGPT-4が適切な回答を得られるかどうかを評価する。 GPT-4は65.8%の質問を正解し、85.1%の質問に対して少なくとも1つの手順で正しい答えを出すことができる。 この結果から,AIの進歩を踏まえて,高等教育におけるプログラムレベルの評価設計の見直しが求められた。
  論文  参考訳（メタデータ） (2024-08-07T12:11:49Z)
• Unveiling the Misuse Potential of Base Large Language Models via In-Context Learning [61.2224355547598]
  大規模言語モデル(LLM)のオープンソース化は、アプリケーション開発、イノベーション、科学的進歩を加速させる。 我々の調査は、この信念に対する重大な監視を露呈している。 我々の研究は、慎重に設計されたデモを配置することにより、ベースLSMが悪意のある命令を効果的に解釈し実行できることを実証する。
  論文  参考訳（メタデータ） (2024-04-16T13:22:54Z)
• The WMDP Benchmark: Measuring and Reducing Malicious Use With Unlearning [87.1610740406279]
  ホワイトハウス人工知能に関する大統領令は、生物、サイバー、化学兵器の開発において悪意あるアクターに力を与える大きな言語モデル(LLM)のリスクを強調している。 現在の評価は非公開であり、リスク軽減のさらなる研究を妨げている。 Weapons of Mass Destruction Proxyベンチマークを公開しています。
  論文  参考訳（メタデータ） (2024-03-05T18:59:35Z)
• Prioritizing Safeguarding Over Autonomy: Risks of LLM Agents for Science [65.77763092833348]
  大規模言語モデル(LLM)を利用したインテリジェントエージェントは、自律的な実験を行い、様々な分野にわたる科学的発見を促進する上で、大きな可能性を証明している。 彼らの能力は有望だが、これらのエージェントは安全性を慎重に考慮する必要がある新たな脆弱性も導入している。 本稿では,科学領域におけるLSMをベースとしたエージェントの脆弱性の徹底的な調査を行い,その誤用に伴う潜在的なリスクに光を当て,安全性対策の必要性を強調した。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)
• Large Language Models in Cybersecurity: State-of-the-Art [4.990712773805833]
  大規模言語モデル(LLM)の台頭は、私たちの知性の理解に革命をもたらした。 本研究は, サイバーセキュリティの領域におけるLLMの防衛的, 敵的応用の徹底的な評価を, 既存の文献を考察した。
  論文  参考訳（メタデータ） (2024-01-30T16:55:25Z)
• The Ethics of Interaction: Mitigating Security Threats in LLMs [1.407080246204282]
  この論文は、社会や個人のプライバシに対するこのようなセキュリティ上の脅威に対する、倫理的な悪影響について論じている。 われわれは、プロンプト注入、ジェイルブレイク、個人識別情報(PII)露出、性的に明示的なコンテンツ、ヘイトベースのコンテンツという5つの主要な脅威を精査し、彼らの批判的な倫理的結果と、彼らが堅牢な戦略戦略のために作り出した緊急性を評価する。
  論文  参考訳（メタデータ） (2024-01-22T17:11:37Z)
• Building Resilient SMEs: Harnessing Large Language Models for Cyber Security in Australia [0.0]
  オーストラリアの中小企業では、サイバー脅威に対する脆弱性が増加している。 人工知能(AI)、機械学習(ML)、大規模言語モデル(LLM)は、オーストラリアの中小企業のサイバーセキュリティポリシーを強化する可能性がある。 本研究は、オーストラリアの中小企業におけるサイバーセキュリティ政策の強化におけるLLMの役割について、包括的理解を提供する。
  論文  参考訳（メタデータ） (2023-06-05T06:01:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。