論文の概要: CyberBOT: Towards Reliable Cybersecurity Education via Ontology-Grounded Retrieval Augmented Generation

• arxiv url: http://arxiv.org/abs/2504.00389v1
• Date: Tue, 01 Apr 2025 03:19:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-03 13:22:29.024121
• Title: CyberBOT: Towards Reliable Cybersecurity Education via Ontology-Grounded Retrieval Augmented Generation
• Title（参考訳）: CyberBOT: オントロジーを取り巻く検索世代による信頼性の高いサイバーセキュリティ教育を目指して
• Authors: Chengshuai Zhao, Riccardo De Maria, Tharindu Kumarage, Kumar Satvik Chaudhary, Garima Agrawal, Yiwen Li, Jongchan Park, Yuli Deng, Ying-Chih Chen, Huan Liu,
• Abstract要約: サイバーセキュリティ教育では、正確性と安全性が最重要であり、システムは、信頼に値する情報とドメインに適した情報を提供するために、表面レベルの関連性を超えなければならない。 我々はCyberBOTを紹介した。CyberBOTは、コース固有の材料からコンテキスト情報を取り込み、ドメイン固有のサイバーセキュリティオントロジーを用いて応答を検証する。 CyberBOTはアリゾナ州立大学の大規模な大学院コースに展開され、100人以上の学生が専用のウェブベースのプラットフォームを通じてシステムに積極的に関与している。
• 参考スコア（独自算出の注目度）: 13.352385179504482
• License:
• Abstract: Advancements in large language models (LLMs) have enabled the development of intelligent educational tools that support inquiry-based learning across technical domains. In cybersecurity education, where accuracy and safety are paramount, systems must go beyond surface-level relevance to provide information that is both trustworthy and domain-appropriate. To address this challenge, we introduce CyberBOT, a question-answering chatbot that leverages a retrieval-augmented generation (RAG) pipeline to incorporate contextual information from course-specific materials and validate responses using a domain-specific cybersecurity ontology. The ontology serves as a structured reasoning layer that constrains and verifies LLM-generated answers, reducing the risk of misleading or unsafe guidance. CyberBOT has been deployed in a large graduate-level course at Arizona State University (ASU), where more than one hundred students actively engage with the system through a dedicated web-based platform. Computational evaluations in lab environments highlight the potential capacity of CyberBOT, and a forthcoming field study will evaluate its pedagogical impact. By integrating structured domain reasoning with modern generative capabilities, CyberBOT illustrates a promising direction for developing reliable and curriculum-aligned AI applications in specialized educational contexts.
• Abstract（参考訳）: 大規模言語モデル(LLM)の進歩は、技術領域をまたいだ調査に基づく学習を支援するインテリジェントな教育ツールの開発を可能にした。 正確性と安全性が最重要であるサイバーセキュリティ教育では、システムは、信頼に値する情報とドメインに適合する情報を提供するために、表面レベルの関連性を超えなければならない。 この課題に対処するために,質問応答型チャットボットCyberBOTを導入する。このチャットボットは,検索拡張生成(RAG)パイプラインを利用して,コース固有の教材からコンテキスト情報を取り込み,ドメイン固有のサイバーセキュリティオントロジーを用いて応答を検証する。 オントロジーは、LCMが生成する答えを制約し検証する構造的推論層として機能し、誤った誘導や安全でない誘導のリスクを低減する。 CyberBOTはアリゾナ州立大学(ASU)の大規模な大学院コースに展開され、100人以上の学生が専用のウェブプラットフォームを通じてシステムに積極的に関与している。 実験室環境における計算的評価は、CyberBOTの潜在能力を強調し、今後のフィールドスタディでは、その教育的影響を評価する。 構造化ドメイン推論と現代的な生成機能を統合することで、CyberBOTは、専門的な教育状況下で信頼性とカリキュラムに準拠したAIアプリケーションを開発するための、有望な方向性を示す。

関連論文リスト

• Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
  計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。 ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。 我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
  論文  参考訳（メタデータ） (2025-02-18T02:26:50Z)
• A Case Study in Gamification for a Cybersecurity Education Program: A Game for Cryptography [0.0]
  ゲーミフィケーションは実践的なハンズオン体験を提供する革新的なアプローチを提供する。 本稿では,ゲーミフィケーション暗号教育ツールの実例について述べる。
  論文  参考訳（メタデータ） (2025-02-10T17:36:46Z)
• Generative AI Misuse Potential in Cyber Security Education: A Case Study of a UK Degree Program [1.9217872171227137]
  本稿では,英国ラッセルグループ大学におけるマスターレベルのサイバーセキュリティ学位プログラムのLLM誤用に対する感受性について検討する。 我々は、特に独立したプロジェクトベースおよびレポートベースアセスメントにおいて、誤用に対する高い暴露を識別する。 これらの課題に対処するために、LLM耐性評価、検出ツールの導入、倫理的学習環境の育成の重要性について論じる。
  論文  参考訳（メタデータ） (2025-01-22T13:44:44Z)
• Open Problems in Machine Unlearning for AI Safety [61.43515658834902]
  特定の種類の知識を選択的に忘れたり、抑圧したりするマシンアンラーニングは、プライバシとデータ削除タスクの約束を示している。 本稿では,アンラーニングがAI安全性の包括的ソリューションとして機能することを防止するための重要な制約を特定する。
  論文  参考訳（メタデータ） (2025-01-09T03:59:10Z)
• Ontology-Aware RAG for Improved Question-Answering in Cybersecurity Education [13.838970688067725]
  AIによる質問応答(QA)システムは、サイバーセキュリティの問題解決における不確実性を積極的に管理することができる。 大規模言語モデル(LLM)は、高度な言語理解とユーザエンゲージメントを提供するAI駆動のQAシステムで注目を集めている。 我々は,サイバーセキュリティ教育における信頼性および安全性の高いQAシステムを開発するための,オントロジー対応検索強化世代(RAG)アプローチであるCyberRAGを提案する。
  論文  参考訳（メタデータ） (2024-12-10T21:52:35Z)
• Artificial Intelligence as the New Hacker: Developing Agents for Offensive Security [0.0]
  本稿では,人工知能(AI)の攻撃的サイバーセキュリティへの統合について検討する。 サイバー攻撃をシミュレートし実行するために設計された、自律的なAIエージェントであるReaperAIを開発している。 ReaperAIは、セキュリティ脆弱性を自律的に識別し、悪用し、分析する可能性を実証する。
  論文  参考訳（メタデータ） (2024-05-09T18:15:12Z)
• A Survey on Brain-Inspired Deep Learning via Predictive Coding [85.93245078403875]
  予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。 PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
  論文  参考訳（メタデータ） (2023-08-15T16:37:16Z)
• A Survey on Explainable Artificial Intelligence for Cybersecurity [14.648580959079787]
  説明可能な人工知能(XAI)は、決定と行動に対して明確かつ解釈可能な説明を提供する機械学習モデルを作成することを目的としている。 ネットワークサイバーセキュリティの分野では、XAIは、サイバー脅威の振る舞いをよりよく理解することで、ネットワークセキュリティへのアプローチ方法に革命をもたらす可能性がある。
  論文  参考訳（メタデータ） (2023-03-07T22:54:18Z)
• Multi Agent System for Machine Learning Under Uncertainty in Cyber Physical Manufacturing System [78.60415450507706]
  近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。 ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。 本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
  論文  参考訳（メタデータ） (2021-07-28T10:28:05Z)
• Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
  大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。 我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。 我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
  論文  参考訳（メタデータ） (2020-10-19T13:09:31Z)
• Adversarial Machine Learning Attacks and Defense Methods in the Cyber Security Domain [58.30296637276011]
  本稿では,機械学習技術に基づくセキュリティソリューションに対する敵攻撃に関する最新の研究を要約する。 サイバーセキュリティドメインでエンドツーエンドの敵攻撃を実装するという、ユニークな課題を議論するのは、これが初めてである。
  論文  参考訳（メタデータ） (2020-07-05T18:22:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。