Fugu-MT 論文翻訳(概要): EduZone: A Framework for Evaluating LLM Safety for K-12 Students and Teachers

論文の概要: EduZone: A Framework for Evaluating LLM Safety for K-12 Students and Teachers

arxiv url: http://arxiv.org/abs/2608.02024v1
Date: Mon, 03 Aug 2026 10:23:42 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-04 15:07:25.485122
Title: EduZone: A Framework for Evaluating LLM Safety for K-12 Students and Teachers
Title（参考訳）: EduZone:K-12学生と教師のためのLLM安全性評価フレームワーク
Abstract要約: EduZoneは、さまざまな教育シナリオにわたる大規模言語モデル(LLM)の安全性評価フレームワークである。本枠組みは,(1)学生と教員のLLM使用状況,(2)きめ細かいカリキュラム概念,(3)リスクカテゴリ6,28のサブカテゴリを体系的に組み合わせたものである。既存の安全ガードレールはこれらのリスクに適切に対処することができないが,教育固有のリスクや動的マルチターンインタラクションに対する脆弱性が大きい。
参考スコア（独自算出の注目度）: 38.091360109237534
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large language models (LLMs) are increasingly used across diverse tasks in K-12 education, yet existing safety evaluations rarely examine how harmful or inappropriate content appears in interactions between LLMs and students or teachers. To address this, we present EduZone, an evaluation framework for LLM safety across diverse educational scenarios. Our framework systematically combines (1) student- and teacher-facing LLM usage contexts, (2) fine-grained curriculum concepts, and (3) 6 risk categories and 28 subcategories spanning both conventional and education-specific harms to generate contextually grounded adversarial interactions. We construct these interactions in three settings: single-turn requests, static multi-turn conversations, and dynamic multi-turn conversations. Using these interactions, we evaluate ten LLMs using four safety levels: refusal, safe assistance, risky assistance with safety guidance, and fully risky assistance. Our results reveal greater vulnerability to education-specific risks and dynamic multi-turn interactions, while existing safety guardrails fail to adequately address these risks. EduZone advances LLM safety in education by providing an automated, scalable evaluation framework that supports the development and deployment of safer LLMs in K-12 education.
Abstract（参考訳）: 大規模言語モデル (LLM) は、K-12教育において様々なタスクで使われるようになっているが、既存の安全評価では、LLMと学生や教師間の相互作用において有害または不適切なコンテンツがどのように現れるかを調べることは滅多にない。そこで本稿では,多様な教育シナリオを対象としたLCM安全性評価フレームワークであるEduZoneを提案する。本枠組みは,(1)学生と教員のLLM使用状況,(2)きめ細かなカリキュラム概念,(3)従来と教育に特有な危害にまたがる6つのリスクカテゴリと28のサブカテゴリを体系的に組み合わせて,文脈的に接地された対人インタラクションを生成する。我々はこれらのインタラクションを,シングルターン要求,静的なマルチターン会話,動的マルチターン会話という3つの設定で構築する。これらの相互作用を用いて, 拒絶, 安全支援, 安全誘導によるリスク支援, 完全リスク支援の4つのレベルを用いて10個のLDMを評価した。既存の安全ガードレールはこれらのリスクに適切に対処することができないが,教育固有のリスクや動的マルチターンインタラクションに対する脆弱性が大きい。 EduZoneは、K-12教育におけるより安全なLLMの開発とデプロイをサポートする自動化されたスケーラブルな評価フレームワークを提供することで、教育におけるLLMの安全性を向上する。

関連論文リスト

Evaluating LLM Safety Across Child Development Stages: A Simulated Agent Approach [9.544657426086284]
シミュレーションされた子エージェントを用いてLLM(Large Language Models)の安全性を評価するベンチマークであるChildSafeを提案する。チャイルドセーフは、感度と中性の両方の文脈で年齢重み付けスコアを使用して、9つの安全次元にわたる応答を評価する。
論文参考訳（メタデータ） (2025-10-07T01:01:04Z)
Securing Educational LLMs: A Generalised Taxonomy of Attacks on LLMs and DREAD Risk Assessment [0.3141085922386211]
本研究では,Large Language Models (LLMs) に対する50件の攻撃を一般化した分類法を提案する。我々のリスクアセスメントは,eLLMに対するトークンの密輸,敵対的プロンプト,直接注入,多段階ジェイルブレイクが重要な攻撃であることを示している。
論文参考訳（メタデータ） (2025-08-12T04:34:12Z)
ROSE: Toward Reality-Oriented Safety Evaluation of Large Language Models [60.28667314609623]
大規模言語モデル(LLM)は、現実世界のアプリケーションにおいてブラックボックスコンポーネントとしてますます多くデプロイされている。我々は,多目的強化学習を用いて敵のLDMを微調整する新しいフレームワークであるReal-Oriented Safety Evaluation (ROSE)を提案する。
論文参考訳（メタデータ） (2025-06-17T10:55:17Z)
DREAM: Disentangling Risks to Enhance Safety Alignment in Multimodal Large Language Models [37.104276926258095]
MLLM(Multimodal Large Language Models)は、視覚データとテキストデータの統合により、ユニークな安全性上の課題を提起する。 textbfDREAM(textittextbfDisentangling textbfRisks to textbfEnhance Safety textbfAlignment in textbfMLLMs)を導入する。
論文参考訳（メタデータ） (2025-04-25T03:54:24Z)
MinorBench: A hand-built benchmark for content-based risks for children [0.0]
大型言語モデル(LLM)は、親主導の養子縁組、学校、ピアネットワークを通じて、子供の生活に急速に浸透している。現在のAI倫理と安全研究は、未成年者特有のコンテンツ関連リスクに適切に対処していない。我々は,未成年者に対するコンテンツベースのリスクの新しい分類法を提案し,子どもの安全でないクエリや不適切なクエリを拒否する能力に基づいてLSMを評価するために設計されたオープンソースのベンチマークであるMinorBenchを紹介した。
論文参考訳（メタデータ） (2025-03-13T10:34:43Z)
SafeDialBench: A Fine-Grained Safety Benchmark for Large Language Models in Multi-Turn Dialogues with Diverse Jailbreak Attacks [90.41592442792181]
大規模言語モデル(LLM)の安全性を評価するための詳細なベンチマーク SafeDialBench を提案する。具体的には,6つの安全次元を考慮した2階層型階層型安全分類法を設計し,22の対話シナリオの下で中国語と英語の双方で4000以上のマルチターン対話を生成する。特に,LLMの革新的なアセスメントフレームワークを構築し,安全でない情報を検出し,処理し,ジェイルブレイク攻撃時の一貫性を維持する。
論文参考訳（メタデータ） (2025-02-16T12:08:08Z)
Multimodal Situational Safety [73.63981779844916]
マルチモーダル・シチュエーション・セーフティ(Multimodal situational Safety)と呼ばれる新しい安全課題の評価と分析を行う。 MLLMが言語やアクションを通じても安全に応答するためには、言語クエリが対応する視覚的コンテキスト内での安全性への影響を評価する必要があることが多い。我々は,現在のMLLMの状況安全性能を評価するためのマルチモーダル状況安全ベンチマーク(MSSBench)を開発した。
論文参考訳（メタデータ） (2024-10-08T16:16:07Z)
Speak Out of Turn: Safety Vulnerability of Large Language Models in Multi-turn Dialogue [10.101013733390532]
大規模言語モデル(LLM)は、違法または非倫理的な応答を生成することが実証されている。本稿では,人間は多ターン対話を利用してLSMを誘導し,有害な情報を生成することができると論じる。
論文参考訳（メタデータ） (2024-02-27T07:11:59Z)
The Art of Defending: A Systematic Evaluation and Analysis of LLM Defense Strategies on Safety and Over-Defensiveness [56.174255970895466]
大規模言語モデル(LLM)は、自然言語処理アプリケーションにおいて、ますます重要な役割を担っている。本稿では,SODE(Safety and Over-Defensiveness Evaluation)ベンチマークを提案する。
論文参考訳（メタデータ） (2023-12-30T17:37:06Z)
SafetyBench: Evaluating the Safety of Large Language Models [54.878612385780805]
SafetyBenchは、大規模言語モデル(LLM)の安全性を評価するための包括的なベンチマークである。 11,435 の多様な選択質問が 7 つの異なるカテゴリーの安全問題にまたがっている。ゼロショット設定と少数ショット設定の両方で、中国語と英語のLLMを25回以上テストしたところ、GPT-4よりも大幅にパフォーマンス上の優位性を示しました。
論文参考訳（メタデータ） (2023-09-13T15:56:50Z)
Safety Assessment of Chinese Large Language Models [51.83369778259149]
大規模言語モデル(LLM)は、侮辱や差別的なコンテンツを生成し、誤った社会的価値を反映し、悪意のある目的のために使用されることがある。安全で責任があり倫理的なAIの展開を促進するため、LLMによる100万の強化プロンプトとレスポンスを含むセーフティプロンプトをリリースする。
論文参考訳（メタデータ） (2023-04-20T16:27:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。