論文の概要: SciRisk-Bench: A Risk-Dimension-Aware Benchmark for AI4Science Safety

• arxiv url: http://arxiv.org/abs/2606.18936v1
• Date: Wed, 17 Jun 2026 11:20:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-18 17:16:51.126072
• Title: SciRisk-Bench: A Risk-Dimension-Aware Benchmark for AI4Science Safety
• Title（参考訳）: SciRisk-Bench:AI4Science Safetyのためのリスクディメンジョン対応ベンチマーク
• Authors: Linghao Feng, Yinqian Sun, Dongqi Liang, Sicheng Shen, Chenfei Yan, Yuxuan Peng, Yilin Zhao, Haibo Tong, Kai Li, FeiFei Zhao, Yi Zeng,
• Abstract要約: 大規模言語モデル(LLM)がAI for Science(AI4Science)に組み込まれている 既存のAI4Science安全データセットは、いくつかの規律とタスクフォーマットをカバーし、基礎となるリスク次元を未特定のまま残している。 我々は2つの相補的な視点からAI4Science安全性を評価するために設計されたベンチマークである textbfSciRisk-Bench を紹介する。
• 参考スコア（独自算出の注目度）: 12.532432157393911
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Large language models (LLMs) are increasingly embedded in AI for Science (AI4Science) workflows, from scientific question answering and literature analysis to laboratory planning and autonomous discovery. This progress creates an urgent need for safety benchmarks that evaluate not only scientific competence, but also whether models recognize and avoid risks in high-stakes scientific contexts. Existing AI4Science safety datasets cover several disciplines and task formats, leaving the underlying risk dimensions underspecified. We introduce \textbf{SciRisk-Bench}, a benchmark designed to evaluate AI4Science safety from two complementary perspectives: explicit risk dimensions and scientific disciplines. SciRisk-Bench covers 7 disciplines, 31 subdisciplines and 10 risk dimensions. In the experimental section, we evaluate both mainstream LLMs and science-oriented LLMs across risk dimensions, disciplines, and sub-disciplines, enabling fine-grained diagnosis of where scientific models remain unsafe.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、科学のためのAI(AI4Science)ワークフローにますます組み込まれている。 この進歩は、科学的能力だけでなく、モデルが高い科学的文脈におけるリスクを認識し回避するかどうかを評価する安全ベンチマークを緊急に必要とします。 既存のAI4Science安全データセットは、いくつかの規律とタスクフォーマットをカバーし、基礎となるリスク次元を未特定のまま残している。 我々は、AI4Scienceの安全性を2つの相補的な視点から評価するために設計されたベンチマークである「textbf{SciRisk-Bench}」を紹介した。 SciRisk-Benchは7つの規律、31のサブディシデント、10のリスクディメンションをカバーしている。 実験では,リスクディメンション,規律,サブディシデントにまたがる科学指向のLLMと科学指向のLLMの両方を評価し,科学的モデルが安全でない場所の詳細な診断を可能にした。

関連論文リスト

• SafeSci: Safety Evaluation of Large Language Models in Science Domains and Beyond [134.43113804188195]
  安全評価と科学的文脈の強化のための包括的枠組みであるSafeSciを紹介する。 SafeSciには、0.25Mサンプルを持つマルチディシプリナのベンチマークであるSafeSciBenchと、安全性向上のための1.5Mサンプルを含む大規模データセットであるSafeSciTrainが含まれている。
  論文  参考訳（メタデータ） (2026-03-02T08:16:04Z)
• SciTrust 2.0: A Comprehensive Framework for Evaluating Trustworthiness of Large Language Models in Scientific Applications [0.9650932290026195]
  大規模言語モデル(LLM)は、科学的研究において変革の可能性を示しているが、その高い文脈への展開は、重大な信頼性の懸念を引き起こす。 本稿では,科学応用におけるLCMの信頼性を評価するための総合的なフレームワークであるSciTrust 2.0を紹介する。
  論文  参考訳（メタデータ） (2025-10-29T19:22:55Z)
• SafeScientist: Toward Risk-Aware Scientific Discoveries by LLM Agents [11.817130554581436]
  我々は、AI駆動科学探査における安全性と倫理的責任を高める革新的なAI科学者フレームワークであるtextbfSafeScientistを紹介する。 SafeScientistは倫理的に不適切な、あるいはリスクの高いタスクを積極的に拒否し、研究プロセスを通して安全を厳格に強調する。 我々は、科学的な文脈でAIの安全性を評価するために特別に設計された新しいベンチマークである textbfSciSafetyBenchを提案する。
  論文  参考訳（メタデータ） (2025-05-29T15:35:58Z)
• LabSafety Bench: Benchmarking LLMs on Safety Issues in Scientific Labs [78.99703366417661]
  大規模言語モデル(LLM)は、手続き的なガイダンスから自律的な実験オーケストレーションまで、タスクをますます支援している。 このような過度な信頼性は、リスク識別やリスクアセスメントの失敗が重大事故を引き起こす高リスクな実験室環境では特に危険である。 実験室安全ベンチマーク (LabSafety Bench) を提案し, 潜在的な危険を識別し, リスクを評価し, 実験室環境における安全でない行動の結果を予測する。
  論文  参考訳（メタデータ） (2024-10-18T05:21:05Z)
• SciSafeEval: A Comprehensive Benchmark for Safety Alignment of Large Language Models in Scientific Tasks [36.99233361224705]
  大規模言語モデル(LLM)は、生物学、化学、医学、物理学など、様々な分野の科学的なタスクに変革をもたらす。 既存のベンチマークは主にテキストの内容に焦点を当て、分子、タンパク質、ゲノム言語などの重要な科学的表現を見渡す。 SciSafeEvalは, LLMの安全アライメントを, 様々な科学的タスクで評価するためのベンチマークである。
  論文  参考訳（メタデータ） (2024-10-02T16:34:48Z)
• Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
  この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。 我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。 本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)
• Control Risk for Potential Misuse of Artificial Intelligence in Science [85.91232985405554]
  我々は、科学におけるAI誤用の危険性の認識を高めることを目的としている。 化学科学における誤用の実例を取り上げる。 我々は、科学におけるAIモデルの誤用リスクを制御するSciGuardというシステムを提案する。
  論文  参考訳（メタデータ） (2023-12-11T18:50:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。