論文の概要: MolSafeEval: A Benchmark for Uncovering Safety Risks in AI-Generated Molecules

• arxiv url: http://arxiv.org/abs/2607.00464v1
• Date: Wed, 01 Jul 2026 05:33:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-02 19:56:07.736936
• Title: MolSafeEval: A Benchmark for Uncovering Safety Risks in AI-Generated Molecules
• Title（参考訳）: MolSafeEval: AI生成分子の安全性リスクを明らかにするベンチマーク
• Authors: Tong Xu, Xinzhe Cao, Zhihui Zhu, Keyan Ding, Huajun Chen,
• Abstract要約: MolSafeEvalは、分子生成の安全性リスクを評価し分析するためのベンチマークである。 有害なデータベースからハザードルールまで、異質な安全知識を構造化された分子安全知識グラフに統合する。 MolSafeEvalは、現在の生成アプローチの安全性の脆弱性を体系的に明らかにすることによって、分子モデルのベンチマークのための新しいレンズを提供する。
• 参考スコア（独自算出の注目度）: 60.55214893687032
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Current molecular generation benchmarks emphasize task complexity, molecule novelty, and property alignment; they largely overlook a critical concern: the potential safety risks of AI-generated molecules. In practice, many generative models may produce molecules with toxic, reactive, or otherwise hazardous characteristics - posing hidden dangers that remain insufficiently addressed. To address this gap, we introduce MolSafeEval, a benchmark dedicated to evaluating and analyzing the safety risks of molecular generation. Unlike prior approaches that rely on narrow toxicity predictors, MolSafeEval integrates heterogeneous safety knowledge - ranging from toxicological databases to hazard rules - into a structured molecular safety knowledge graph. This graph serves as a foundation for large language model-based reasoning, enabling systematic detection and explanation of unsafe features in generated compounds. We further categorize molecular generative models into four representative task types - unconditional generation, property optimization, target protein-based design, and text-based generation - and provide standardized datasets and safety evaluation protocols for each. By systematically revealing the safety vulnerabilities of current generative approaches, MolSafeEval offers a new lens for benchmarking molecular models and provides essential guidance toward safer, more trustworthy molecular design.
• Abstract（参考訳）: 現在の分子生成ベンチマークでは、タスクの複雑さ、分子の新規性、プロパティアライメントが強調されている。 実際には、多くの生成モデルが毒性、反応性、その他の有害な特性を持つ分子を生産する可能性がある。 このギャップに対処するために、分子生成の安全性リスクの評価と分析に特化したベンチマークであるMolSafeEvalを紹介する。 狭い毒性予測器に依存する従来のアプローチとは異なり、MolSafeEvalは、毒性データベースから危険ルールまで、異質な安全性に関する知識を構造化された分子安全知識グラフに統合する。 このグラフは大規模言語モデルに基づく推論の基礎として機能し、生成した化合物の安全でない特徴の体系的な検出と説明を可能にする。 さらに、分子生成モデルを、非条件生成、プロパティ最適化、ターゲットタンパク質設計、テキストベース生成の4つの代表的なタスクタイプに分類し、それぞれに標準化されたデータセットと安全性評価プロトコルを提供する。 MolSafeEvalは、現在の生成的アプローチの安全性の脆弱性を体系的に明らかにすることによって、分子モデルのベンチマークのための新しいレンズを提供し、より安全で信頼性の高い分子設計への重要なガイダンスを提供する。

関連論文リスト

• MolDeTox: Evaluating Language Model's Stepwise Fragment Editing for Molecular Detoxification [17.99639229055483]
  大規模言語モデル(LLM)とビジョン言語モデル(VLM)は、最近、有望な機能を示している。 MolDeToxは分子デトキシ化のための新しいベンチマークである。
  論文  参考訳（メタデータ） (2026-05-12T14:24:52Z)
• SafeNeuron: Neuron-Level Safety Alignment for Large Language Models [71.50117566279185]
  ネットワーク全体の安全表現を再分配することによって堅牢性を向上させる,ニューロンレベルの安全アライメントフレームワークであるSafeNeuronを提案する。 実験では、SafeNeuronは、ニューロンのプルーニング攻撃に対する堅牢性を大幅に改善し、レッドチームジェネレータとして再利用されるオープンソースモデルのリスクを低減し、一般的な機能を維持する。
  論文  参考訳（メタデータ） (2026-02-12T16:40:05Z)
• Conditional Chemical Language Models are Versatile Tools in Drug Discovery [0.0]
  分子の優先順位を決定するための生物学的文脈を規定する化学モデリングフレームワークSAFE-Tを提案する。 仮想スクリーニング、ドラッグ・ターゲット相互作用予測、アクティビティ・崖検出などのタスク間で分子のスコアリングがサポートされている。 既存のアプローチに匹敵するパフォーマンスを継続的に達成します。
  論文  参考訳（メタデータ） (2025-07-14T13:42:39Z)
• Breaking Bad Molecules: Are MLLMs Ready for Structure-Level Molecular Detoxification? [19.700175505235876]
  ToxiMolは、分子毒性の修復に焦点を当てた汎用マルチモーダル言語モデル(MLLM)のための最初のベンチマークタスクである。 11の一次課題と560の有毒な分子を包含し, 多様な機構と粒度にまたがる標準データセットを構築した。
  論文  参考訳（メタデータ） (2025-06-12T17:25:53Z)
• Advancing Neural Network Verification through Hierarchical Safety Abstract Interpretation [52.626086874715284]
  我々は、安全でない出力の階層構造を検証する抽象的DNN検証と呼ばれる新しい問題定式化を導入する。 出力到達可能な集合に関する抽象的解釈と推論を活用することにより,形式的検証プロセスにおいて,複数の安全性レベルを評価することができる。 我々の貢献には、新しい抽象的安全性の定式化と既存のアプローチとの関係を理論的に探求することが含まれる。
  論文  参考訳（メタデータ） (2025-05-08T13:29:46Z)
• Mitigating Molecular Aggregation in Drug Discovery with Predictive Insights from Explainable AI [0.5242869847419834]
  我々は、我々の説明可能なAI(xAI)モデルであるMEGANの小さなコロイド凝集分子(SCAM)の同定への応用について述べる。 この研究は、薬物発見のための高スループットスクリーニングにおいてSCAMによって引き起こされる偽陽性の長年の問題に対する解決策を提供する。
  論文  参考訳（メタデータ） (2023-06-03T22:30:45Z)
• Bi-level Contrastive Learning for Knowledge-Enhanced Molecule Representations [68.32093648671496]
  分子に固有の二重レベル構造を考慮に入れたGODEを導入する。 分子は固有のグラフ構造を持ち、より広い分子知識グラフ内のノードとして機能する。 異なるグラフ構造上の2つのGNNを事前学習することにより、GODEは対応する知識グラフサブ構造と分子構造を効果的に融合させる。
  論文  参考訳（メタデータ） (2023-06-02T15:49:45Z)
• Retrieval-based Controllable Molecule Generation [63.44583084888342]
  制御可能な分子生成のための検索に基づく新しいフレームワークを提案する。 我々は、与えられた設計基準を満たす分子の合成に向けて、事前学習された生成モデルを操るために、分子の小さなセットを使用します。 提案手法は生成モデルの選択に非依存であり,タスク固有の微調整は不要である。
  論文  参考訳（メタデータ） (2022-08-23T17:01:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。