Fugu-MT 論文翻訳(概要): Explainability Techniques for Chemical Language Models

論文の概要: Explainability Techniques for Chemical Language Models

arxiv url: http://arxiv.org/abs/2305.16192v1
Date: Thu, 25 May 2023 15:52:54 GMT
ステータス: 処理完了
システム内更新日: 2023-05-26 14:11:59.337538
Title: Explainability Techniques for Chemical Language Models
Title（参考訳）: 化学言語モデルの説明可能性
Authors: Stefan H\"odl, William Robinson, Yoram Bachrach, Wilhelm Huck, Tal Kachman
Abstract要約: 本稿では,深層学習モデルによる予測に対して,個々の原子の重要性を考慮に入れた説明可能なAI手法を提案する。本手法は, 化学入力文字列に対する関連情報を逆伝搬し, 個々の原子の重要性を可視化する。
参考スコア（独自算出の注目度）: 6.680329538342071
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Explainability techniques are crucial in gaining insights into the reasons behind the predictions of deep learning models, which have not yet been applied to chemical language models. We propose an explainable AI technique that attributes the importance of individual atoms towards the predictions made by these models. Our method backpropagates the relevance information towards the chemical input string and visualizes the importance of individual atoms. We focus on self-attention Transformers operating on molecular string representations and leverage a pretrained encoder for finetuning. We showcase the method by predicting and visualizing solubility in water and organic solvents. We achieve competitive model performance while obtaining interpretable predictions, which we use to inspect the pretrained model.
Abstract（参考訳）: 化学言語モデルにはまだ適用されていないディープラーニングモデルの予測の背後にある理由を理解するためには、説明可能性技術が不可欠である。本稿では,これらのモデルによる予測に対して,個々の原子の重要性を考慮に入れた説明可能なAI手法を提案する。本手法は化学入力文字列に対する関連情報をバックプロパゲーションし,個々の原子の重要性を可視化する。我々は,分子ひも表現に作用する自己着脱変圧器に着目し,事前学習エンコーダを微調整に活用する。本研究では,水および有機溶媒中の溶解度を予測し,可視化する手法を紹介する。我々は,事前学習モデルを調べるために使用する解釈可能な予測を得ながら,競争モデルの性能を達成する。

関連論文リスト

Pre-trained Molecular Language Models with Random Functional Group Masking [54.900360309677794]
SMILESをベースとしたアンダーリネム分子アンダーリネム言語アンダーリネムモデルを提案し,特定の分子原子に対応するSMILESサブシーケンスをランダムにマスキングする。この技術は、モデルに分子構造や特性をよりよく推測させ、予測能力を高めることを目的としている。
論文参考訳（メタデータ） (2024-11-03T01:56:15Z)
Pretraining Graph Transformers with Atom-in-a-Molecule Quantum Properties for Improved ADMET Modeling [38.53065398127086]
我々は,グラフトランスフォーマーの事前学習が原子レベルの量子力学特性に与える影響を評価する。原子量子力学的性質に基づいて事前訓練されたモデルは、より低周波ラプラシアン固有モードを捕捉する。
論文参考訳（メタデータ） (2024-10-10T15:20:30Z)
MolTRES: Improving Chemical Language Representation Learning for Molecular Property Prediction [14.353313239109337]
MolTRESは化学言語表現学習フレームワークである。ジェネレータと識別器のトレーニングが組み込まれており、より難しい例からモデルを学習することができる。我々のモデルは、一般的な分子特性予測タスクにおける既存の最先端モデルよりも優れています。
論文参考訳（メタデータ） (2024-07-09T01:14:28Z)
A Molecular Multimodal Foundation Model Associating Molecule Graphs with Natural Language [63.60376252491507]
本稿では,分子グラフとその意味的関連テキストデータから事前学習した分子マルチモーダル基礎モデルを提案する。我々のモデルは、生物学、化学、材料、環境、医学などの分野において、AIを動力とする分野に幅広い影響を与えるだろうと考えています。
論文参考訳（メタデータ） (2022-09-12T00:56:57Z)
KPGT: Knowledge-Guided Pre-training of Graph Transformer for Molecular Property Prediction [13.55018269009361]
我々は、分子グラフ表現学習のための新しい自己教師付き学習フレームワーク、KPGT(Knowledge-guided Pre-training of Graph Transformer)を紹介する。 KPGTは、いくつかの分子特性予測タスクにおける最先端の手法よりも優れた性能を提供することができる。
論文参考訳（メタデータ） (2022-06-02T08:22:14Z)
MEG: Generating Molecular Counterfactual Explanations for Deep Graph Networks [11.291571222801027]
本稿では, 分子特性予測 t の文脈における深層グラフネットワークの説明可能性に取り組むための新しいアプローチを提案する。我々は, 構造的類似度が高く, 予測特性の異なる(有意)化合物の形で, 特定の予測に対する情報的反実的説明を生成する。モデルが非ML専門家に分子の近傍に焦点を絞った学習モデルに関する重要な洞察を伝達する方法を示す結果について議論する。
論文参考訳（メタデータ） (2021-04-16T12:17:19Z)
Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文参考訳（メタデータ） (2021-03-18T12:57:34Z)
SparseBERT: Rethinking the Importance Analysis in Self-attention [107.68072039537311]
トランスフォーマーベースのモデルは、その強力な能力のために自然言語処理(NLP)タスクに人気がある。事前学習モデルの注意マップの可視化は,自己着脱機構を理解するための直接的な方法の一つである。本研究では,sparsebert設計の指導にも適用可能な微分可能アテンションマスク(dam)アルゴリズムを提案する。
論文参考訳（メタデータ） (2021-02-25T14:13:44Z)
Physics-Constrained Predictive Molecular Latent Space Discovery with Graph Scattering Variational Autoencoder [0.0]
我々は小データ構造における変分推論とグラフ理論に基づく分子生成モデルを開発する。モデルの性能は、所望の目的特性を持つ分子を生成することによって評価される。
論文参考訳（メタデータ） (2020-09-29T09:05:27Z)
Learning Graph Models for Retrosynthesis Prediction [90.15523831087269]
再合成予測は有機合成の基本的な問題である。本稿では,前駆体分子のグラフトポロジーが化学反応中にほとんど変化しないという考え方を生かしたグラフベースのアプローチを提案する。提案モデルでは,テンプレートフリーおよび半テンプレートベースの手法よりも高い5,3.7%の精度でトップ1の精度を実現している。
論文参考訳（メタデータ） (2020-06-12T09:40:42Z)
Visual Grounding of Learned Physical Models [66.04898704928517]
人間は、物体の物理的特性を直感的に認識し、複雑な相互作用に従事している場合でも、その動きを予測する。我々は、物理を同時に推論し、視覚と力学の先行に基づく将来の予測を行うニューラルモデルを提案する。実験により、我々のモデルはいくつかの観測範囲内で物理的特性を推測できることが示され、モデルが目に見えないシナリオに迅速に適応し、将来正確な予測を行うことができる。
論文参考訳（メタデータ） (2020-04-28T17:06:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。