論文の概要: Neural scaling laws for phenotypic drug discovery

• arxiv url: http://arxiv.org/abs/2309.16773v1
• Date: Thu, 28 Sep 2023 18:10:43 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-02 16:46:56.365436
• Title: Neural scaling laws for phenotypic drug discovery
• Title（参考訳）: 表現型薬物発見のための神経スケーリング法則
• Authors: Drew Linsley, John Griffin, Jason Parker Brown, Adam N Roose, Michael Frank, Peter Linsley, Steven Finkbeiner, Jeremy Linsley
• Abstract要約: 小型分子の薬物発見を支援するモデルに、スケールが同様の影響を与えるかどうかを考察する。 我々は、Pheno-CAのタスクを明示的に教師するDNNが、データとモデルサイズがスケールアップされるにつれて、継続的に改善されないことを発見した。 我々は,NLPで成功した因果的目的関数に類似した新しい前駆的タスクである逆生物学プロセス(Inverse Biological Process, IBP)を導入する。
• 参考スコア（独自算出の注目度）: 3.076170146656896
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent breakthroughs by deep neural networks (DNNs) in natural language processing (NLP) and computer vision have been driven by a scale-up of models and data rather than the discovery of novel computing paradigms. Here, we investigate if scale can have a similar impact for models designed to aid small molecule drug discovery. We address this question through a large-scale and systematic analysis of how DNN size, data diet, and learning routines interact to impact accuracy on our Phenotypic Chemistry Arena (Pheno-CA) benchmark: a diverse set of drug development tasks posed on image-based high content screening data. Surprisingly, we find that DNNs explicitly supervised to solve tasks in the Pheno-CA do not continuously improve as their data and model size is scaled-up. To address this issue, we introduce a novel precursor task, the Inverse Biological Process (IBP), which is designed to resemble the causal objective functions that have proven successful for NLP. We indeed find that DNNs first trained with IBP then probed for performance on the Pheno-CA significantly outperform task-supervised DNNs. More importantly, the performance of these IBP-trained DNNs monotonically improves with data and model scale. Our findings reveal that the DNN ingredients needed to accurately solve small molecule drug development tasks are already in our hands, and project how much more experimental data is needed to achieve any desired level of improvement. We release our Pheno-CA benchmark and code to encourage further study of neural scaling laws for small molecule drug discovery.
• Abstract（参考訳）: 自然言語処理(NLP)とコンピュータビジョンにおけるディープニューラルネットワーク(DNN)による最近のブレークスルーは、新しいコンピューティングパラダイムの発見ではなく、モデルとデータのスケールアップによって引き起こされている。 そこで本研究では,小分子の薬物発見を支援するモデルに対して,スケールが同様の影響を与えるかどうかを検討する。 我々は、DNNのサイズ、データダイエット、学習ルーチンが、我々のフェノタイプ化学アリーナ(Pheno-CA)ベンチマーク(画像ベースのハイコンテンツスクリーニングデータに基づく薬物開発タスク)の精度にどのように影響するかを、大規模かつ体系的に分析することで、この問題に対処する。 驚いたことに、Pheno-CAのタスクを明示的に教師するDNNは、データとモデルサイズがスケールアップされるにつれて、継続的に改善されない。 この問題に対処するために,NLPで成功した因果的目的関数に類似した新しい前駆的タスクである逆生物学プロセス(Inverse Biological Process, IBP)を導入する。 実際に、DNNがIPPでトレーニングされた後、Pheno-CAのパフォーマンスがタスク管理DNNよりも大幅に向上していることが分かりました。 さらに重要なことは、IPPで訓練されたDNNの性能はデータとモデルスケールで単調に向上する。 以上の結果から,小分子創薬課題を高精度に解決するために必要なdnn成分がすでに手中にあり,所望のレベルの改善を達成するために必要な実験データがどの程度必要かを見出した。 我々はPheno-CAベンチマークとコードを公開し、小さな分子ドラッグ発見のための神経スケーリング法則のさらなる研究を奨励する。

関連論文リスト

• Towards Low-latency Event-based Visual Recognition with Hybrid Step-wise Distillation Spiking Neural Networks [50.32980443749865]
  スパイキングニューラルネットワーク(SNN)は、低消費電力と高い生物性のために大きな注目を集めている。 現在のSNNは、ニューロモルフィックデータセットの正確性とレイテンシのバランスをとるのに苦労している。 ニューロモルフィックデータセットに適したステップワイド蒸留法(HSD)を提案する。
  論文  参考訳（メタデータ） (2024-09-19T06:52:34Z)
• Enabling energy-Efficient object detection with surrogate gradient descent in spiking neural networks [0.40054215937601956]
  スパイキングニューラルネットワーク(英: Spiking Neural Networks、SNN)は、イベント駆動処理と処理時情報の両方において、生物学的にもっとも有効なニューラルネットワークモデルである。 本研究では,オブジェクト検出タスクにおける深部SNNのトレーニングを容易にするために,回帰問題を解くCurrent Mean Decoding(CMD)手法を提案する。 勾配サロゲートとCMDに基づいて,物体検出のためのSNN-YOLOv3モデルを提案する。
  論文  参考訳（メタデータ） (2023-09-07T15:48:00Z)
• SAfER: Layer-Level Sensitivity Assessment for Efficient and Robust Neural Network Inference [20.564198591600647]
  ディープニューラルネットワーク(DNN)は、ほとんどのコンピュータビジョンタスクにおいて優れたパフォーマンスを示す。 自律運転や医療画像などの重要な応用には、その行動の調査も必要である。 DNNの属性は、DNNの予測と入力の関係を研究することである。
  論文  参考訳（メタデータ） (2023-08-09T07:45:51Z)
• Unsupervised Spiking Neural Network Model of Prefrontal Cortex to study Task Switching with Synaptic deficiency [0.0]
  スパイキングニューラルネットワーク(SNN)を用いた前頭前皮質(PFC)の計算モデルを構築した。 本研究では,SNNが生物学的に妥当な値に近いパラメータを持ち,教師なしのスパイクタイミング依存塑性(STDP)学習規則を用いてモデルを訓練する。
  論文  参考訳（メタデータ） (2023-05-23T05:59:54Z)
• Transferability of coVariance Neural Networks and Application to Interpretable Brain Age Prediction using Anatomical Features [119.45320143101381]
  グラフ畳み込みネットワーク(GCN)は、トポロジー駆動のグラフ畳み込み演算を利用して、推論タスクのためにグラフをまたいだ情報を結合する。 我々は、共分散行列をグラフとして、共分散ニューラルネットワーク(VNN)の形でGCNを研究した。 VNNは、GCNからスケールフリーなデータ処理アーキテクチャを継承し、ここでは、共分散行列が極限オブジェクトに収束するデータセットに対して、VNNが性能の転送可能性を示すことを示す。
  論文  参考訳（メタデータ） (2023-05-02T22:15:54Z)
• Neuromorphic Data Augmentation for Training Spiking Neural Networks [10.303676184878896]
  イベントベースデータセットに対するニューロモルフィックデータ拡張(NDA)を提案する。 NDAはSNNトレーニングを著しく安定化し、トレーニングとテストパフォーマンスの一般化ギャップを小さくする。 SNNにおける教師なしコントラスト学習の実現可能性を示す。
  論文  参考訳（メタデータ） (2022-03-11T18:17:19Z)
• Quantitative Evaluation of Explainable Graph Neural Networks for Molecular Property Prediction [2.8544822698499255]
  グラフニューラルネットワーク(GNN)は、解釈可能性の欠如により、薬物発見において限定的に受け入れられている。 本研究では,最新のGNNモデルの解釈可能性を定量的に評価するために,3段階のベンチマークデータセットを構築した。 我々は,最近のXAI手法と異なるGNNアルゴリズムを組み合わせることで,薬物発見のメリット,限界,今後の可能性を明らかにする。
  論文  参考訳（メタデータ） (2021-07-01T04:49:29Z)
• Ensemble Transfer Learning for the Prediction of Anti-Cancer Drug Response [49.86828302591469]
  本稿では,抗がん剤感受性の予測にトランスファーラーニングを適用した。 我々は、ソースデータセット上で予測モデルをトレーニングし、ターゲットデータセット上でそれを洗練する古典的な転送学習フレームワークを適用した。 アンサンブル転送学習パイプラインは、LightGBMと異なるアーキテクチャを持つ2つのディープニューラルネットワーク(DNN)モデルを使用して実装されている。
  論文  参考訳（メタデータ） (2020-05-13T20:29:48Z)
• Neural Additive Models: Interpretable Machine Learning with Neural Nets [77.66871378302774]
  ディープニューラルネットワーク(DNN)は、さまざまなタスクにおいて優れたパフォーマンスを達成した強力なブラックボックス予測器である。 本稿では、DNNの表現性と一般化した加法モデルの固有知性を組み合わせたニューラル付加モデル(NAM)を提案する。 NAMは、ニューラルネットワークの線形結合を学び、それぞれが単一の入力機能に付随する。
  論文  参考訳（メタデータ） (2020-04-29T01:28:32Z)
• Rectified Linear Postsynaptic Potential Function for Backpropagation in Deep Spiking Neural Networks [55.0627904986664]
  スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。 本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
  論文  参考訳（メタデータ） (2020-03-26T11:13:07Z)
• Assessing Graph-based Deep Learning Models for Predicting Flash Point [52.931492216239995]
  グラフベースのディープラーニング(GBDL)モデルは初めてフラッシュポイントを予測するために実装された。 MPNNの平均R2と平均絶対誤差(MAE)は、それぞれ2.3%低、2.0K高である。
  論文  参考訳（メタデータ） (2020-02-26T06:10:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。