Fugu-MT 論文翻訳(概要): Improving Compound Activity Classification via Deep Transfer and Representation Learning

論文の概要: Improving Compound Activity Classification via Deep Transfer and Representation Learning

arxiv url: http://arxiv.org/abs/2111.07439v1
Date: Sun, 14 Nov 2021 20:37:15 GMT
ステータス: 処理完了
システム内更新日: 2021-11-16 14:28:46.109951
Title: Improving Compound Activity Classification via Deep Transfer and Representation Learning
Title（参考訳）: 深層移動と表現学習による複合活動分類の改善
Authors: Vishal Dey, Raghu Machiraju and Xia Ning
Abstract要約: 我々は、ソースドメインデータを活用し、有用な情報を対象ドメインに転送するディープトランスファー学習法を開発した。 TAcは、あるドメインから別のドメインへうまく一般化できる効果的な分子的特徴を生成し、ターゲットドメインの分類性能を高めることを学ぶ。 TAc は平均 ROC-AUC 0.801 で最高の性能を達成し、最高のベースライン FCN-dmpna (DT) と比較して 83% の目標タスクの ROC-AUC を平均 7.102% で改善する。
参考スコア（独自算出の注目度）: 1.7789870146290503
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Recent advances in molecular machine learning, especially deep neural networks such as Graph Neural Networks (GNNs) for predicting structure activity relationships (SAR) have shown tremendous potential in computer-aided drug discovery. However, the applicability of such deep neural networks are limited by the requirement of large amounts of training data. In order to cope with limited training data for a target task, transfer learning for SAR modeling has been recently adopted to leverage information from data of related tasks. In this work, in contrast to the popular parameter-based transfer learning such as pretraining, we develop novel deep transfer learning methods TAc and TAc-fc to leverage source domain data and transfer useful information to the target domain. TAc learns to generate effective molecular features that can generalize well from one domain to another, and increase the classification performance in the target domain. Additionally, TAc-fc extends TAc by incorporating novel components to selectively learn feature-wise and compound-wise transferability. We used the bioassay screening data from PubChem, and identified 120 pairs of bioassays such that the active compounds in each pair are more similar to each other compared to its inactive compounds. Overall, TAc achieves the best performance with average ROC-AUC of 0.801; it significantly improves ROC-AUC of 83% target tasks with average task-wise performance improvement of 7.102%, compared to the best baseline FCN-dmpna (DT). Our experiments clearly demonstrate that TAc achieves significant improvement over all baselines across a large number of target tasks. Furthermore, although TAc-fc achieves slightly worse ROC-AUC on average compared to TAc (0.798 vs 0.801), TAc-fc still achieves the best performance on more tasks in terms of PR-AUC and F1 compared to other methods.
Abstract（参考訳）: 分子機械学習の最近の進歩、特にグラフニューラルネットワーク(GNN)のような深層ニューラルネットワークによる構造活性関係(SAR)の予測は、コンピュータ支援薬物発見において大きな可能性を示している。しかし、そのような深層ニューラルネットワークの適用性は、大量のトレーニングデータの要求によって制限される。対象タスクの限られた訓練データに対処するため,SARモデリングのための伝達学習が最近導入され,関連するタスクのデータからの情報を活用するようになった。本研究では,事前学習などのパラメータに基づく伝達学習とは対照的に,ソースドメインデータを活用し,有用な情報を対象ドメインに転送する,新しい深層移動学習手法TAcとTAc-fcを開発する。 TAcは、あるドメインから別のドメインへうまく一般化できる効果的な分子的特徴を生成し、ターゲットドメインの分類性能を高めることを学ぶ。さらに、TAc-fcは新規なコンポーネントを組み込むことでTAcを拡張し、機能的および複合的なトランスファービリティを選択的に学習する。我々は,pubchemのバイオアッセイスクリーニングデータを用いて,各組の活性化合物が不活性化合物よりも互いに類似している120組のバイオアッセイを同定した。総じて、TAcは平均ROC-AUC 0.801で最高のパフォーマンスを達成し、最高のベースラインであるFCN-dmpna (DT) と比較して83%の目標タスクのROC-AUCを7.102%改善した。実験の結果,TAcは多数の目標タスクにおいて,すべてのベースラインに対して大幅な改善を達成していることが明らかとなった。さらに、tac-fcは平均でtac-auc (0.798 vs 0.801) をわずかに下回っているが、他の手法と比較してもpr-aucとf1のタスクで最高の性能を達成している。

関連論文リスト

Kolmogorov-Arnold Networks in Low-Data Regimes: A Comparative Study with Multilayer Perceptrons [2.77390041716769]
Kolmogorov-Arnold Networks (KAN) は、ネットワークエッジ上で直接、高度に柔軟な学習可能なアクティベーション関数を使用する。 kanは学習可能なパラメータの数を大幅に増加させ、データスカース環境での有効性に対する懸念を高めます。個別化活性化関数はパラメータの緩やかな増加だけで予測精度が大幅に向上することを示す。
論文参考訳（メタデータ） (2024-09-16T16:56:08Z)
APALU: A Trainable, Adaptive Activation Function for Deep Learning Networks [0.0]
APALU(Adaptive piecewise approximated activation linear unit)を新たに導入する。実験では、様々なタスクに広く使用されるアクティベーション関数よりも大幅に改善されている。 APALUは、限られたデータセットで手話認識タスクにおいて100%精度を達成する。
論文参考訳（メタデータ） (2024-02-13T06:18:42Z)
Beyond Transfer Learning: Co-finetuning for Action Localisation [64.07196901012153]
同時に、複数のアップストリームとダウンストリームのタスクで1つのモデルをトレーニングする。共ファインタニングは、同じデータ量を使用する場合、従来のトランスファーラーニングよりも優れていることを示す。さらに、複数のアップストリームデータセットへのアプローチを簡単に拡張して、パフォーマンスをさらに向上する方法も示しています。
論文参考訳（メタデータ） (2022-07-08T10:25:47Z)
Identifying Suitable Tasks for Inductive Transfer Through the Analysis of Feature Attributions [78.55044112903148]
我々は、単一タスクモデル間のニューラルネットワークアクティベーションの比較を通じて、タスクペアが相補的になるかどうかを予測するために、説明可能性技術を使用する。提案手法により,TREC-IS 2020-Aデータセットでは,正のクラスF1の0.034の削減に留まらず,最大83.5%のトレーニング時間を短縮することが可能である。
論文参考訳（メタデータ） (2022-02-02T15:51:07Z)
Towards Reducing Labeling Cost in Deep Object Detection [61.010693873330446]
本稿では,検知器の不確実性と頑健性の両方を考慮した,アクティブラーニングのための統一的なフレームワークを提案する。提案手法は, 確率分布のドリフトを抑えながら, 極めて確実な予測を擬似ラベル化することができる。
論文参考訳（メタデータ） (2021-06-22T16:53:09Z)
Class Balancing GAN with a Classifier in the Loop [58.29090045399214]
本稿では,GANを学習するための理論的動機付けクラスバランス正則化器を提案する。我々の正規化器は、訓練済みの分類器からの知識を利用して、データセット内のすべてのクラスのバランスの取れた学習を確実にします。複数のデータセットにまたがる既存手法よりも優れた性能を達成し,長期分布の学習表現における正規化器の有用性を実証する。
論文参考訳（メタデータ） (2021-06-17T11:41:30Z)
Learning Invariant Representations across Domains and Tasks [81.30046935430791]
本稿では,この教師なしタスク転送問題を解決するための新しいタスク適応ネットワーク(tan)を提案する。ドメイン・アドバーサル・トレーニングによる伝達可能な機能を学習することに加えて、学習から学習への戦略を用いてタスクの意味を適応させる新しいタスク・セマンティクス・アダプタを提案する。 TANは最近の強いベースラインに比べてリコールとF1スコアを5.0%と7.8%大きく向上させた。
論文参考訳（メタデータ） (2021-03-03T11:18:43Z)
ProtoDA: Efficient Transfer Learning for Few-Shot Intent Classification [21.933876113300897]
我々は,メタラーニングパラダイムの下で,原型ネットワークを用いた関連するタスクのアンサンブル上での伝達学習による代替的アプローチを採用する。本研究は,意図分類を事例として,学習課題における多様性の増大が,分類性能を著しく向上させることを示した。
論文参考訳（メタデータ） (2021-01-28T00:19:13Z)
CatFedAvg: Optimising Communication-efficiency and Classification Accuracy in Federated Learning [2.2172881631608456]
そこで我々はCatFedAvgというフェデレート学習アルゴリズムを新たに導入した。コミュニケーション効率は向上するが、NIST戦略のカテゴリカバレッジを用いて学習の質を向上させる。実験の結果,FedAvgよりもネットワーク転送率が70%低いMデータセットでは,10%の絶対点精度が向上していることがわかった。
論文参考訳（メタデータ） (2020-11-14T06:52:02Z)
RIFLE: Backpropagation in Depth for Deep Transfer Learning through Re-Initializing the Fully-connected LayEr [60.07531696857743]
事前訓練されたモデルを用いたディープ畳み込みニューラルネットワーク(CNN)の微調整は、より大きなデータセットから学習した知識をターゲットタスクに転送するのに役立つ。転送学習環境におけるバックプロパゲーションを深める戦略であるRIFLEを提案する。 RIFLEは、深いCNN層の重み付けに意味のあるアップデートをもたらし、低レベルの機能学習を改善する。
論文参考訳（メタデータ） (2020-07-07T11:27:43Z)
Learning across label confidence distributions using Filtered Transfer Learning [0.44040106718326594]
本稿では,大きな可変信頼度データセットを持つノイズの多いデータシステムにおいて,予測能力を向上させるための伝達学習手法を提案する。本稿では、複数の階層のデータ信頼度を個別のタスクとして定義する、FTL(Filted Transfer Learning)と呼ばれるディープニューラルネットワーク手法を提案する。 FTLを用いてラベル信頼度分布を段階的に学習すると、単一の信頼範囲でトレーニングされたディープニューラルネットワークモデルよりも高いパフォーマンスが得られることを示す。
論文参考訳（メタデータ） (2020-06-03T21:00:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。