Fugu-MT 論文翻訳(概要): PolyCL: Contrastive Learning for Polymer Representation Learning via Explicit and Implicit Augmentations

論文の概要: PolyCL: Contrastive Learning for Polymer Representation Learning via Explicit and Implicit Augmentations

arxiv url: http://arxiv.org/abs/2408.07556v1
Date: Wed, 14 Aug 2024 13:43:22 GMT
ステータス: 処理完了
システム内更新日: 2024-08-15 13:03:36.508579
Title: PolyCL: Contrastive Learning for Polymer Representation Learning via Explicit and Implicit Augmentations
Title（参考訳）: PolyCL:明示的および暗黙的な拡張による高分子表現学習のためのコントラスト学習
Authors: Jiajun Zhou, Yijie Yang, Austin M. Mroz, Kim E. Jelfs,
Abstract要約: ラベルを使わずに高品質なポリマー表現を学習するための,自己指導型コントラスト学習パラダイムであるPolyCLを提案する。我々のモデルは、学習性能を向上させるために、明示的かつ暗黙的な拡張戦略を組み合わせる。
参考スコア（独自算出の注目度）: 1.7695773264807546
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Polymers play a crucial role in a wide array of applications due to their diverse and tunable properties. Establishing the relationship between polymer representations and their properties is crucial to the computational design and screening of potential polymers via machine learning. The quality of the representation significantly influences the effectiveness of these computational methods. Here, we present a self-supervised contrastive learning paradigm, PolyCL, for learning high-quality polymer representation without the need for labels. Our model combines explicit and implicit augmentation strategies for improved learning performance. The results demonstrate that our model achieves either better, or highly competitive, performances on transfer learning tasks as a feature extractor without an overcomplicated training strategy or hyperparameter optimisation. Further enhancing the efficacy of our model, we conducted extensive analyses on various augmentation combinations used in contrastive learning. This led to identifying the most effective combination to maximise PolyCL's performance.
Abstract（参考訳）: ポリマーは多様で調整可能な性質のため、幅広い用途において重要な役割を担っている。高分子の表現と性質の関係を確立することは、機械学習によるポテンシャルポリマーの設計とスクリーニングに不可欠である。表現の質はこれらの計算方法の有効性に大きく影響する。本稿では,ラベルを使わずに高品質なポリマー表現を学習するための,自己指導型コントラスト学習パラダイムであるPolyCLを提案する。我々のモデルは、学習性能を向上させるために、明示的かつ暗黙的な拡張戦略を組み合わせる。その結果,過度に複雑なトレーニング戦略やハイパーパラメータ最適化を伴わずに,伝達学習タスクを特徴抽出器として,より優れた,あるいは高い競争力で達成できることが示唆された。モデルの有効性をさらに高め,コントラスト学習に使用される様々な拡張組み合わせについて広範な分析を行った。この結果、PolyCLのパフォーマンスを最大化する最も効果的な組み合わせが特定された。

関連論文リスト

Polynomial Composition Activations: Unleashing the Dynamics of Large Language Models [18.02269664279028]
トランスフォーマーは、強力なフィッティング能力のために、様々な領域にまたがる広範囲のアプリケーションを見つけてきた。本稿では, 変圧器の動的特性を最適化するために, アクティベーションの新たなカテゴリ (PolyCom) を提案する。
論文参考訳（メタデータ） (2024-11-06T13:00:34Z)
From Novice to Expert: LLM Agent Policy Optimization via Step-wise Reinforcement Learning [62.54484062185869]
本稿では,エージェントの強化学習プロセスの最適化にステップワイド報酬を利用するStepAgentを紹介する。エージェント反射とポリシー調整を容易にする暗黙の逆・逆の強化学習手法を提案する。
論文参考訳（メタデータ） (2024-11-06T10:35:11Z)
On the Modeling Capabilities of Large Language Models for Sequential Decision Making [52.128546842746246]
大規模な事前訓練されたモデルでは、推論や計画タスクのパフォーマンスがますます向上している。我々は、直接的または間接的に、意思決定ポリシーを作成する能力を評価する。未知の力学を持つ環境において、合成データを用いた微調整LDMが報酬モデリング能力を大幅に向上させる方法について検討する。
論文参考訳（メタデータ） (2024-10-08T03:12:57Z)
MLP-KAN: Unifying Deep Representation and Function Learning [7.634331640151854]
そこで本研究では,手動モデル選択の必要性を解消する統一手法を提案する。表現学習にMLP(Multi-Layer Perceptrons)と関数学習にKolmogorov-Arnold Networks(KANsogo)を統合することにより,優れた結果が得られた。
論文参考訳（メタデータ） (2024-10-03T22:22:43Z)
Reinforcement Feature Transformation for Polymer Property Performance Prediction [22.87577374767465]
既存の機械学習モデルは、低品質のポリマーデータセットによるポリマー表現を効果的に学習する際の課題に直面している。本研究は, 最適かつ説明可能な記述子表現空間を再構築することにより, 高分子特性性能予測タスクの改善に焦点をあてる。
論文参考訳（メタデータ） (2024-09-23T23:42:18Z)
DETAIL: Task DEmonsTration Attribution for Interpretable In-context Learning [75.68193159293425]
インコンテキスト学習(ICL)により、トランスフォーマーベースの言語モデルでは、パラメータを更新することなく、いくつかの"タスクデモ"で特定のタスクを学習することができる。 ICLの特徴に対処する影響関数に基づく帰属手法DETAILを提案する。ホワイトボックスモデルで得られた属性スコアがブラックボックスモデルに転送可能であることを示すことにより、モデル性能を向上させる上で、DETAILの広範な適用性を実験的に証明する。
論文参考訳（メタデータ） (2024-05-22T15:52:52Z)
M2CURL: Sample-Efficient Multimodal Reinforcement Learning via Self-Supervised Representation Learning for Robotic Manipulation [0.7564784873669823]
マルチモーダルコントラスト非教師強化学習(M2CURL)を提案する。提案手法は,効率的な表現を学習し,RLアルゴリズムの高速収束に寄与する,新しいマルチモーダル自己教師学習技術を用いている。 Tactile Gym 2シミュレータ上でのM2CURLの評価を行い、異なる操作タスクにおける学習効率を大幅に向上させることを示す。
論文参考訳（メタデータ） (2024-01-30T14:09:35Z)
When Parameter-efficient Tuning Meets General-purpose Vision-language Models [65.19127815275307]
PETALは、一意のモード近似技術によって達成される全パラメータの0.5%しか必要とせず、トレーニングプロセスに革命をもたらす。実験の結果,PETALは現状の手法をほとんどのシナリオで上回るだけでなく,完全な微調整モデルよりも優れていることがわかった。
論文参考訳（メタデータ） (2023-12-16T17:13:08Z)
Extension of Transformational Machine Learning: Classification Problems [0.0]
本研究では、薬物発見における変換機械学習(TML)の適用と性能について検討する。メタ学習アルゴリズムであるTMLは、さまざまなドメインにまたがる共通属性の活用に優れています。薬物発見プロセスは複雑で時間を要するが、予測精度の増大から大きな恩恵を受けることができる。
論文参考訳（メタデータ） (2023-08-07T07:34:18Z)
Latent Variable Representation for Reinforcement Learning [131.03944557979725]
モデルに基づく強化学習のサンプル効率を改善するために、潜在変数モデルが学習、計画、探索をいかに促進するかは理論上、実証上、不明である。状態-作用値関数に対する潜在変数モデルの表現ビューを提供する。これは、抽出可能な変分学習アルゴリズムと楽観主義/悲観主義の原理の効果的な実装の両方を可能にする。特に,潜伏変数モデルのカーネル埋め込みを組み込んだUPB探索を用いた計算効率の良い計画アルゴリズムを提案する。
論文参考訳（メタデータ） (2022-12-17T00:26:31Z)
Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。コア最適化問題の実用的なパラメトリゼーションを提供する。
論文参考訳（メタデータ） (2021-07-08T18:01:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。