Fugu-MT 論文翻訳(概要): Triangular Contrastive Learning on Molecular Graphs

論文の概要: Triangular Contrastive Learning on Molecular Graphs

arxiv url: http://arxiv.org/abs/2205.13279v1
Date: Thu, 26 May 2022 11:34:08 GMT
ステータス: 処理完了
システム内更新日: 2022-05-27 14:23:32.018768
Title: Triangular Contrastive Learning on Molecular Graphs
Title（参考訳）: 分子グラフによる三角コントラスト学習
Authors: MinGyu Choi, Wonseok Shin, Yijingxiu Lu, Sun Kim
Abstract要約: Triangular Contrastive Learning (TriCL)は、三進的コントラスト学習のための普遍的なフレームワークである。三角面積損失は、埋め込み空間の角幾何学を学習する新しい異方性損失である。三角面積損失は, 角度によるモダリティの識別により, 直線折り畳み問題に対処可能であることを示す。
参考スコア（独自算出の注目度）: 2.8331075191137463
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Recent contrastive learning methods have shown to be effective in various tasks, learning generalizable representations invariant to data augmentation thereby leading to state of the art performances. Regarding the multifaceted nature of large unlabeled data used in self-supervised learning while majority of real-word downstream tasks use single format of data, a multimodal framework that can train single modality to learn diverse perspectives from other modalities is an important challenge. In this paper, we propose TriCL (Triangular Contrastive Learning), a universal framework for trimodal contrastive learning. TriCL takes advantage of Triangular Area Loss, a novel intermodal contrastive loss that learns the angular geometry of the embedding space through simultaneously contrasting the area of positive and negative triplets. Systematic observation on embedding space in terms of alignment and uniformity showed that Triangular Area Loss can address the line-collapsing problem by discriminating modalities by angle. Our experimental results also demonstrate the outperformance of TriCL on downstream task of molecular property prediction which implies that the advantages of the embedding space indeed benefits the performance on downstream tasks.
Abstract（参考訳）: 近年のコントラスト学習手法は様々なタスクにおいて有効であることが示されており、データ拡張に不変な一般化表現を学習することで、アートパフォーマンスの状況に繋がる。実語ダウンストリームタスクの大部分が単一形式のデータを使っている一方で、自己教師付き学習で使用される大きなラベルのないデータの多面的性質については、単一のモダリティをトレーニングして、他のモダリティから多様な視点を学習できるマルチモーダルフレームワークが重要な課題である。本稿では,三角コントラスト学習のための普遍的なフレームワークであるtricl(triangular contrastive learning)を提案する。 TriCLは、正と負の三重項の面積を同時に対比することで、埋め込み空間の角幾何学を学ぶ、新しいモード間コントラスト損失である三角面積損失を利用する。アライメントと均一性の観点からの埋め込み空間のシステマティックな観察により、三角形のエリアロスは、角度によるモジュラリティの識別により、ライン崩壊問題に対処できることを示した。また, 分子特性予測の下流タスクにおけるTriCLの性能を実証し, 組込み空間の利点が下流タスクの性能に有効であることを示唆した。

関連論文リスト

Enhancing Generalizability of Representation Learning for Data-Efficient 3D Scene Understanding [50.448520056844885]
本研究では,実世界のパターンを持つ多様な合成シーンを生成可能なベイズネットワークを提案する。一連の実験は、既存の最先端の事前学習手法に比べて、我々の手法が一貫した優位性を示す。
論文参考訳（メタデータ） (2024-06-17T07:43:53Z)
Tripod: Three Complementary Inductive Biases for Disentangled Representation Learning [52.70210390424605]
本研究では,文献から選択した3つの帰納バイアスを持つニューラルネットワークオートエンコーダを提案する。しかし、実際には、これらの帰納バイアスをインスタンス化する既存の技術を組み合わせることは、大きな利益をもたらすことに失敗する。学習問題を単純化する3つの手法に適応し、不変性を安定化する鍵正則化項とクォーシュ縮退インセンティブを提案する。結果のモデルであるTripodは、4つのイメージアンタングルメントベンチマークのスイートで最先端の結果を得る。
論文参考訳（メタデータ） (2024-04-16T04:52:41Z)
The Common Stability Mechanism behind most Self-Supervised Learning Approaches [64.40701218561921]
自己指導型学習手法の安定性のメカニズムを説明するための枠組みを提供する。我々は,BYOL,SWAV,SimSiam,Barlow Twins,DINOなどの非コントラスト技術であるSimCLRの動作メカニズムについて議論する。私たちは異なる仮説を定式化し、Imagenet100データセットを使ってそれらをテストします。
論文参考訳（メタデータ） (2024-02-22T20:36:24Z)
Triple Disentangled Representation Learning for Multimodal Affective Analysis [20.37986194570143]
マルチモーダル学習は感情分析タスクにおいて大きな優位性を示した。多くの新しい研究は、入力データからモダリティ不変およびモダリティ固有表現を切り離し、予測のためにそれらを融合することに焦点を当てている。入力データから、モダリティ不変量、有効モダリティ特化度、非効率モダリティ特化度をアンタングル化する新しい三重非アンタングル化手法TriDiRAを提案する。
論文参考訳（メタデータ） (2024-01-29T12:45:27Z)
Semantic Positive Pairs for Enhancing Visual Representation Learning of Instance Discrimination methods [4.680881326162484]
インスタンス識別に基づく自己教師付き学習アルゴリズム(SSL)は有望な結果を示している。類似したセマンティックコンテンツを用いてそれらの画像を識別し、肯定的な例として扱うアプローチを提案する。我々は、ImageNet、STL-10、CIFAR-10の3つのベンチマークデータセットで、異なるインスタンス識別SSLアプローチで実験を行った。
論文参考訳（メタデータ） (2023-06-28T11:47:08Z)
Continual Vision-Language Representation Learning with Off-Diagonal Information [112.39419069447902]
CLIPのようなマルチモーダルなコントラスト学習フレームワークは通常、トレーニングに大量の画像テキストサンプルを必要とする。本稿では,ストリーミングデータを用いた連続CLIPトレーニングの実現可能性について論じる。
論文参考訳（メタデータ） (2023-05-11T08:04:46Z)
Instance-Variant Loss with Gaussian RBF Kernel for 3D Cross-modal Retriveal [52.41252219453429]
既存の方法は全てのインスタンスを等しく扱い、同じペナルティ強度を様々な難易度を持つインスタンスに適用する。これは曖昧な収束や局所最適性をもたらし、特徴空間の分離性を著しく妥協させる。本稿では,異なるインスタンスに対して異なるペナルティ強度を割り当て,空間分離性を向上させるインスタンス・ヴァリアント損失を提案する。
論文参考訳（メタデータ） (2023-05-07T10:12:14Z)
Cross-Stream Contrastive Learning for Self-Supervised Skeleton-Based Action Recognition [22.067143671631303]
自己教師型骨格に基づく行動認識は、対照的な学習の発展とともに急速に成長する。骨格に基づく行動表現学習(CSCLR)のためのクロスストリームコントラスト学習フレームワークを提案する。具体的には、CSCLRはストリーム内コントラストペアを利用するだけでなく、ストリーム間コントラストペアをハードサンプルとして導入し、より良い表現学習を定式化する。
論文参考訳（メタデータ） (2023-05-03T10:31:35Z)
Multi-view Feature Extraction based on Triple Contrastive Heads [1.4467794332678539]
三重コントラストヘッドに基づく新しい多視点特徴抽出法を提案する。提案手法は,マルチビュー特徴抽出に強力な利点をもたらす。
論文参考訳（メタデータ） (2023-03-22T14:56:51Z)
Hyperbolic Contrastive Learning [12.170564544949308]
本稿では,双曲空間における意味的関係を学習するための新しいコントラスト学習フレームワークを提案する。提案手法は, 自己教師付き事前学習, 教師付き分類, ベースライン法よりも頑健な精度において, より良い結果が得られることを示す。
論文参考訳（メタデータ） (2023-02-02T20:47:45Z)
Task-Feature Collaborative Learning with Application to Personalized Attribute Prediction [166.87111665908333]
本稿では,TFCL(Task-Feature Collaborative Learning)と呼ばれる新しいマルチタスク学習手法を提案する。具体的には、まず、特徴とタスクの協調的なグループ化を活用するために、不均一なブロック対角構造正規化器を用いたベースモデルを提案する。実際の拡張として,重なり合う機能と難易度を区別することで,基本モデルを拡張します。
論文参考訳（メタデータ） (2020-04-29T02:32:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。