論文の概要: Hierarchical Structure Enhances the Convergence and Generalizability of Linear Molecular Representation

• arxiv url: http://arxiv.org/abs/2402.02164v4
• Date: Mon, 18 Nov 2024 16:01:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-19 14:28:17.527964
• Title: Hierarchical Structure Enhances the Convergence and Generalizability of Linear Molecular Representation
• Title（参考訳）: 階層構造は線形分子表現の収束性と一般化性を高める
• Authors: Juan-Ni Wu, Tong Wang, Li-Juan Tang, Hai-Long Wu, Ru-Qin Yu,
• Abstract要約: 本稿では、TSISD(TSIS with Depth-First Search)、TSISO(TSIS in Order)、TSISR(TSIS in Random)をt-SMILESフレームワークの不可欠なコンポーネントとして紹介する。 この結果から, t-SMILESの階層構造は, 当初予想されていたよりも容易に解析できることが判明した。
• 参考スコア（独自算出の注目度）: 2.7624653486003004
• License:
• Abstract: Language models demonstrate fundamental abilities in syntax, semantics, and reasoning, though their performance often depends significantly on the inputs they process. This study introduces TSIS (Simplified TSID) and its variants:TSISD (TSIS with Depth-First Search), TSISO (TSIS in Order), and TSISR (TSIS in Random), as integral components of the t-SMILES framework. These additions complete the framework's design, providing diverse approaches to molecular representation. Through comprehensive analysis and experiments employing deep generative models, including GPT, diffusion models, and reinforcement learning, the findings reveal that the hierarchical structure of t-SMILES is more straightforward to parse than initially anticipated. Furthermore, t-SMILES consistently outperforms other linear representations such as SMILES, SELFIES, and SAFE, demonstrating superior convergence speed and enhanced generalization capabilities.
• Abstract（参考訳）: 言語モデルは、構文、意味論、推論において基本的な能力を示すが、その性能は処理する入力に大きく依存することが多い。 本稿では、TSISD(TSIS with Depth-First Search)、TSISO(TSIS in Order)、TSISR(TSIS in Random)をt-SMILESフレームワークの不可欠なコンポーネントとして紹介する。 これらの追加はフレームワークの設計を完了し、分子表現に対する様々なアプローチを提供する。 GPT,拡散モデル,強化学習などの深層生成モデルを用いた包括的解析と実験により,t-SMILESの階層構造は,当初予想されていたよりも容易に解析できることが判明した。 さらに、t-SMILESはSMILES、SELFIES、SAFEなどの他の線形表現を一貫して上回り、収束速度と一般化能力を向上した。

関連論文リスト

• LLM-TS Integrator: Integrating LLM for Enhanced Time Series Modeling [5.853711797849859]
  天気予報や異常検出などの動的システムでは時系列モデリングが不可欠である。 近年,大規模言語モデル(LLM)をTSモデリングに利用し,その強力なパターン認識機能を活用している。
  論文  参考訳（メタデータ） (2024-10-21T20:29:46Z)
• Interpreting token compositionality in LLMs: A robustness analysis [10.777646083061395]
  Constituent-Aware Pooling (CAP)は、大規模言語モデルが言語構造をどのように処理するかを分析するために設計された方法論である。 CAPは様々なモデルレベルで構成型プールを通してモデル活性化に介入する。
  論文  参考訳（メタデータ） (2024-10-16T18:10:50Z)
• Improving Network Interpretability via Explanation Consistency Evaluation [56.14036428778861]
  本稿では、より説明可能なアクティベーションヒートマップを取得し、同時にモデル性能を向上させるフレームワークを提案する。 具体的には、モデル学習において、トレーニングサンプルを適応的に重み付けするために、新しいメトリクス、すなわち説明整合性を導入する。 そこで,本フレームワークは,これらのトレーニングサンプルに深い注意を払ってモデル学習を促進する。
  論文  参考訳（メタデータ） (2024-08-08T17:20:08Z)
• State Space Models as Foundation Models: A Control Theoretic Overview [3.3222241150972356]
  近年、ディープニューラルネットワークアーキテクチャにおける線形状態空間モデル(SSM)の統合への関心が高まっている。 本論文は、制御理論者のためのSSMベースのアーキテクチャの穏やかな導入を目的としたものである。 もっとも成功したSSM提案の体系的なレビューを提供し、コントロール理論の観点から主要な特徴を強調している。
  論文  参考訳（メタデータ） (2024-03-25T16:10:47Z)
• GLS-CSC: A Simple but Effective Strategy to Mitigate Chinese STM Models' Over-Reliance on Superficial Clue [51.713301130055065]
  STMモデルにおける表面的手がかりの影響を解析・緩和する。 本稿では,GLS-CSC (Superficial Clue) を含む学習サンプルをトレーニング戦略として提案する。 GLS-CSCは,中国のSTMモデルの堅牢性と一般化性の向上の観点から,既存の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-09-08T07:10:57Z)
• Disentangling Structured Components: Towards Adaptive, Interpretable and Scalable Time Series Forecasting [52.47493322446537]
  本研究では,時空間パターンの各コンポーネントを個別にモデル化する適応的,解釈可能,スケーラブルな予測フレームワークを開発する。 SCNNは、空間時間パターンの潜在構造を算術的に特徴づける、MSSの事前定義された生成プロセスで動作する。 SCNNが3つの実世界のデータセットの最先端モデルよりも優れた性能を達成できることを示すため、大規模な実験が行われた。
  論文  参考訳（メタデータ） (2023-05-22T13:39:44Z)
• LSTM based models stability in the context of Sentiment Analysis for social media [0.0]
  LSTMモデルとそのキーパラメータについて述べる。 感性分析の文脈でこれらのモデルの安定性をテストする実験を行う。
  論文  参考訳（メタデータ） (2022-11-21T08:31:30Z)
• Did the Cat Drink the Coffee? Challenging Transformers with Generalized Event Knowledge [59.22170796793179]
  Transformers Language Models (TLMs) を数学的適合のテクトダイナミックな評価のためのベンチマークで検証した。 以上の結果から, TLM は SDM に匹敵する性能が得られることが示された。 しかし、さらなる分析は、TLMがイベント知識の重要な側面を捉えていないことを一貫して示唆している。
  論文  参考訳（メタデータ） (2021-07-22T20:52:26Z)
• A comprehensive comparative evaluation and analysis of Distributional Semantic Models [61.41800660636555]
  我々は、静的DSMによって生成されたり、BERTによって生成された文脈化されたベクトルを平均化して得られるような、型分布ベクトルの包括的評価を行う。 その結果、予測ベースモデルの優越性は現実よりも明らかであり、ユビキタスではないことが明らかとなった。 我々は認知神経科学からRepresentational similarity Analysis(RSA)の方法論を借りて、分布モデルによって生成された意味空間を検査する。
  論文  参考訳（メタデータ） (2021-05-20T15:18:06Z)
• A journey in ESN and LSTM visualisations on a language task [77.34726150561087]
  我々は,CSL(Cross-Situationnal Learning)タスクでESNとLSTMを訓練した。 その結果, 性能比較, 内部力学解析, 潜伏空間の可視化の3種類が得られた。
  論文  参考訳（メタデータ） (2020-12-03T08:32:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。