論文の概要: Contrastive Language-Structure Pre-training Driven by Materials Science Literature

• arxiv url: http://arxiv.org/abs/2501.12919v1
• Date: Wed, 22 Jan 2025 14:47:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-23 13:28:14.768120
• Title: Contrastive Language-Structure Pre-training Driven by Materials Science Literature
• Title（参考訳）: 材料科学文献によるコントラスト言語構造事前学習
• Authors: Yuta Suzuki, Tatsunori Taniai, Ryo Igarashi, Kotaro Saito, Naoya Chiba, Yoshitaka Ushiku, Kanta Ono,
• Abstract要約: Contrastive Language-Structure Pre-Training (CLaSP) は結晶構造とテキスト間のクロスモーダルな埋め込み空間を構築するための学習パラダイムである。 CLaSPは、結晶構造間の特性や機能に関する類似性を捉えた材料埋め込みを実現することを目的としている。 テキストベース結晶構造スクリーニングと埋め込み空間可視化によるCLaSPの有効性を実証する。
• 参考スコア（独自算出の注目度）: 10.170537065646323
• License:
• Abstract: Understanding structure-property relationships is an essential yet challenging aspect of materials discovery and development. To facilitate this process, recent studies in materials informatics have sought latent embedding spaces of crystal structures to capture their similarities based on properties and functionalities. However, abstract feature-based embedding spaces are human-unfriendly and prevent intuitive and efficient exploration of the vast materials space. Here we introduce Contrastive Language--Structure Pre-training (CLaSP), a learning paradigm for constructing crossmodal embedding spaces between crystal structures and texts. CLaSP aims to achieve material embeddings that 1) capture property- and functionality-related similarities between crystal structures and 2) allow intuitive retrieval of materials via user-provided description texts as queries. To compensate for the lack of sufficient datasets linking crystal structures with textual descriptions, CLaSP leverages a dataset of over 400,000 published crystal structures and corresponding publication records, including paper titles and abstracts, for training. We demonstrate the effectiveness of CLaSP through text-based crystal structure screening and embedding space visualization.
• Abstract（参考訳）: 構造とプロパティの関係を理解することは、材料発見と開発において不可欠だが挑戦的な側面である。 このプロセスを容易にするため、材料情報学における最近の研究は、特性と機能に基づいてそれらの類似性を捉えるために、結晶構造の潜在的な埋め込み空間を模索している。 しかし、抽象的な特徴に基づく埋め込み空間は人間に親しみやすく、巨大な材料空間の直感的で効率的な探索を妨げている。 本稿では、結晶構造とテキスト間のクロスモーダルな埋め込み空間を構築するための学習パラダイムであるCLaSP(Contrastive Language-Structure Pre-training)を紹介する。 CLaSPは材料埋め込みの実現を目指す 1) 結晶構造と機能的類似性 2) ユーザが提供する記述文を問合せとして, 資料の直感的な検索を可能にする。 結晶構造とテキスト記述を結び付ける十分なデータセットの不足を補うため、CLaSPは40,000以上の発行された結晶構造と、紙のタイトルや要約を含む対応する出版記録のデータセットを活用してトレーニングを行っている。 テキストベース結晶構造スクリーニングと埋め込み空間可視化によるCLaSPの有効性を実証する。

関連論文リスト

• Struct-X: Enhancing Large Language Models Reasoning with Structured Data [38.558614152006975]
  構造Xは5つの重要なフェーズを通して動作する:read-model-fill-reflect-reason' 構造化データをグラフ埋め込みを用いて位相空間にエンコードする。 行方不明のエンティティ情報を知識検索モジュールで埋める。 最後のフェーズでは、選択したトークンでトポロジネットワークを構築する。
  論文  参考訳（メタデータ） (2024-07-17T13:06:25Z)
• CELA: Cost-Efficient Language Model Alignment for CTR Prediction [70.65910069412944]
  CTR(Click-Through Rate)予測は、レコメンダシステムにおいて最重要位置を占める。 最近の取り組みは、プレトレーニング言語モデル(PLM)を統合することでこれらの課題を緩和しようとしている。 CTR予測のためのtextbfCost-textbfEfficient textbfLanguage Model textbfAlignment (textbfCELA)を提案する。
  論文  参考訳（メタデータ） (2024-05-17T07:43:25Z)
• Visual Analytics for Fine-grained Text Classification Models and Datasets [3.6873612681664016]
  SemLaは、きめ細かいテキスト分類に適した、新しいビジュアル分析システムである。 本稿では,SemLaにおける反復設計研究と結果のイノベーションについて述べる。
  論文  参考訳（メタデータ） (2024-03-21T17:26:28Z)
• Open-Vocabulary Camouflaged Object Segmentation [66.94945066779988]
  OVCOS(Open-vocabulary camouflaged Object segmentation)を導入した。 我々は11,483個の手選択画像とそれに対応するオブジェクトクラスを含む大規模複合シーンデータセット(textbfOVCamo)を構築した。 クラスセマンティック知識の指導とエッジ情報と深度情報からの視覚構造的手がかりの補足を統合することにより、提案手法は効率よくカモフラージュされたオブジェクトを捕捉できる。
  論文  参考訳（メタデータ） (2023-11-19T06:00:39Z)
• How Well Do Text Embedding Models Understand Syntax? [50.440590035493074]
  テキスト埋め込みモデルが幅広い構文的文脈にまたがって一般化する能力は、まだ解明されていない。 その結果,既存のテキスト埋め込みモデルは,これらの構文的理解課題に十分対応していないことが明らかとなった。 多様な構文シナリオにおけるテキスト埋め込みモデルの一般化能力を高めるための戦略を提案する。
  論文  参考訳（メタデータ） (2023-11-14T08:51:00Z)
• DIVKNOWQA: Assessing the Reasoning Ability of LLMs via Open-Domain Question Answering over Knowledge Base and Text [73.68051228972024]
  大きな言語モデル(LLM)は印象的な生成能力を示すが、内部知識に依存すると幻覚に悩まされる。 検索拡張LDMは、外部知識においてLLMを基盤とする潜在的な解決策として出現している。
  論文  参考訳（メタデータ） (2023-10-31T04:37:57Z)
• Structural and Statistical Texture Knowledge Distillation for Semantic Segmentation [72.67912031720358]
  セグメンテーションのための構造的・統計的テクスチャ知識蒸留(SSTKD)フレームワークを提案する。 構造的テクスチャ知識のために,低レベルの特徴を分解するContourlet Decomposition Module (CDM)を導入する。 本稿では, 統計的テクスチャ知識を適応的に抽出し, 強化するDenoized Texture Intensity Equalization Module (DTIEM)を提案する。
  論文  参考訳（メタデータ） (2023-05-06T06:01:11Z)
• Leveraging Language Representation for Material Recommendation, Ranking, and Exploration [0.0]
  本稿では,言語モデルから派生した自然言語埋め込みを,構成的特徴と構造的特徴の表現として利用する材料発見フレームワークを提案する。 この枠組みを熱電学に適用することにより, 試作構造物の多種多様な推薦を行い, 未検討の高性能材料空間を同定する。
  論文  参考訳（メタデータ） (2023-05-01T21:58:29Z)
• Unifying Structure Reasoning and Language Model Pre-training for Complex Reasoning [26.811507121199323]
  本稿では,明示的な構造推論と言語事前学習を組み合わせ,PLMと構造推論のスキルを融合した統合学習フレームワークを提案する。 まず、コンテクスト内のいくつかの基本構造を識別し、構造化されたクエリを構築し、クエリに沿ってステップバイステップの推論を行い、回答エンティティを識別する。 4つのデータセットに対する実験結果から,提案モデルが多様構造を含む複雑な推論タスクにおいて,大幅な改善を達成できることが示されている。
  論文  参考訳（メタデータ） (2023-01-21T08:18:11Z)
• A Comparative Study on Structural and Semantic Properties of Sentence Embeddings [77.34726150561087]
  本稿では,関係抽出に広く利用されている大規模データセットを用いた実験セットを提案する。 異なる埋め込み空間は、構造的および意味的特性に対して異なる強度を持つことを示す。 これらの結果は,埋め込み型関係抽出法の開発に有用な情報を提供する。
  論文  参考訳（メタデータ） (2020-09-23T15:45:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。